Виды связи между переменными

Корреляция
Примеры
1.
2.
Менеджер интересуется, зависит ли
объем продаж в этом месяце от
объема рекламы в этом же периоде?
Преподаватель хочет выяснить, есть
ли зависимость между количеством
часов, потраченных студентом на
занятия, и результатами экзамена?
3.
4.
Врач исследует, влияет ли кофеин на
сердечные болезни и существует ли
связь между возрастом человека и его
кровяным давлением?
Социолог исследует, какова связь между
уровнем преступности и уровнем
безработицы в регионе? Есть ли
зависимость между расходами на жилье
и совокупным доходом семьи? Связаны
ли доход от профессиональной
деятельности и продолжительность
образования?
Наша цель – научиться отвечать на четыре
вопроса:
Вопрос 1. Существует ли связь между двумя
или более переменными?
Вопрос 2. Какой тип имеет эта связь?
Вопрос 3. Насколько она сильна?
Вопрос 4. Какой можно сделать прогноз,
основываясь на этой связи?
Методы

Корреляция – статистический метод,
позволяющий определить, существует ли
зависимость между переменными и на
сколько она сильна.

Регрессия – статистический метод,
который используется для описания
характера связи между переменными
(положительная или отрицательная,
линейная или нелинейная зависимость).
Простая и множественная
связь
Простая связь
означает наличие
двух переменных.
Стаж менеджера
по продажам
на фирме
Годовой объем
продаж
Множественная связь
означает наличие
несколько
переменных.
Успеваемость
студента
Успеваемость
в школе
Коэффициент
IQ
Время
на занятия
График рассеяния (Scatter Plot)
Рассматриваем две переменные: «продолжительность
занятий» студентов перед экзаменом и «итоговая оценка»
(из 100 балов). Пытаемся визуально определить связь.
Правда ли, что чем меньше времени занятий, тем выше
оценка?
Студент
Часы
х
Оценка
у
100
90
80
A
6
82
70
60
B
2
63
50
C
1
57
D
5
88
E
2
68
F
3
75
40
30
20
10
0
0
1
2
3
4
5
6
7
Независимая и зависимая переменные


Независимая переменная – это та
переменная в регрессии, которую можно
изменять. Переменная «количество
часов занятий» является независимой и
обозначается х.
Зависимая переменная – это
переменная в регрессии, которую
нельзя изменять. «Экзаменационная
оценка» является зависимой
переменной. Она обозначается у.



Разделение переменных на зависимые и
независимые основывается на
предположении, что оценка, которую
получит студент, зависит от количества
часов, которые он занимался.
Предполагается также, что студенты могут
повлиять на количество часов, которые
будут потрачены на занятия.
Не всегда возможно определить, какая
переменная зависимая, а какая
независимая, и выбор иногда делается
произвольно.
Положительная и
отрицательная зависимость

Визуально видно, что имеет место
линейная зависимость, которая
отрицательна. Это означает, что
увеличение переменной x приводит к
уменьшению второй переменной y.
Студент
A
Пропус
тил
x
6
Оценка
y
82
B
2
86
C
15
43
D
9
74
E
12
58
F
5
90
G
8
78
100
90
80
70
60
50
40
30
20
10
0
0
2
4
6
8
10
12
14
16
Нелинейная зависимость

График показывает, что имеется зависимость,
которая не является линейной. Возможно, эта
зависимость квадратичная или какая-то иная.
Отсутствие зависимости

График сообщает нам об отсутствии
зависимости времени на подготовку к
экзамену и количества вопросов,
заданных преподавателем на
экзамене.
Студент Часы Вопро
х
сы
у
A
3
3
B
0
2
8
C
2
1
6
D
5
7
9
7
5
4
3
2
E
8
1
1
0
F
5
4
G
10
6
H
2
8
I
1
5
0
2
4
6
8
10
12
Коэффициент корреляции


Коэффициент корреляции измеряет
силу и направление связи между двумя
переменными.
Обозначения:
Выборочный коэффициент корреляции r
Коэффициент корреляции генеральной
совокупности
ρ
Формула для вычисления r
r

 x  x  y  y 
 x  x   y  y 
2
2
Это, так называемый, коэффициент
корреляции Пирсона, равный произведению
моментов. Он назван по имени статистика Карла
Пирсона, который первый провел исследования
в этой области.
Значения коэффициента
корреляции




Коэффициент корреляции изменяется на отрезке от –1
до +1.
Если между переменными существует сильная
положительная связь, то значение r будет близко к +1
Если между переменными существует сильная
отрицательная связь, то значение r будет близко к –1.
Когда между переменными нет линейной связи или
она очень слабая, значение r будет близко к 0.
Сильная
отрицательная
связь
-1
Отсутствие
связи
0
Сильная
положительная
связь
+1
Интерпретация
коэффициента корреляции
Значение r Уровень связи между переменными
0,75 – 1.00
Очень высокая положительная
0,50 – 0.74
Высокая положительная
0,25 – 0.49
Средняя положительная
0,00 – 0.24
Слабая положительная
0,00 – -0.24
Слабая отрицательная
-0,25 – -0.49
Средняя отрицательная
-0,50 – -0.74
Высокая отрицательная
-0,75 – -1.00
Очень высокая отрицательная
Пример вычисления

Вычислим коэффициент корреляции для
примера со студентами.
Студент
Часы
x
Оценка
y
A
B
6
2
82
63
C
D
E
1
5
2
57
88
68
F
3
75
Шаг 1. Достроим таблицу

Достраиваем таблицу тремя столбцами и
итоговой строкой. Проводим необходимые
вычисления.
Студент
Часы
x
Оценка
y
xy
x2
y2
A
6
82
492
36
6724
B
2
63
126
4
3969
C
1
57
57
1
3249
D
5
88
440
25
7744
E
2
68
136
4
4624
F
3
75
225
9
5625
Σx=19
Σy=433
Σxy=1476
Σx2=79
Σy2=31935
Шаги 2-3. Подставим в
формулу, получим ответ

Подставим данные в формулу и найдем r :
r
6  1476  19  433
6  79  19
2
6  31935  433
2
 0,922
Ответ. Значение коэффициента корреляции
равно 0,922. Это означает, что существует
сильная положительная связь. Мы видели
эту связь на графике.
Значимость
коэффициента
корреляции
Проверка гипотезы
Постановка проблемы
Коэффициент корреляции генеральной совокупности ρ –
это корреляция, вычисленная с использованием
всевозможных пар значений признаков (х,у) генеральной
совокупности.
Требуется
Оценить коэффициент корреляции генеральной совокупности ρ
на основе значения коэффициента корреляции выборки r.
Условия
Выборочный коэффициент корреляции r используется для
оценки ρ, если выполнены следующие предположения:
 Переменные х и у линейно зависимы
 Переменные являются случайными
 Обе переменные имеют нормальное распределение
Последовательность
действий
Чтобы принять верное решение, воспользуемся
процедурой проверки гипотезы. Она включает
традиционные пять шагов:
Шаг 1. Сформулировать гипотезы.
Шаг 2. Построить критическую область.
Шаг 3. Вычислить значение критерия.
Шаг 4. Сравнить, принять решение.
Шаг 5. Написать ответ.
Гипотезы
Гипотезы сформулированы следующим образом.
Основная гипотеза
Н0: ρ = 0
Альтернативная гипотеза
Н1: ρ ≠ 0
Основная гипотеза утверждает, что не существует корреляции
между признаками х и у в генеральной совокупности.
Альтернативная гипотеза утверждает, что корреляция между
признаками х и у в генеральной совокупности значима.
Когда основная гипотеза отвергается на определенном уровне
значимости, это значит, что существует значимое различие
между значением r и 0. Когда основная гипотеза
принимается, это значит, что значение r не сильно
отличается от 0 и является случайным.
Статистика и критическая
область

Для проверки гипотезы используется t-критерий с
df = n – 2 степенями свободы:
n2
tr
2
1 r

Границы двусторонней критической области
находятся при помощи таблиц значений tраспределения.
Пример
Рассчитан коэффициент корреляции и его
значение оказалось равно 0,897. Выборка
содержала 6 пар.
На уровне значимости 0,05 проверить
гипотезу о значимости коэффициента
корреляции.
Решение
Шаг 1. Гипотезы: Н0: ρ = 0
Н1: ρ ≠ 0
Шаг 2. Критическая область: α = 0,05, df = 6 – 2 = 4.
Критические значения по таблице равны ±2,776.
Шаг 3. Статистика по выборке:
n2
62
tr
 0,897
 4,059
2
2
1 r
1  (0,897)
Шаг 4. Сравниваем значение статистики с критической
областью. Нулевую гипотезу отвергаем, так как
значение критерия попадает в область критических
значений.
Шаг 5. Делаем вывод, что существует значимая связь
между признаками.
Виды связи между
переменными
Связь между двумя
переменными
Корреляция и причинная
связь

Когда проверка гипотезы показывает, что
существует значимая линейная связь
между переменными, исследователь
должен рассмотреть возможные виды
связи между переменными и выбрать ту,
которая диктуется логикой исследования.
Пять видов связи между
переменными
1. Прямая причинно-следственная связь
2. Обратная причинно-следственная связь
3. Связь вызвана третьей (скрытой) переменной
4. Взаимосвязь вызвана несколькими скрытыми
переменными
5. Связи нет, наблюдаемая зависимость случайна
1. Прямая связь
Прямая причинно-следственная связь между
переменными (переменная х определяет
значение переменной у).
Наличие воды ускоряет рост растений. Яд вызывает
смерть.
Температура воздуха прямо влияет на скорость таяния
льда.
Влажность
воздуха
?
Скорость
роста
растений
2. Обратная связь
Обратная причинно-следственная связь между
переменными (переменная у определяет
значение переменной х).
Исследователь может думать, что чрезмерное
потребление кофе вызывает нервозность. Но, может
быть, очень нервный человек выпивает кофе, чтобы
успокоить свои нервы?
Чрезмерное
потребление
кофе
?
Нервозность
3. Связь определена третьей
переменной
Связь между переменными может быть вызвана третьей
переменной.
Исследователь установил, что существует некая зависимость
между числом утонувших людей и числом выпитых
безалкогольных напитков в летнее время. А может быть, обе
переменные связаны с жарой и потребностью людей во влаге?
Число
утонувших
?
Жара,
потребность
влаги
Объем
выпитых
напитков
4. Несколько переменных
Взаимосвязь может быть определена несколькими скрытыми
переменными.
Исследователь может обнаружить значимую связь между
оценками студентов в университете и оценками в школе. Но,
возможно, действуют и другие переменные: IQ, количество
часов занятий, влияние родителей, мотивация, возраст,
авторитет преподавателей.
Успеваемость
в школе
IQ
Преподавател
и
?
Влияние
родителей
Успеваемость в
университете
Часы
занятий
Возраст
5. Зависимость случайна
Исследователь может найти значимую зависимость
между увеличением количества людей, которые
занимаются спортом и увеличением количества
людей, которые совершают преступления.
Но здравый смысл говорит, что любая связь между
этими двумя переменными должна быть случайной.
Число людей,
регулярно
занимающихся
спортом
?
Число
преступлений