Корреляционный анализ. 
  
 Уравнение парной регрессии. 
 Использование графического метода. 
 Этот метод применяют для наглядного изображения формы связи между изучаемыми экономическими показателями. Для этого в прямоугольной системе координат строят график, по оси ординат откладывают индивидуальные значения результативного признака Y, а по оси абсцисс - индивидуальные значения факторного признака X. 
 Совокупность точек результативного и факторного признаков называется полем корреляции. 
 На основании поля корреляции можно выдвинуть гипотезу (для генеральной совокупности) о том, что связь между всеми возможными значениями X и Y носит линейный характер. 
 Линейное уравнение регрессии имеет вид y = bx + a + ε 
 Здесь ε - случайная ошибка (отклонение, возмущение). 
 Причины существования случайной ошибки: 
 1. Невключение в регрессионную модель значимых объясняющих переменных; 
 2. Агрегирование переменных. Например, функция суммарного потребления – это попытка общего выражения совокупности решений отдельных индивидов о расходах. Это лишь аппроксимация отдельных соотношений, которые имеют разные параметры. 
 3. Неправильное описание структуры модели; 
 4. Неправильная функциональная спецификация; 
 5. Ошибки измерения. 
 Так как отклонения εi  для каждого конкретного наблюдения i – случайны и их значения в выборке неизвестны, то: 
 1) по наблюдениям xi и yi можно получить только оценки параметров α и β 
 2) Оценками параметров α и β регрессионной модели являются соответственно величины а и b, которые носят случайный характер, т.к. соответствуют случайной выборке; 
 Тогда оценочное уравнение регрессии (построенное по выборочным данным) будет иметь вид y = bx + a + ε, где ei – наблюдаемые значения (оценки) ошибок εi, а и b соответственно оценки параметров α и β регрессионной модели, которые следует найти. 
 Для оценки параметров α и β - используют МНК (метод наименьших квадратов). Метод наименьших квадратов дает наилучшие (состоятельные, эффективные и несмещенные) оценки параметров уравнения регрессии. 
 Но только в том случае, если выполняются определенные предпосылки относительно случайного члена (ε) и независимой переменной (x). 
 Формально критерий МНК можно записать так: 
 S = ∑(yi - y*i)2 → min 
 Система нормальных уравнений. 
 a•n + b∑x = ∑y 
 a∑x + b∑x2 = ∑y•x 
 Для наших данных система уравнений имеет вид 
 10a + 51.3 b = 3320 
 51.3 a + 294.15 b  = 14275 
 Из первого уравнения выражаем а и подставим во второе уравнение: 
 Получаем эмпирические коэффициенты регрессии: b = -88.9771, a = 788.4526 
 Уравнение регрессии (эмпирическое уравнение регрессии): 
 y = -88.9771 x + 788.4526 
 Эмпирические коэффициенты регрессии a и b являются лишь оценками теоретических коэффициентов βi, а само уравнение отражает лишь общую тенденцию в поведении рассматриваемых переменных. 
 Для расчета параметров регрессии построим расчетную таблицу (табл. 1) 

x	y	x2	y2	x • y	
9	100	81	10000	900	
6	200	36	40000	1200	
5	300	25	90000	1500	
4	400	16	160000	1600	
3.7	500	13.69	250000	1850	
3.6	600	12.96	360000	2160	
3.5	700	12.25	490000	2450	
6	150	36	22500	900	
7	120	49	14400	840	
3.5	250	12.25	62500	875	
51.3	3320	294.15	1499400	14275	

 1. Параметры уравнения регрессии. 
 Выборочные средние. 

 Выборочные дисперсии: 

 Среднеквадратическое отклонение 

 1.1. Коэффициент корреляции 
 Ковариация. 

 Рассчитываем показатель тесноты связи. Таким показателем является выборочный линейный коэффициент корреляции, который рассчитывается по формуле: 

 Линейный коэффициент корреляции принимает значения от –1 до +1. 
 Связи между признаками могут быть слабыми и сильными (тесными). Их критерии оцениваются по шкале Чеддока: 
 0.1 < rxy < 0.3: слабая; 
 0.3 < rxy < 0.5: умеренная; 
 0.5 < rxy < 0.7: заметная; 
 0.7 < rxy < 0.9: высокая; 
 0.9 < rxy < 1: весьма высокая; 
 В нашем примере связь между признаком Y фактором X  высокая и обратная. 
 Кроме того, коэффициент линейной парной корреляции может быть определен через коэффициент регрессии b: 

 1.2. Уравнение регрессии (оценка уравнения регрессии). 

 Линейное уравнение регрессии имеет вид y = -88.98 x  + 788.45 
 Коэффициентам уравнения линейной регрессии можно придать экономический смысл. 
 Коэффициент регрессии b = -88.98 показывает среднее изменение результативного показателя (в единицах измерения у) с повышением или понижением величины фактора х на единицу его измерения. В данном примере с увеличением на 1 единицу y понижается в среднем на -88.98. 
 Коэффициент a = 788.45 формально показывает прогнозируемый уровень у, но только в том случае, если х=0 находится близко с выборочными значениями. 
 Но если х=0 находится далеко от выборочных значений х, то буквальная интерпретация может привести к неверным результатам, и даже если линия регрессии довольно точно описывает значения наблюдаемой выборки, нет гарантий, что также будет при экстраполяции влево или вправо. 
 Подставив в уравнение регрессии соответствующие значения х, можно определить выровненные (предсказанные) значения результативного показателя y(x) для каждого наблюдения. 
 Связь между у и х определяет знак коэффициента регрессии b (если > 0 – прямая связь, иначе - обратная). В нашем примере связь обратная. 
 1.3. Коэффициент эластичности. 
 Коэффициенты регрессии (в примере b) нежелательно использовать для непосредственной оценки влияния факторов на результативный признак в том случае, если существует различие единиц измерения результативного показателя у и факторного признака х. 
 Для этих целей вычисляются коэффициенты эластичности и бета - коэффициенты. 
 Средний коэффициент эластичности E показывает, на сколько процентов в среднем по совокупности изменится результат у от своей средней величины при изменении фактора x на 1% от своего среднего значения. 
 Коэффициент эластичности находится по формуле: 

 В нашем примере коэффициент эластичности больше 1. Следовательно, при изменении Х на 1%, Y изменится более чем на 1%. Другими словами - Х существенно влияет на Y. 
 Бета – коэффициент 
 Бета – коэффициент показывает, на какую часть величины своего среднего квадратичного отклонения изменится в среднем значение результативного признака при изменении факторного признака на величину его среднеквадратического отклонения при фиксированном на постоянном уровне значении остальных независимых переменных: 

 Т.е. увеличение x на величину среднеквадратического отклонения Sx приведет к уменьшению среднего значения Y на 0.79 среднеквадратичного отклонения Sy. 
 1.4. Ошибка аппроксимации. 
 Оценим качество уравнения регрессии с помощью ошибки абсолютной аппроксимации. Средняя ошибка аппроксимации - среднее отклонение расчетных значений от фактических: 

 Ошибка аппроксимации в пределах 5%-7% свидетельствует о хорошем подборе уравнения регрессии к исходным данным. 

 Поскольку ошибка больше 7%, то данное уравнение не желательно использовать в качестве регрессии. 
 1.5. Эмпирическое корреляционное отношение. 
 Эмпирическое корреляционное отношение вычисляется для всех форм связи и служит для измерение тесноты зависимости. Изменяется в пределах [0;1]. 

 где 

 Индекс корреляции. 
 Для линейной регрессии индекс корреляции равен коэфииценту корреляции rxy = -0.79. 
 Полученная величина свидетельствует о том, что фактор x существенно влияет на y 
 Для любой формы зависимости теснота связи определяется с помощью множественного коэффициента корреляции: 

 Данный коэффициент является универсальным, так как отражает тесноту связи и точность модели, а также может использоваться при любой форме связи переменных. При построении однофакторной корреляционной модели коэффициент множественной корреляции равен коэффициенту парной корреляции rxy. 
 В отличие от линейного коэффициента корреляции он характеризует тесноту нелинейной связи и не характеризует ее направление. Изменяется в пределах [0;1]. 
 Теоретическое корреляционное отношение для линейной связи равно коэффициенту корреляции rxy. 
 1.6. Коэффициент детерминации. 
 Квадрат (множественного) коэффициента корреляции называется коэффициентом детерминации, который показывает долю вариации результативного признака, объясненную вариацией факторного признака. 
 Чаще всего, давая интерпретацию коэффициента детерминации, его выражают в процентах. 
 R2= -0.792 = 0.6176 
 т.е. в 61.76 % случаев изменения х приводят к изменению y. Другими словами - точность подбора уравнения регрессии - средняя. Остальные 38.24 % изменения Y объясняются факторами, не учтенными в модели. 
 Для оценки качества параметров регрессии построим расчетную таблицу (табл. 2) 

x	y	y(x)	(yi-ycp)2	(y-y(x))2	(xi-xcp)2	|y - yx|:y	
9	100	-12.34	53824	12620.6	14.98	1.12	
6	200	254.59	17424	2980.06	0.76	0.27	
5	300	343.57	1024	1898.09	0.0169	0.15	
4	400	432.54	4624	1059.12	1.28	0.0814	
3.7	500	459.24	28224	1661.6	2.04	0.0815	
3.6	600	468.13	71824	17388.38	2.34	0.22	
3.5	700	477.03	135424	49714.42	2.66	0.32	
6	150	254.59	33124	10939.05	0.76	0.7	
7	120	165.61	44944	2080.53	3.5	0.38	
3.5	250	477.03	6724	51543.85	2.66	0.91	
51.3	3320	3320	397160	151885.68	30.98	4.23	

 2. Оценка параметров уравнения регрессии. 
 2.1. Значимость коэффициента корреляции. 
 Для того чтобы при уровне значимости α проверить нулевую гипотезу о равенстве нулю генерального коэффициента корреляции нормальной двумерной случайной величины при конкурирующей гипотезе H1 ≠ 0, надо вычислить наблюдаемое значение критерия 

 и по таблице критических точек распределения Стьюдента, по заданному уровню значимости α и числу степеней свободы k = n - 2 найти критическую точку tкрит двусторонней критической области. Если tнабл < tкрит оснований отвергнуть нулевую гипотезу. Если |tнабл| > tкрит — нулевую гипотезу отвергают. 

 По таблице Стьюдента с уровнем значимости α=0.05 и степенями свободы k=8 находим tкрит: 
 tкрит (n-m-1;α/2) = (8;0.025) = 2.306 
 где m = 1 - количество объясняющих переменных. 
 Если tнабл > tкритич, то полученное значение коэффициента корреляции признается значимым (нулевая гипотеза, утверждающая равенство нулю коэффициента корреляции, отвергается). 
 Поскольку tнабл > tкрит, то отклоняем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициент корреляции статистически - значим 
 В парной линейной регрессии t2r = t2b и тогда проверка гипотез о значимости коэффициентов регрессии и корреляции равносильна проверке гипотезы о существенности линейного уравнения регрессии. 
 2.2. Интервальная оценка для коэффициента корреляции (доверительный интервал). 

 Доверительный интервал для коэффициента корреляции 

 r(-1.06;-0.51) 
 2.3. Анализ точности определения оценок коэффициентов регрессии. 
 Несмещенной оценкой дисперсии возмущений является величина: 

 S2y = 18985.71 - необъясненная дисперсия (мера разброса зависимой переменной вокруг линии регрессии). 

 Sy = 137.79 - стандартная ошибка оценки (стандартная ошибка регрессии). 
 Sa - стандартное отклонение случайной величины a. 

 Sb - стандартное отклонение случайной величины b. 

 2.4. Доверительные интервалы для зависимой переменной. 
 Экономическое прогнозирование на основе построенной модели предполагает, что сохраняются ранее существовавшие взаимосвязи переменных и на период упреждения. Для прогнозирования зависимой переменной результативного признака необходимо знать прогнозные значения всех входящих в модель факторов. 
 Прогнозные значения факторов подставляют в модель и получают точечные прогнозные оценки изучаемого показателя. 
 (a + bxp ± ε) 
 где 

 Рассчитаем границы интервала, в котором будет сосредоточено 95% возможных значений Y при неограниченно большом числе наблюдений и Xp = 50 

 (788.45 -88.98*50 ± 2563.39) 
 (-6223.79;-1097.01) 
 С вероятностью 95% можно гарантировать, что значения Y при неограниченно большом числе наблюдений не выйдет за пределы найденных интервалов. 
 Индивидуальные доверительные интервалы для Y при данном значении X. 
 (a + bxi ± ε) 
 где 

 tкрит (n-m-1;α/2) = (8;0.025) = 2.306 

xi	y = 788.45 -88.98xi	εi	ymin = y - εi	ymax = y + εi	
9	-12.34	399.83	-412.17	387.48	
6	254.59	336.93	-82.34	591.52	
5	343.57	333.33	10.24	676.9	
4	432.54	339.43	93.11	771.98	
3.7	459.24	343.1	116.14	802.34	
3.6	468.13	344.5	123.63	812.64	
3.5	477.03	346	131.04	823.03	
6	254.59	336.93	-82.34	591.52	
7	165.61	349.93	-184.32	515.54	

 С вероятностью 95% можно гарантировать, что значения Y при неограниченно большом числе наблюдений не выйдет за пределы найденных интервалов. 
 2.5. Проверка гипотез относительно коэффициентов линейного уравнения регрессии. 
 1) t-статистика. Критерий Стьюдента. 
 С помощью МНК мы получили лишь оценки параметров уравнения регрессии, которые характерны для конкретного статистического наблюдения (конкретного набора значений x и y). 
 Для оценки статистической значимости коэффициентов регрессии и корреляции рассчитываются t-критерий Стьюдента и доверительные интервалы каждого из показателей. Выдвигается гипотеза Н0 о случайной природе показателей, т.е. о незначимом их отличии от нуля. 
 Чтобы проверить, значимы ли параметры, т.е. значимо ли они отличаются от нуля для генеральной совокупности используют статистические методы проверки гипотез. 
 В качестве основной (нулевой) гипотезы выдвигают гипотезу о незначимом отличии от нуля  параметра или статистической характеристики в генеральной совокупности. Наряду с основной (проверяемой) гипотезой выдвигают альтернативную (конкурирующую) гипотезу о неравенстве нулю параметра или статистической характеристики в генеральной совокупности. 
 Проверим гипотезу H0 о равенстве отдельных коэффициентов регрессии нулю (при альтернативе H1 не равно) на уровне значимости α=0.05. 
 В случае если основная гипотеза окажется неверной, мы принимаем альтернативную. Для проверки этой гипотезы используется t-критерий Стьюдента. 
 Найденное по данным наблюдений значение  t-критерия (его еще называют наблюдаемым или фактическим) сравнивается с табличным (критическим) значением, определяемым по таблицам распределения Стьюдента (которые обычно приводятся в конце учебников и практикумов по статистике или эконометрике). 
 Табличное значение определяется в зависимости от уровня значимости (α) и числа степеней свободы, которое в случае линейной парной регрессии равно (n-2), n-число наблюдений. 
 Если фактическое значение  t-критерия больше табличного (по модулю), то основную гипотезу отвергают и считают, что с вероятностью (1-α) параметр или статистическая характеристика в генеральной совокупности значимо отличается от нуля. 
 Если фактическое значение  t-критерия меньше табличного (по модулю), то нет оснований отвергать основную гипотезу, т.е. параметр или статистическая характеристика в генеральной совокупности незначимо отличается от нуля при уровне значимости α. 
 tкрит (n-m-1;α/2) = (8;0.025) = 2.306 

 Поскольку 3.59  >  2.306, то статистическая значимость коэффициента регрессии b подтверждается (отвергаем гипотезу о равенстве нулю этого коэффициента). 

 Поскольку 5.87  >  2.306, то статистическая значимость коэффициента регрессии a подтверждается (отвергаем гипотезу о равенстве нулю этого коэффициента). 
 Доверительный интервал для коэффициентов уравнения регрессии. 
 Определим доверительные интервалы коэффициентов регрессии, которые с надежность 95%  будут следующими: 
 (b - tкрит Sb; b + tкрит Sb) 
 (-88.98 - 2.306 • 24.76; -88.98 + 2.306 • 24.76) 
 (-146.06;-31.89) 
 С вероятностью 95% можно утверждать, что значение данного параметра будут лежать в найденном интервале. 
 (a - tкрит Sa; a + tкрит Sa) 
 (788.45 - 2.306 • 134.26; 788.45 + 2.306 • 134.26) 
 (478.85;1098.06) 
 С вероятностью 95% можно утверждать, что значение данного параметра будут лежать в найденном интервале. 
 2) F-статистика. Критерий Фишера. 
 Коэффициент детерминации R2 используется для проверки существенности уравнения линейной регрессии в целом. 
 Проверка значимости модели регрессии проводится с использованием F-критерия Фишера, расчетное значение которого находится как отношение дисперсии исходного ряда наблюдений изучаемого показателя и несмещенной оценки дисперсии остаточной последовательности для данной модели. 
 Если расчетное значение с k1=(m) и k2=(n-m-1) степенями свободы больше табличного при заданном уровне значимости, то модель считается значимой. 

 где m – число факторов в модели. 
 Оценка статистической значимости парной линейной регрессии производится по следующему алгоритму: 
 1. Выдвигается нулевая гипотеза о том, что уравнение в целом статистически незначимо: H0: R2=0 на уровне значимости α. 
 2. Далее определяют фактическое значение F-критерия: 

 где m=1 для парной регрессии. 
 3. Табличное значение определяется по таблицам распределения Фишера для заданного уровня значимости, принимая во внимание, что число степеней свободы для общей суммы квадратов (большей дисперсии) равно 1 и число степеней свободы остаточной суммы квадратов (меньшей дисперсии) при линейной регрессии равно n-2. 
 Fтабл - это максимально возможное значение критерия под влиянием случайных факторов при данных степенях свободы и уровне значимости α. Уровень значимости α - вероятность отвергнуть правильную гипотезу при условии, что она верна. Обычно α принимается равной 0,05 или 0,01. 
 4. Если фактическое значение F-критерия меньше табличного, то говорят, что нет основания отклонять нулевую гипотезу. 
 В противном случае, нулевая гипотеза отклоняется и с вероятностью (1-α) принимается альтернативная гипотеза о статистической значимости уравнения в целом. 
 Табличное значение критерия со степенями свободы k1=1 и k2=8, Fтабл = 5.32 
 Поскольку фактическое значение F > Fтабл, то коэффициент детерминации статистически значим (найденная оценка уравнения регрессии статистически надежна). 
 Связь между F-критерием Фишера и t-статистикой Стьюдента выражается равенством: 

 Дисперсионный анализ. 
 При анализе качества модели регрессии используется теорема о разложении дисперсии, согласно которой общая дисперсия результативного признака может быть разложена на две составляющие – объясненную и необъясненную уравнением регрессии дисперсии. 
 Задача дисперсионного анализа состоит в анализе дисперсии зависимой переменной: 
 ∑(yi - ycp)2 = ∑(y(x) - ycp)2 + ∑(y - y(x))2 
 где 
 ∑(yi - ycp)2 - общая сумма квадратов отклонений; 
 ∑(y(x) - ycp)2 - сумма квадратов отклонений, обусловленная регрессией («объясненная» или «факторная»); 
  ∑(y - y(x))2 - остаточная сумма квадратов отклонений. 

Источник вариации	Сумма квадратов	Число степеней свободы	Дисперсия на 1 степень свободы	F-критерий	
Модель	245274.32	1	245274.32	12.92	
Остаточная	151885.68	8	18985.71	1	
Общая	397160	10-1	 	 	

 Показатели качества уравнения регрессии. 

Показатель	Значение	
Коэффициент детерминации	0.62	
Средний коэффициент эластичности	-1.37	
Средняя ошибка аппроксимации	42.28	

  
 Решение было получено и оформлено с помощью сервиса: 
 Уравнение парной линейной регрессии 
 Вместе с этой задачей решают также: 
 Уравнение множественной регрессии 
 Коэффициент корреляции Спирмена 
 Выявление тренда методом аналитического выравнивания 
 Показатели вариации 
 Показатели динамики 
 Copyright © Semestr.RU