Главная стр 1
скачать
1. Парная регрессия и корреляция

1.1. Понятие регрессии

Парной регрессией называется уравнение связи двух переменных у и х

вида y = f (x),

где у – зависимая переменная (результативный признак); х – независимая, объясняющая переменная (признак-фактор).

Различают линейные и нелинейные регрессии.

Линейная регрессия описывается уравнением: y = a + b × x +e .

Нелинейные регрессии делятся на два класса: регрессии, нелинейные относительно включенных в анализ объясняющих переменных, но линейные по оцениваемым параметрам, и регрессии, нелинейные по оцениваемым параметрам.

Примеры регрессий, нелинейных по объясняющим переменным, но ли-

нейных по оцениваемым параметрам:


  • полиномы разных степеней

  • равносторонняя гипербола:

Примеры регрессий, нелинейных по оцениваемым параметрам:



  • степенная

  • показательная

  • экспоненциальная

Наиболее часто применяются следующие модели регрессий:

– прямой
– гиперболы
– параболы
– показательной функции
– степенная функция
1.2. Построение уравнения регрессии

Постановка задачи. По имеющимся данным n наблюдений за совместным

изменением двух параметров x и y {(xi,yi), i=1,2,...,n} необходимо определить

аналитическую зависимость ŷ=f(x), наилучшим образом описывающую данные наблюдений.

Построение уравнения регрессии осуществляется в два этапа (предполагает решение двух задач):

– спецификация модели (определение вида аналитической зависимости

ŷ=f(x));

– оценка параметров выбранной модели.

1.2.1. Спецификация модели

Парная регрессия применяется, если имеется доминирующий фактор, который и используется в качестве объясняющей переменной.


Применяется три основных метода выбора вида аналитической зависимости:

– графический (на основе анализа поля корреляций);

– аналитический, т. е. исходя из теории изучаемой взаимосвязи;

– экспериментальный, т. е. путем сравнения величины остаточной дисперсии Dост или средней ошибки аппроксимации , рассчитанных для различных

моделей регрессии (метод перебора).

1.2.2. Оценка параметров модели

Для оценки параметров регрессий, линейных по этим параметрам, используется метод наименьших квадратов (МНК). МНК позволяет получить такие оценки параметров, при которых сумма квадратов отклонений фактических значений результативного признака у от теоретических значений ŷx при тех же значениях фактора x минимальна, т. е.



В случае линейной регрессии параметры а и b находятся из следующей

системы нормальных уравнений метода МНК:


(1.1)
Можно воспользоваться готовыми формулами, которые вытекают из этой

системы:


(1.2)

Для нелинейных уравнений регрессии, приводимых к линейным с помощью преобразования (x, y) → (x’, y’), система нормальных уравнений имеет

вид (1.1) в преобразованных переменных x’, y’.

Коэффициент b при факторной переменной x имеет следующую интерпретацию: он показывает, на сколько изменится в среднем величина y при изменении фактора x на 1 единицу измерения.



Гиперболическая регрессия:

Линеаризующее преобразование: x’ = 1/x; y’ = y.


Уравнения (1.1) и формулы (1.2) принимают вид

Экспоненциальная регрессия:

Линеаризующее преобразование: x’ = x; y’ = lny.



Модифицированная экспонента: , (0 < a1 < 1).

Линеаризующее преобразование: x’ = x; y’ = lny – К│.


Величина предела роста K выбирается предварительно на основе анализа

поля корреляций либо из качественных соображений. Параметр a0 берется со

знаком «+», если yх > K и со знаком «–» в противном случае.


Степенная функция:

Линеаризующее преобразование: x’ = ln x; y’ = ln y.





Показательная функция:

Линеаризующее преобразование: x’ = x; y’ = lny.



Логарифмическая функция:

Линеаризующее преобразование: x’ = ln x; y’ = y.





Парабола второго порядка:

Парабола второго порядка имеет 3 параметра a0, a1, a2, которые определяются из системы трех уравнений





1.3. Оценка тесноты связи

Тесноту связи изучаемых явлений оценивает линейный коэффициент

парной корреляции rxy для линейной регрессии (–1 ≤ r xy ≤ 1)

и индекс корреляции ρxy для нелинейной регрессии



Имеет место соотношение



Долю дисперсии, объясняемую регрессией, в общей дисперсии результативного признака у характеризует коэффициент детерминации r2xy (для линейной регрессии) или индекс детерминации (для нелинейной регрессии).

Коэффициент детерминации – квадрат коэффициента или индекса корреляции.

Для оценки качества построенной модели регрессии можно использовать

показатель (коэффициент, индекс) детерминации R2 либо среднюю ошибку аппроксимации.

Чем выше показатель детерминации или чем ниже средняя ошибка аппроксимации, тем лучше модель описывает исходные данные.

Средняя ошибка аппроксимации – среднее относительное отклонение

расчетных значений от фактических



Построенное уравнение регрессии считается удовлетворительным, если

значение не превышает 10–12 %.

7

1.4. Оценка значимости уравнения регрессии, его коэффициентов,



коэффициента детерминации

Оценка значимости всего уравнения регрессии в целом осуществляется с

помощью F-критерия Фишера.

F-критерий Фишера заключается в проверке гипотезы Но о статистической незначимости уравнения регрессии. Для этого выполняется сравнение

фактического Fфакт и критического (табличного) Fтабл значений F-критерия

Фишера.

Fфакт определяется из соотношения значений факторной и остаточной

дисперсий, рассчитанных на одну степень свободы



где n – число единиц совокупности; m – число параметров при переменных.


Для линейной регрессии m = 1 .
Для нелинейной регрессии вместо r 2 xy используется R2.

Fтабл – максимально возможное значение критерия под влиянием случайных факторов при степенях свободы k1 = m, k2 = n – m – 1 (для линейной регрессии m = 1) и уровне значимости α.

Уровень значимости α вероятность отвергнуть правильную гипотезу

при условии, что она верна. Обычно величина α принимается равной 0,05 или

0,01.


Если Fтабл < Fфакт, то Н0-гипотеза о случайной природе оцениваемых характеристик отклоняется и признается их статистическая значимость и надежность. Если Fтабл > Fфакт, то гипотеза Но не отклоняется и признается статистическая незначимость, ненадежность уравнения регрессии.
Для оценки статистической значимости коэффициентов линейной регрессии и линейного коэффициента парной корреляции применяется

t-критерий Стьюдента и рассчитываются доверительные интервалы каждого

из показателей.

Согласно t-критерию выдвигается гипотеза Н0 о случайной природе показателей, т. е. о незначимом их отличии от нуля. Далее рассчитываются фактические значения критерия tфакт для оцениваемых коэффициентов регрессии и коэффициента корреляции путем сопоставления их значений с величиной стандартной ошибки

Стандартные ошибки параметров линейной регрессии и коэффициента

корреляции определяются по формулам

Сравнивая фактическое и критическое (табличное) значения t-статистики

tтабл и tфакт принимают или отвергают гипотезу Но.

tтабл – максимально возможное значение критерия под влиянием случайных факторов при данной степени свободы k = n–2 и уровне значимости α.

Связь между F-критерием Фишера (при k1 = 1; m =1) и t-критерием Стьюдента выражается равенством



Если tтабл < tфакт, то Но отклоняется, т. е. a, b и не случайно отличаются

от нуля и сформировались под влиянием систематически действующего фактора х. Если tтабл > tфакт, то гипотеза Но не отклоняется и признается случайная природа формирования а, b или .
Значимость коэффициента детерминации R2 (индекса корреляции) определяется с помощью F-критерия Фишера. Фактическое значение критерия Fфакт определяется по формуле



Fтабл определяется из таблицы при степенях свободы k1 = 1, k2 = n–2 и при

заданном уровне значимости α. Если Fтабл < Fфакт, то признается статистическая значимость коэффициента детерминации. В формуле (1.6) величина m означает число параметров при переменных в соответствующем уравнении регрессии.



1.5. Расчет доверительных интервалов

Рассчитанные значения показателей (коэффициенты a, b, ) являются

приближенными, полученными на основе имеющихся выборочных данных.

Для оценки того, насколько точные значения показателей могут отличаться от рассчитанных, осуществляется построение доверительных интервалов.

Доверительные интервалы определяют пределы, в которых лежат точные значения определяемых показателей с заданной степенью уверенности, соответствующей заданному уровню значимости α.
Для расчета доверительных интервалов для параметров a и b уравнения линейной регрессии определяем предельную ошибку Δ для каждого показателя:


Величина tтабл представляет собой табличное значение t-критерия Стьюдента под влиянием случайных факторов при степени свободы k = n–2 и заданном уровне значимости α.

Формулы для расчета доверительных интервалов имеют следующий вид:




Если в границы доверительного интервала попадает ноль, т. е. нижняя граница отрицательна, а верхняя положительна, то оцениваемый параметр принимается нулевым, так как он не может одновременно принимать и положительное, и отрицательное значения.
Для статистически значимого линейного коэффициента корреляции можно

построить интервальные оценки с помощью Z-распределения Фишера:



Первоначально определяется интервальная оценка для z по выражению

где tγ – значение случайной величины, подчиняющейся стандартному нормальному распределению, соответствующее вероятности γ = 1 – α/2 (α – уровень значимости);



z’ = Z (rxy) – значение Z-распределения Фишера, соответствующее полученному значению линейного коэффициента корреляции rxy.
Граничные значения доверительного интервала (r– , r+) для rxy получаются

из граничных значений доверительного интервала (z– , z+) для z с помощью

функции, обратной Z-распределению Фишера


1.6. Точечный и интервальный прогноз по уравнению линейной

регрессии

Точечный прогноз заключается в получении прогнозного значения уp, которое определяется путем подстановки в уравнение регрессии

соответствующего (прогнозного ) значения xp

Интервальный прогноз заключается в построении доверительного интервала прогноза, т. е. нижней и верхней границ уpmin , уpmax интервала, содержащего точную величину для прогнозного значения

Доверительный интервал всегда определяется с заданной вероятностью (степенью уверенности), соответствующей принятому значению уровня значимости α.

Предварительно вычисляется стандартная ошибка прогноза



и затем строится доверительный интервал прогноза, т. е. определяются нижняя и верхняя границы интервала прогноза





Контрольные вопросы:

1. Что понимается под парной регрессией?

2. Какие задачи решаются при построении уравнения регрессии?

3. Какие методы применяются для выбора вида модели регрессии?

4. Какие функции чаще всего используются для построения уравнения парной регрессии?

5. Какой вид имеет система нормальных уравнений метода наименьших квадратов в случае линейной регрессии?

6. Какой вид имеет система нормальных уравнений метода наименьших квадратов в случае гиперболической, показательной регрессии?

7. По какой формуле вычисляется линейный коэффициент парной корреляции r xy?

8. Как строится доверительный интервал для линейного коэффициента парной корреляции?

9. Как вычисляется индекс корреляции?

10. Как вычисляется и что показывает индекс детерминации?

11. Как проверяется значимость уравнения регрессии и отдельных коэффициентов?

12. Как строится доверительный интервал прогноза в случае линейной регрессии?


Лабораторная работа № 1

Задание.1 На основании данных табл. П1 для соответствующего варианта (табл. 1.1):

1. Вычислить линейный коэффициент парной корреляции.

2. Проверить значимость коэффициента парной корреляции.

3. Построить доверительный интервал для линейного коэффициента парной корреляции.

Задание. 2 На основании данных табл. П1 для соответствующего варианта (табл. 1.1):

1. Построить предложенные уравнения регрессии, включая линейную регрессию.

2. Вычислить индексы парной корреляции для каждого уравнения.

3. Проверить значимость уравнений регрессии и отдельных коэффициентов линейного уравнения.

4. Определить лучшее уравнение регрессии на основе средней ошибки аппроксимации.

5. Построить интервальный прогноз для значения x = xmax для линейного

уравнения регрессии.

6. Определить средний коэффициент эластичности.
Требования к оформлению результатов

Отчет о лабораторной работе должен содержать разделы:

1. Описание задания;

2. Описание решения лабораторной работы (по этапам);



3. Изложение полученных результатов.



26

3,9

*

*




*




*

27

3,10

*




*




*




28

6,8

*

*

*




*




29

6,9

*







*




*

30

8,10

*




*







*

31

4,8

*

*




*




*

32

4,10

*




*




*

*



Таблица П1
Исходные данные к лабораторным работам № 1, 2

Наличие предметов длительного пользования в домашних хозяйствах по регионам Российской Федерации (европейская часть территории без республик Северного Кавказа) (по материалам выборочного обследования бюджетов домашних хозяйств; на 100 домохозяйств; штук)








скачать


Смотрите также:
Парная регрессия и корреляция
120.61kb.
Парная линейная регрессия
20.34kb.
1. Парная регрессия и корреляция 1
129.52kb.
Существует прямая корреляция между уровнем сформированности информационной компетентности и степенью образованности студентов… ст
1363.73kb.
«Здоровый образ жизни. Вредные привычки»
121.68kb.
Статья посвящена исследованию материалов на основе алюминия для изготовления рам горных велосипедов
108.36kb.
Урок русского языка в 11 классе по теме: «Подготовка к егэ. Грамотная речь как показатель культуры человека»
447.22kb.
Боярская Татьяна Юрьевна Стаж: 11 лет, категория: II год аттестации: 2009 с. Парная, 2009
246.13kb.
Материал к экзамену по философии
500.39kb.
Интервальная оценка регрессионного уравнения Решать задачу будем в табличном процессоре Excel в стандартной надстройке «Пакет анализа»
136.77kb.