Теоретические и практические аспекты проверки непараметрических гипотез в курсах «теория вероятностей и математическая статистика» И«анализ данных»




Скачать 13,98 Kb.
НазваниеТеоретические и практические аспекты проверки непараметрических гипотез в курсах «теория вероятностей и математическая статистика» И«анализ данных»
Дата04.02.2016
Размер13,98 Kb.
ТипДокументы
ТЕОРЕТИЧЕСКИЕ И ПРАКТИЧЕСКИЕ АСПЕКТЫ ПРОВЕРКИ НЕПАРАМЕТРИЧЕСКИХ ГИПОТЕЗ В КУРСАХ «ТЕОРИЯ ВЕРОЯТНОСТЕЙ И МАТЕМАТИЧЕСКАЯ СТАТИСТИКА» И «АНАЛИЗ ДАННЫХ»


Чудинова О.С.

Оренбургский государственный университет, г.Оренбург


Проверка непараметрических гипотез о согласованности эмпирического и гипотетического законов распределения – одна из основных задач математической статистики. Для практического применения методов теории вероятностей и математической статистики знание закона распределения вероятностей чрезвычайно важно. Это связано с тем, что многие математико-статистические методы опираются на различные априорные допущения о виде исследуемой статистической модели. Например, метод максимального правдоподобия применяют при известном (с точностью до вектора параметров) законе распределения генеральной совокупности. Зная закон распределения вероятностей наблюдаемой случайной величины, исследователь в состоянии решать многие практические задачи, связанные с планированием производства, обеспечением качества продукции, оценкой эффективности производства.

Статистические критерии проверки гипотез о законе распределения вероятностей подразделяются на два класса – общие критерии согласия и специальные критерии согласия [1]. Общие критерии согласия применимы к самой общей формулировке гипотезы, как гипотезы о согласии наблюдаемых результатов с любым априорно предполагаемым распределением вероятностей. Специальные критерии согласия предполагают специальные нулевые гипотезы, формулирующие согласие с определенной формой распределения вероятностей – нормальной, экспоненциальной, Вейбулла и т.д. Такие критерии носят соответствующие названия – критерии нормальности, критерии экспоненциальности и т. п.

Важнейшую роль в прикладной статистике играет частный случай – проверка гипотезы о нормальном законе распределения генеральной совокупности. Так, выполнение требования нормального закона распределения является необходимой предпосылкой корректного решения таких задач математической статистики как построение доверительных интервалов и проверка статистических гипотез, сопровождающих любое статистическое исследование. При этом априори чаще всего нет оснований предполагать нормальность распределения рассматриваемых случайных величин. В отечественной литературе по математической статистике основное внимание уделено трём статистическим критериям – критерию Колмогорова, критерию (омега-квадрат) и критерию согласия (хи-квадрат) [2]-[5]. Вместе с тем разработано большое количество других статистических критериев проверки нормальности распределения, описанных преимущественно в зарубежных источниках.

В отечественном стандарте ГОСТ Р ИСО 5479-2002 «Статистические методы. Проверка отклонения распределения вероятностей от нормального распределения» [6], введенном в действие в 2002 году, рассматриваются графический метод проверки на нормальность; критерии проверки на симметричность и на значение эксцесса; критерии Шапиро-Уилка, основанные на регрессионном анализе порядковых статистик; критерий Эппса-Палли, статистика которого измеряет расстояние между выборочной характеристической функцией и характеристической функцией нормального закона. Однако введенный стандарт не содержит сравнительного анализа критериев, а, следовательно, не позволяет сориентироваться в том, какой из критериев является предпочтительней. В стандарте отказываются от использования критерия согласия , который применяется к сгруппированным данным, а группирование, как известно, приводит к потере информации. Также в стандарте не упоминаются для проверки нормальности критерий Колмогорова и критерий .

Уникальным отечественным научным изданием, включающим наиболее полный перечень известных на сегодняшний день статистических критериев, является книга Кобзаря А.И. «Прикладная математическая статистика. Для инженеров и научных работников» [1]. Это не просто справочник, это скорее пособие, практическое руководство по методам обработки результатов наблюдений. Комментарии к статистическим критериям содержат необходимые теоретические сведения, многочисленные примеры помогают сориентироваться в технике практической реализации критериев, а по ссылкам на первоисточники, большинство из которых зарубежные, можно расширить знания по рассматриваемым методам.

Общие критерии согласия в пособии разбиты на три группы:

  • критерии, основанные на изучении разницы между теоретической и эмпирической плотностью распределения;

  • критерии, основанные на расстоянии между теоретической и эмпирической функциями распределения;

  • корреляционно-регрессионные критерии, основанные на изучении корреляционных и регрессионных связей между эмпирическими и теоретическими порядковыми статистиками.

Только критериев нормальности в пособии рассмотрено порядка 23, среди них как общие критерии согласия, модифицированные для проверки нормальности распределения, так и специальные критерии нормальности. Кроме того в пособии, приведены результаты сравнительного анализа мощности различных критериев нормальности. Следует отметить, что большинство из рассмотренных в пособии критериев согласия реализованы в программе AtteStat. К таким критериям относятся: критерий Колмогорова, критерий Смирнова, критерий , критерий Крамера-Мизеса, критерий Андерсона-Дарлинга, критерий Шапиро-Уилка, критерий Шапиро-Франсиа, критерии асимметрии и эксцесса, критерий Жарка-Бера, критерий Гири, критерий Д`Агостино, критерий Васичека, критерий Эппса-Палли.

AtteStat – это программа анализа данных, разработанная И.П. Гайдышевым и предназначенная для профессиональной статистической обработки данных в различных областях деятельности. Она выполнена в виде надстройки к электронной таблице Microsoft Excel под управлением операционной системы Microsoft Windows. Программа распространяется в Интернете бесплатно.

Проверка нормальности – сложная и трудоемкая статистическая процедура. Как отмечает А.И. Орлов, ведущий отечественный специалист в области статистических методов, разработавший новую область прикладной статистики – статистику объектов нечисловой природы, для достаточно надежного установления нормальности требуется весьма большое число наблюдений [7]. Для того чтобы гарантировать, что функция распределения результатов наблюдений отличается от некоторой нормальной не более чем на 0,01 (при любом значении аргумента), требуется порядка 2500 наблюдений. В большинстве экономических исследований число наблюдений существенно меньше. Еще одна причина отклонений от нормальности в том, что любой результат наблюдения записывается конечным количеством цифр, а с математической точки зрения вероятность такого события равна 0. Таким образом, распределение результатов экономических наблюдений практически всегда отличается от нормального, что обосновывает необходимость использования непараметрических методов. Однако, если в скалярном случае, для каждого параметрического критерия имеется, по крайней мере, одна непараметрическая альтернатива, то большинство задач многомерного статистического анализа, рассматриваемых в курсе «Анализ данных» в настоящее время решены только для нормально распределенных генеральных совокупностей. Это касается построения доверительных областей для вектора параметров, проверки различных статистических гипотез в многомерном случае, параметрического дискриминантного анализа, реализуемого в статистических пакетах только для нормально распределенных классов, и т.д. Каким же образом проверить гипотезу о нормальном законе распределения многомерной генеральной совокупности? Четкого ответа на этот вопрос нет ни в одном из отечественных учебников по прикладной статистике.

Проливают свет на обозначенную проблему реализованные в надстройке AtteStat пакета Excel три статистических критерия проверки многомерного нормального закона распределения: критерий асимметрии Мардиа, критерий эксцесса Мардиа и критерий Хенце-Цирклера. Описание этих и многих других статистических критериев можно найти в [8], [9].

Критерий Хенце-Цирклера является многомерным аналогом критерия Эппса–Пали. Статистика критерия Хенце–Цирклера (инвариантного теста Хенце–Цирклера, Henze–Zirkler test) имеет вид:

(1)

где - вычисляемый особым образом или задаваемый параметр;

k - размерность признакового пространства;

n - объём выборки;

- оценка ковариационной матрицы;

- оценка вектора математических ожиданий.

В надстройке AtteStat реализована нормальная аппроксимация статистики . В работе [9] не раскрыт вопрос о вычислении параметра . Возможно ответ есть в статье Свантессона (Svantesson) [10].

Статистика критерия асимметрии Мардиа имеет вид:


. (2)


Статистика имеет асимптотическое распределение с числом степеней свободы .

Статистика критерия эксцесса Мардиа имеет вид:


. (3)


Статистика имеет асимптотическое нормальное распределение с математическим ожиданием и дисперсией .

О критериях Мардиа можно найти в оригинальных статьях (Mardia) [11]-[15], а также в работе Канкайнена (Kankainen) [16] и справочнике Родионова [17].


Список литературы

  1. Кобзарь, А. И. Прикладная математическая статистика. Для инженеров и научных работников. – М.: ФИЗМАТЛИТ, 2006. – 816 с. – ISBN 5-9221-0707-0.

  2. Большев, Л.Н. Таблицы математической статистики / Л.Н. Большев, Н.В. Смирнов. – М.: Наука, 1983. – 416 с.

  3. Колемаев, В.А. Теория вероятностей и математическая статистика / В.А. Колемаев, О.В. Староверов, В.Б. Турундаевский. – М.: Высшая школа, 1991. – 236 с.

  4. Четыркин, Е.М. Вероятность и статистика / Е.М. Четыркин, И.Л. Калихман. – М.: Финансы и статистика, 1982. – 454 с.

  5. Математическая статистика: Учеб. для вузов / В.Б. Горяинов, И.В. Павлов, Г.М. Цветкова и др.; Под ред. В.С. Зарубина, А.П. Крищенко. – М.: Изд-во МГТУ им. Н.Э. Баумана, 2001. – 424 с. – ISBN 5-7038-1730-7 (Вып. XVII).

  6. ГОСТ Р ИСО 5479-2002. Статистические методы. Проверка отклонения распределения вероятностей от нормального распределения. – М.: ИПК Изд-во стандартов. 2002. – 30 с.

  7. Орлов, А.И. Эконометрика. Учебник. М.: Издательство «Экзамен», 2002. – 576 с. – ISBN: 5-94692-045-6.

  8. Гайдышев, И. Анализ и обработка данных: специальный справочник. – СПб: Питер, 2001. – 752 с. – ISBN 5-318-00220-Х

  9. Гайдышев И.П. Моделирование стохастических и детерминированных систем: Руководство пользователя программы AtteStat [Электронный ресурс]. – Курган, 2013. – Режим доступа:

http://attestatsoft.narod.ru/download/AtteStat_Manual.pdf.

  1. Svantesson T., Wallace J. Tests for assessing multivariate normality and the covariance structure of MIMO data // IEEE International Conference on Acoustics, Speech and Signal Processing, Hong Kong, April 6–10, 2003 (ICASSP'03).

  2. Mardia K.V. Application of some measures of multivariate skewness and kurtosis in testing normality and robustness studies // Sankhya: The Indian Journal of Statistics, 1974, vol. 36, series B, pt. 2, pp. 115–128.

  3. Mardia K.V. Assessment of multinormality and the robustness of Hotelling’s T–squared test // Journal of the Royal Statistical Society: Series C (Applied Statistics), 1975, vol. 24(2).

  4. Mardia K.V. Measures of multivariate skewness and kurtosis with application // Biometrica, 1970, vol. 57, pp. 519–530.

  5. Mardia K.V. Tests of univariate and multivariate normality // Handbook of statistics, vol. 1, pp. 279–320 / Ed. by S. Kotz et al. – New York: John Wiley & Sons, 1980.

  6. Mardia K.V., Kent J.T., Bibby J.M. Multivariate analysis. – New York, NY: Academic Press, 1979.

  7. Kankainen A., Oja H., Taskinen S. On Mardia’s tests of multinormality // Theory and applications of recent robust methods / Ed. by M. Hubert, G. Pison, A. Stryuf et al. – Basel: Birkhauser, 2003.

  8. Родионов, Д.А. Справочник по математическим методам в геологии / Д.А. Родионов, Р.И. Коган, В.А. Голубева и др. – М.: Недра, 1987. – 335 с.

Похожие:

Теоретические и практические аспекты проверки непараметрических гипотез в курсах «теория вероятностей и математическая статистика» И«анализ данных» iconКонтрольная работа №11 Теория вероятностей, математическая статистика и случайные процессы
Гмурман В. Е. Теория вероятностей и математическая статистика. Учебное пособие для вузов – 10-е издание, стереотипное – Москва: Высшая...
Теоретические и практические аспекты проверки непараметрических гипотез в курсах «теория вероятностей и математическая статистика» И«анализ данных» iconПрограмма по дисциплине «Теория вероятностей и математическая статистика»
«Теория вероятностей и математическая статистика» разработана в соответствии с Государственным стандартом образования РФ (ЕН. Общие...
Теоретические и практические аспекты проверки непараметрических гипотез в курсах «теория вероятностей и математическая статистика» И«анализ данных» iconПрограмма дисциплины «Теория вероятностей и математическая статистика»
«Теория вероятностей и математическая статистика» для направления 080700. 62 Бизнес-информатика подготовки бакалавра для специализации...
Теоретические и практические аспекты проверки непараметрических гипотез в курсах «теория вероятностей и математическая статистика» И«анализ данных» iconПрограмма дисциплины «Теория вероятностей и математическая статистика» для направления 523100-Бизнес-информатика вторая ступень высшего профессионального образования
Курс «Теория вероятностей и математическая статистика» рассчитан на студентов второго года обучения бакалавриата факультета бизнес-информатики...
Теоретические и практические аспекты проверки непараметрических гипотез в курсах «теория вероятностей и математическая статистика» И«анализ данных» iconПрограмма дисциплины теория вероятностей и математическая статистика Цикл ен. Ф специальность: 010900 Астрономия Принята на заседании кафедры Теории относительности и гравитации
Рабочая программа дисциплины "Теория вероятностей и математическая статистика" предназначена для студентов 1 курса
Теоретические и практические аспекты проверки непараметрических гипотез в курсах «теория вероятностей и математическая статистика» И«анализ данных» iconПрограмма дисциплины  «Теория вероятностей и математическая статистика»
Программа предназначена для преподавателей, ведущих данную дисциплину, учебных ассистентов и студентов направления 230700. 62 «Прикладная...
Теоретические и практические аспекты проверки непараметрических гипотез в курсах «теория вероятностей и математическая статистика» И«анализ данных» iconПрограмма дисциплины  «Теория вероятностей и математическая статистика»
Программа предназначена для преподавателей, ведущих данную дисциплину, учебных ассистентов и студентов направления 010400. 62 «Прикладная...
Теоретические и практические аспекты проверки непараметрических гипотез в курсах «теория вероятностей и математическая статистика» И«анализ данных» iconРабочая программа дисциплины «теория вероятностей и математическая статистика»
«теория вероятностей и математическая статистика». Программа для студентов, обучающихся по направлению 080200 «Менеджмент» профиль...
Теоретические и практические аспекты проверки непараметрических гипотез в курсах «теория вероятностей и математическая статистика» И«анализ данных» iconИ. Е. Денежкина вычислительные аспекты
Рецензент: О. Е. Пыркина, доцент кафедры «Теория вероятностей и математическая статистика»
Теоретические и практические аспекты проверки непараметрических гипотез в курсах «теория вероятностей и математическая статистика» И«анализ данных» icon«Теория вероятностей и математическая статистика» для студентов бакалавриата II курса всех направлений
Теория вероятностей и математическая статистика. Учебно-методическое пособие для студентов II курса направлений «Экономика», «Менеджмент»,...
Разместите кнопку на своём сайте:
Библиотека


База данных защищена авторским правом ©lib2.znate.ru 2012
обратиться к администрации
Библиотека
Главная страница