Загрузил
limonovau
Прикладной статистический анализ в горном деле
Министерство науки и высшего образования
Российской Федерации
Федеральное государственное автономное
образовательное учреждение высшего образования
«Пермский национальный исследовательский
политехнический университет»
А.В. Катаев, С.Н. Кутовой
ПРИКЛАДНОЙ СТАТИСТИЧЕСКИЙ
АНАЛИЗ В ГОРНОМ ДЕЛЕ
(ОДНОМЕРНАЯ МАТЕМАТИЧЕСКАЯ
СТАТИСТИКА И РЕГРЕССИОННЫЙ АНАЛИЗ)
Рекомендовано
Редакционно-издательским советом университета
в качестве учебного пособия
Издательство
Пермского национального исследовательского
политехнического университета
2022
УДК 662: 519.22 (075.8)
К29
Рецензенты:
докт. техн. наук, проф. С.Г. Ашихмин
(Пермский национальный исследовательский
политехнический университет);
канд. техн. наук, доцент В.Б. Замотин
(Центр экспертизы «Недра Урала», г. Пермь)
К29
Катаев, А.В.
Прикладной статистический анализ в горном деле
(Одномерная математическая статистика и регрессионный анализ) : учеб. пособие / А.В. Катаев, С.Н. Кутовой. –
Пермь : Изд-во Перм. нац. исслед. политехн. ун-та, 2022. –
275 с.
ISBN 978-5-398-02766-2
Приведён теоретический и практический материал по дисциплинам «Математическая статистика в горном и нефтяном деле» и
«Методы математической статистики в прикладной геодезии».
В пособии приводятся примеры статистического анализа данных
по Верхнекамскому месторождению калийно-магниевых солей
с использованием программного продукта Statistica.
Предназначено для студентов 4-го курса специальностей
«Горное дело», специализации «Маркшейдерское дело» и студентов 3–4-го курсов специальности «Инженерная геодезия». Может
быть использовано студентами в процессе выполнения курсовых
работ и выпускной квалификационной работы.
УДК 662: 519.22 (075.8)
ISBN 978-5-398-02766-2
© ПНИПУ, 2022
ОГЛАВЛЕНИЕ
Введение ...................................................................................................................7
1. Общие сведения ................................................................................................11
1.1. История развития математической статистики.............................................11
1.2. Общие сведения о параметрической и непараметрической статистике............ 13
1.3. Классификация статистических методов по типу используемых данных ........ 17
1.4. Особенности подготовки горно-геологических и природных данных
для исследования с помощью методов математической статистики ................... 20
2. Общие сведения из теории вероятностей .....................................................26
2.1. Основные понятия и задачи теории вероятностей........................................26
2.2. Испытание и событие......................................................................................29
2.3. Случайная величина и её представление.......................................................30
2.4. Эмпирическая функция распределения .........................................................33
2.5. Числовые характеристики случайной величины ..........................................37
2.6. Генеральная совокупность и выборка............................................................39
2.7. Простейшие описательные статистики (Descriptive Statistics) выборки ........ 41
2.8. Классификация статистических показателей ...............................................49
2.9. Робастные и неробастные оценки ..................................................................49
2.10. Показатели качества......................................................................................52
2.10.1. Коэффициент запаса точности Cpk ...................................................52
2.10.2. Потенциальный коэффициент запаса точности Cp .........................53
2.10.3. Коэффициент засоренности данных g..............................................54
2.11. Теоретические функции распределения ......................................................55
2.11.1. Общие сведения .................................................................................55
2.11.2. Нормальный закон распределения ...................................................56
2.11.3. Равномерное распределение..............................................................60
2.11.4. Распределение Пирсона 2 (хи-квадрат) .........................................61
2.11.5. Распределение t Стьюдента...............................................................62
2.11.6. Распределение Фишера......................................................................63
3. Статистические гипотезы ...............................................................................64
3.1. Основные понятия ...........................................................................................64
3.2. Виды статистических гипотез ........................................................................67
3.3. Статистические критерии ...............................................................................71
3.3.1. Общие сведения ...................................................................................71
3.3.2. Критическая область............................................................................71
3.3.3. Основные принципы проверки статистических гипотез ..................75
3.3.4. Число степеней свободы......................................................................77
3.3.5. Статистическая значимость. Р-уровень значимости.........................79
3.3.6. Критический уровень значимости ошибки принятия гипотез .........80
3
3.3.7. Определение критических значений распределений
на практике в модуле «Вероятностный калькулятор»
программы Statistica.......................................................................................87
3.4. Решение задачи сравнения выборок ..............................................................90
3.4.1. Виды выборок данных.........................................................................90
3.4.2. Проверка гипотезы о равенстве дисперсий
двух независимых выборок...........................................................................92
3.4.3. Параметрический критерий проверки статистических
гипотез – t-критерий Стьюдента...................................................................95
3.4.4. Оценка разности средних для независимых выборок .......................98
3.4.5. Оценка разности между средними
для зависимых (парных) выборок ..............................................................102
3.4.6. Пример выполнения оценки разности средних
и дисперсий для независимых выборок в программе Statistica................106
3.5. Проверка статистических гипотез о виде распределения ..........................112
3.5.1. Общие сведения .................................................................................112
3.5.2. Проверка гипотез о виде распределения
по критерию согласия 2 .............................................................................114
3.5.3. Проверка гипотез о виде распределения
по критерию Шапиро – Уилка ....................................................................123
3.5.4. Упрощенные методы проверки нормальности выборки ................126
4. Точечные и интервальные оценки..............................................................129
4.1. Введение.........................................................................................................129
4.2. Погрешности измерений и причины возникновения ошибок ...................130
4.3. Точечные оценки и требования к ним .........................................................132
4.4. Стандартная ошибка среднего арифметического .......................................136
4.5. Интервальные оценки ...................................................................................139
4.5.1. Общие сведения .................................................................................139
4.5.2. Доверительный интервал для математического ожидания
генеральной совокупности, имеющей нормальное распределение
при известной дисперсии ............................................................................142
4.5.3. Построение доверительного интервала для оценки
среднего значения генеральной совокупности..........................................145
4.5.4. Доверительный интервал для среднего
квадратического отклонения 2 .................................................................146
4.5.5. Доверительный интервал для оценки коэффициента корреляции ... 148
5. Корреляционно-регрессионный анализ .....................................................149
5.1. Общие сведения.............................................................................................149
5.2. Исследование взаимосвязи между признаками ..........................................150
5.2.1. Параметрические меры связи. Коэффициент корреляции Пирсона .... 150
5.2.2. Ранговые корреляции.........................................................................154
5.2.2.1. Коэффициент корреляции Спирмэна ..................................155
5.2.2.2. Коэффициент корреляции Кендалла ...................................158
4
5.3. Парный регрессионный анализ ....................................................................161
5.3.1. Общие сведения .................................................................................161
5.3.2. Проверка степени статистической связи..........................................164
5.3.3. Вычисление параметров линейной регрессии .................................171
5.4. Вычисление оценок регрессии .....................................................................176
5.5. Дисперсионный анализ .................................................................................179
5.6. Статистическая оценка полученных коэффициентов регрессии...............184
5.7. Исследование уравнения регрессии.............................................................186
5.7.1. Показатели качества и достоверности уравнения ...........................186
5.7.2. Показатели адекватности модели .....................................................190
5.7.2.1. Анализ нормальности остатков ...........................................190
5.7.2.2. Анализ остатков на нелинейность.......................................191
5.7.2.3. Анализ остатков на автокорреляцию ..................................196
5.7.2.4. Доверительный интервал .....................................................197
6. Множественная регрессия ............................................................................200
6.1. Отличия множественной регрессии от парной ...........................................200
6.2. Пошаговая или гребневая регрессия............................................................202
6.3. Пример выполнения задания в пакете Statistica методом
всех регрессий.......................................................................................................203
6.4. Пошаговая регрессия.....................................................................................207
7. Нелинейная регрессия ...................................................................................214
7.1. Виды моделей ................................................................................................214
7.2. Виды графиков функций...............................................................................216
7.3. Начальные вопросы спецификации регрессионных моделей....................216
7.3.1. Выбор аргументов и формы уравнения регрессии..........................216
7.3.2. Классы нелинейной регрессии..........................................................217
7.4. Нелинейная парная регрессия ......................................................................220
7.4.1. Степенная функция............................................................................220
7.4.2. Показательная и экспоненциальная функции..................................224
7.4.3. Логарифмическая функция ...............................................................226
7.4.4. Логистическая кривая........................................................................227
7.4.5. Функции с одним экстремумом ........................................................228
7.4.6. Функции с несколькими экстремумами ...........................................230
7.4.6.1. Полиномиальная функция....................................................230
7.4.6.2. Сплайн-функция ...................................................................231
7.5. Нелинейная множественная регрессия ........................................................231
7.5.1. Некоторые процедуры преобразования аргументов
в уравнениях, нелинейных относительно независимых переменных ........ 232
7.5.1.1. Полиномиальная регрессия..................................................232
7.5.1.2. Гипербола ..............................................................................234
7.5.2. Некоторые процедуры преобразование аргументов
в уравнениях, нелинейных относительно параметров..............................235
7.5.2.1. Общие сведения ....................................................................235
5
7.5.2.2. Логарифмические преобразования для степенных,
показательных и экспоненциальных функций................................236
7.5.2.3. Некоторые дополнительные процедуры
преобразования переменных ............................................................240
7.5.3. Некоторые вопросы спецификации регрессионных моделей ........243
7.6. Фиксированная нелинейная регрессия ........................................................250
7.7. Нелинейное оценивание................................................................................251
Заключение..........................................................................................................257
Список использованных источников .............................................................258
Приложения ........................................................................................................265
Приложение А. Результаты анализов проб по полезному компоненту КCl....... 265
Приложение Б. Таблица данных к проверке соответствия нормальному
закону распределения значений переменных по критерию согласия χ2 ..........266
Приложение В. Коэффициенты для вычисления статистики критерия
Шапиро – Уилка ..................................................................................................268
Приложение Г. Критические значения максимального отклонения
выборочной интегральной функции распределения от теоретической,
Dкрит (для критерия Лиллиефорса) ......................................................................270
Приложение Д. Результаты обработки проб для линейной регрессии ............271
Приложение Е. Таблица остатков парной регрессии ........................................272
Приложение Ж. Статистика Дарбина – Уотсона:
d1 и d2 для уровня значимости 0,05 .....................................................................273
6
ВВЕДЕНИЕ
В литературе можно встретить разные определения термина «статистика» как в сфере общественной жизни, так и
в отдельных отраслях науки и промышленности. Статистика
горнодобывающей промышленности включает в себя две области: с одной стороны – науку, имеющую свой предмет изучения, с другой – наработанные технологии сбора, обработки и
анализа данных [1; 12; 20; 21; 22; 27; 42; 54].
Применительно к отраслям производства, занимающимся
добычей различного сырья из недр и изучением геологического
строения объекта разработки, можно дать такое определение: статистика – это наука, изучающая закономерности в хаосе случайных
данных, позволяет выделить среди них устойчивые связи, установить и предложить наиболее подходящие для массива информации
совокупности методов обработки. Предмет изучается, с одной стороны, как математическая дисциплина, а применительно к горнодобывающей области – как прикладная статистика.
Математической основой прикладной статистики и статистических методов анализа данных в целом служит математическая дисциплина, известная под названием «Теория вероятностей
и математическая статистика» [1; 12; 20]. Основой этой дисциплины является изложение теорем и их доказательств. Основные
цели этой науки, как и многих других математических дисциплин, – это логическое построение самой теории, ее внутренняя
безупречность и согласованность, поэтому теория математической статистики является, как правило, аксиоматической1. Теория
вероятностей изучает случайные события. Это могут быть погрешности измерений, например погрешности измерений углов
1
Аксиоматический метод (греч. axioma – «значимое, принятое положение») – идеология построения теории, при которой первичные утверждения
избираются в качестве истинных аксиом, из которых впоследствии доказываются остальные утверждения и теоремы этой теории.
7
двумя приемами или значение содержания хлористого калия по
пробе. Вместе с тем случайное событие может быть и нечисловым: наличие или отсутствие газодинамического явления при
разработке панели. Это событие может происходить, а может и не
происходить. Или наличие замещения полезного ископаемого
(сильвинитовой руды) разубоживающей породой (каменной солью) на отрабатываемом пласте рудника, визуально зафиксированное на стенке выработки геологом. Оно характеризуется
пониженным содержанием сильвинита и одновременным повышением в составе пробы содержания хлористого натрия (компонента, понижающего качество сильвинитовой руды). При анализе
зоны замещения как случайного события нас будет интересовать
мощность сильвинитовой части пласта. Если она больше кондиционной2, пласт будем считать сильвинитового состава. Как
только мощность сильвинита становится меньше кондиционной,
эта граница считается границей зоны замещения. На этом примере случайного события нас в первую очередь интересует количественная величина мощности сильвинита, по которой определяется факт наличия замещения. В случаях, когда значение содержания полезного компонента в отобранных пробах меньше
кондиционного значения, также можно делать выводы о появлении зоны замещения. Таким образом, в прикладной статистике
понятие случайной величины первично, именно по её значению
часто делают выводы о состоявшемся (или ожидаемом) событии.
Поиск соответствия между абстрактными математическими понятиями и реальными природными, геологическими, горными или иными объектами может присутствовать, но является
побочной (вторичной) задачей теории математической науки.
Для прикладной статистики, наоборот, важно иметь дело с реальными данными и делать на их основе осмысленные заключения, имеющие значение для практики. По этой причине некоторые специалисты считают, что прикладная статистика – это не2
Кондиции на минеральное сырье представляют собой совокупность
требований к качеству полезных ископаемых.
8
сколько другая область знаний, чем математическая статистика
[1; 42]. В отличие от математической статистики основной задачей прикладных статистических методов является методология
анализа данных, а с широким внедрением электронно-вычислительных машин (ЭВМ) ещё и алгоритмы расчетов. Использование геоинформации в анализируемых данных даёт возможность
отображать результаты статистических исследований на цифровых планах и картах, совмещая их с горной обстановкой. Теоремы математической статистики в прикладных отраслях приводятся для обоснования разработанных алгоритмов в прикладной
статистике и часто без доказательств.
Прикладную статистику нельзя полностью относить к математике ещё и потому, что она включает в себя и нематематические категории. Во-первых, технологию организации статистических исследований: как проводить исследование, как фиксировать данные (например, через какое расстояние проводить
опробование в бороздах или скважинах), как подготавливать данные к обработке (какие методы сглаживания или фильтрации использовать). Во-вторых, прикладная статистика предусматривает
методологию компьютерной обработки данных, последовательность и технологию проверки данных в базах данных и электронных таблицах, в статистических программных продуктах. Втретьих, форму представления результатов исследований – в табличном виде, графически на планах и картах земной поверхности
или на геологической модели в виде изолиний или областей, в
виде выделенных различным цветом (классифицированных) пикселей на планах или вокселей в трёхмерной графике. Табличная
форма самая простая, но она ненаглядна. Графические способы
отображения чрезвычайно понятны и доказательны, они дают
возможность решить и другие задачи – например, определить
площадь зоны на цифровых планах или объём полезного компонента в выработке при использовании воксельной модели. Эти
примеры показывают использование статистики при анализе пространственно распределённых данных (их ещё именуют геопространственными). Особенности обработки распределённых в про9
странстве данных породили новое направление в статистических
исследованиях – геостатистику [22; 27].
Основа профессиональных знаний исследователя – инженера-горняка, маркшейдера, геолога, геодезиста – закладывается
на этапе обучения. Позднее знания дополняются и расширяются в
том частном направлении, в котором специалист использует методы прикладного статистического анализа. В работах [21; 27; 47;
54; 72] показано, как математическую статистику можно использовать в горном и нефтегазовом деле для контроля величины погрешностей измерений, как разделить эти погрешности на случайные, систематические и грубые, как создавать и использовать
модели на основе метода группового учёта аргументов (МГУА)
для решения многих задач горного производства, включая области геометризации месторождений полезных ископаемых [27].
На многих горнодобывающих предприятиях широко внедряются цифровые технологии с хранением результатов наблюдений в базах данных. В этом случае объём информации, требующей
обработки, многократно возрастает. В 2008 г. в специальном выпуске журнала Nature [71], посвящённом взрывному росту мировых объёмов информации, впервые появился термин big data –
«большие данные». С широким внедрением компьютеров появились новые технологические возможности для анализа огромного
количества данных. Обработка больших объёмов данных позволяет вскрыть неочевидные тенденции и закономерности. Для эффективного использования больших данных на современном этапе
используются технологии машинного обучения, искусственные
нейронные сети, системы распознавания образов, технологии прогнозирования, методы пространственного анализа, визуализация
аналитических данных и, конечно, статистические методы анализа.
В целом использование результатов статистического анализа в горном деле позволяет улучшить методики наблюдений
и обработки, устранить воздействие одних или уменьшить последствия других погрешностей, составить статистические зависимости одних переменных от других, определить закономерности изменения исследуемых переменных.
10
1. ОБЩИЕ СВЕДЕНИЯ
1.1. История развития математической статистики
Первые исследования в области, которую сейчас именуют
статистикой, проводились уже в древнем Китае. В ранние периоды развития государств налоговая система стремилась
учесть все постройки и объекты хозяйственной жизни граждан.
В основе учёта лежала инвентаризация и прямая регистрация
имущества, а также количества граждан. В то время Китаю требовалось учитывать численность населения, отдельно проводился учёт пригодных для призыва на воинскую службу. За период
развития Римской империи в ней сформировалась сложная налоговая система, в том числе существовала отдельная государственная служба по учету имущества граждан для сбора налогов. В Венеции уже в XIII в., послы, направляемые в какое-либо
государство, по возращении должны были отчитаться о территориальном, экономическом, политическом состоянии государства пребывания, сейчас бы сказали представить «статистические данные». Спустя два века в Италии появляются первые печатные работы, которые включали статистические сведения о
состоянии различных государств.
Слово «статистика» происходит от латинского status, которое означало состояние чего-либо. На первых этапах этот термин
употреблялся в значении «политическое состояние». Привычное
нам значение слово «статистика» ввел в XVIII в. немецкий ученый Г. Ахенваль. Его школа оказала огромное влияние на судьбу
статистики. Научные работы этого учёного стали основой для
преподавания статистики в университетах Германии.
Математическая статистика начинает формироваться с работ известного учёного Карла Фридриха Гаусса (1777–1855).
Используя теорию вероятностей, в 1795 г. он разработал метод
11
наименьших квадратов и применил его для вычисления орбиты
планет. Его фамилией названо самое распространённое распределений вероятностей – нормальное, или гауссовское. В главах
статистических исследований, посвящённых случайным процессам, основные объекты изучения также носят его имя – гауссовские процессы [40].
Представленные далее этапы развития теории отражают
потребности практики, послужившие толчком к развитию статистических исследований. Использование компьютеров и появление программных продуктов для рутинных статистических
вычислений, с одной стороны, предоставило инструменты статистических вычислений широкому кругу пользователей, с другой стороны, появилась возможность расширения методов исследования. История развития математической статистики
включает несколько периодов [67]:
1) Период накопления знаний (описательная статистика):
середина XVII – конец XIX в.
Научное направление статистики зародилось в XVII в. Развитие происходило примерно в одно время как в Германии, так и
в Англии. В каждом государстве были свои школы, отличавшиеся
по тематике исследований. Основателем школы в Германии считают Германа Конринга (1606–1681). Заслугой его школы считают развитие статистики как описательной науки.
Основоположниками английской школы считают Вильяма
Петти (1623–1687), Джона Граунта (1620–1674). В основу их
исследований заложено установление закономерностей и взаимосвязей в явлениях.
2) Период формирования науки (объяснительная статистика) – первая треть XX в.
В последующем, развивая статистику как науку, Годфрид
Ахенваль (1719–1772) ввел термин «статистика». Он первым читал курс лекций по статистике в Марбургском университете. Его
соотечественник А. Шлицер, выдвинул идею о том, что предметом статистики может быть не только государство, а также и всё
12
общество. А. Кетле (1796–1874) опубликовал идею о том, что
статистика должна не только описывать, но прежде всего объяснять причины различных явлений, социально-экономических
процессов и событий. Он опубликовал результаты исследований,
доказывающие, что разные методы расчета средней величины
могут давать совершенно различный результат. На основании
этих исследований он рекомендует выбирать такой способ расчета средней, который соответствует поставленной цели.
3) Период индустриального использования (математическая
статистика): вторая половина XX в. до настоящего времени. Этот
этап связывают с известными исследователями, имена которых
часто встречаются в теории математической статистики. В честь
их названы многие теоремы, законы распределения вероятностей,
критерии и показатели. К ним относят Ф. Гальтона (1822–1911),
К. Пирсона (1857–1936), В. Госсета (псевдоним Стьюдент,
1876–1936), Р. Фишера (1890–1962) и других ученых. Российские
учёные также внесли свой вклад на данном этапе. В частности,
широко известна теорема П.Л. Чебышева.
В России становление государственной статистики можно
отнести к концу XII – началу XIII в. Позднее преобразования
Петра I (1672–1725) вызывали необходимость в достоверном и
полном учете как материальных ресурсов, так и численности
населения государства.
1.2. Общие сведения о параметрической
и непараметрической статистике
В начале XX в. основные исследования были посвящены
параметрическим методам математической статистики. Они основаны на свойствах статистических законов распределения и
используют теорию вероятностей. Например, в теодолитном
ходе углы измерены одним полным приемом. Вычислим разности углов между полуприёмами. Если у теодолита выполнены
13
все проверки, эти разности (погрешности) будут представлять
собою случайные числа (говорят «ряд случайных чисел»). Среднее значение погрешностей будет близко к нулю, а количество
положительных значений будет (примерно) равно количеству
отрицательных погрешностей.
Для упрощения восприятия наблюдений их обычно объединяют в группы. Затем необходимо установить, сколько раз
встретились числовые значения погрешностей в каждой группе.
Сделав это для каждой группы, записать ее величину. Полученные в такой таблице результаты измерений именуются распределением величин, или частот. Это распределение принято
представлять в виде графика, на котором изображается полигон
распределения, или гистограмма распределения, представленная
на рис. 1.1. Границы этого графика помогут натолкнуть на использование необходимых в каждом случае статистических методов обработки.
В нашем примере границы графика напоминают контуры
колокола с максимальной точкой в центре полигона и с симметричными ветвями, отходящими в обе стороны. Такое изображение графика соответствует кривой нормального распределения.
Рис. 1.1. График кривой нормального распределения
14
Понятие нормального распределения было введено в математическую статистику К.Ф. Гауссом, поэтому кривую на
графике именуют также кривой Гаусса. Он предложил и обосновал математическое описание этой кривой. В общем случае
для построения графика нормального распределения требуется
бесчисленное количество случаев. В практической работе приходится обходиться тем ограниченным объёмом материала, который накоплен в исследованиях. Если график, построенный по
ограниченному объёму данных, незначительно отличается от
кривой распределения Гаусса, это дает основание исследователю в обработке своих данных использовать параметрические
методы. Параметрическими методы именуют потому, что они
основываются на оценке параметров выборочного распределения интересующей величины. Нормальное распределение для
построения и анализа кривой Гаусса требует всего двух параметров – среднего значения, оно должно соответствовать высоте
перпендикуляра, восстановленного в центре кривой, и среднего
квадратического, или стандартного отклонения наблюдений,
отражающего рассеивание значений вокруг средней величины.
Разработанную до 30-х гг. ХХ в. теорию статистического
анализа данных именуют параметрической статистикой. В качестве основного объекта её изучения используются выборки из
распределений, описываемые несколькими параметрами.
Параметрические методы дают исследователю много преимуществ. Вместе с тем нельзя забывать о том, что использование параметрических методов оправдано в том случае, когда
исследуемые данные подчиняются распределению, незначительно отличающемуся от гауссовского. Например, когда в процессе анализа вычисляется новая переменная, полученная аддитивно (как сумма нескольких независимых случайных величин),
она также будет подчиняться нормальному распределению. Но
когда переменная вычисляется мультипликативно (как произведение случайных величин), она может иметь отличное от нормального распределение. Если в анализе не используются муль15
типликативные модели, то и приближение реального распределения к нормальному считается лишь формальной операцией.
Такие соображения дают основания для критики параметрической статистики [7; 40].
Во второй половине XX в. развивались непараметрические методы, они не предполагают использования каких-либо
законов распределения. При описании выборочного распределения исследуемой величины непараметрические методы не
требуют вычислений параметров (среднего или стандартного
отклонения). По этой причине они именуются свободными от
параметров, или свободно распределенными. Непараметрические методы также приемлемы, когда объем выборок ограничен.
Если в процессе анализа доказано, что данные подчиняются
определенной вероятностной модели, то параметрическая статистика обычно дает больше информации. Тем не менее исследования могут также привести к предвзятым выводам, если используется неправильная модель распределения. При увеличении объёма
выборки её распределение обычно приближается к нормальному.
С другой стороны, непараметрическая статистика требует
меньше предположений о данных и, следовательно, будет лучше
в ситуациях, когда истинное распределение неизвестно или не
может быть легко аппроксимировано с использованием распределения вероятностей.
При выборе метода следует иметь в виду следующие особенности. Выводы параметрической статистики основаны на вероятности р. Но последняя вычисляется с погрешностью, которая
связана как с объёмом наблюдений, так и с характером распределения фиксируемой случайной величины. Таким образом, все критерии параметрической статистики являются асимптотическими,
т.е. рассчитывают значения вероятности р с погрешностью, которая уменьшается по мере увеличения количества наблюдений.
В учебниках и статьях встречается высказывание о том, что
можно применять подходы и инструменты параметрической статистики при малом количестве данных, даже от 30 наблюдений.
16
Такие выводы корректны только для случайных величин с коэффициентом эксцесса (см. п. 2.7) не более нескольких первых единиц (обычно до трех). Для выборок большого объёма (n > 100) нет
необходимости использовать непараметрические критерии. Большие по объему выборки подчиняются нормальному закону, даже
если какая-либо малая часть исходной переменной не является
нормальной или элементы выборки измерены с погрешностью.
Технологии непараметрической статистики могут анализировать не исходные числовые значения, а их ранги. В этом
случае использование идей непараметрической статистики,
обоснованных для анализа истинно числовых случайных величин, понижает ценность полученных результатов и требует их
дополнительного подтверждения.
В методах непараметрической статистики имеются точные
критерии корректного вычисления вероятности р вне зависимости от объёма наблюдений. Также используются и асимптотические [15], которые рассчитывают вероятность с погрешностью,
уменьшающейся при увеличении числа наблюдений.
Корректно подобранные методы обработки позволяют повысить вероятность правильно принятых решений среди всех возможных. В некоторых отраслях промышленности объект исследований
рассредоточен в пространстве. В геодезии это земная поверхность,
в геологии и на горно-добывающих предприятиях это недра, в географии – территории материков. Геопространственная составляющая также предполагает свои особенности обработки данных.
1.3. Классификация статистических методов
по типу используемых данных
На состояние недр и природной среды воздействуют многие условия. Например, явления, происходящие в мантии, являются причиной движения континентов, вулканизма, землетрясений и горообразований. Сказывается и деятельность внешних
17
сил – выветривание, работа текучих вод, деятельность волн и
приливов, действие силы тяжести. По этой причине выявление
структуры взаимосвязей влияющих условий на исследуемый
параметр вызывает определённые трудности. В тех случаях, когда решения должны приниматься на основании анализа неполной информации, «использование методов статистического анализа является не только оправданным, но и существенно необходимым» [49]. В процессе исследований в реальных условиях
многие измеряемые значения исследуемых признаков могут
быть описаны только статистически.
Использование разнообразных статистических методов в
практике исследований природной среды, в анализе геологического строения недр и условий разработки требует упорядочить и классифицировать эти технологии. В научной литературе принято разделять «прикладную статистику по следующим
направлениям:
– статистика случайных величин (одномерная статистика);
– многомерный статистический анализ;
– статистика случайных функций (процессов) и временных рядов;
– статистика объектов нечисловой природы» [41].
В одномерной статистике элементом изучаемой выборки является число. Например, рассчитываем погрешности измерения
горизонтальных углов полным приёмом в теодолитных ходах. Все
погрешности измерений углов теодолитного хода опорной маркшейдерской сети (ОМС) представляют выборку. Погрешность измерения угла (вычисленная как разность из двух полуприёмов) на
точке опорной маркшейдерской сети есть элемент выборки.
Во втором разделе элементом выборки является вектор.
Например, на участке горной выработки отобраны пробы через
50 м и получены значения переменных: мощность пласта, пространственные координаты Х, Y, содержание полезного компонента и высотная отметка кровли пласта. Все значения, кроме
содержания компонента, определяются быстро, а качество про18
бы определяется в химической лаборатории продолжительное
время. Если мы установим зависимость полезного компонента
от других переменных в виде некоторой функции, тогда можно
не использовать лабораторию, а вычислять значение полезного
компонента. Применение выведенной функции для расчёта значения полезного компонента сокращает не только время обработки, но и средства. В этом примере имеется выборка из пяти
переменных-векторов, а выбранный элемент – содержание полезного компонента.
Элементом выборки третьего раздела является функция.
В ряде случаев, когда исследуемый признак обладает высокой
изменчивостью в пространстве или отбор проб сопровождается
погрешностями, значение признака не будет выражаться числом, а будет принадлежать некоторому интервалу. Через каждую точку этого интервала может проходить множество функций, одна их них (выбранная по какому-либо критерию или усреднённая из нескольких «лучших» реализаций) и будет
являться реализацией (экземпляром) выборки из нескольких
(множества) функций.
В четвертом случае элемент выборки является объектом
нечисловой природы. Такими объектами считаются элементы
пространств, не являющиеся линейными [51; 71]. Основные объекты геопространства, с которыми связаны экологи, геологи, кадастровые инженеры, специалисты горнодобывающих и ряда
других отраслей промышленности, также относятся к этой группе. В качестве примеров можно привести бинарные отношения
среди нульмерных, одномерных или двумерных объектов геопространства при использовании геоинформацонных технологий
(ранжирование объектов по величине, упорядочение выработок
по времени разработки, разбиение выемочных единиц на классы
по величине потерь полезного ископаемого, принадлежность выработок панели), множества, а также последовательности символов. С ними невозможно выполнять какие-либо арифметические
и алгебраические действия, не теряя при этом содержательного
19
смысла. Например, множество всех пунктов геодезических сетей
на территории Верхнекамского месторождения калийно-магниевых солей (ВКМКС) отличаются как по точности, так и по территориальной принадлежности. Вычислительные технологии статистики объектов нечисловой природы основываются на применении расстояний (мер близости или показателей различия) в
пространствах этих объектов. Пункты, используемые маркшейдерской службой каждого рудника, выделяются в отдельные
подмножества. Если группировка пунктов по рудникам использует только расстояние (как меру близости или степень различия),
её результаты также следует относить к данной области статистики, поскольку они могут работать с объектами произвольного
пространства, если в нем задана метрика или ее аналоги. Таким
образом, многие методы классификации могут быть связаны с
объектами нечисловой природы [29; 44]. Среди этих методов для
анализа геопространственных объектов чаще всего используются
процедуры дискриминации, кластеризации и группировки.
1.4. Особенности подготовки горно-геологических
и природных данных для исследования с помощью
методов математической статистики
Проведём статистические исследования на примере отработки ВКМКС в программе Statistica. Месторождение приурочено к центральной части Соликамской впадины Предуральского краевого прогиба. Залежи полезного ископаемого (калийномагниевых солей) расположены внутри соляной толщи – покровной и подстилающей каменной соли – и имеют пластовую
форму. Калийная залежь отрабатывается по четырем промышленным пластам из тринадцати, слагающих продуктивную толщу. Складки всех порядков распространены неравномерно, наиболее интенсивная складчатость наблюдается в антиклинальных
складках высших порядков. Складки группируются в складча20
тые зоны, между которыми находятся области сравнительно
спокойного залегания.
Проектом на рудниках предусмотрена панельная и панельно-блоковая система подготовки запасов промышленных
пластов, ширина панели достигает 400 м. При панельно-блоковой подготовке ширина панели увеличивается. На рудниках
принята камерная система разработки с жесткими ленточными
междукамерными целиками, предусматривающая комбайновый
способ разработки промышленных пластов. Комбайны имеют
ограничение по углу наклона выработки – до 12° у «Урал-20» и
до 8° у «Урал-10». В связи с этим ограничением на участках с
развитой складчатостью повышаются потери полезного ископаемого и увеличиваются объёмы разубоживания в рудной массе.
На этапе планирования горных работ между подготовительными выработками отсутствует информация о гипсометрии пласта
на всю ширину панели [3].
Изучаемые в ресурсных отраслях природные и техногенные
процессы, геологические явления связаны со многими параметрами, их характеризующими. По этой причине наблюдаемые данные
многомерны, а исследователь не всегда имеет возможность получить все значения параметров. Горные работы на любом объекте
относятся к опасному производству. Например, на Верхнекамском
месторождении калийных солей особую опасность представляют
водоносные горизонты, лежащие на водозащитных отложениях
(ВЗТ). Эти отложения на отдельных участках могут иметь аномальное строение – разрывы пластов, зафиксированы зоны флексурно-складчатых деформаций, наблюдаются и процессы выщелачивания. Все эти нарушения водозащитной толщи при её подработке грозят затоплением рудника и по этой причине состояние
ВЗТ постоянно изучается. Но разбуривать скважинами с земной
поверхности ВЗТ опасно, поэтому водозащитную толщу изучают
геофизическими методами. А они не дают всей необходимой информации.
21
Чтобы избежать опасных проявлений горного массива
проводится мониторинг состояния массива и его элементов.
Фиксируется и вводится в базу данных информация о добываемой руде, о содержании полезного компонента и наличии включений пустой породы, о мощности пласта и междупластий. Для
этих целей на Верхнекамских рудниках ведётся с определённой
частотой отбор проб по стенкам горных выработок, отбор жидкостей в местах их скоплений, регистрируются и документируются внезапные выбросы газа. По выработкам измеряется мощность пласта, по отобранным пробам лаборатория определяет
качество полезного компонента, химический состав жидкостей
позволяет определить тип рассола и степень опасности. Проводятся и разнообразные работы, связанные с изучением массива,
земной поверхности и различных объектов как на земной поверхности, так и в горных выработках. В процессе ведения горных разработок и инженерных исследований быстрыми темпами
накапливается большое количество разнообразной информации.
Одно из важнейших направлений развития горной промышленности состоит в широком внедрении компьютерных технологий
сбора, хранения, обработки и исследования накопленной информации с целью изучения поведения массива и повышения
эффективности горных разработок.
Последующая обработка накопленной информации уже на
первом этапе требует предварительного анализа. И одним из
самых плодотворных способов описания характера изменчивости геологических признаков (содержания полезного компонента, мощности пласта и др.) является выбор и применение соответствующего закона распределения. Он позволит определить
вероятность того, что результат измерения какого-либо горногеологического параметра, выбранного случайным образом, будет иметь любое априори заданное значение или лежать в каком-либо интервале значений. Изучаемые непрерывные параметры – содержание компонента, мощность пласта и другие –
удовлетворительно описываются законом (кривой) нормального
22
распределения. Такое моделирование представляет собой, по
существу, статистический метод исследования выборочных распределений. Когда некоторый случайный процесс удается полностью описать с помощью математической модели, то при вычислении математических ожиданий, дисперсий и вероятностей
автоматически полностью учитывается вся область возможных
изменений. В процессе предварительных исследований необходимо установить резко выделяющиеся значения (выбросы) и
принять решение об их дальнейшем использовании, выдвинуть
статистические гипотезы и уметь их подтвердить или опровергнуть, оценить параметры генеральной совокупности и доказать
их статистическую состоятельность.
Например, по выемочному штреку одного из рудников
ВКМКС сильвинитового участка пласта «В» отобраны пробы.
По пробам от нулевого до пикета + 400 м содержание полезного
компонента в сильвинитовой руде (KCl) уменьшалось с 36 до
25 %, а содержание полезного компонента в карналлитовой руде
(MgCl2) в пробах повышалось с 2 до 12 %. Можно предположить, что ожидается замещение сильвинита в пласте карналлитом. На пикете 150 м (в сильвинитовой части пласта) в пробе
наблюдается повышенное содержание MgCl2 – 19 %. Появление
в сильвинитовой части пласта пробы с высоким содержанием
карналлита (хлорида магния) свидетельствует либо об ошибке
лаборатории, либо о наличии на небольшом участке выработки
замещения сильвинита карналлитом. Но его можно трактовать
как выброс (ошибка). Если содержание сильвинита по этой пробе не отличается от соседних проб, скорее всего это выброс.
Приведенный пример даёт обобщённую информацию
о совокупности проб участка выработки. Но пробы, отобранные
из определённого участка массива, имеют и пространственную
привязку. Такие данные должны исследоваться с учётом их пространственного положения. Если повышенное содержание хлорида магния зафиксировано по многим выработкам и приурочено к одной вытянутой зоне, это признак появления границы за23
мещения сильвинита карналлитом. Геопространственные данные изучаются с учётом особенности их расположения на планах, картах и 3D-моделях.
Наличие пространственной составляющей в данных даёт
хороший результат при статистических исследованиях, использующих меры близости или удалённости (дискриминации). Это
кластерный и дискриминантный анализ, а по линиям (профилям,
горным выработкам) – анализ временных рядов.
Применяя те или иные статистические технологии обработки, невозможно предвидеть характер изменения отдельного
элемента выборки, можно только вычислить ожидаемую вероятность того, что он будет вести себя некоторым априори установленным образом. В большей степени в этих вопросах должны использоваться методы оценки погрешностей измерений,
методы парной и множественной корреляции, методы сравнения, многофакторные, а также некоторые другие специальные
методы. Если по пробам выработки установлена парная зависимость содержания сильвинита от карналлита, она поможет
в оценке причин увеличенного содержания карналлита в пробе.
В этом примере может использоваться и множественный регрессионный анализ.
В горной отрасли статистические методы позволяют оценить сложные, многокомпонентные системы и выявить основные факторы, влияющие на формирование рудных тел и пластов
месторождений, горно-геологических условий разработки полезных ископаемых, оптимизировать технологию переработки
минерального сырья, упорядочить качество полезного компонента в потоках руды на обогатительную фабрику и т.д. Вероятностные модели учитывают случайный характер реальных процессов, а в детерминированных моделях этими факторами пренебрегают.
К вероятностным можно отнести вероятностные и регрессионные модели, технологии статистического прогнозирования;
методы теории принятия решений в условиях неопределенности
24
и др. К детерминированным относят модели линейные и нелинейные, матричные, математического программирования, динамического программирования и др.
Вместе с тем не следует забывать, что любая математическая модель представляет собой идеализированное, абстрактное
построение, которое в лучшем случае лишь частично соответствует действительности. Чем сложнее рассматриваемое явление,
тем труднее построить его точную количественную модель; частично это обусловлено самой природой некоторых процессов,
затрудняющей их измерение, а частично тем, что слишком
сложные математические модели чрезмерно громоздки и не
имеют практической ценности.
25
2. ОБЩИЕ СВЕДЕНИЯ ИЗ ТЕОРИИ
ВЕРОЯТНОСТЕЙ
2.1. Основные понятия и задачи теории вероятностей
Теория вероятностей – это раздел математики, изучающий
случайные события, случайные величины, их свойства в массовых наблюдениях и явлениях. Основными объектами изучения
этой дисциплины являются случайные события, случайные величины и функции распределения [1; 60].
Все реально наблюдаемые объекты, процессы и измеренные параметры в природе, горном деле, нефтедобыче, геологии
и многих других областях исследований являются случайными
по своей природе. Геодезические и маркшейдерские измерения,
выполняемые даже в очень хороших условиях, имеют погрешности. Геологические зарисовки для отображения на графике,
замеры для расчёта объёмов разубоживания, химический анализ
проб и другие измерения также сопровождаются погрешностями. Процедура производства таких измерений и конечный итог
зависят от многих составных частей, часть из которых сложно
или невозможно учесть и проконтролировать. Если инженермаркшейдер или геодезист проводит измерения в соответствии
с установленными правилами и допусками, погрешности всех
наблюдаемых данных будут иметь характерный для случайных
величин разброс значений. Поэтому корректный учёт случайных
явлений и их отклонений требует привлечения методов теории
вероятностей и математической статистики. Примером использования такого анализа может служить материал учебника для
студентов маркшейдерской специальности по теории ошибок
и способу наименьших квадратов [47].
С точки зрения математической науки, теория вероятностей направлена на разработку общих теоретико-вероятностных
26
моделей, которые описывают свойства некоторого абстрактного
(неконкретного) явления или объекта случайного характера.
Объектом моделирования выступают не только отклонения от
некоторой средней величины, но и некоторая тенденция поведения самой величины (тренд), обнаруженная в ходе анализа
большого объёма наблюдений [27].
Изучение природы погрешностей измерений натолкнуло
К.Ф. Гаусса на исследование закона распределения, которому бы
они подчинялись. В настоящее время он широко известен и именуется нормальным законом распределения. Полученная в результате
этих исследований теоретическая модель оказалась пригодной для
описания закономерностей поведения большого класса фактических наблюдаемых случайных величин (погрешности угловых измерений теодолитом, использования в качестве критерия отбора
грубых наблюдений n-сигмового интервала и т.д.) [25].
Проведенные в последующем многочисленные теоретические исследования социальных явлений и природных образований, геологических, технологических и иных процессов привели
к практическим результатам, из которых установлено: существует небольшой набор законов распределения (нормальное, равномерное, показательное и др.), их ещё именуют модельными.
Они наиболее часто встречаются в практике реальных наблюдений в геологии, природе, технике, социологии и, конечно, в геодезии и маркшейдерии. Эти модели обладают ярко выраженным
практическим смыслом. Позднее были разработаны и применяются в настоящее время признанные дополнительные «теоретические модели (распределения Фишера, Стьюдента, χ2-распределение и ряд других). Они используются в качестве технических
инструментов в статистических исследованиях (например, при
проверке статистических гипотез). Модельные вероятностные
пространства глубоко исследованы, их результаты в виде числовых характеристик оформлены стандартными таблицами, которые можно найти в приложениях» учебников по теории вероятности и математической статистике [1; 22; 25; 54].
27
Как уже отмечалось, в отличие от математической статистики и теории вероятностей прикладная статистика нацелена на
изучение реального, а не какого-либо абстрактного объекта. Адресное изучение именно этого объекта – первичная задача горного инженера. Например, бороздовые пробы, отобранные по
стенке выемочного штрека геологом, по которым определяется
качество рудной массы из камер. По результатам отбора проб
создаётся база информации в виде выборки, служащая основой
для выявления статистически устойчивых закономерностей на
проектном участке горных разработок [25]. Результаты отработки этой выборки закладываются в план горных работ предприятия и повлияют на экономику рудника. Поэтому основное
предназначение прикладной математической статистики – обоснованный выбор среди множества вероятностных моделей той,
которая наилучшим образом соответствует реальным статистическим данным – тем данным, которые специалист получит от
обработки проб из горной выработки или из скважин, иными
словами, на конкретном объекте исследования. При этом необходимо учитывать, что статистические выводы будут основаны
на ограниченном, выборочном числе наблюдений. Если появится «возможность увеличить число наблюдений или дополнить
их с приграничной территории, возможно, потребуется изменить и выводы. Поэтому для конкретизации заключения о закономерностях изучаемых данных математическая статистика использует аппарат теории вероятностей (например, интервальное
оценивание, статистическую проверку гипотез и др.)» [25].
Таким образом, научный подход к исследованию природных
образований, отдельных явлений и объектов горного производства
предполагает комплексное использование теории (математической
модели) и практики (статистических данных). При этом отбор, накопление в базах данных и систематизация статистических наблюдений производятся с целью обоснования и подтверждения моделей, а привлекаемые теоретические модели используются для описания и объяснения наблюдаемых процессов [25].
28
2.2. Испытание и событие
Испытанием в теории вероятностей именуется выполнение эксперимента, при котором наблюдается изучаемое явление.
Предполагается, что данный эксперимент может быть выполнен
сколь угодно большое количество раз. Результатом испытаний
является событие, которое может наступить в результате проводимого испытания. Перечень возможных взаимоисключающих
результатов (исходов) должен быть описан априори. Например,
при подбрасывании монеты она может упасть на «орла» или
«решку». Будем считать, что на ребро монета не может упасть.
Если монета выпала на «орла», это случайное событие, совпадающее с одним из исходов. Конечно, если проводить большой
объём испытаний с монетой, она может выпасть и на ребро. При
проведении эксперимента требуется выполнение определённого
условия – равной возможности всех исходов. Возможность монетки выпасть при подбрасывании на «орла» или «решку» во
много раз выше, чем на ребро. А если по условиям эксперимента выбрать только «орёл» и «решка», эти исходы становятся
равновозможными.
Достоверным называется событие, которое в данном испытании всегда наступает, его обозначают буквой . Пример
такого события – монета выпала на «орла» или «решку». Невозможным называется событие, которое в данном испытании никогда не наступает, его обозначают знаком . Примером такого
события является выпадение монеты на ребро, если мы принимаем это условие эксперимента.
Случайным называется событие, которое в данном испытании может наступить, а может не наступить [20]. Например,
выброс газа в выработку при её проходке в опасной зоне по газодинамическим проявлениям. Случайные события обозначают
заглавными буквами латинского алфавита А, В, С и т.д.
События называются несовместными, если появление одного из них исключает появление других событий в данном ис29
пытании. В противном случае события будут совместными.
Примеры несовместных событий: появление герба и цифры при
одном бросании монеты, попадание и промах при одном выстреле. А вот при двух выстрелах попадание и промах уже являются совместными событиями.
Множество событий «образуют полную группу событий,
если в результате испытания обязательно наступит хотя бы одно
из них. Вместе с тем, если события образуют полную группу и
несовместны, то в результате испытания появится одно и только
одно из этих событий» [38].
2.3. Случайная величина и её представление
Ранее показано, что теоретической основой математической статистики является теория вероятностей, основанная на
случайных событиях и их вероятностях, случайных величинах,
их распределении и числовых характеристиках.
Случайной величиной называют величину, которая в результате наблюдения принимает то или иное значение, заранее
неизвестное и зависящее от случайных обстоятельств [1; 25]. Её
роль впервые была аргументирована П.Л. Чебышевым, который
обосновал и предложил общепринятую в настоящее время точку
зрения на это понятие (1867 г.). Примеры случайных величин:
содержание полезного компонента в пробах на участке горных
работ по промышленному пласту рудника, погрешности геодезических и маркшейдерских измерений, отклонения фактической мощности пласта от проектного значения и др.
В разных областях исследований используются как дискретные, так и непрерывные случайные величины. Дискретной
называется случайная величина, возможные значения которой
образуют счетное множество (конечное или бесконечное) [20].
Например, величины погрешностей при измерениях горизонтальных углов, полученные из полуприёмов в теодолитном хо30
де, или измерения мощности сильвинитового пласта по подготовительной выработке через каждые 20 м.
Есть и другое, более строгое, определение – случайная величина называется дискретной, если в результате испытания она
принимает одно из значений х1, х2, …, хn с соответствующими
вероятностями р1, р2, …, рn.
Непрерывной называется случайная величина, потенциальные значения которой равномерно распределены на всём интервале числовой оси [65]. Принято считать, что число значений непрерывной случайной величины всегда конечно. В ряде наблюдений за процессами могут фиксироваться дискретные случайные
величины, количество «значений которых настолько велико, что
их условно считают непрерывными» [25]. Например, содержание
хлорида калия, определяемое прибором каждые 4 секунды на
транспортерной ленте в течение суток. Другой пример – профиль,
полученный станцией профилирования проводников вертикальных шахтных стволов – непрерывные случайные величины. А
высотные отметки пикетов, полученные геометрическим нивелированием по головке рельса и расположенные через 20 м, – дискретная случайная величина.
Значения содержания компонента, определённого по бороздовым пробам, отобранным по стенке выработки, представляют дискретную случайную величину. Обычно всю совокупность дискретной случайной величины делят на группы и представляют в виде таблицы распределения вероятностей (табл. 2.1).
В таблице все значения от минимального до максимального
разбиты на одинаковые интервалы (первый столбец табл. 2.1). Во
втором столбце записывается частота появления проб в заданном
интервале. В третьем столбце отображается частота накопленная
(кумулятивная).
Четвёртый столбик отображает в процентах долю проб
каждого интервала. Если в текущем году на площади отработки
2 ЮЗ (второй юго-западной) панели из 60 проб две попало в указанный интервал, четвёртый столбец в табл. 2.1 покажет вероят31
ность (в %) отнесения значения содержания KСl в этих пробах к
указанному в первом столбце таблицы интервалу. Так, в первый
интервал попадает всего две пробы из 60, следовательно, вероятность появления проб в этом интервале 100 % · (2 / 60) = 3,3 %.
Вероятность выражается в долях единицы, но в литературе и в программных продуктах ещё используются и проценты.
Таблица 2.1
Распределение содержания KСl по 2 ЮЗ панели
(выполнено в программе Statistica)
Для количественного сравнения степени возможности появления того или иного значения величины с каждым из них
связывают определенное число. Чем более возможно событие,
тем больше величина этого числа. Такое число и называют вероятностью появления значения. Вероятность события есть численная мера появления возможности этого события. События,
которые происходят чаще, будут более вероятными. События,
которые происходят реже, – менее вероятными. Маловероятными являются события, которые почти никогда не происходят.
Следовательно, понятие вероятности события связано с опытным понятием частоты события.
По табл. 2.1 можно построить полигон или гистограмму
распределения (рис. 2.1), а также другие графики. По гистограмме исследуют форму распределения переменной.
32
а
б
Рис. 2.1. а – гистограмма распределения, построенная по табл. 2.1,
б – график накопленных частот (кумулята)
Правая часть рис. 2.1 построена по 4-му столбцу табл. 2.1
и представляет кумуляту. Из таблицы (столбец 3) видно, что
всего использовано 60 проб. На оси ординат (рис. 2.1, б) отложены накопленные частоты, всего 60 проб, верхняя часть кумуляты не пересекает уровень 100 %.
2.4. Эмпирическая функция распределения
Из изложенного в предыдущем разделе материала видно,
что от постоянной величины случайная отличается тем, что каждому её значению приписывается некоторая вероятность её
появления, примерно так, как это отображено в табл. 2.1. В таком случае для фиксирования наблюдаемой случайной величины потребуется «установить соответствие между всеми возможными её значениями и их вероятностями. Такое соответствие
будет именоваться законом распределения случайной величины.
Его можно задавать в разных формах: табличной, аналитической, графической» [25].
Если возможными значениями случайной величины X являются значения x1, x2, …, xn, вероятность появления каждого из
них обозначена как p1, p2, …, pn. Тогда «закон распределения
33
дискретной случайной величины X может быть записан в виде
таблицы 2.1» [44] или в таблице другой формы, к примеру
табл. 2.2, называемой рядом распределения дискретной случайной величины.
Таблица 2.2
Табличный способ задания дискретной случайной величины
X
x1
x2
x3
…
xn;
Р
p1
p2
p3
…
pn
Обычно в таблице данные размещают по мере их увеличения х1 < х2 < … < хn. И обязательно сумма вероятностей
должна быть равна единице: р1 + р2 + … + рn = 1.
Графики, представленные на рис. 2.1, также характеризуют
закон распределения случайной величины. Их ценность в том,
что мы можем визуально увидеть форму графика, смещение центра распределения влево или вправо, вытянутость графика.
В математике принятой формой закона распределения, которую можно использовать «как для дискретной, так и непрерывной случайной величины, является его аналитическое описание в виде функции распределения» [25]:
F (x) = P (X < x),
(2.1)
где F (x) есть вероятность того, что случайная величина X примет значение, меньшее, чем х. В ряде случаев F (x) называют
функцией накопленной вероятности, её отображает график, называемый кумулятой (рис. 2.1, б).
Кумулята является графическим выражением функции
распределения непрерывной случайной величины. Понять
смысл функции распределения позволит следующий пример.
При х = 20,27 согласно равенству F (20,27) = P (X < 20,27). Из
табл. 2.1 следует, что неравенство X < 20,27 выполняется в двух
случаях из 60. Следовательно, F (20,27) = P (X < 20,27) = р (X) =
34
= 2 / 60 = 0,033. В 4-м столбце табл. 2.1 вероятности приведены
в процентах.
Аналогичное неравенство можно записать уже для второго интервала:
F (21,97) = P (20,27 < X < 21,97) = р (X) = 9 / 60 = 0,150.
Ввиду того, что исходы испытания в строках табл. 2.1
являются несовместными, можно записать как сумму двух интервалов:
P (21,97) = P (X < 21,97) = P (X < 20,27) + P (20,27 < X < 21,97) =
= 0,033 + 0,150 = 0,183.
Общая вероятность P (Х < 30,44) = 1,00. В табл. 2.1 ей соответствует вероятность 100 %.
Таким образом, функция распределения задаёт вероятность попадания случайной величины в заданный интервал значений:
P ( X ) F () F ().
(2.2)
Функция распределения случайной величины обладает
некоторыми важными особенностями:
1) она удовлетворяет неравенству 0 F (x) 1;
2) функция распределения является неубывающей функцией, т.е. если x1 x2, то и F (x1) F (x2);
3) вероятность того, что случайная величина в результате
испытания примет значение, лежащее в интервале (а, b), равна
приращению функции распределения на этом интервале, т.е.
P ( X ) = F () – F ().
График функции распределения случайной величины
представляет собой кривую, именуемую кумулятой. На этом
графике (рис. 2.1) отображается степень нарастания функции.
К недостаткам кумуляты относят невозможность наглядно представить, какие из своих значений непрерывная случайная величина принимает с большей вероятностью, а какие с меньшей.
35
Поэтому в совокупности с этой функцией распределения для
непрерывных случайных величин используется еще одна форма
описания закона распределения. Это функция плотности распределения случайной величины f (x), которая определяется как
производная функции распределения F (x):
f (x) = F' (x),
(2.3)
Графиком функции плотности распределения случайной
величины является уже знакомая нам гистограмма. Плотность
распределения f (x) характеризует вероятность попадания случайной величины в окрестность точки x. График плотности распределения f (x) называют кривой распределения [20].
Из графика 2.1 следует, что свои значения, лежащие в интервале (а = 23,66, b = 25,36), случайная величина принимает с
большей вероятностью (Р = 31,67 %), чем какие-либо другие
значения.
Плотность распределения случайной величины f (x) также
имеет свои особенности [20; 65]:
1) плотность распределения некоторой случайной величины является неотрицательной функцией, поскольку несет смысл
вероятности, т.е. f (x) 0;
2) вероятность того, что в результате проведения опыта
непрерывная случайная величина примет значение, лежащее в
интервале (а, b), равна определенному интегралу в пределах от
а до b, от плотности распределения этой случайной величины,
и равна площади криволинейной трапеции S1, т.е.:
b
P ( a X b) f ( x) dx S1 ;
a
3) определенный интеграл в пределах от – ∞ до b от плотности распределения случайной величины равен функции распределения этой величины, или площади криволинейной трапеции S2:
36
b
F (a) f ( x)dx S2 ;
4) условие нормирования, т.е. определенный интеграл от
– ∞ до + ∞ от плотности распределения случайной величины
равен единице, или:
f ( x)dx 1.
(2.4)
Функции распределения случайной величины или ее
плотность распределения, установленные по фактическим данным, именуются эмпирическими.
Итак:
Функция вероятности – функция, у которой на входе значение Х, а на выходе вероятность события p (х), графически
отображается гистограммой. Иногда её именуют как плотность
вероятности.
Функция распределения – функция, у которой на входе
значение X, а на выходе вероятность событий, меньших или
равных X, графически отображается кумулятой.
2.5. Числовые характеристики случайной величины
В предыдущем разделе показано, что закон распределения, представленный функцией вероятности распределения или
функцией плотности, даёт полное описание случайной величины. Вместе с тем для наблюдаемых данных чаще всего закон
распределения будет неизвестен, и приходится ограничиваться
числами, которые характеризуют всю случайную величину. Такие числа именуют числовыми характеристиками случайной
величины. Ими являются математическое ожидание, дисперсия
и среднее квадратическое отклонение.
37
Из анализа гистограммы (см. рис. 2.1, а) понятно, что она
имеет центр и боковые ветви, уходящие до нуля. Для нормального закона распределения вероятностей в центре гистограммы
будет больше всего значений, в том числе и среднее. А разброс
гистограммы (отклонение от среднего) отображает дисперсия.
С точки зрения теории вероятностей истинное среднее
значение случайной величины должно быть получено только
при бесконечном числе испытаний. На практике нет возможности провести весь объём испытаний, поэтому и истинное среднее определить нельзя. В этом случае определяется некоторая
ожидаемая величина среднего значения, в теории вероятностей
её называют математическим ожиданием.
Пусть имеется выборка случайной величины X (x1, x2, x3,
…, xn) и для каждого значения, принимаемого случайной величиной X, известна его вероятность (p1, p2, p3, …, pn). Тогда ее
математическое ожидание (для дискретной случайной величины) будет равно сумме произведений каждого значения на его
вероятность (выраженной в долях единицы):
n
M ( X ) xi pi .
(2.5)
i 1
Математическое ожидание для непрерывной случайной
величины вычисляется как интеграл от произведения ее значений х на плотность распределения вероятностей f (x):
M (X )
xf ( x ) dx.
(2.6)
Дисперсия D (X) и среднее квадратическое отклонение
σ (Х) – числовые характеристики случайной величины, которые
отражают величину рассеивания, «разброс её возможных значений относительно математического ожидания. Для дискретной и
непрерывной случайной величины, соответственно, дисперсия»
[25] может быть вычислена из выражений:
38
n
D ( X ) ( xi ) 2 pi ; D ( X )
i 1
( xi ) 2 f ( x )dx,
(2.7)
где – математическое ожидание случайной величины в статистике.
Из выражений 2.7 видно, что дисперсия имеет размерность
квадрата фиксируемой величины. В ряде случаев приходится
сравнивать дисперсии сильно отличающихся по значениям переменных (разновеликих). Например, координаты проб будут иметь
4–6 целых цифр и содержание полезных компонентов, значение
которых ограничено одной целой цифрой, сравнение будет некорректно. Поэтому «в качестве характеристики рассеивания
удобнее использовать среднее квадратическое отклонение, совпадающее по размерности со случайной величиной» [25]:
( X ) D( X ).
(2.8)
Значительная часть используемых в статистических технологиях и приложениях модельных (теоретических) законов распределения (биномиальный, нормальный, показательный и др.)
«могут быть однозначно восстановлены по одной-двум своим
числовым характеристикам, чаще всего – по среднему значению
и по дисперсии» [25].
2.6. Генеральная совокупность и выборка
Все наблюдения, входящие в статистическую совокупность, характеризуются единством места и времени исследования. Сплошное статистическое исследование (например, опробование всего промышленного пласта) образует генеральную
совокупность. Общее число членов генеральной совокупности
называют объемом генеральной совокупности.
Вместе с тем чрезмерное увеличение объема любой исходной информации ведет к увеличению «информационного шума»
39
(погрешностей), который подавляет искомую информацию. Это
отражается на вариабельности (изменчивости, случайности) процессов и явлений. По охвату исследование может быть сплошное
и несплошное (выборочное). Эта особенность определяет ход и
методику статистического анализа.
Во многих случаях сплошное статистическое исследование провести просто невозможно. С одной стороны, это связано
с большими размерами генеральной совокупности, или с высокой стоимостью проведения исследований, или отсутствием определенных границ этой совокупности. С другой стороны, если
покроем пробами весь пласт, что останется разрабатывать?
Обычно в статистическом анализе ограничиваются методом выборочного исследования из генеральной совокупности. Выборка
образует совокупность наблюдений, полученных с целью объективного отображения информации о генеральной совокупности.
Массив ее членов называют объемом выборочной совокупности.
Примером выборочной совокупности могут служить данные опробования, полученные в горной выработке, пройденной
по одному из продуктивных пластов калийного рудника. В пройденной выработке длиной 1500 м были отобраны 30 проб, по которым сделан анализ содержания хлористого калия (KСl). При
этом ориентировочные размеры всего отрабатываемого пласта
составляют 14 6 км. Очевидно, что, пока весь пласт не отработан, мы не сможем получить генеральную совокупность.
На промежуточном этапе отработки пласта пробы в горной выработке представляют некоторую часть генеральной совокупности, её именуют выборочной совокупностью. В случае,
когда среднее значение, дисперсию и другие статистические характеристики генеральной совокупности вычисляют по выборке, их так и именуют – выборочное среднее, выборочная дисперсия, и т.д. Поскольку выборка является частью генеральной
совокупности, то статистики по ней определяются приближённо, или говорят, оцениваются. Поэтому часто используются
термины «оценка среднего», «оценка дисперсии» и т.д.
40
Для правильного отображения пробами свойств генеральной совокупности, требуется, чтобы выборка была представительной, или репрезентативной. Для выполнения этого требования необходимо отбирать пробы с большого количества выработок изучаемого участка шахтного поля.
2.7. Простейшие описательные статистики
(Descriptive Statistics) выборки
Из-за того, что выборка представляет только часть генеральной совокупности, объективно возникает расхождение между характеристиками выборки и генеральной совокупности. Величина расхождений зависит от ряда факторов: степени изменчивости изучаемого признака, размера выборки, метода отбора отдельных значений
в выборочную совокупность, принятого уровня достоверности результата исследования. Поскольку значения переменных непостоянны, на первом этапе статистического анализа необходимо научиться
описывать их ожидаемые величины и разброс. Поэтому рассмотрим
числовые характеристики, наиболее часто используемые на начальном этапе обработки выборочных данных и дающие общее представление о значениях, которые принимает переменная. К таким
характеристикам относятся описательные статистики.
Приведём краткий обзор основных описательных статистик, начиная с показателей центра распределения и структурных характеристик вариационного ряда.
Среднее арифметическое ( x ) показывает центральное
положение переменной, рассматривается совместно с доверительным интервалом и описывается формулой:
n
x
i
x i 1 ,
(2.9)
n
где xi – отдельные значения переменной; n – общее число значений переменной.
41
Поскольку количество наблюдений n ограничено, то среднее будем именовать выборочным средним. При статистическом
анализе значений переменной также могут определяться среднее
взвешенное, степенные средние (геометрическое, гармоническое, квадратическое).
Доверительный интервал – это интервал значений, в котором с данным уровнем доверия находится «истинное» (чаще
всего неизвестное) среднее генеральной совокупности [20]. Увеличение количества наблюдений в выборке повышает надёжность оценки среднего. С увеличением рассеивания наблюдаемых
значений в выборке относительно среднего значения снижается
надёжность оценки. Следует помнить, что вычисление доверительных интервалов предполагает нормальное распределение наблюдаемых величин. Если предположение о нормальности не
выполняется, оценка может оказаться низкой, тем ниже, чем
меньше выборка. При значительном объёме выборки (более 100)
качество оценки повышается и без предположения о нормальности выборки. Подробнее о доверительном интервале будет изложено в разделе 4.5
Медиана (Me) – значение переменной, соответствующей
середине упорядоченного вариационного ряда, т.е. такое значение, которое разбивает выборку на две равные части по количеству значений.
При нечётном числе вариантов:
n 1
.
2
(2.10)
xm xm1
n
, где m .
2
2
(2.11)
Me xm1, где m
При чётном числе вариантов:
Me
Мода (Mo ) – это значение переменной, соответствующее
наибольшей частоте появления переменной в выборке. Как пра42
вило, используется для оценки среднего. На гистограмме, показанной рис. 2.1, а, больше всего попадает проб в интервал
(23,73–25,43) – 19 проб. Это и есть модальный интервал. Если
пробы собрать в достаточном количестве с богатых и бедных
участков, то на гистограмме может быть несколько мод. В этом
случае гистограмму именуют мультимодальной.
Среднее арифметическое, медиана и мода могут быть использованы для общей оценки симметричности ряда распределения. В симметричном распределении соблюдается следующее
соотношение: x Me Mo.
Если x Me Mo , то имеет место правосторонняя асимметрия, т.е. большая часть значений изучаемого признака больше модального значения.
Если x Me Mo, то имеет место левосторонняя асимметрия, т.е. большая часть значений изучаемого признака меньше модального значения.
Мода и медиана представляют собой численную характеристику структуры строения вариационного ряда, поэтому их
ещё именуют структурными средними [20].
К структурным характеристикам относятся и аналогичные
статистики:
квартили – делящие ряд на 4 равные части, т.е. делят
две половины выборки (разбитые медианой) ещё раз пополам.
Выделяют нижний квартиль (q1) – число, ниже которого находится 25 % значений выборки. Также выделяется и верхний
квартиль (q3) – число, выше которого находится 25 % значений
выборки. Второй квартиль (q2) равен медиане;
децили – делящие ряд на 10 частей;
перцинтили – делящие ряд на 100 частей и др.
Средние величины, характеризуя вариационный ряд одним
числом, не отражают изменчивости наблюдавшихся значений,
т.е. вариацию. В целях анализа и сопоставления меры рассеивания вариационных рядов рассчитывают численные показатели
43
размера и интенсивности вариации. Для характеристики размера
вариации в статистике используют абсолютные показатели вариации: размах вариации, среднее линейное отклонение, среднее
квадратическое отклонение и дисперсию. Рассмотрим основные
из этих показателей.
Размах (R) – разница между наибольшим и наименьшим
значениями вариационного ряда (выборки):
R xmax xmin ,
(2.12)
Межквартильный размах (межквартильное расстояние) –
величина, равная разности между верхней и нижней квартилями:
q = q3 – q1.
Дисперсия ( 2 ) – средняя арифметическая сумма квадратов отклонений значений от их средней арифметической, рассчитывается по формулам:
– для сгруппированных значений переменной:
x x m
n
2
i
2 i 1
i
n
m
i 1
;
(2.13)
i
– не сгруппированного вариационного ряда:
x x
n
2 i1
2
i
n
,
(2.14)
где mi – частота (вес) значений для соответствующей переменной;
n mi – общее число значений в переменной (объём
совокупности);
xi – значение переменной;
x – среднее арифметическое значение вариационного ряда.
44
Дисперсия может меняться от нуля до бесконечности. Значение дисперсии, равное нулю, свидетельствует об отсутствии
изменчивости, в этом случае значения переменной постоянны.
Вычисленную по формуле (2.14) дисперсию именуют смещённой.
Если объём выборки небольшой, в знаменателе вышеприведенной формулы дисперсии используют не n, а (n – 1). В этом
случае граница разброса данных относительно среднего значения искусственно увеличивается, что является «платой» за риск
некорректного вычисления дисперсии при ограниченных данных. Такую 2 именуют несмещённой оценкой дисперсии. При
увеличении объёма выборки смещённая дисперсия становится
близкой к несмещённой оценке.
Стандартное отклонение (среднее квадратическое отклонение или просто стандарт, или «сигма») вычисляется как
корень квадратный из дисперсии: 2 .
Чем выше дисперсия или стандартное отклонение, тем
сильнее разбросаны значения переменной относительно среднего.
Размах вариации R и стандартное отклонение σ имеют ту
же единицу измерения, что и изучаемая переменная. Дисперсия
2 единицы измерения не имеет.
При анализе разнородных данных величина стандартного
отклонения явно не характеризует меру рассеивания исследуемых признаков. Например, в табл. 2.3 рассчитаны средние значения и стандартное отклонение для сильно отличающихся
значений проб. Координата Y имеет пять значащих цифр перед
десятичным разделителем, а мощность – одну. Стандартное
отклонение по Y много больше, чем у мощности пласта и нерастворимого остатка (NO). Казалось бы, рассеивание в пространстве (по Y) больше, чем изменчивость мощности или NO.
Но если отнести меру рассеивания к среднему значению признака, получаем размах области рассеивания, и он больше у
мощности и у нерастворимого остатка.
45
Коэффициент вариации (V) показывает степень вариации
(разброса, рассеивания) переменной относительно её среднего
значения. Эта статистика позволяет сравнить вариацию двух и
более переменных изучаемой выборки [20].
V
100.
x
(2.15)
Таблица 2.3
Расчёт описательных статистик для выбранных переменных
Чем больше величина коэффициента вариации, тем больше разброс значений вокруг среднего, тем больше неоднородность выборки. В приведенном примере (см. табл. 2.3) разброс
NO в два раза выше, чем вариация по координате Y.
Форма гистограммы распределения также может свидетельствовать о типе распределения переменной или отклонениях от него как в отдельных интервалах, так и в целом. Она показывает, с какой частотой те или иные значения наблюдаемой
переменной попадают в определённые интервалы. Как правило,
рассматривается соответствие выбранных значений нормальному закону распределения, который подробно будет нами рассмотрен ниже (п. 2.11.2). В свою очередь, важнейшими характеристиками формы распределения являются показатели «асимметрия» и «эксцесс».
Асимметрия ( As ) – это мера симметричности распределения относительно центра распределения. Ранее нами уже от46
мечалось, что, если большая часть выборки расположена левее
центра симметрии, имеет место левосторонняя отрицательная
асимметрия, если правее – правосторонняя положительная. Если
распределение симметрично, то асимметрия равна нулю. Нормальное и равномерное распределение абсолютно симметричны.
Для детального описания всех характерностей распределения используются некоторые дополнительные характеристики, в частности моменты распределения. Способ моментов был
разработан русским математиком П.Л. Чебышевым. Моменты
распределения случайной величины вводятся как математические ожидания некоторых простейших функций от случайной
величины. Моментом порядка k относительно точки х0 называется математическое ожидание М (Х – х0)k. Моменты распределения относительно начала координат х = 0 называются начальными моментами.
Для оценки степени асимметричности вариационного ряда
применяют моментный и структурный коэффициенты асимметрии:
моментный коэффициент асимметрии:
As
где
M3
M3
–
центральный
( xi x) m
M3
,
3
момент
(2.16)
третьего
порядка:
3
m
;
структурный коэффициент асимметрии:
As
x M0
,
(2.17)
где M0 – мода эмпирического распределения.
Основной недостаток моментного коэффициента асимметрии заключается в том, что на его величину влияет присутствие в выборке резко выделяющихся значений (выбросов).
В таких случаях рекомендуют либо исключить из анализа резко
47
отличающиеся значения, либо использовать структурные показатели асимметрии [12].
На направление асимметрии указывает знак коэффициента: если As 0 , то это левосторонняя асимметрия, при As 0 –
правосторонняя асимметрия.
Степень существенности асимметрии можно оценить с
помощью средней квадратической погрешности коэффициента
асимметрии ( As ): если соблюдается отношение As : As 3 , то
асимметрия признаётся несущественной, вызванной влиянием
случайных обстоятельств.
Эксцесс (E) – это отклонение вершины эмпирического
распределения вверх или вниз от вершины кривой нормального
распределения. При этом эксцесс определяется только для симметричных и умеренно асимметричных распределений.
4
xi x m ,
M
E 44 3 ; M 4
m
(2.18)
где M 4 – центральный момент четвёртого порядка [54].
Когда график распределения имеет более острую вершину, чем нормальное распределение, оно обладает положительным эксцессом ( E 0 ), если в большей степени плосковершинное – отрицательным ( E 0 ).
Положительное значение эксцесса свидетельствует, что в
выборке есть слабо меняющееся по данному признаку ядро, а в
плосковершинных распределениях такое ядро отсутствует и наблюдаемые значения распределены по всем значениям признака
более равномерно.
Существенность эксцесса распределения оценивают с использованием средней квадратической ошибки эксцесса ( E ).
Если отношение E : E 3 , отклонение от нормального закона
распределения можно считать существенным.
48
2.8. Классификация статистических показателей
Все выборочные статистики можно разбить на несколько групп.
Показатели положения описывают место размещения
данных на числовой оси (или в пространстве). Показателями
положения служат прежде всего выборочное среднее и выборочная медиана. К этой же группе показателей можно отнести
минимальное и максимальное значения выборки, а также верхнюю и нижнюю квартили.
Показатели разброса отражают степень разброса (рассеивания) данных относительно центра группирования (места локализации). К этой группе показателей можно отнести выборочную дисперсию, стандартное отклонение, размах и межквартильный размах. Стандартная ошибка среднего также является
показателем разброса, но не исходных данных, а усредненных
по выборке заданного объема.
Показатели формы распределения. К этой группе показателей можно отнести параметрический и непараметрический
коэффициенты асимметрии, а также эксцесс.
Показатели, описывающие закон распределения. К этой
группе показателей можно отнести эмпирическую функцию
распределения, выборочные квантили, а также рассматриваемые
ниже гистограммы, таблицы частот, кумулятивные кривые, графики Box-Whiskers.
2.9. Робастные и неробастные оценки
Под робастностью3 понимают устойчивость статистических характеристик по отношению к тем или иным (обычно немногочисленным) грубым ошибкам и резко выделяющимся наблюдениям. Примеры робастных оценок – медиана, верхняя и
3
Термин «робастность» (robustness) образован от англ. robust – крепкий,
грубый.
49
нижняя квартили, межквартильный размах и непараметрическая
асимметрия. Примеры неробастных оценок: среднее, дисперсия,
стандартное отклонение, максимум, минимум, размах, параметрическая асимметрия, эксцесс. Для оценки количественной меры робастности той или иной статистической характеристики
может применяться два основных параметра. Первый – так называемая точка срыва, второй важной характеристикой является
функция влияния, введенная Хампелем [53].
Точка срыва, которая определяется как максимальная доля
выбросов, это тот порог выбросов в выборке, до которого оценка все еще дает непротиворечивые результаты. В табл. 2.4 представлены значения точки срыва для некоторых статистических
характеристик.
Таблица 2.4
Значения точки срыва для некоторых статистических
характеристик, %
Статистика Среднее Сигма Медиана
Точка срыва
0
0
50
Нижняя Верхняя Межквартальное
квартиль квартиль
расстояние
25
25
25
Как видно из приведенной таблицы, среднее и сигма являются неустойчивыми статистическими характеристиками и
имеют нулевую точку срыва. Это означает, что даже один грубый промах в измерениях может сколь угодно сильно исказить
эти характеристики, если этот промах будет находиться достаточно далеко от основной группы наблюдений. Напротив, квартильные оценки остаются устойчивыми, пока число выбросов не
достигнет 25 %. Самой устойчивой в этом списке является медиана. Для нее точка срыва составляет 50 %.
Пример. Иллюстрация чувствительности статистических характеристик к резко выделяющимся наблюдениям. При двойном
измерении длин линий рулеткой получены следующие разности,
мм: 1 11 12 9 14 28 15 3 10 6 12 17 14 7 11 5 18 10 13 4 16 13 2.
50
Прежде всего преобразуем выборку в вариационный ряд, упорядочив наблюдения в порядке возрастания. В результате получим:
1 2 3 4 5 6 7 9 10 10 11 11 12 12 13 13 14 14 15 16 17 18 28. Легко
заметить, что последнее число в вариационном ряду 28 представляет собой резко выделяющееся на фоне остальных наблюдение,
его можно считать грубым наблюдением, или выбросом. Рассмотрим, насколько различные статистические характеристики чувствительны к рассматриваемому выбросу. Результаты расчетов представлены в табл. 2.5.
Таблица 2.5
Результаты вычисления статистик при наличии и отсутствии
грубого наблюдения
Статистика
Грубое
наблюдение
удалено
Грубое
наблюдение
не удалено
Число
МежНижняя Верхняя
наблю- Среднее Сигма Медиана
квартальное
квартиль квартиль
дений
расстояние
22
10,14
4,95
11,0
6
14
8
23
10,91
6,10
11,0
6
14
8
Из приведенной таблицы видно, что при удалении одной
пробы (выброса) изменились среднее и стандарт (сигма). А значения медианы, квартилей и межквартильного расстояния остались прежними. Этот пример дает наглядную иллюстрацию
преимущества непараметрического подхода, основанного на
медиане и квартилях. Заметим, что можно пользоваться и традиционными оценками среднего и дисперсии при наличии четко
определенной процедуры выявления резко выделяющихся наблюдений. Такая процедура описана в п. 2.11.2.
51
2.10. Показатели качества
Особую группу статистик образуют показатели, характеризующие качество и надежность технологического процесса.
Рассмотрим эти показатели на примере отработки Верхнекамского месторождения калийных солей.
К основным показателям качества на ВКМКС можно отнести коэффициенты запаса точности Cpk и Cp, а также коэффициент засоренности g.
2.10.1. Коэффициент запаса точности Cpk
Количественной характеристикой степени соответствия
технологического процесса требованиям технических условий
(ТУ) является так называемый коэффициент запаса точности Cpk
который определяется следующей формулой:
C pk X ср SL / 3,
(2.19)
где Xср – характеристика среднего, SL – ближайшая к среднему
граница поля допуска на параметр (сокращение от английского
Specification Level – «граница допуска»), σ – стандартное отклонение.
В качестве оценки σ используют выборочное стандартное
отклонение s. Таким образом, коэффициент Cpk определяется
отношением расстояния от среднего до браковочной границы к
естественному статистическому разбросу, который принято считать трехсигмовым. В приведенной формуле предполагается,
что среднее значение X лежит внутри поля допустимых значений, определяемого требованиями документов. В противном
случае считают, что Cpk равен нулю.
Перед обогащением на рудном складе отбираются пробы.
Каждая проба сильвинита разделена на две части. По результатам анализов среднее содержание химических компонентов
52
хлорида калия в пробах составило 34,66 %, оценка стандарта
s = 0,48 %. Кондиционное (минимальное) содержание KCl = 26,0 %,
верхняя граница кондиций отсутствует.
Тогда Cpk = |34,66 – 26,00| / (3·0,48) = 2,00. Согласно принятой практике считается, что если Cpk < 1, то технологический
процесс обогащения не может считаться удовлетворительным и
требует большого расхода реагентов. Если Cpk находится в пределах от 1 до 1,33, то процесс может быть использован для
опытного и мелкосерийного производства. Процесс будет надёжным, если для него Cpk ≥ 2. Мониторинг коэффициента Cpk
позволяет отследить динамику (тренд) процесса во времени или
пространстве.
В приведённом примере коэффициент запаса точности равен 2,00. Это свидетельствует о стабильном содержании хлористого калия на складе, среднее содержание выше кондиционного значения.
Если пласт на каком-либо участке имеет сложную гипсометрию, то в процессе добычи будут подрублены вмещающие
породы. В этом случае качество извлечённой руды будет ниже
среднего значения, определённого в пробах, и может быть даже
ниже установленных кондиций по качеству на добычу. Для повышения качества рудной массы на складе потребуется примешивание к ней руды с богатым содержанием.
2.10.2. Потенциальный коэффициент запаса
точности Cp
Наряду с коэффициентом Cpk часто рассматривают еще
один вспомогательный показатель Cp, который может быть назван потенциальным коэффициентом запаса точности Cp. Он
определяется по формуле
Cpk = |USL – LSL| / 6σ,
(2.20)
53
где USL и LSL – соответственно верхняя и нижняя границы поля допуска, σ – стандартное (среднеквадратичное) отклонение.
Нетрудно заметить, что коэффициенты Cpk и Cp совпадают, если
среднее значение находится точно посередине поля допуска.
Если же среднее значение сдвинуто относительно середины поля допуска, то Cpk < Cp. Таким образом, Cp определяет потенциальный (максимально возможный) запас точности в то время как
Cpk определяет реально имеющийся запас точности. Если Cpk
оказывается существенно ниже, чем Cp, то принимают решение
о регулировании процесса (предполагается, что номинал совпадает с серединой поля допуска). Нередко поле допуска имеет
только одну естественную границу, как это показано в предыдущем примере. В этом случае рассчитывают только Cpk, расчет
Cp не имеет смысла. Коэффициенты Cpk и Cp часто называют
также коэффициентами стабильности и воспроизводимости.
2.10.3. Коэффициент засоренности данных g
Одним из наиболее важных параметров, характеризующих
качество технологического процесса и измерений, является степень засоренности данных g, равная количеству резко выделяющихся наблюдений в процентах:
g = (k / n) · 100,
(2.21)
где k – количество резко выделяющихся наблюдений (выбросов), n – полное число наблюдений (объем выборки). Методика
выявления резко выделяющихся наблюдений описывается ниже
в п. 2.11.2. Для пластов ВКМКС этот коэффициент показывает
степень неравномерности распределения полезного компонента
на участке пласта.
54
2.11. Теоретические функции распределения
2.11.1. Общие сведения
Если мы выстроим ряд из 10 чисел от 0 до 9, то в нём каждая цифра встречается только один раз. Построим график зависимости частоты упоминаний каждого числа в этой выборке от
его порядкового номера, на графике получим прямую линию,
параллельную оси абсцисс. Частота появления цифр в указанном интервале одинакова, каждая цифра встречается один раз,
поэтому на графике получаем прямую линию, что свидетельствует о равномерном законе распределения этого ряда (как на
рис. 2.3). При наблюдении реальных случайных величин в природе, технике, социологии и других областях наблюдаемые величины не будут встречаться с одинаковой частотой. В предыдущих разделах показано, что случайная величина, сгруппированная по интервалам, принимает значения от минимального до
максимального с неодинаковой частотой. Для описания частоты
появления проб с заданным содержанием полезного компонента
и соответствия между всеми возможными их значениями и частотами была рассмотрена эмпирическая функция распределения
(п. 2.4). Эта функция, вычисленная по выборке из генеральной
совокупности, позволяет нам предсказать вероятность попадания случайной величины в априори заданный интервал при следующем испытании. В общем случае для генеральных совокупностей различных случайных величин можно представить себе
бесконечное разнообразие законов распределения.
Ранее указывалось, что теоретические исследования различных процессов и явлений позволили доказать, что на самом
деле существует и используется небольшой набор теоретических законов распределения (нормальное, показательное, равномерное и некоторые другие), которые чаще всего встречаются
в природе [12], технике, геологии и горном деле, в социологии и
55
других областях. Это связано с тем, что различные случайные
величины могут иметь совершенно одинаковые теоретические
законы распределения. Очень часто случайные величины имеют
подобные законы распределения, например, р (х) для них выражается формулами одинакового вида, отличающимися только
одной или несколькими постоянными. Эти постоянные называются параметрами распределения. В теории вероятностей используются самые разные законы распределения, в дальнейшем
рассмотрим несколько наиболее типичных из них. Важно обратить внимание на условия, в которых они возникают, на параметры и свойства этих распределений.
Различие между теоретической и эмпирической функциями распределения состоит в том, что теоретическая функция
распределения Fтеор (x) определяет вероятность события Х < x
для генеральной совокупности, а эмпирическая функция распределения Fэмп (x) определяет относительную частоту этого же
события для выборки [20].
При статистическом исследовании выборки нас обычно
интересует вопрос, насколько точно экспериментально полученное распределение случайной величины (значения переменной) можно аппроксимировать тем или иным теоретическим
распределением. Как уже отмечалось, для описания реальных
явлений исследователями используются различные теоретические распределения: нормальное, Стьюдента, хи-квадрат, Фишера, биномиальное, отрицательное биномиальное и др. Рассмотрим более подробно методику проверки соответствия нормальному закону распределения значений переменных.
2.11.2. Нормальный закон распределения
Нормальное распределение в горном деле важно по многим
причинам. В большинстве случаев оно является хорошим приближением погрешностей, например, геодезических и маркшей56
дерских измерений. Распределение многих статистик является
нормальным или может быть получено из других с помощью некоторых преобразований.
Главной особенностью нормального распределения является то, что оно представляет собою предельный закон, к которому приближаются другие законы распределения при выполнении определенных условий. По мнению научного директора
компании StatSoft Russia, изложенному в электронном учебнике
по статистике [70], нормальное распределение представляет собой одну из эмпирически проверенных истин общей природы
действительности и его положение может рассматриваться как
один из фундаментальных законов природы.
Нормальным распределением хорошо описываются экспериментальные наблюдения:
– у которых имеется тенденция группироваться вокруг
центра;
– положительные и отрицательные отклонения от центра
равновероятны;
– малые по абсолютной величине значения встречаются
чаще больших.
Нормальная кривая обладает следующими особенностями.
Она похожа на колокол (рис. 2.1). Её левая и правая ветви спадают одинаково в обе стороны сначала медленно, а потом быстро. Специалисту достаточно знать три параметра, чтобы построить эту кривую: высоту её максимума, среднее значение изучаемой величины (это и есть то место на горизонтальной оси,
которое соответствует вершине горба кривой) и ширину кривой.
Условно ширину кривой измеряют на половине высоты колокола. Понятно, что ширина показывает, насколько часто или редко
встречается отклонение от среднего. Чем уже колокол, тем
меньше отклонения от среднего значения.
Функция распределения нормальной случайной величины X
обозначается F (x, x , 2 ) и задаётся соотношением
57
t
F ( x, x , 2 )
1
e
2·
( ti x )2
2 2
dx,
(2.22)
где x – среднее значение; 2 – дисперсия; x – значение величины.
Из выражения (2.22) следует, что нормальное распределение описывается двумя параметрами – средним значением ( x ) и
стандартным отклонением (σ).
В практике статистических исследований могут встречаться данные, различные по размеру, например, содержание
в пробе нерастворимого остатка (NО) равно 0,1 %, а высотная
отметка выработки Н, где отобрана проба, равна – 450,25 м. При
сравнении статистических оценок, к примеру стандарта нерастворимого остатка и отметки пробы, различие дисперсий будет
очень большим. Чтобы избежать большого различия в данных,
их нормируют по стандарту в отклонениях от среднего:
ti xi x / .
(2.23)
Такая переменная называется нормированной. В программе
Statistica она именуется стандартизированной. Характерной чертой нормированной переменной является равенство нулю среднего значения и равенство единице дисперсии. Такой ряд называют
нормированным с нулевым средним и единичной дисперсией.
Нормальный закон с параметрами x = 0 и 2 = 1 называется стандартным, он описывается функцией Лапласа:
t
F (t )
1
e
2
t2
2
dt ,
(2.24)
Характерное свойство нормального распределения состоит
в том, что 68 % всех его наблюдений лежат в диапазоне среднее
± 1 стандартное отклонение, а в диапазоне среднее ± 2 стандартных отклонения уже содержит 95 % значений. Другими словами,
58
при нормальном распределении стандартизованные наблюдения
с нулевым средним и единичной дисперсией, меньшие – 2 или
большие + 2, имеют относительную частоту менее 5 % [20].
Графически нормальное распределение характеризуется
«колоколообразной кривой», симметричной относительно среднего значения (рис. 2.2). На рисунке видно, что внутри интервала ± 3σ находятся 99,73 значений.
Рис. 2.2. Функция плотности нормального распределения
для условий: x ± (3 σ) при = 1, x = 0
Среднее, мода и медиана на графике рис. 2.2 совпадают.
При увеличении дисперсии график становится пологим, приближаясь к оси абсцисс. Уменьшение дисперсии делает график
плотности вероятности вытянутым вверх.
В маркшейдерском деле и геодезии для оценки качества
наблюдений и выявления грубых ошибок используются величины стандартных отклонений, равных 2 и 3.
Площадь под графиком нормальной плотности (для нормированных данных), лежащая в интервале от – 3σ до + 3σ, составляет 99,73 % всей площади. Из тысячи наблюдений только 3
(а точнее 2,7) наблюдения могут быть за границей этого интервала. На границе графика находятся большие по абсолютной
величине значения. Таким образом, знание среднего значения
случайной величины и ширины кривой нормального распреде59
ления позволяет уверенно определить грубые наблюдения и отделить возможные события от невозможных.
Если исследуются ряды измерений малого объёма, например, ошибки измерения горизонтальных углов теодолитных ходов, где количество пунктов ограничено нормативными документами до 20–25, то можно использовать двухсигмовый интервал
(от – 2σ до + 2σ). При этом площадь под графиком нормальной
плотности составляет 95,45 %, из 25 погрешностей наблюдений
только одна, возможно, будет грубой (а точнее 1,14 наблюдения).
Для ответа на вопрос, подчиняется ли выборка значений
переменной (случайных переменных) нормальному закону распределения, применяют:
– визуальные методы соответствия (например, анализ гистограмм и нормальных вероятностных графиков);
– численные методы проверки числовых значений параметров распределения (асимметрии, эксцесса, наличие выбросов);
– проверка гипотез о нормальном распределении по критериям согласия (χ2, Колмогорова и др.).
2.11.3. Равномерное распределение
Непрерывная случайная величина X равномерно распределена на отрезке [a, b], «если на этом отрезке плотность распределения случайной величины постоянна, а за границами отрезка плотность равна нулю» [38].
0
1
f x
b a
0
xa
a x b,
(2.25)
xb
где 1 / (b – a) = const.
Графики плотности f (x) и функции F (x) равномерного
распределения представлены на рис. 2.3.
60
Рис. 2.3. Графики плотности вероятностей и функции
равномерного распределения
Непрерывная случайная величина «подчиняется равномерному закону распределения, если ее возможные значения лежат в
пределах некоторого определенного интервала, кроме того, в
пределах этого интервала все значения случайной величины обладают одной и той же плотностью вероятности (одинаково вероятны). С такими случайными величинами специалисты часто
встречаются в измерительной практике при округлении отчетов
измерительных приборов до целых делений шкал» [38], например
при взятии отчётов в процессе измерения горизонтальных углов
теодолитом [47]. В этом случае погрешность при округлении отсчета до ближайшего целого деления является случайной величиной, которая с постоянной плотностью вероятности принимает
любое значение между соседними целыми делениями.
2.11.4. Распределение Пирсона 2 (хи-квадрат)
Распределение случайной величины можно представить
в следующем виде:
X = x12 + x22 + x32 + … + xn2,
где случайные величины x1, x2, x3…, xn независимы и имеют одно
и то же распределение N (0, 1) (читается так: подчиняющееся
нормальному закону распределения вероятностей с нулевым
61
средним и единичным стандартом). Число слагаемых, т.е. n, называется «числом степеней свободы» распределения 2 (хиквадрат). Распределение 2 с n степенями свободы – это распределение суммы квадратов n независимых стандартных нормальных случайных величин. При этом чем больше степеней свободы, тем сильнее данное распределение сходится к нормальному
закону распределения [20]. Распределение 2 – используют при
оценивании дисперсии (с помощью доверительного интервала),
при проверке гипотез согласия, однородности, независимости,
прежде всего для качественных (категоризованных) переменных, принимающих конечное число значений, и во многих других задачах статистического анализа данных.
2.11.5. Распределение t Стьюдента4
Распределение случайной величины:
T
U n
,
X
(2.26)
где случайные величины U и X независимы, называется распределением Стьюдента. При этом U имеет «стандартное нормальное распределение N (0, 1), а X – распределение 2 с n степенями
свободы. В настоящее время распределение Стьюдента – одно из
наиболее известных распределений среди используемых при анализе реальных данных. Его применяют при оценивании математического ожидания, прогнозного значения и других характери4
Распределение Стьюдента было введено в 1908 г. английским статистиком В. Госсетом, работавшем в то время на пивной фабрике. В те времена
руководство этой компании, опасаясь конкуренции, запрещало своим сотрудникам любые публикации по технологии производства, в связи с чем В. Госсет
был вынужден пользовался псевдонимом «Студент». История ГоссетаСтьюдента показывает, что уже более сотни лет назад менеджеры Великобритании верили в большую экономическую эффективность вероятностностатистических методов [38].
62
стик с помощью доверительных интервалов, по проверке гипотез
о значениях математических ожиданий, коэффициентов регрессионной зависимости, гипотез однородности выборок» [38].
2.11.6. Распределение Фишера5
Распределение случайной величины:
F
X 1 / k1
,
X 2 / k2
(2.27)
где случайные величины Х1 и Х2 независимы и «имеют распределения 2 с числом степеней свободы k1 и k2, соответственно,
называется распределением Фишера. Распределение Фишера
используют в процессе проверки гипотез об адекватности модели в регрессионном анализе, о равенстве дисперсий и в других
задачах прикладной статистики [38].
5
Распределение случайной величины F названо в честь английского статистика Р. Фишера (1890–1962), активно использовавшего его в своих работах.
63
3. СТАТИСТИЧЕСКИЕ ГИПОТЕЗЫ
3.1. Основные понятия
В горном деле, как и в других областях, в первую очередь
инженерные службы определяют простейшие статистики – среднее значение, дисперсию, размах и некоторые другие [21; 54; 68].
Например, установить среднее значение полезного компонента по
сильвинитовому пласту ВКМКС, разброс данных относительно
среднего. Эти параметры определяются по ограниченному количеству проб участка пласта и при планировании горных работ
распространяются на весь участок. Поэтому возникает вопрос,
можно ли доверять таким данным. Ответ на этот вопрос можно
получить на основании постулата математической статистики о
том, как получить информацию о закономерностях изменения
изучаемого геологического признака (к примеру, мощности пласта) для планируемой к отработке площади разведанного пласта
по небольшому набору проб, отобранных в подготовительных
выработках. По существующим канонам математической статистики ставится задача: необходимо сделать выводы об основных
свойствах генеральной совокупности по имеющейся и, как правило, небольшой по размеру выборке [1; 12]. В классической математической постановке для решения таких задач выдвигается
некоторое предположение об этих свойствах, именуемое статистической гипотезой. В этом разделе рассмотрим вопросы о том,
что такое статистические гипотезы и какие существуют способы
их проверки.
Как правило, в геологии и горном деле объёмы данных
значительны, и чаще всего они подчиняются нормальному закону распределения. Но на небольших участках, планируемых
к разработке, проб может быть немного. А нам необходимо выполнить проверку на подчинение измерений мощности по выра64
боткам нормальному закону. У этого закона распределения (далее – распределения) два параметра – математическое ожидание
и дисперсия.
В других случаях исследователю требуется на основе тех
или иных данных решить, справедливо ли некоторое суждение.
Например, на поверхности рудника два выпускника-маркшейдера, у которых выполнены проверки теодолитами одной точности, провели измерения горизонтальных углов в теодолитных
ходах методом приёмов. Из двух полуприёмов по каждому ходу
получены отклонения. Который из выпускников выполнил измерения углов качественнее или результаты измерений статистически не отличаются?
В связи с разнообразием решаемых задач статистические
гипотезы можно разложить на несколько основных типов: гипотезы о подчинении выборки нормальному закону распределения
вероятностей; гипотезы о числовых значениях параметров выборки; гипотезы об однородности средних или дисперсий двух
или нескольких выборок или некоторых характеристик анализируемых совокупностей и др. [1].
Проверку гипотез об однородности выборок можно выполнить строгим способом с проверкой на подчинение нормальному
закону распределения вероятностей. В этом случае проверяется
гипотеза о том, что функции распределения выборок незначимо
отличаются друг от друга. Но чаще проверяют однородность выборок упрощенно: выборки однородны, если незначимо отличаются их параметры, прежде всего среднее и дисперсия. Поскольку исходные данные для таких суждений в той или иной мере носят случайный характер, то и ответы можно выдать только с
определенной степенью достоверности, поскольку имеется и некоторая вероятность ошибиться [12]. Причина тому – исследуется
не вся генеральная совокупность, а ограниченная выборка. В рассмотренном примере среднее отклонение углов в минутах в полуприемах у первого выпускника Е1 = 0,0, а стандарт σ1 = 0,52.
Соответственно, у второго выпускника Е2 = 1,0 и стандарт
65
σ2 = 0,58. Стандартные отклонения примерно одинаковы, а не
равное нулю среднее значение разностей углов в полуприёмах,
измеренных вторым выпускником, может свидетельствовать
о наличии коллимационной ошибки у теодолита второго выпускника. Но при измерении двумя полуприёмами она взаимно исключается и не влияет на результаты при вычислении горизонтального угла. В этом случае придётся признать квалификацию
второго выпускника ниже, чем у первого.
Ранее указывалось, что весь статистический анализ базируется на предположении случайного характера выборки. Мы
принимаем постулат, что имеющиеся данные появились как результат случайного выбора из некоторой генеральной совокупности, нередко воображаемой. В решении различных задач горной промышленности мы полагаем, что этот случайный выбор
произведен природой, но во многих задачах эта генеральная совокупность вполне реальна и выбор из нее произведен горным
инженером – активным наблюдателем.
В разделе 2.3 отмечалось, что вероятность события есть
численная мера появления возможности этого события. Принцип, заключающийся в том, что маловероятные события на
практике рассматриваются как невозможные, носит название
«принципа практической невозможности маловероятных событий» [20]. Его формулируют так: если вероятность события А
в данном испытании очень мала, то при однократном выполнении испытания можно быть уверенным в том, что событие А не
произойдет и в практической деятельности вести себя так, как
будто событие А вообще невозможно.
Такой принцип предполагает однократное выполнение
опыта. Если же произведено много опытов, в каждом из которых вероятность события очень мала, то вероятность того, что
это событие произойдёт хотя бы один раз в массе испытаний,
существенно повышается. И в этом случае при многократном
повторении испытаний мы уже не можем считать маловероятное событие практически невозможным.
66
События, происходящие с вероятностями, весьма близкими
к единице, считаются практически достоверными (принцип практической достоверности). Поскольку мы приняли вероятностную
точку зрения на происхождение наших данных (т.е. считаем, что
они получены путем случайного выбора), следовательно, и все
дальнейшие суждения, основанные на этих данных, также должны иметь вероятностный характер. Всякое утверждение будет
верным лишь с некоторой вероятностью, и с некоторой, вероятностью оно может оказаться неверным. В приведенном примере
без каких-либо доказательств указано, что стандартные отклонения примерно одинаковы. Но справедливо ли это суждение? Для
его подтверждения можно выдвинуть статистическую гипотезу
о равенстве дисперсий и выполнить её проверку.
Выводы, полученные путём проверки статистических гипотез, также носят вероятностный характер, так как они принимаются с некоторой вероятностью. Насколько малой должна быть
вероятность события, чтобы его можно было считать практически
невозможным? На этот вопрос нельзя дать количественного ответа, пригодного во всех случаях. Ответ зависит от того, какой
опасностью грозит нам ошибка. Довольно часто при проверке
статистических гипотез используют малые вероятности начиная
с 0,01…0,05. Такая вероятность предполагает, что из 100 сравнений ошибочными будут не более одного или не более пяти. В медицине и некоторых других отраслях, где проверяемая гипотеза
будет связана с жизнью человека, вероятность её негативного
проявления должна быть мала (0,001 или 0,01), а в горном деле
она может составлять величины, равные 0,05–0,1.
3.2. Виды статистических гипотез
Итак, в разговорном языке слово «гипотеза» означает некоторое предположение или суждение. В таком же смысле оно
употребляется и в научном языке, когда речь идёт в основном
67
о предположениях, вызывающих сомнения. В классической математической статистике термин «гипотеза» означает предположение, которое также вызывает сомнения и которое мы должны в данный момент проверить. С другой стороны, в ходе построения статистической модели нам приходиться делать много
различных допущений и предположений, и далеко не все из них
мы собираемся или можем проверить. Эти предположения относятся как к выборочному пространству, так и к распределению вероятностей на нем [1]. Для принятия выдвинутых предположений
используется принцип практической уверенности (достоверности) (п. 3.1), лежащий в основе формирования выводов и рекомендаций с использованием теории вероятностей и математической статистики.
Статистические гипотезы подразделяются на нулевые
и альтернативные, направленные и ненаправленные.
Нулевая гипотеза. Эта гипотеза формулируется как отсутствие различий, отсутствие влияния фактора, отсутствие различия значения выборочной характеристики от заданной величины
(например, нуля) и т.п. Как правило, она не является для исследователя предметом и целью доказательства. Она обозначается
как Н0 и называется нулевой потому, что содержит нуль (например, разность двух средних выборок: ( x 1 – x 2) = 0 или величину, близкую к нулю, где x 1, x 2 – сопоставляемые средние значения признаков. Иногда (например, при компьютерных расчётах) вместо нуля может стоять некоторая малая величина E –
машинный нуль (числовое значение, меньше которого невозможно задавать относительную точность для используемого алгоритма, возвращающего вещественные числа).
Нулевая гипотеза – это то, что мы хотели бы опровергнуть, если перед нами стоит задача доказать значимость различий [20]. Например, выдвигаем гипотезу о равенстве стандартов
в примере с измерением углов в теодолитных ходах, запишем её
так: Н0: «σ1 не отличается от σ2»; против альтернативы Н1:
68
«σ1 отличается от σ2». Здесь первая часть выражения представляет
нулевую гипотезу (Н0: σ1 не отличается от σ2, или σ1 – σ2 = 0).
Альтернативная гипотеза – это гипотеза о значимости
различий. Она обозначается как Н1. Альтернативная гипотеза
(Н1: σ1 отличается от σ2) – это то, что мы хотим доказать, поэтому иногда ее называют экспериментальной, или рабочей, гипотезой. Обычно основной интерес исследователя сводится именно
к подтверждению альтернативной гипотезы. Нулевая и альтернативная гипотезы представляют полную группу несовместных событий: отклонение одной влечет принятие другой [1].
Иногда в задачах мы хотим доказать, как раз незначимость
различий, т.е. должны подтвердить нулевую гипотезу. В науке
принято считать, что различия незначимы, если не доказано обратное. Поэтому основной принцип проверки гипотезы – доказательство «от противного», т.е. опровергнуть гипотезу H0 и тем
самым принять без доказательства гипотезу H16. В случае, когда
мы не можем опровергнуть нулевую гипотезу, это значит, что
мы должны её принять.
В рассмотренном примере дисперсии незначительно отличаются друг от друга, но нам нужно убедиться, что разные
выпускники имеют одинаковую квалификацию, и в этом случае
неравенство дисперсий не должно являться значимым. В некоторых других случаях нам все-таки требуется доказать значимость различий, поскольку они могут дать задел для нас в
изыскании новых решений.
Первоначально всегда выдвигается нулевая гипотеза Н0.
В процессе применения конкретного статистического метода
перед исследователем стоит дилемма: принять нулевую гипотезу Н0 или отклонить её и тогда придётся принять альтернативную гипотезу Н1.
6
Целесообразностью такого подхода могут служить слова Альберта
Эйнштейна (1879–1955): «Ни один эксперимент не говорит теории да. Он может сказать только может быть или нет».
69
Нулевая и альтернативная гипотезы могут быть направленными и ненаправленными.
Направленные гипотезы. Н0: х1 не превышает х2; Н1: х1 превышает х2.
Ненаправленные гипотезы. Н0: х1 не отличается от х2;
Н1: х1 отличается от х2.
Направленные гипотезы часто используются в общественных науках, например социологии. В технических дисциплинах
чаще применяются ненаправленные гипотезы.
Проверка гипотез осуществляется с помощью критериев
статистической оценки различий [1]. Критерии могут быть параметрическими и непараметрическими. В разделе 2 приводятся общие сведения о параметрической и непараметрической статистике.
Параметрические критерии – это критерии, включающие в
формулу расчета параметры распределения (например, средние и
дисперсии для t-критерия Стьюдента, критерия Фишера F и др.).
Непараметрические критерии – это критерии, не включающие в формулу расчета параметры распределения и основанные на оперировании частотами или рангами (Q-критерий
Розенбаума, U-критерий Манна – Уитни, Критерий Колмогорова – Смирнова, Т-критерий Уилкоксона и др.) [60; 66].
При нормальном распределении признака параметрические
критерии обладают большей мощностью, чем непараметрические
критерии. Они способны отвергать нулевую гипотезу, если она
неверна. Поэтому во всех случаях, когда сравниваемые выборки
взяты из нормально распределяющихся совокупностей, следует
отдавать предпочтение параметрическим критериям [32].
В случае очень больших отличий распределений признака
от нормального вида следует применять непараметрические
критерии, которые оказываются часто более мощными именно в
этой ситуации. В задачах, когда варьирующие признаки выражаются не числами, а условными знаками или рангами, применение непараметрических критериев оказывается единственно
возможным.
70
3.3. Статистические критерии
3.3.1. Общие сведения
Как указывалось ранее, проверку статистических гипотез
осуществляют при помощи так называемых статистических критериев. Статистический критерий – это строгое математическое
правило, по которому гипотеза принимается или отвергается [1].
В статистике разработано множество критериев. Одни позволяют
оценить различия в средних, полученных в двух выборках. Другие дают возможность оценить сходство или различие дисперсий
в этих выборках. В регрессионном анализе используются критерии нормальности, критерии выбросов. Применяются статистические критерии и для оценки взаимодействия двух и более
факторов в их влиянии на изменения признака. Критерии согласия проверяют, согласуется ли выборка с заданным распределением генеральной совокупности. Критическая область – область
отвержения нулевой гипотезы. Вид критической области зависит
от типа альтернативной гипотезы.
3.3.2. Критическая область
Критическая область – такая область пространства размещения выборочных данных, при попадании в которую нулевая
гипотеза отклоняется. Требуемый уровень значимости α, который
задается исследователем, определяет границу попадания в критическую область при верной нулевой гипотезе.
В практике могут встретиться несколько видов критических областей, на рис. 3.1 и 3.2 они заштрихованы. Мы должны
выбрать рекомендованную для проверки статистику критерия.
Все возможные значения её делятся на две непересекающиеся
группы.
Первая группа содержит значения статистики критерия,
при которых H0 отклоняется.
71
В любом случае выбранный критерий должен представлять
такое условие, которое бы обеспечило принятие истинной и отклонение ложной гипотезы с высокой вероятностью. В большинстве случаев для того, чтобы мы признали различия значимыми,
необходимо, чтобы эмпирическое значение критерия превышало
критическое, хотя есть критерии (например, критерий Манна –
Уитни или критерий знаков), в которых используются противоположные правила.
Критическое значение – пороговое значение статистики,
которое ожидается в случае, если нулевая гипотеза верна. Критическое значение статистики отделяет область типичных значений
статистики от критической области – области редких значений
статистики при условии, что нулевая гипотеза верна. Область типичных значений – область неотвержения нулевой гипотезы.
Вторая группа – значения, при которых нулевая гипотеза
принимается.
Например, на руднике имеются 60 замеров мощности пласта по выработкам блока. Замеры производились при наличии
складок. Значения мощности (выборку) нормировали в отклонениях от среднего по стандарту. Необходимо определить наличие
выбросов в замерах мощности при условии, что выборка подчиняется нормальному закону распределения с нулевым средним и
некоторой дисперсией. Гистограмма распределения нормированной мощности показана на рис. 3.1. Среднее значение мощности равно 0, дисперсия равна 1. В связи с малым объёмом выборки выбросами будем считать мощности, выходящие за пределы интервала x 2 . На гистограмме центральную часть
занимает область типичных значений нормированной мощности. Поскольку среднее равно нулю, эта область лежит в интервале от 2 до 2. За границами типичных значений нормированной мощности (слева и справа) лежат области редких значений при условии, что нулевая гипотеза о подчинении выборки
нормальному закону распределения верна. Они и именуются
72
критическими областями, от области типичных значений нормированной мощности их отделяют критические значения.
Левая критическая область лежит в интервале (– ∞; – 2 ),
далее (правее по рис. 3.1) располагается область типичных значений нормированной мощности, после которой находится правая
критическая область. Она ограничена интервалом (+ 2 ; + ∞).
Область типичных значений именуется областью принятия гипотезы. Обычно критическая область и область принятия
гипотезы – это интервалы. Также существуют точки, разделяющие эти интервалы. Такие точки K1крит и K2крит на рис. 3.1,
отделяющие критическую область от области принятия, называются критическими точками. Примем Кэмп – эмпирическое
(вычисленное) значение критерия. Областью допустимых значений (или областью принятия нулевой гипотезы H0) называют
совокупность значений критерия К крит , при которых нулевая
гипотеза H0 не отклоняется [1].
(– ∞; χ α / 2)
(χ (1 – α / 2); + ∞)
Рис. 3.1. Двусторонняя критическая область
73
Критической областью называют совокупность значений
критерия К крит , при которых нулевая гипотеза H0 отклоняется в
пользу конкурирующей (альтернативной) Н1 .
а
б
Рис. 3.2. Односторонние критические области:
а – левосторонняя, б – правосторонняя
В примере на рис. 3.1 приведен вариант с двусторонними
критическими областями. При проверке некоторых гипотез используется и односторонняя критическая область, которая может быть правосторонней или левосторонней (рис. 3.2).
1) Если конкурирующая гипотеза правосторонняя, то и
критическая область правосторонняя (рис. 3.2, б). Интервал на
числовой оси, определяемый неравенством K эмп K 2крит , называется правосторонней критической областью. На рис. 3.2, б такая область лежит в интервале от х1 – α до + ;
2) Если конкурирующая гипотеза левосторонняя, то и
критическая область левосторонняя. Интервал на числовой оси,
определяемый неравенством K эмп K1крит , называется левосторонней критической областью, соответственно она лежит в интервале от – до хα;
74
3) Если конкурирующая гипотеза двусторонняя, то и критическая область двусторонняя (см. рис. 3.1). При двусторонней
конкурирующей гипотезе определяются две критические точки
( К1крит и К 2крит ). На рис. 3.1 таких интервалов два. Интервалы,
определяемые неравенствами К1эмп < К1крит , К 2эмп > К 2крит , где
( К 2крит > К1крит ), составляют двустороннюю критическую область.
3.3.3. Основные принципы проверки
статистических гипотез
Каждый тип статистических гипотез проверяется с помощью соответствующего критерия, являющегося наиболее мощным для конкретного случая. Например, для проверки гипотезы
о виде закона распределения случайной величины используются
критерии согласия Пирсона, Колмогорова – Смирнова и др. [19;
32; 60]. Проверка гипотезы о равенстве неизвестных значений
дисперсий двух генеральных совокупностей выполняется с помощью критерия Фишера F. Гипотезы о неизвестных значениях
параметров генеральных совокупностей проверяются с помощью критерия Z – нормальной распределенной случайной величины и критерия t-Стьюдента [20]. В п. 3.4 приведены примеры
использования этих и других критериев для проверки статистических гипотез.
В общем случае пусть K (Х) – статистика, используемая
при проверке некоторой нулевой гипотезы H0. Предполагается,
что если нулевая гипотеза справедлива, то распределение этой
статистики известно (формула (2.1)).
Величина критерия, рассчитываемая по специальным правилам на основании выборочных данных, называется наблюдаемым значением критерия (Кнабл). Вся числовая ось ожидаемых значений статистики включает область допустимых величин и критическую область (или области). Их отделяют друг от
75
друга критические точки ( К крит ), которые определяются на заданном уровне значимости α по таблицам распределения случайной величины К, выбранной в качестве критерия.
Основная методика проверки статистических гипотез заключается в следующем:
– если наблюдаемое значение критерия ( К набл ) принадлежит критической области, нулевая гипотеза Н 0 отклоняется
в пользу конкурирующей;
– если наблюдаемое значение критерия ( К набл ) принадлежит области допустимых значений, нулевую гипотезу H0 нельзя
отклонить (рис. 3.1, 3.2), следовательно, она принимается.
Можно принять решение относительно нулевой гипотезы
H0 путем сравнения наблюдаемого ( К набл ) и критического значения критерия ( К крит ).
При правосторонней альтернативной гипотезе:
– если К набл < К 2крит , нулевую гипотезу H0 нельзя отклонить;
– если К набл > К 2крит , нулевая гипотеза H0 отклоняется,
принимается альтернативная Н1 .
При левосторонней конкурирующей гипотезе:
– если К набл > К1крит , нулевую гипотезу H0 нельзя отклонить;
– если К набл < К1крит , нулевая гипотеза H0 отклоняется
в пользу конкурирующей Н1 .
При двусторонней конкурирующей гипотезе:
– если К1крит < К набл < К 2крит , нулевую гипотезу H0 нельзя
отклонить;
– если К набл > К 2крит или К набл < К1крит , нулевая гипотеза H0 отклоняется, принимается альтернативная Н1 .
76
Проверка статистических гипотез выполняется в такой
последовательности:
1) сформировать нулевую H0 и альтернативную Н1 гипотезы
и установить необходимый и достаточный уровень значимости;
2) из рекомендованных критериев для проверки статистических гипотез выбрать наиболее подходящий (например, по
табл. 3.3), точное или приближенное распределение которого
заранее известно;
3) в статистической программе или по таблицам распределения случайной величины К, выбранной в качестве статистического критерия, найти критическое значение К (критическую
точку или точки);
4) на основании выборочных данных по принятым методикам вычислить наблюдаемое значение критерия К набл ;
5) по виду конкурирующей гипотезы Н 1 определить тип
критической области;
6) определить, в какую область (допустимых значений или
критическую) попадает наблюдаемое значение критерия К набл , и
в зависимости от этого принять решение относительно нулевой
гипотезы H0 [1].
3.3.4. Число степеней свободы
За редкими исключениями расчетное выражение эмпирических функций распределения, например Fэмп, включает количество наблюдений в исследуемой выборке, его часто обозначают как n. В этом случае эмпирическое значение критерия может становиться тестом для проверки статистических гипотез.
По специальным таблицам или расчётами мы определяем, какому уровню статистической значимости различий соответствует
данная эмпирическая величина.
77
Когда имеются выборки, разные по количеству данных,
одно и то же эмпирическое значение критерия может оказаться
как значимым, так и незначимым. Значимость будет связана с
количеством наблюдений в исследуемой выборке n. Понятно,
чем больше наблюдений в выборке, тем больше степень доверия к статистическим выводам по этой выборке. От количества
наблюдений зависит так называемое число степеней свободы,
которое обозначается как или df. Количество степеней свободы равно числу классов вариационного ряда минус число условий, при которых он был сформирован [1]. Например, в
группе 25 студентов закончили сессию с положительными
оценками (на 3, 4 и 5). Студенты сгруппированы в три класса
по оценкам 3, 4, 5, вектор положительных оценок равен 3. Из
группы 8 студентов имеют отличные результаты по сессии, 11
с хорошими оценками. Следовательно, число троечников можно вычислить как остаток 25 – (8 + 11) = 6. Если можно вычислить число студентов третьей группы, то она «не свободна».
В примере «свободны» только две группы с оценками 4 и 5.
Число степеней свободы равно числу классов вариационного ряда минус число условий, при которых он был сформирован. К числу таких условий при проверке выборки на нормальность её распределения относятся объем выборки n, средние и дисперсии. Для рассмотренного примера число степеней
свободы рассчитывается так:
= r – с = 3 – 1 = 2,
(3.1)
где r – общее количество интервалов разбиения; с – количество
«несвободных интервалов».
Варианты более сложного расчета числа степеней свободы
будут приведены в разделах, посвященных критерию χ2 и дисперсионному анализу. Зная n (или число степеней свободы ), по
специальным таблицам мы можем определить критические значения критерия и сопоставить с ними полученное эмпирическое
78
значение. Обычно это записывается так: «при n = 25 критические
значения критерия составляют…» или «при = 2 критические
значения критерия составляют…».
3.3.5. Статистическая значимость.
Р-уровень значимости
Ранее мы показали вероятностный характер происхождения наших данных (мы считаем, что они получены путем случайного выбора) (пп. 1.4, 2.2, 2.5). Поэтому все дальнейшие суждения, основанные на этих данных, будут также иметь вероятностный характер.
В исследованиях представленных наблюдений мы не застрахованы от ошибок. Такие ошибки считаются допустимыми,
если они не превышают априори заданные значения. Например,
на руднике отобраны 200 проб, по две из каждой борозды. Причём 100 проб отправили в первую лабораторию, а дублирующие
100 проб отправили во вторую лабораторию [46]. После выполнения химических анализов получили расхождения в содержании полезного компонента, из которых 96 проб имеют расхождение меньше 1 %, а 4 пробы получились с расхождением,
больше априори заданного 1 %. Требуется определить, существенно ли статистически такое отклонение или нет. Повышенное
расхождение в пробах имеет место не чаще, чем в четырёх случаях из ста. Такое утверждение соответствует расчётной (эмпирической) вероятности ошибки рэмп = 4 : 100 = 0,04.
В этом примере pэмп – расчётный уровень значимости, или
вероятность того, что расхождение в пробах носит случайный
характер, а не является свойством генеральной совокупности.
Какова вероятность получить в следующих пробах, отобранных в аналогичных условиях и обработанных в этих же лабораториях по ранее использованным методикам, расхождение в
парных пробах больше допустимого значения? В статистике та79
кая вероятность рассчитывается и именуется p-уровнем значимости (p-value, p-значение). Эта статистика состоит в обратной
зависимости от истинности результатов. Низкое значение
р-уровня соответствует высокой степени доверия к результатам исследований, а большое значение вероятности будет свидетельствовать о низком доверии к результатам работы лабораторий. В последнем случае, если корректность работы лабораторий не вызывает вопросов, тогда расхождение в пробах
носит не случайный характер, а является свойством генеральной
совокупности.
3.3.6. Критический уровень значимости ошибки
принятия гипотез
Итак, рассчитанный p-уровень рассматривается в качестве статистики, отражающей уровень вероятности ожидаемых
ошибок. Какую вероятность следует считать малой при принятии той или иной гипотезы? Отвечая на данный вопрос, необходимо учитывать степень опасности совершения ошибки. Обычно вероятность ошибочного вывода тем меньше, чем больше
объём наблюдений. Если в исследованиях используются малые
по объёму выборки, то в этих случаях вероятность ошибки может быть значительной.
В качестве «допустимой границы» уровня ошибок принимается критическое значение вероятности. Эта граница и называется «уровнем значимости» (критическим, или табличным)
и обозначается греческой буквой . Она задается заранее малым
числом, чаще всего используют некоторые стандартные значения: 0,05; 0,01; 0,005; 0,001. В программе Statistica в статистическом калькуляторе критические значения можно рассчитать для
любых условий [10; 66].
Например, считаем допустимым в 100 парных пробах 5
отклонений с разностью содержания полезного компонента
80
более 1 %. Тогда критическое значение уровня значимости
крит = 5 : 100 = 0,05 означает следующее: если гипотезу Н0
проверять по каждой из 100 пар проб, то в среднем в пяти случаях из ста мы совершим ошибку. Эта ошибка будет заключаться в том, что мы посчитаем количество отклонений существенным. Статистически мы отвергнем нулевую гипотезу Н0 и примем
альтернативную гипотезу H1 несмотря на то, что гипотеза Н0 верна.
Таким образом, при формировании выводов в таких вопросах могут иметь место ошибки двух типов, схема появления
которых представлена на рис. 3.4:
ошибка первого рода – когда отвергают нулевую гипотезу
Н0 и принимают альтернативную гипотезу H1, тогда как на самом деле гипотеза Н0 верна;
ошибка второго рода – когда принимают гипотезу Н0, тогда как на самом деле высказывание Н0 неверно, верной является гипотеза Н1 [20].
В этом случае уровень значимости – это априори заданная вероятность совершения ошибки первого рода (формула
(3.2)) и вероятность того, что будет принята гипотеза Н1, если на
самом деле для генеральной совокупности верна гипотеза Н0:
αкрит = P (H1 : H0).
(3.2)
Проверяя и принимая нулевую гипотезу, нельзя забывать,
что та или иная выбранная пороговая (критическая) величина
уровня значимости (например, крит = 0,05) – результат условной
договоренности. Если мы поставим более жёсткие требования,
к примеру крит = 0,01, то и результат можем получить другой.
Проверим гипотезу о равенстве средних значений из двух
выборок. (подробнее это будет изложено в п. 3.4). Наиболее часто используемым методом обнаружения различия между средними двух выборок служит критерий Стьюдента (t-критерий).
Уровень p-значимости t-критерия равен вероятности ошибочно
отвергнуть гипотезу о равенстве средних двух выборок, когда
81
в действительности эта гипотеза имеет место. Иными словами,
он равен вероятности ошибки принять гипотезу о неравенстве
средних, когда в действительности средние равны.
Таблица 3.1
Результаты вычислений средних зависимых выборок
Исходные данные для проверки гипотез «о равенстве
средних» отобраны из одной генеральной совокупности, используется так называемый парный t-критерий. Выборки при
этом называют зависимыми, связанными. Средние значения отличаются во втором знаке после запятой. Можно ли считать их
равными? Величина |tэмп | = 0,43 < tкрит = 1,998, следовательно,
гипотеза «средние в двух группах равны» принимается.
Функция плотности на рис. 3.3 свидетельствует о том, что
95 % (р = 0,95) всех разностей лежит в области принятия нулевой гипотезы. Только 5 % разностей лежат в критических областях, и это области с большими значениями разностей. В этом
примере, если гипотеза о равенстве парных проб имеет расчётную значимость (р-уровень) по отношению к данной выборке
меньше или равную критическому значению 0,05, то она должна
быть отвергнута как маловероятная при полученных результатах, если больше 0,05, то принята (см. принцип практической
невозможности маловероятных событий, п. 3.1). В нашем примере достигнутый р-уровень равен 0,66 (табл. 3.1), что не позволяет отвергнуть нулевую гипотезу. Вместе с тем это лишь вероятностное утверждение, которое не предполагает безусловной
гарантии. В некоторых случаях этот вывод может оказаться неправильным.
82
Рис. 3.3. Вычисление величины критерия Стьюдента tкрит
в вероятностном калькуляторе программы Statistica
Используется и противоположное этой оценке понятие –
уровень доверия. Уровень доверия – вероятность не отвергнуть
верную нулевую гипотезу. Поскольку уровень значимости и
уровень доверия формируют полную группу событий, можно
записать следующее соотношение: = α + β = 1, тогда уровень
доверия = 1 – α. В таком случае проверить нулевую гипотезу
на уровне значимости 5 % и проверить нулевую гипотезу на
уровне доверия 95 % – это одно и то же. Вероятность принять
правильное решение в нулевой гипотезе, когда она верна (или
уровень доверия к нулевой гипотезе):
1 – αкрит = P (H0 : H0).
Ошибку первого рода можно совершить, только отвергая
нулевую гипотезу, а ошибку второго рода – только принимая
нулевую гипотезу. Невозможно одновременно совершить обе
ошибки (см. рис. 3.4).
Вероятность ошибки второго рода обозначают , т.е. –
вероятность того, что будет принята гипотеза Н0, если на самом
деле верна гипотеза Н1 (3.3):
β P ( H 0 : H1 ).
(3.3)
83
Рис. 3.4. Схема ошибок к принятию гипотез
С этой величиной тесно связана другая, имеющая большое
статистическое значение, – мощность критерия. Она вычисляется по формуле (1 – ). Мощность критерия – это его способность
выявлять различия, если они есть [20]. Таким образом, чем выше мощность, тем меньше вероятность совершить ошибку второго рода.
Численные значения β и α в сумме равны единице, что определяет полный набор событий – либо мы сделали правильный
вывод, либо мы ошиблись. Эти уровни не рассчитываются, они
чаще всего заданы в соответствующих таблицах [13; 68]. Уровень значимости можно понимать как априори заданную границу, до которой событие считается случайным, а после пересечения даёт нам основание считать данное событие неслучайным.
Понятно, что исследователя всегда интересует вопрос, насколько правильным будет его решение отклонить нулевую гипотезу Н0, иными словами, какова вероятность ошибочного отклонения гипотезы Н0.
Критические значения критерия при наиболее используемых уровнях значимости обычно печатаются в статистических
84
таблицах. В случаях ручных расчётов, когда использовались
статистические таблицы, значения того или иного критерия выведены с априори заданным интервалом. Если проверяемое значение попадало не на границу, а внутрь интервала, для облегчения процесса принятия решения предлагалось вычерчивать «ось
значимости» (рис. 3.5).
Рис. 3.5. Схема расположения зон для принятия решения
о значимости события
Например, при уровнях значимости α < 0,05 и α < 0,01 на
рисунке они обозначены соответственно как F0,05 и F0,01. Но эмпирическое значение критерия (например, Fэмп = 0,03) могло попасть в интервал между критическими (табличными) значениями, показанными на рис. 3.5. Правее критического значения F0,01
простирается «зона значимости» – сюда попадают эмпирические
значения, не превышающие F0,01 и, следовательно, безусловно,
значимые.
Влево от критического значения F0,05 простирается «зона
незначимости» – сюда попадают эмпирические значения F, которые больше F0,05 и, следовательно, безусловно, незначимы.
Если эмпирическое значение критерия (Fэмп) попадает в
область между F0,05 и F0,01, т.е. в «зону неопределенности», мы
уже можем отклонить гипотезу о недостоверности различий Н0,
но еще не можем принять гипотезу об их достоверности Н1 [25].
По мере разработки и использования статистических
программных продуктов появляется возможность вычислить
критическое значение для любого критерия. Такая возмож85
ность позволяет перейти на более современное представление
результатов проверки гипотез – в виде «достигаемого уровня
значимости», т.е. вероятности того, что статистика критерия
покажет большее отклонение от нулевой гипотезы, чем то, что
соответствует имеющимся экспериментальным данным [41].
Согласно современным представлениям следует употреблять
именно «достигаемый уровень значимости», а методика стандартных априори заданных уровней значимости остается для
тех случаев, когда «достигаемый уровень значимости» не удается вычислить.
В статистических тестах обычно приходится идти на компромисс между приемлемым уровнем ошибок первого и второго
рода. Зачастую для принятия решения используется пороговое
значение, которое может варьироваться со значениями порога –
сделать тест более строгим или, наоборот, более мягким. Этим
пороговым значением является критический уровень значимости, которым задаются при проверке статистических гипотез.
В литературе можно найти разные варианты интерпретации статистических выводов по уровню значимости [37]. Один из них
представлен в табл. 3.2.
Таблица 3.2
Традиционная интерпретация рассчитанных уровней
значимости
Расчётный
уровень
значимости
p > 0,1
Решение
Отвергается Н0
Сомнения в истинно0,05 ≤ p ≤ 0,1
сти Н0, неопределенность
Значимость,
0,01 < р ≤ 0,05
принимается Н0
Высокая значимость,
0,001≤ p < 0,01
принимается Н0
86
Возможный статистический вывод
Обнаружены достоверные различия
Различия обнаружены на уровне
статистической значимости
Не обнаружены статистически
достоверные (значимые) различия
Различия не обнаружены на высоком
уровне статистической значимости
Проверка теста (для условий табл. 3.2) начинается с выдвижения нулевой гипотезы, которая утверждает, что нет никаких различий между данными или отсутствует связь между
двумя явлениями, для которых будут собираться данные. Если цель эксперимента состоит в том, чтобы найти или продемонстрировать какой-то тип взаимосвязи или влияние, нулевая
гипотеза равносильна утверждению, что эксперимент «потерпел неудачу».
Статистическая значимость основана на вероятности получения результата при предположении, что нулевая гипотеза
верна – это математический критерий, который мы можем использовать, чтобы решить, следует ли нам принять или отвергнуть нулевую гипотезу.
3.3.7. Определение критических значений распределений
на практике в модуле «Вероятностный калькулятор»
программы Statistica
В предыдущих разделах часто используется вероятностный калькулятор. Этот модуль программы Statistica позволяет
определить критические значения основных распределений, наглядно просмотреть графики функций распределения и плотностей распределения основных вероятностных законов.
В верней части окна приведены режимы, необходимые
для вычисления статистик (рис. 3.6).
Обратная функция распределения. Эта опция позволяет
провести вычисления для обратной функции распределения. Таким образом, если ввести уровень значимости, то можно вычислить критическое значение соответствующей статистики. Если
пользователь начнёт изменять значение p в соответствующем
поле ввода, эта опция будет выбрана автоматически.
87
Рис. 3.6. Расчёт значений основных распределений
на примере нормального
Двусторонняя. Эта опция позволяет вычислить двусторонний критерий (отрезок [m – x; m + x], где m – среднее значение, т.е. рассмотреть оба хвоста функции распределения статистики критерия). Применимо только для симметричных распределений. Если флажок в этой строке не устанавливать, то расчёт
будет проведен для левого отрезка в интервале ; x . Если
установить флаг на строку (1 – ф.р.) и не ставить его на двустороннюю, то расчет будет проведен для интервала, противоположного указанному x; .
1 – функция распределения (1 – ф.р.). Эта опция позволяет
вычислить критическое значение выбранного распределения по
величине (1 – ф.р.) или, наоборот, вычисляет (1 – ф.р.) по критическому значению (т.е. рассматривается левый хвост функции
распределения).
При выборе того или иного распределения в вероятностном калькуляторе могут появиться новые поля, где можно задать параметры выбранного распределения. В некоторых случаях поля могут быть заполнены. Например, для нормального распределения: mean (среднее) и std.dev (стандартное отклонение).
88
По умолчанию система запишет в них стандартные значения:
среднее = 0, стандартное отклонение = 1. Чтобы изменить данные значения, надо поместить курсор мыши в эти поля, щелкнуть левой кнопкой и ввести с клавиатуры нужные величины.
Из рисунка видно, что для нормированного ряда наблюдений в
интервале 3 находится 0,9973 всех наблюдений.
После выбора распределения в левом списке в поле калькулятора появятся графики плотности и функции распределения [13].
В центре диалогового окна приведены поля, необходимые
для ввода р-уровня доверительной вероятности. В поле р надо
ввести значение вероятности, при этом флажок автоматически
переместится на Inverse («обратная»). После инициирования
кнопки Compute («вычислить») (в правом верхнем углу окна) в
поле Х появится вычисленная величина квантиля, соответствующая выбранному уровню вероятности. Такие вычисления
можно выполнить и в обратном направлении – по введённому
значению Z определить уровень вероятности p. Для этого надо
задать числовое значение квантиля, нажать на кнопку Compute –
в поле р будет выведено расчётное значение вероятности, соответствующее введённой величине Z. Можно установить флажок
на поле Create Graph («создать график») и инициировать команду Compute, после чего на экране монитора будут сформированы и выведены графики плотности и функции распределения с
выделенными на них значениями вероятности [13].
Фиксированный масштаб. Это поле позволяет изменить
масштаб графиков (показываемых в окне и выводимых с помощью опции «График». Если опция выбрана, программа использует фиксированный масштаб для графиков, и при изменении
параметров распределения можно увидеть изменения на графике в том же самом масштабе.
В отчет. Поставьте пометку в этом поле, чтобы направлять p-уровень и критическое значение для выбранного распределения в отчет.
89
График. Опция позволяет создать составной график плотности и функции распределения. График создается после нажатия кнопки «Вычислить».
3.4. Решение задачи сравнения выборок
3.4.1. Виды выборок данных
В практической деятельности часто встречаются ситуации, когда имеется две нормально распределённые выборки и
среднее значение. Величина дисперсии данных первой выборки
может отличаться от этих статистик другой выборки. В этом
случае возникает вопрос, можно ли считать это расхождение
незначимым, т.е. чисто случайным, или оно вызвано существенным различием двух генеральных совокупностей. Для решения
задачи сравнения выборок используют статистические критерии. Вместе с тем необходимо учитывать, с какими выборками
мы имеем дело в данном исследовании, поскольку они могут
быть двух видов – независимые и зависимые.
Независимые выборки (не связанные выборки) – это две
выборки, отобранные с разных участков, у которых были измерены одни и те же признаки по одним и тем же методикам.
Зависимые выборки (связанные выборки) – это одна и та
же группа объектов, у которых были измерены одни и те же
признаки в двух (или более) различных ситуациях. Например,
оседания по реперам профильных линий до разработки панели
и по истечении определённого времени после разработки.
Для того чтобы выбрать критерий различий, необходимо
ответить себе на следующие вопросы:
1. По какой шкале измерен признак?
Если признак измерен по шкале наименований или шкале
порядка, то выбирается непараметрический критерий. Если признак измерен по интервальной или пропорциональной шкале, то
выбор критерия зависит от ответа на второй вопрос.
90
Таблица 3.3
Обзор наиболее часто применяемых параметрических критериев
Задачи
Условия
Критерии
Ограничения
Выявление различий НезавиДве выборки
t-критерий Ограничений
в уровне исследуемо- симые
испытуемых
Стьюдента
по объему
го признака (сравне- выборки
(формула для выборки нет
ние двух параметров
независимых
распределений)
распределений)
Оценка сдвига значе- Зависи- Две выборки исt-критерий
ний исследуемого
мые
пытуемых (измеСтьюдента
признака (сравнение выборки рение одних и тех (формула для
двух параметров
признаков в двух
зависимых
распределений)
ситуациях)
распределений)
Сравнение изменчиНезавиДве выборки
F-критерий
вости распределений симые и
испытуемых
Фишера
зависимые
Две и более
В-критерий
выборки
выборки
Бартлетта
испытуемых
g-критерий
Кохрана
2. Является ли распределение признака нормальным?
Если признак измерен по интервальной и пропорциональной шкале и доказано его нормальное распределение, выбирается параметрический критерий. При ненормальном распределении должен быть выбран непараметрический критерий.
3. С какого вида выборками имеем дело в данном исследовании?
Для сравнения зависимых выборок выбираются одни критерии, для независимых – другие (или в случае параметрических
критериев различаются алгоритмы их расчета).
4. Каковы ограничения в применении критерия?
Обращаем внимание, что ответ на этот вопрос необходим,
только если признак измерен по интервальной или пропорциональной шкале. Если признак измерен по интервальной и пропорциональной шкале и доказано его нормальное распределение,
выбирается параметрический критерий. При ненормальном распределении должен быть выбран непараметрический критерий.
91
При выборе критериев сравнения целесообразно воспользоваться обзорными таблицами для параметрических и
непараметрических критериев [17; 32; 52; 60]. В качестве примера в табл. 3.3 приведён обзор часто применяемых параметрических критериев.
3.4.2. Проверка гипотезы о равенстве дисперсий
двух независимых выборок
Рассмотрим задачу проверки гипотезы о равенстве дисперсий двух независимых выборок. Пусть имеются две независимые нормальные (подчиняющиеся нормальному закону распределения) выборки: x1 , x2 ,..., xn и y1 , y 2 ,..., y n .
1
2
Их выборочные дисперсии рассчитываются из выражений:
S12
2
2
1 n1
1 n2
2
x
x
S
yi y .
и
i
2
n1 1 i 1
n2 1 i 1
(3.4)
Для сравнения величин выборочных дисперсий двух рядов
наблюдений можно использовать критерий Фишера. Его ещё называют дисперсионным отношением, так как он формируется как
отношение двух сравниваемых несмещенных оценок дисперсий.
Для вычисления эмпирической величины критерия Fэмп нужно
найти отношение дисперсий двух выборок, причем так, чтобы
большая по величине дисперсия находилась в числителе, а меньшая – в знаменателе:
Fэмп
S12
.
S 22
(3.5)
Рассмотрим пример проверки гипотезы о равенстве дисперсий двух независимых выборок в программном пакете
Statistica. На двух соседних полупанелях одного из рудников
ПАО «Уралкалий» отобраны по 30 проб. Среднее содержание
92
хлористого калия в руде 24,3 и 23,6 % соответственно
(табл. 3.4). Выборочные дисперсии равны S12 = 5,54 (S1 = 2,35)
и S22 = 12,69 (S2 = 3,56). Сравним равенство дисперсий рассматриваемых выборок и произведём сравнение качественных
показателей полезного ископаемого на данных участках месторождения.
Таблица 3.4
Описательные статистики
Выдвигаем нулевую гипотезу о равенстве двух дисперсий, т.е. H0: S12 = S22 против альтернативы H1: S12 ≠ S22 и производим вычисление описательных статистик в каждой выборке
(см. табл. 3.4).
После вывода таблицы добавим в неё два дополнительных
столбца: xcp 3 и xср 3 (табл. 3.5). Анализ полученных данных показывает, что минимальное значение второй переменной
выходит за границы интервала.
Таблица 3.5
Условия исключения и статистики после исключения
Ранее указывалось, что выборки должны подчиняться
нормальному закону распределения вероятностей. Выполним
проверку этого требования по 3 интервалу и по виду гистограмм (рис. 3.7).
93
а
б
Рис. 3.7. Гистограммы распределения:
а – переменная 1, б – переменная 2
Гистограмма для этой переменной также подтверждает
наличие выброса в одной пробе, поэтому эту пробу с минимальным значением 10,13 из анализа можно удалить. Для этого в условиях анализа (Select cases) для второй переменной поставим
ограничение по минимальному интервалу 12,9. После исключения произведём пересчёт описательных статистик по этой переменной, далее делаем вывод, что все данные находятся в границах интервала 3 (см. табл. 3.5).
Таким образом, данные подготовлены к дальнейшей обработке.
Для того чтобы отвергнуть выдвинутую гипотезу о равенстве двух дисперсий, необходимо доказать значимость различия
при заданном уровне значимости (принимаем α = 0,05). Вычислим дисперсионное отношение:
Fэмп
2,532 6, 40
1,16.
2,352 5,52
Критерий имеет распределение Фишера F (α, f1, f2). Критерий Фишера – двусторонний критерий, и нулевая гипотеза H0:
S12 = S22 отвергается в пользу альтернативной H1: S12 ≠ S22, если:
F (1 – α / 2, f1, f2) < Fэмп < F (α / 2, f1, f2),
94
где f1 = n1 – 1; f2 = n2 – 1; f1 = 29, f2 = 28 – числа степеней свободы первой и второй выборок.
В программе Statistica реализован односторонний критерий Фишера, т.е. в качестве S12 всегда берут максимальную дисперсию. В этом случае нулевая гипотеза отвергается в пользу
альтернативы H0: S12 > S22, если Fэмп >Fкрит (1 – α / 2, f1, f2).
Для примера вычислены: Fэмп = 1,16; f1 = 29, f2 = 28, α = 0,05.
По таблицам Statistica (Probability Distribution Calculator)
находим критическое значение Fкрит (0,975; 29,28) = 2,12. Критическое значение больше вычисленного Fэмп = 1,16, следовательно,
нулевая гипотеза должна быть принята, дисперсии двух выборок
равны. После удаления выброса стандартные отклонения выборок (см. табл. 3.4, 3.5) отличаются статистически незначимо.
3.4.3. Параметрический критерий проверки
статистических гипотез – t-критерий Стьюдента
Одним из наиболее распространенных параметрических
критериев является критерий Стьюдента. В его основе лежит tраспределение.
Английский учёный В. Госсет в 1908 г. вывел случайную
величину:
t
x
s/ n
.
(3.6)
В таком виде она появилась после теоретических обоснований Р. Фишера. Критерий применяется для проверки гипотезы
об отличии среднего значения x от некоторого известного значения (математического ожидания). Закон распределения отношения Стьюдента (или просто распределение Стьюдента) является основой в так называемой теории малых выборок, которая
характеризует распределение выборочных средних в нормально
95
распределяющейся совокупности в зависимости от объема выборки. Рассматриваемое распределение зависит только от числа степеней свободы k = n – 1, причем с увеличением объема выборки n
распределение Стьюдента быстро приближается к нормальному
с нулевым средним и = 1, а при достижении n > 30 отличается от
него незначительно.
Все разновидности критерия Стьюдента являются параметрическими, в связи с чем они основаны на предположении о нормальности выборки данных. Поэтому перед применением критерия Стьюдента рекомендуется выполнить проверку нормальности. Если гипотеза нормальности отвергается, можно проверить
другие распределения, если и они не подходят, следует воспользоваться непараметрическими статистическими критериями.
Чаще всего критерий Стьюдента применяется для проверки равенства средних значений в двух выборках. Конечно, можно было бы сравнивать медианы или другие описательные статистики, но естественно начать со сравнения средних значений.
Выборки могут быть независимыми (несвязными), если процедура эксперимента и полученные результаты измерения некоторого свойства у наблюдений одной выборки не оказывают влияния на особенности протекания этого же эксперимента и на результаты измерения этого же свойства у наблюдений другой
выборки. В этом случае выборка состоит из элементов, отобранных из генеральной совокупности таким образом, чтобы каждый
элемент этой совокупности имел бы равные возможности (равную вероятность) попасть в выборку. Полученная таким образом выборка называется простой случайной выборкой [1]. Например, разделим пробы по одной панели на две части случайным образом.
Получить две простые случайные выборки можно с помощью случайных чисел. Также можно использовать вкладку
«Данные» в диалоге «Случайный выбор» для доступа к опциям
выбора простого подмножества из исходных данных (рис. 3.8).
96
Рис. 3.8. Информационное окно программы Statistica
И, напротив, выборки называются зависимыми (связными), если процедура эксперимента и полученные результаты
измерения некоторого свойства, проведенные на одной выборке,
оказывают влияние на другую.
Итак, мы имеем два средних – среднее для первой группы
и среднее для второй группы. Можно формально вычесть одно
среднее из другого и по величине разности сделать вывод о равенстве средних. Однако целесообразно принять во внимание
ещё и разброс данных относительно средних, т.е. дисперсию.
Первое, что приходит в голову для уравнивания двух дисперсий, – нормировать разность средних двух выборок (групп данных), поделив ее, например, на стандартное отклонение (корень квадратный из дисперсии).
Многие варианты применения критерия изложены в учебниках [1; 13; 20], например, сравнение:
выборочного среднего с заданным значением (значение
может быть задано априори);
двух выборочных средних при известных дисперсиях
(которые определены по генеральным совокупностям);
двух выборочных средних при неизвестных неравных
дисперсиях.
97
3.4.4. Оценка разности средних
для независимых выборок
Критерий оценки разности средних позволяет найти вероятность того, что оба средних значения в выборке относятся к одной
и той же совокупности. Данный критерий наиболее часто используется для проверки гипотезы: «Средние двух выборок относятся к
одной и той же совокупности». Существует два вида гипотез по
проверке однородности выборок. Первая с условным названием «в
слабом» используется, если незначимо отличаются их параметры –
прежде всего средние и дисперсии. При втором способе осуществляется проверка однородности выборок строгим способом (или
говорят «в сильном»). Выборки однородны «в сильном», если незначимо отличаются их законы распределения.
С помощью критерия Стьюдента проверяется гипотеза об
однородности выборок «в слабом». Нулевая гипотеза формулируется так: разность средних в выборке 1 и выборке 2 равна нулю.
При использовании критерия можно выделить два случая.
В первом случае его применяют для проверки гипотезы о равенстве генеральных средних двух независимых, несвязанных выборок (двухвыборочный t-критерий). В этом случае есть контрольная группа и проверяемая (опытная) группа, количество
наблюдений в группах может различаться.
Во втором случае, когда исходные данные для проверки
гипотез «о равенстве средних» отобраны из одной генеральной
совокупности, используется так называемый парный t-критерий.
Выборки при этом называют зависимыми, связанными.
Пусть X и Y – две генеральные совокупности с известными дисперсиями 2X и Y2 и неизвестными математическими
ожиданиями mX ( X ) и mY ( Y ). Из генеральных совокупностей
взяты две независимые выборки x1 ,..., xn и y1 ,..., yk и вычислены
выборочные математические ожидания (а в реальности – сред-
98
ние) x и y . Выдвинем нулевую гипотезу о равенстве математических ожиданий H 0 : x y против альтернативы H 1: x y .
В сущности, нас интересует разница средних, т.е. x y, но
каждая из этих величин была получена на ограниченной выборке
и потому содержит ошибку Sx и Sy. Как найти ошибку разности
средних, если мы знаем ошибку каждой из них? В теории ошибок
доказывается, что дисперсия разности средних (как и дисперсия
суммы) равна сумме дисперсий средних от каждой из двух сравниваемых выборок:
2 (x y ) = 2 (x y ) = 2 ( x ) 2 ( y ) .
Тогда ошибка в определении разности средних равна:
( x y ) (2x ) (2y ) .
Формально для независимых выборок в случае двух групп
(k = 2) эмпирическое значение t-критерия выражается в виде отношения разности выборочных средних к своему среднеквадратическому отклонению:
t( n1 n2 2)эмп
x y
d
,
( x y ) S d
(3.7)
где x , y – средние арифметические в двух выборках; ( x y ) –
стандартные ошибки разности средних арифметических.
Это отношение получило название критерия существенности разности. Если tэмп ≥ tтеор, нулевая гипотеза об отсутствии
существенности различий между средними опровергается, а если
различия находятся в пределах случайных колебаний для принятого уровня значимости – нулевая гипотеза принимается.
Р-уровень значимости критерия равен вероятности совершения ошибки и принятия гипотезы о неравенстве средних, когда в действительности средние равны.
99
Формулы для определения стандартных ошибок разности
средних арифметических будут меняться в зависимости от
предположения относительно дисперсий генеральных совокупностей. Если дисперсии неизвестны, рассчитываются выборочные дисперсии Sx и Sy. Рассмотрим возможные варианты вычисления ошибок разности средних:
а) Если дисперсии генеральных совокупностей неизвестны, причём гипотеза о равенстве 2 ( x ) 2 ( y ) принимается, тогда
ошибка разности средних вычисляется из выражения
( x x ) 2 ( yi y ) 2
1 1
,
( x y ) Sd i
n1 n2 2
n1 n2
где n1 и n2 – соответственно объёмы первой и второй выборки.
Подсчет числа степеней свободы осуществляется по формуле
k = n1 + n2 – 2.
Гипотеза «средние в двух группах равны» принимается,
если выполняется условие
t( n1 n2 2)эмп t( /2)( n1 n2 2) ,
где t( /2)( n1 n2 2) – критическое значение, взятое из таблиц (или
рассчитаное в вероятностном калькуляторе программы
Statistica) с уровнем значимости α и объёмами первой и второй
выборки.
б) Если дисперсии двух генеральных совокупностей неизвестны, причём гипотеза о равенстве 2( x ) 2( y ) отклоняется,
тогда:
S 2 S y2
x y
, t
Sd x
.
эм
п
n
Sd
1 n2
100
Статистика близка к t-распределению с числом степеней
свободы:
2
S 2 S 2 (S 2 / n )2 (S 2 / n )2
k x y / x 1 y 2 2.
n
n2 1
1 n2 n1 1
В этом случае гипотеза «средние в двух группах равны»
принимается, если соблюдается условие
t( n1 n2 2)эмп t( / 2), k .
в) Если дисперсии двух генеральных совокупностей известны, тогда
2x 2y
Sd .
n n
2
1
Известно, что в случае, когда нулевая гипотеза верна, статистика
tэмп
x y
Sd
имеет распределение Стьюдента с k-степенями свободы, но для
больших выборок ( n1 и n2 ) можно воспользоваться нормальной
аппроксимацией.
С помощью вероятностного калькулятора Statistica найдем
критическую точку распределения Стьюдента для уровня значимости α / 2 и k = (n1 + n2 – 2) степенями свободы. Обозначим
найденную точку через t (α / 2). В этом случае гипотеза «средние в двух группах равны» принимается, если
t( n1 n2 2)эмп t( / 2) ,
где t( / 2) – критическая точка распределения Стьюдента.
101
Таким образом, если tэмп < tкрит (для случаев а и б), нулевая
гипотеза не может быть отвергнута и различие выборочных
средних считается «статистически незначимым» (при этом обязательно указывается, при каком уровне значимости это имеет
место быть).
Если tэмп > tкрит, это означает, что величина d оказалась за
пределами своих собственных случайных колебаний. Такое различие называют «статистически значимым», т.е. нулевая гипотеза должна быть отвергнута. Достоверность в статистическом
смысле обозначает, что полученное различие предсказуемо: при
повторении эксперимента или наблюдения в тех же условиях
оно будет воспроизводиться с вероятностью β или более.
3.4.5. Оценка разности между средними
для зависимых (парных) выборок
В случае связанных выборок с равным числом измерений
в каждой из них можно использовать более простую формулу
t-критерия Стьюдента.
В связанных выборках каждому числовому значению одной выборки обязательно соответствует парное причинно и следственно связанное значение другой выборки. Это имеет место,
когда какие-либо характеристики изучаемого явления регистрируются в одном и том же геопространстве, при разных вариантах
воздействия. Простейший пример, когда в каждой борозде при
опробовании по стенке горной выработки отбирается ряд двойных проб – рядовая и контрольная. Пробы первого типа отправляются в лабораторию 1, а контрольные – в лабораторию 2. Требуется определить качество производства химических анализов
разных лабораторий. Формализуем задачу следующим образом.
Пусть имеется совокупность n пар наблюдений (x1, y1), ..., (xn, yn),
n – номер бороздовой пробы. Понятно, что каждая пара проб взята из одной точки геопространства, распределение содержания
102
в пространстве равномерное, без выбросов. Поэтому если две лаборатории, выполняя химический анализ по одной методике, дадут одинаковый результат по каждой пробе yi = xi, i = 1, n, то качество их работы одинаково высокое. Учитывая наличие погрешностей в процессе анализа, результаты анализов могут
расходиться. Составим разности di = yi − xi, i = 1, n и проверим
гипотезу о равенстве нулю среднего разностей d , H0: d = 0 против альтернативы H1: d ≠ 0. В примере предполагается равномерное (без наличия эффекта самородков7) распределение качества.
Для проверки гипотезы применяется следующая статистика:
tэмп
где
d
,
Sd / n
d – разность между двумя значениями в одной паре,
d – выборочное среднее для парных разностей,
Sd – стандартное отклонение разностей для выборки,
n – количество пар.
Стандартное отклонение разностей для выборки вычисляется по одной из формул:
Sd
( (d i d )) 2
n 1
( di2 n d )
2
n 1
( di2 ( di ) 2 ) / n
n 1
,
где Sd – стандартная ошибка, или мера отклонения наблюдаемой
разницы выборочных средних от теоретически возможной, «генеральной». Формально величина t показывает, во сколько раз
7
Эффект самородка (nugget effect ) используется в тех случаях, когда
экспериментальные данные измерены в точках не точно, а с некоторой погрешностью. Например, из одной пробы отобраны две навески и отправлены
для анализа в две разные лаборатории. Получили два различных значения содержания. Разность между ними составляет эффект самородка. Причиной разности может быть и крайне неравномерное распределение полезного ископаемого, например пробы по рассыпному золоту.
103
разница выборочных средних превышает свою собственную
случайную вариацию.
Пример. По одной из горных выработок отрабатываемой
панели отобраны 10 двойных проб (табл. 3.6). Рядовые пробы направлены в первую лабораторию, а контрольные во вторую. Требуется определить, значимо ли различие в результатах анализов
нерастворимого остатка у двух лабораторий на уровне значимости 0,05. Разности содержаний нерастворимого остатка NO результатов анализов первой и второй лаборатории вычислим из
выражения:
di = NO1i – NO2i.
Сформулируем основную и альтернативную гипотезы:
H0: d = 0 против альтернативы H1: d ≠ 0, для проверки гипотезы используем t-статистику.
Выборочное среднее для парных разностей: d =
d 10, 25
= i
1,025;
n
10
10, 252
10 1,32 .
10 1
26, 23
( d i )
1
di2
n 1
n
2
Sd
Таблица 3.6
Значения нерастворимого остатка в парных пробах, %
№ пробы
Показатель
1
2
3
4
5
6
7
8
9
10 Сумма
Среднее
NО лаб. 1 7,77 6,51 5,41 4,00 6,59 2,35 10,93 3,72 8,80 5,36 61,44 6,14
NО лаб. 2 9,83 6,44 4,18 5,48 7,52 4,69 10,60 6,84 9,38 6,73 71,69 7,17
Разность – 2,06 0,07 1,23 – 1,48 – 0,93 – 2,34 0,33 – 3,12 – 0,58 – 1,37 – 10,25 – 1,02
Квадрат
4,24 0,00 1,52 2,18 0,87 5,48 0,11 9,71 0,34 1,88 26,32 2,63
разности
104
Вычисляем эмпирическое значение статистики t:
t'эмп
d
1,025
2, 46.
Sd / n 1,32 / 10
В программе Statistica по вероятностному калькулятору
рассчитываем критическое значение для α / 2 = 0,025 и число
степеней свободы n – 1 = 9 (рис. 3.9). Критическая область является двусторонней.
Рис. 3.9. Окно программы Statistica для вычисления
критического параметра t-критерия Стьюдента
Поскольку |tэмп| < tкрит, основная гипотеза не отвергается,
различие в результатах анализов нерастворимого остатка у двух
лабораторий на уровне α = 0,05 незначимо.
Считается, что t-критерий может использоваться и для
выборки очень небольшого размера, даже в пределах 10 наблюдений. Желательно выполнять проверку условия о нормальном
распределении выборок. Предположение о нормальности можно
проверить, исследуя распределение (например, визуально с помощью гистограмм) или применяя критерий нормальности.
Вместе с тем эффективно проверить гипотезу о нормальности
можно только для достаточно большого объема данных.
105
Более осторожно нужно подходить к различию дисперсий
сравниваемых групп. Равенство дисперсий в двух группах можно
проверить с помощью F-критерия (который включен в вероятностный калькулятор программы Statistica). Также можно воспользоваться более устойчивым критерием Левена [65].
3.4.6. Пример выполнения оценки разности средних
и дисперсий для независимых выборок в программе Statistica
Для примера произведём оценку разности средних и дисперсий для независимых выборок с использованием программы
Statistica.
Пример. На северной и южной полупанелях сильвинтового пласта АБ отобраны пробы по полезному компоненту КCl.
Результаты анализа по 30 пробам каждой полупанели отображены в таблице рис. 3.10 (пер. 1 – северная часть панели, пер. 2 –
южная). Требуется установить, однородны ли данные по северной и южной частям панели.
Рис. 3.10. Выбор переменных
Воспользуемся встроенным модулем «Основные статистики и таблицы» (Basic Statistica / Tables)» из вкладки меню
«Анализ».
106
.
Рис. 3.11. Выбор команды для проверки независимости данных
В открытом списке задач имеются две строки с одинаковыми возможностями (рис. 3.11). Если использовать пункт «tкритерий для независимых переменных» (t-test for independent
variables), потребуется, чтобы данные были размещены в двух
столбцах. Теоретически t-критерий может применяться только в
том случае, если переменные нормально распределены. Но во
второй переменной анализируемой панели имеется выброс, который требуется исключить на время анализа (проба № 53,
прил. А). В случае физического удаления выброса из таблицы из
анализа будет исключена вся строка включая значение первой
переменной, в которой отсутствует выброс. Поэтому целесообразно исключить выброс из анализа, не удаляя его из таблицы.
Для этого используем опцию программы Statistica – Select cases.
Воспользуемся возможностями команды, зашитой в строке
«t-критерий для зависимых переменных» (t-test for dependent
variables). Для этого организуем две новые переменные и увеличим количество наблюдений до 59 (30 + 29 = 59). В первую новую переменную скопируем все данные из первого столбца и во
второй переменной введём для них ключ, равный единице. Скопируем все данные второго столбца и вставим их в первый новый
столбец в продолжение имеющихся данных. Во втором новом
столбце поставим у вновь скопированных данных ключ, равный
двум (см. рис. 3.10).
107
Таким образом, в новых переменных появились все данные из первой и второй переменных, но их можно отличить значениями ключа.
В первой половине открытого окна выбираем первый новый столбец 5, а во второй половине окна группирующую переменную 6, которая является ключом (см. рис. 3.10).
Прописываем ограничение по минимальному значению –
кнопка Select cases (рис. 3.12).
Рис. 3.12. Окно задания условия ограничения
Далее переходим на вкладку «Опции» (Options), отмечаем
галочкой строку t-критерий с разделенными оценками дисперсий (t-test with separate variance estimates) и указываем значение
р-уровня (рис. 3.13).
Рис. 3.13. Условия выбора опций
Также опции позволяют отображать длинные имена переменных, задавать уровень значимости и использовать два дополнительных критерия для сравнения дисперсий – Левена
(Levene’s test) и Брауна – Форсайта (Brawn & Forsythe test).
108
Равенство дисперсий в двух переменных можно проверить
с помощью F-критерия, он включен в таблицу вывода результатов. В качестве опций возможен расчет t-критерия как с объединением дисперсий (по умолчанию), так и с раздельным их расчетом (t-test with separate variance estimates). Первый из этих
случаев возможен, когда дисперсии обеих выборок однородны,
а второй – когда неоднородны.
Вернёмся на вкладку «Быстрый» (рис. 3.14) и произведем
расчеты, нажав на клавишу «T-критерий» (Summary: t-test).
Рис. 3.14. Окно выбора кодов с активной вкладкой «Быстрый»
В результате расчетов появится табл. 3.7, в которой указано два варианта расчета числа степеней свободы и уровней значимости для проверки гипотезы о равенстве средних – для случая однородных (t-значение, степени свободы, p) и неоднородных дисперсий (t-значение, степени свободы, p двусторонний).
В табл. 3.7 pдисперс – вероятность ошибки для F-теста Фишера. Поскольку в нашем случае р > 0,05, можно заключить, что
дисперсии сравниваемых выборок не различаются (т.е. условие
однородности дисперсий выполняется).
Таблица 3.7
Результаты вычисления данных к гипотезе о равенстве средних
109
Под однородностью понимается их статистическая неразличимость. В первом случае, когда выборки имеют равные
средние и равные дисперсии, число степеней свободы равно
сумме объемов двух выборок минус два, в нашем примере
(30 + 29) – 2 = 57. Если гипотеза о равенстве средних отвергается с заданным в опциях уровнем значимости, то цифры в выведенной таблице будут показаны красным цветом. Возможен
второй случай, когда гипотеза о равенстве средних не отвергается, а дисперсии сравниваемых выборок статистически отличаются. В программе Statistica, в такой ситуации число степеней
свободы будет скорректировано, оно будет тем меньше, чем
больше отличаются дисперсии. В таблице скорректированное
число степеней свободы 56,35. Коррекция проводится аналитически, поэтому и появляется дробное число. Уровень значимости для t-критерия равен вероятности ошибочно отвергнуть гипотезу о равенстве средних двух выборок, когда в действительности эта гипотеза имеет место быть.
Из таблицы видно, что и средние значения, и дисперсии по
полупанелям отличаются незначительно. Проверим расчёты по
первому варианту. Вычисленное значение (эмпирическое) меньше критического tэмп (57; 0,74) = 0,32 < ǀ t(57; 0,05) ǀ = 1,67 (рис. 3.15),
можно сделать предположение о принятии нулевой гипотезы,
о равенстве средних двух выборок.
Достигаемый уровень р-значимости критерия Стьюдента
0,75. В этом анализе он равен вероятности ошибки принять гипотезу о неравенстве средних, когда в действительности средние равны. Для варианта с раздельным расчетом дисперсий незначительно уменьшилось число степеней свободы (с 57 до
56,34), а остальные статистики изменились незначительно.
Проверка равенства дисперсий проводится по отношению дисперсий выборок. Оно составляет Fэмп = 1,16. Критическая величина критерия Фишера определяется в статистическом калькуляторе. Как указывалось, в системе Statistica реализован односторонний критерий Фишера, т.е. в числителе
110
дроби всегда берут максимальную дисперсию. В этом случае
нулевая гипотеза отвергается в пользу альтернативы, если
Fэмп > Fкрит (1 – α / 2, f1, f2). Для нашего примера Fкрит (0,975, 29, 28) =
= 2,12 (рис. 3.16), тогда Fэмп < Fкрит, нулевая гипотеза о равенстве дисперсий принимается.
Рис. 3.15. Вычисление критического значения критерия Стьюдента
Рис. 3.16. Критическое значение критерия Фишера
111
Таким образом, параметры нормального закона (среднее и
стандарт) распределения вероятностей у двух выборок статистически не отличаются, следовательно, качество полезного ископаемого в полупанелях одинаково.
3.5. Проверка статистических гипотез
о виде распределения
3.5.1. Общие сведения
При проведении многих научных исследований или решении практических задач проводят испытания и получают выборку из генеральной совокупности. Одна из важных задач математической статистики – установление истинного закона распределения изучаемой выборки, например, мощности пласта
или содержания полезного компонента в пределах панели. Во
многих случаях закон распределения наблюдаемых данных неизвестен, но есть основания предположить, что он имеет вполне
определенный вид – нормальный, биномиальный или какойлибо другой. На практике о нём судят, изучая ограниченное
число наблюдений по косвенным признакам – по графикам распределения выборки и по значениям основных статистик, поэтому параметры закона выборочные.
Однако, сколько бы пользователь ни выбирал вид закона и
его параметры, полной уверенности в том, что он получит истинный закон распределения, к которому принадлежит имеющаяся выборка, не существует. Поэтому вопрос может идти
лишь о том, что на определённом уровне доверия данные выборки согласуются с априори выбранным законом распределения. Критерии, устанавливающие закон распределения, называются критериями согласия – критериями проверки гипотезы о
предполагаемом законе неизвестного распределения. Существуют различные критерии согласия: Пирсона, Колмогорова –
112
Смирнова, Шапиро – Уилка и др. В частности, один из критериев согласия использовался в примере предыдущего раздела для
проверки гипотезы о согласовании наблюдаемого и теоретического распределений.
Второй часто используемый вид проверки – проверка гипотезы о совпадении законов распределения двух генеральных
совокупностей. В этом случае предположение о виде теоретической модели данных не требуется. Критерий дает нам представление о «расстоянии между двумя наборами данных» и на основе значения этого расстояния позволяет делать вывод о «согласии» между двумя распределениями.
В стандарте ГОСТ Р ИСО 5479-2002 [17] предусматриваются графический метод проверки на нормальность с использованием вероятностной бумаги, критерии проверки на симметричность и на значение эксцесса, критерии Шапиро – Уилка. Считается, что критерий Шапиро – Уилка на объемах выборок
n ≤ 50 является хорошим средством проверки нормальности,
обладает высокой мощностью. Под мощностью критерия понимается вероятность отклонить нулевую гипотезу, когда верна
альтернативная гипотеза. Если нормальность выборки проверяется несколькими критериями, то наиболее мощным будет тот, у
которого больше вероятность отклонения нулевой гипотезы.
Стандартом не предусматривается использование критериев типа 2, так как он «подходит только для сгруппированных данных» и по мнению разработчиков, «группирование приводит к
потере информации». Вместе с тем на основании работ [32; 60]
представлены результаты исследования сравнительной мощности критериев нормальности распределения вероятностей случайных величин для различных альтернативных распределений.
Критерии представлены в порядке предпочтения, и на первом
месте критерий Шапиро – Уилка. Критерий 2 также входит в
первую половину этого солидного списка, а критерий Колмогорова – Смирнова на 11-м месте. Но даже в описании программы
113
Statistica указано, что ни один из этих критериев не может заменить визуальную проверку с помощью гистограммы и других
графиков.
В следующем разделе мы рассмотрим проверку гипотезы
о нормальности эмпирического распределения. По имеющейся
случайной выборке мы проверим, имеет ли исследуемый признак нормальное распределение.
3.5.2. Проверка гипотез о виде распределения
по критерию согласия 2
Пусть х1, х2, х3,…, хn – выборка наблюдений случайной величины Х. Выдвигаем нулевую гипотезу Н0: о нормальном распределении случайной величины Х. Параметры нормального
распределения – математическое ожидание и дисперсия.
Задаёмся вероятностью совершения ошибки первого рода
= 0,05, где – это уровень значимости или вероятность того,
что будет принята альтернативная гипотеза Н1, если на самом
деле в генеральной совокупности верна гипотеза Н0.
Для критерия 2 строится правосторонняя критическая
область, определяемая условием:
P (χ2эмп > χ2крит (α, )) = α,
где α – уровень значимости (вероятность совершения ошибки
первого рода);
– число степеней свободы.
Следовательно, критическая область задается неравенством (χ2эмп > χ2крит (α, ), а область принятия гипотезы –
(χ2эмп < χ2крит (α, )).
Критерий согласия 2 позволяет проверить, случайно или
неслучайно отклонение между теоретическими и наблюдаемыми данными. Порядок проверки гипотезы следующий:
114
1. Разбиваем выборку на интервалы и определяем теоретические частоты для нормального закона распределения. Если
количество частот 5 и меньше, то их объединяем со смежными
интервалами.
2. Вычислим величину χ2эмп по выражению
r
2эмп
1
(nk npk )2
,
npk
(3.8)
где r – количество интервалов разбиения;
nk – число наблюдений, попавших в k-интервал;
npk – ожидаемое (теоретические для нормального закона)
произведение вероятности на число наблюдений, попавших в kинтервал.
3. Определим число степеней свободы:
= (r – l – 1),
(3.9)
где l – число неизвестных параметров распределения (для нормального закона распределения l = 2).
4. Вычислим в калькуляторе вероятностных распределений (или таблице квантилей распределения χ2) квантиль распределения χ2крит при α = 0,05 (или ином уровне значимости, в калькуляторе вводим p = 1 – α) и числе степеней свободы .
5. Если полученная статистика χ2эмп превосходит критическую (квантиль закона распределения χ2крит) для заданного уровня значимости α и степенями свободы (χ2эмп > χ2крит (α, )), то
гипотеза H0 отвергается, и значит можно говорить о несоответствии нормальному закону распределения значений рассматриваемой переменной. В противном случае гипотеза принимается
на заданном уровне значимости α и, следовательно, значения
переменной соответствуют нормальному закону распределения.
Больше информации о степени согласия можно почерпнуть
из «достигаемого уровня значимости». В программе вычисляется
р-уровень. Он показывает вероятность возможного превышения
полученного значения статистики при истинности нулевой гипо115
тезы р{χ2крит (α, > χ2эмп} > α. Именно эта вероятность позволяет
судить о том, насколько хорошо выборка согласуется с теоретическим распределением, так как, по существу, представляет собой
вероятность истинности нулевой гипотезы. Гипотезу о согласии
не отвергают, если р{χ2крит (α, > χ2эмп} > α [52].
Выполним проверку соответствия нормальному закону
распределения значений переменных по критерию согласия χ2
в программе Statistica.
Для примера рассмотрим нулевую гипотезу о нормальном
законе распределения хлористого калия (KCl) по панели пласта
Кр-II одного из рудников ПАО «Уралкалий» (прил. Б) при уровне значимости 0,05.
В меню «Анализ» щелкните мышкой «Подгонка распределений». Выделите непрерывное нормальное распределение, в
качестве переменной выберите колонку с KCl. В закладке
«Параметры» приводится число интервалов и другие параметры.
В первом расчёте их не меняем, но необходимо помнить, что их
количество влияет на корректность вычислений. Число степеней
свободы должно быть не менее 1, следовательно, минимальное
число интервалов потребуется 4 и более. В каждый интервал
должно войти более 5 наблюдений, если в него входит 5 и
меньше данных, то он объединяется с соседним интервалом. По
умолчанию выводится 18 интервалов.
Любое группирование исходных данных приводит к сжатию информации и вместе с этим к утрате некоторой её части.
Потери будут определяться способом группирования данных.
В работе [66] выполнен анализ рекомендаций по группированию из различных литературных источников. На практике принято строить интервалы равной длины или интервалы равной
вероятности (равной частоты). Утрата информации о законе
распределения в этих ситуациях различна, отличается и способность критерия распознавать близкие гипотезы. Вычисленные
по модельной выборке значения статистик типа χ2 очень сильно
116
зависят от того, как сгруппированы данные. При выборе интервалов группирования одним способом нулевая гипотеза H0
о согласии может быть отвергнута, другим – принята. При выборе интервалов равной длины определяющим является требование, чтобы число наблюдений, попавших в интервалы, было
не слишком малым и примерно одинаковым.
При больших объемах выборок разброс значений, задаваемых различными формулами, достаточно велик. Поэтому на
практике при выборе числа интервалов руководствуются тем,
чтобы в интервалы попадало число наблюдений не менее 5–10.
Так, например, в работе [52] приведены рекомендации ВНИИМ
им. Д.И. Менделеева в зависимости от количества наблюдений
N предлагают следующие количество групп k (табл. 3.8).
Таблица 3.8
Рекомендации ВНИИМ им. Д.И. Менделеева по количеству
интервалов в зависимости от объёма выборки (по ГОСТ [17])
Объём наблюдений N
40–100
100–500
500–1000
1000–10000
Количество интервалов r
7–9
8–12
10–16
12–22
В окне ввода параметров вводим 8 групп (рис. 3.17). Нижнюю и верхнюю границы проверяем и корректируем по минимальному и максимальному значению переменной.
В закладке «Опции» проставляем галочку в поле «Критерий 2» – «Составные интервалы», в этом случае программа при
расчёте степени свободы объединит интервалы. Такая возможность позволяет в какой-то мере оптимизировать наблюдаемые
частоты при разбиении на интервалы. Разрешаем вывод критерия Колмогорова – Смирнова с группированием интервалов.
После нажатия кнопки Ok выводится таблица (табл. 3.9) с результатами расчётов.
117
Рис. 3.17. Окно ввода параметров расчёта ожидаемых частот
Таблица 3.9
Таблица распределения ожидаемой частоты числа
наблюдений по интервалам
В таблице выводятся наблюдаемые частоты исследуемой
переменной, накопленные (кумулятивные) частоты, наблюдаемые частоты в процентах, накопленные частоты в процентах,
ожидаемые или теоретические частоты (которые должны быть),
накопленные ожидаемые, ожидаемые в процентах и накопленные ожидаемые в процентах. В последнем столбце выведена
разность наблюдаемых и теоретических частот. Например,
118
в первой строке таблицы эта разность составит: (набл.) – (ожид.) =
6,0 – 4,87391 = 1,12619.
Сумма этих разностей последней колонки, отнесённых к
ожидаемым частотам и является основой статистики 2 (формула (3.8)). Именно по ней судят, насколько сильны отклонения наблюдаемых и теоретических частот. Чем меньше вычисленное значение 2 в табл. 3.9, тем более надёжным будет суждение о подчинении проверяемой переменной выбранному
закону распределения.
В программе задано 8 интервалов, первый интервал с
ожидаемой частотой 4,87381 объединён со вторым интервалом,
последние два интервала (40,08125 – бесконечность) также объединены. В результате всего остаётся 6 значимых интервалов
(r = 6). Тогда в соответствии с формулой (3.9), получается три
степени свободы (табл. 3.7):
d = r – l – 1 = 6 – 2 – 1 = 3.
Объединение интервалов производится программой после
установки галочки напротив опции «Критерий Хи2» → «Составные интервалы».
Выдвигается нулевая гипотеза о том, что наблюдаемые
частоты соответствуют ожидаемым (т.е. между ними нет разницы, так как они взяты из той же генеральной совокупности). Если это так, то разброс будет относительно небольшим, в пределах случайных колебаний. Меру разброса определяют по статистике 2 (формула (3.8)). Далее либо полученную статистику
сравнивают с критическим значением (для соответствующего
уровня значимости и степеней свободы), либо, что более правильно, рассчитывают наблюдаемый p-value, т.е. вероятность
получить такое или еще большее значение статистики при справедливости нулевой гипотезы.
Определим границу критической области. Так как статистика 2 измеряет разницу между эмпирическим и теоретиче119
ским распределениями, то чем больше ее наблюдаемое значение
Kнабл, тем сильнее довод против основной гипотезы. Поэтому
критическая область для этой статистики всегда правосторонняя: (Kkp; + ∞).
В вероятностном калькуляторе рассчитаем критическое
значение χ2крит. Поскольку установлена вероятность в функции
распределения (а не уровень значимости), то в строке (1 – ф.р.)
галочку не ставим (рис. 3.18). Число степеней свободы принимаем, рассчитанное в табл. 3.8.
Рис. 3.18. Критическое значение распределения χ2крит
Поскольку квантиль 0,95 распределения 2 (правый хвост)
с тремя степенями свободы χ20,95; 3 = 7,81, а χ2эмп < χ2крит (α,v), нулевая гипотеза принимается. Расчётная величина р-уровня
(табл. 3.9) составляет 0,767. Она подтверждает вероятностное
представление наших ожиданий при нулевой гипотезе. У нас
нет основания опровергнуть гипотезу о подчинении наших данных нормальному закону распределения. Тест Колмогорова –
Смирнова пока не принимаем во внимание.
Данный тест проверяет нулевую гипотезу о том, что наблюдаемое распределение признака не отличается от теоретически ожидаемого нормального распределения.
Однако следует отметить, что мощность теста 2 при проверке нормальности распределения относительно невысока.
Скорректированное число степеней свободы в тесте должно
быть не менее единицы, следовательно, в таблице распределения ожидаемой частоты должно быть не менее четырех интервалов по шесть наблюдений в каждом, итого 24 наблюдения.
120
Если имеются выбросы, то получается уже около 30 наблюдений. Поэтому для малых выборок лучше воспользоваться другими тестами.
Ранее упоминалось, что необходимо исследовать гистограмму распределения переменной. Её можно распечатать в окне рис. 3.19, закладка «Быстрый – График наблюдаемого и ожидаемого распределения». Для параметров, установленных на
рис. 3.17 (65 наблюдений и 18 столбцов), гистограмма негладкая
(рис. 3.19, б). Если уменьшить число столбцов до 7–9, то вид
графика будет более выразителен (рис. 3.19, а).
а
б
Рис. 3.19. Гистограмма распределения полезного компонента:
а – для 8 и б – 18 столбцов
На гистограмме заметно наличие асимметрии, правая
ветвь гистограммы круче левой.
Критерий Колмогорова – Смирнова. В математической
статистике применяется непараметрический критерий Колмогорова – Смирнова. Он используется для сравнения эмпирического
выборочного распределения с теоретическим в случае одномерного критерия. Может использоваться для сравнения двух выборок, тогда критерий становится двумерным.
Критерий назван по фамилиям советских математиков
А.Н. Колмогорова и Н.В. Смирнова. В расчётах критерия χ2 со121
поставляются частоты двух распределений отдельно по каждой
группе в таблице частот. В критерии Колмогорова сопоставляются сначала частоты по первой группе, потом по сумме первой
и второй группы, потом по сумме первой, второй и третьей
групп и т.д. Таким образом, каждый раз сопоставляются накопленные к данной группе частоты.
Тестирование нормальности распределения по критерию
Колмогорова – Смирнова основано на вычислении максимальной
разности между фактически накопленным распределением выборки и аналогичным накоплением теоретических распределений:
Dn sup Fn ( x) F ( x) ,
где
Fn (x) – накопленное распределение выборки фактическое;
F (x) – накопленное теоретическое (ожидаемое) распределение (с известными параметрами);
sup – оператор максимума.
В случае когда различия между двумя накопленными
суммами распределений существенны и разность накопленных
частот достигнет критического значения, различия можно будет
признать статистически достоверными. Чем больше эмпирическое значение, тем более существенными являются различия.
При формировании нулевой гипотезы предполагается отсутствие различия между наблюдаемым и теоретическим распределением против альтернативной. Критическое значение
разности D вычисляется в программах или выбирается из соответствующих таблиц. Если расчетное значение меньше критического, принимается нулевая гипотеза. Если вычисленное значение больше, чем критическое значение, нулевая гипотеза отклоняется и принимается конкурирующая.
Выводимые значения вероятности основаны на предположении, что среднее и стандартное отклонение нормального
распределения известны априори и не оцениваются из данных. Вместе с тем на практике обычно эти параметры вычисля122
ются непосредственно из данных. В связи с этим критерий нормальности должен проверять сложную гипотезу – насколько
вероятно получить D статистику данной или большей значимости, зависящей от среднего и стандартного отклонения, вычисленных из данных.
Классический критерий Колмогорова предназначен для
проверки простых гипотез. Если проверяется гипотеза о согласии наблюдаемой выборки с законом, все параметры которого
известны, то критерий Колмогорова работает хорошо. Для проверки выборки о соответствии её нормальному закону распределения этим критерием требуется знать его параметры – математическое ожидание и дисперсию. Для сложных гипотез методика проверки какому-либо распределению тестом Колмогорова
зависит от многих других факторов и существенно усложняется.
Такая сложная проверка, предполагающая наличие дополнительных тестов, привела к тому, что в последние годы предпочтительнее в использовании становится критерий нормальности
Шапиро – Уилкса W.
3.5.3. Проверка гипотез о виде распределения
по критерию Шапиро – Уилка
Критерий Шапиро – Уилка считается одним из самых
мощных для малых выборок. Рассмотрим пример проверки гипотез о виде распределения по критерию Шапиро – Уилка в программе Statistica. В меню «Анализ» щелкнем мышкой «Основные
статистики и таблицы – Таблицы частот», в открытом окне щелкнем на закладку – «Нормальность» (рис. 3.20). Из критериев снимаем галочку с критерия Колмогорова – Смирнова (неизвестны
математическое ожидание и стандартное отклонение), оставляем
галочки у критериев Лиллиефорса и Шапиро – Уилка. В качестве
переменной выбираем колонку с KCl. В закладке «Параметры»
приводится число интервалов и другие параметры. После нажа123
тия кнопки «Критерии нормальности» выводится табл. 3.10 с результатами расчётов.
Рис. 3.20. Окна для проверки на нормальность по критерию
Шапиро – Уилка
Таблица 3.10
Результаты расчёта тестов Шапиро – Уилка
Значение статистики теста Шапиро – Уилка принято обозначать буквой W. В примере W = 0,9843864 при p = 0,585311.
При использовании критерия результаты испытаний располагают в вариационный ряд и рассчитывают значения:
n
2
k
nm2 xi x ; b an i 1 ( xni 1 xi ) ,
i 1
(3. 10)
i 1
где i – номер элемента в вариационном ряду.
При этом если n чётное k = n / 2, а если n нечётное, k =
= (n – 1) / 2. Значения an – i + 1 находят из таблиц. Статистику
критерия рассчитывают по формуле W = b2 / nm2. Рассчитанное
124
значение Wэмп сравнивают с табличным Wтабл. Табличные значения критерия Wтабл в зависимости от уровня значимости α
находят из статистических таблиц (прил. В).
Критерий рекомендуют применять при отсутствии априорной информации о типе возможного отклонения от нормальности. Возможности метода: выдвигается нулевая гипотеза H0:
распределение выборки нормальное (значение коэффициента W
Шапиро – Уилка в этом случае стремится к единице при любом
значении p). Альтернатива H1: распределение отличается от
нормального (значение коэффициента W Шапиро – Уилка стремится к нулю при p < 0,05). При использовании критерия важно
обращать внимание не только на значение показателя W, но и на
уровень статистической значимости. Так как нулевая гипотеза
сформулирована о том, что распределение нормальное, то она
будет приниматься при условии, что уровень статистической
значимости p > 0,05 и высоких значений W > 0,9. В ином случае,
принимается альтернативная гипотеза. В выборках объемом более ста объектов резко снижается чувствительность критерия.
Плохо выявляются различия между нормальным, экспоненциальным и логистическим распределениями.
При расчётах критерия Лиллиефорса так же, как при использовании критерия Колмогорова, находится максимальное
отклонение между выборочной и теоретической интегральными
функциями распределения. В случае если для выборки объёмом N при выбранном уровне значимости α максимальное расчётное отклонение Dэмп (табл. 3.10) превышает указанную в таблице прил. Г величину, нулевую гипотезу о соответствии выборки нормальному распределению следует отвергнуть.
Поскольку в нашем примере 65 наблюдений, при α = 0,05,
Dкрит = 0,886 / 65 = 0,110. Из табл. 3.10: Dэмп = 0,062 < Dкрит =
0,110, нулевая гипотеза о соответствии выборки нормальному
распределению принимается. И вероятность принятия этой гипотезы выше выбранного уровня значимости α.
125
Таким образом, ни один из трёх тестов не противоречит
гипотезе о нормальном распределении хлорида калия в пробах,
отобранных на участке пласта.
3.5.4. Упрощенные методы проверки
нормальности выборки
Как указывалось ранее, ни один из критериев согласия не
может заменить визуальную проверку соответствия гистограммы
нормальному закону распределения случайной величины. Для
примера произведём анализ значений той же переменной КCl на
соответствие её нормальному закону распределения по полученным численным статистическим параметрам (табл. 3.11). При
этом необходимо помнить, что основные численные характеристики нормального распределения должны соответствовать следующим условиям:
– среднее, мода, медиана совпадают: Mo = Me = x ;
34,167 34,509;
– асимметрия А = 0;
– эксцесс Е = 0.
– x 34,167; Me 34,509, распределение мультимодальное, мода не определена.
Среднее арифметическое x равно 34,167. Медиана Ме
равна 34,509. Распределение бимодальное (два выделяющихся
столбца), что подтверждается гистограммой на рис. 3.19, мода
не определена. Получаем неравенство x Me , которое показывает наличие незначительной левосторонней асимметрии. Для
визуального подтверждения сделанного вывода в дальнейшем
построим график гистограмм с линией нормального закона распределения (рис. 3.19). Дисперсия 2 равна 10,650. Стандартное
отклонение равно 3,264 (табл. 3.11).
126
Таблица 3.11
Расширенные статистики для переменной KCl
Асимметрия As равна – 0,077. Отрицательный знак подтверждает наличие левосторонней асимметрии у значений переменной КCl, но её величина незначительна. Оценим существенность асимметрии с помощью средней квадратической ошибки
коэффициента асимметрии, который равен As = 0,297.
As : As = – 0,077: 0,297 = – 0,259 < 3, что говорит о несущественной левосторонней асимметрии, а следовательно, не
противоречит нормальному закону распределения значений
переменной КCl.
Е : Е = – 0,622: 0,586 = – 1,061 < 3, величина эксцесса
несущественна.
Таким образом, произведённый анализ описательных статистик показал наличие несущественной асимметрии и незначительного эксцесса в распределении КCl.
Построим гистограмму распределения хлорида калия в
пробах и квантильный график (рис. 3.21).
На гистограмме заметна левосторонняя асимметрия, в
первом интервале завышено число проб. Центр распределения
имеет плоскую форму, не островершинную, что указывает на
наличие эксцесса. Нисходящая ветка гистограммы круче восходящей. Об этих нарушениях также свидетельствует начало и
конец квантильного графика. Также наблюдаются отклонения
127
точек от прямой в начале квантильного графика и в конце его.
В целом в средней его части точки хорошо лежат на линии нормального распределения.
а
б
Рис. 3.21. а – гистограмма распределения КСl
и б – квантильный график
Оценки для некоторых критериев согласия можно вывести
на гистограмму распределения случайной величины. Для этого
выбираем «Графики» – «2М графики» – «Гистограммы», выбираем переменную для анализа и переходим во вкладку «Дополнительно». В ней ставим галочку у критериев Шапиро – Уилка и
Колмогорова – Смирнова (рис. 3.22).
Рис. 3.22. Вывод «2М Графиков»
(гистограмма с параметрами критериев согласия)
128
4. ТОЧЕЧНЫЕ И ИНТЕРВАЛЬНЫЕ ОЦЕНКИ
4.1. Введение
В предыдущих разделах мы рассмотрели оценки параметров распределения с помощью числовых значений, которые
находятся по выборке и называются точечными. Если какаянибудь мера вычислена для всей генеральной совокупности, то
она называется параметром. Мера, вычисленная по выборке,
является оценкой параметра. Термин «выборка» определяется
как некоторое количество независимых измерений одной и той
же переменной. Выборка считается малой, если при измерении
одномерной случайной величины Х объем выборки не превышает 30. Нужно понимать, что измеряемый по выборке параметр является оценкой, основанной на сравнительно небольшом числе наблюдений. Если бы мы задались целью провести
«идеальный» эксперимент, то необходимо было бы в одних и
тех же условиях на одном и том же образце провести одновременно бесконечно много измерений, что физически невозможно выполнить.
Ранее отмечалось, что одной из основных задач выборочного наблюдения является определение статистических характеристик генеральной совокупности. Поскольку это невозможно сделать непосредственно, на генеральную совокупность
распространяют характеристики, вычисленные по выборочной
совокупности.
Потенциальная возможность определения средней арифметической генеральной совокупности по данным средней выборки доказывается теоремой П.Л. Чебышева. В простейшем
изложении она формулируется так: при неограниченном увеличении количества наблюдений вероятность того, что отличие
выборочной средней от генеральной средней будет сколь угодно
мало, стремится к единице.
129
4.2. Погрешности измерений и причины
возникновения ошибок
Для получения каких-либо геодезических, горных, геологических или иных данных проводятся измерения. Процесс измерений производится в течение какого-либо времени, зачастую в
неблагоприятных условиях. Таким образом, в измерениях участвуют объект измерения, измерительный прибор, наблюдатель и
среда, в которой выполняют измерения. Неблагоприятные условия среды негативно влияют на результаты измерений. Точность
зависит от качества измерительных приборов, квалификация наблюдателя, состояния измеряемого объекта и изменения среды во
времени. В практике инженеров – маркшейдеров и геодезистов
принято выполнять многократные измерения одной и той же величины, перечисленные факторы могут повлиять на результаты
измерений, они не будут совпадать со значением измеряемой величины. Разность между результатом измерения и действительным значением измеряемой величины даёт погрешность результата измерения. По характеру и свойствам основные погрешности
подразделяют на следующие типы: грубые, систематические и
случайные [47]. Грубые ошибки или просчеты легко обнаружить
при повторных измерениях, при использовании помехоустойчивой методики обработки или при внимательном отношении к измерениям. Систематические ошибки – те, которые действуют по
определенным законам и сохраняют один и тот же знак. Систематические ошибки можно учесть в результатах измерений, если
найти функциональную зависимость и с её помощью исключить
ошибку или уменьшить её до малой величины. Методика измерений также может исключить появление систематических погрешностей, например, измерение горизонтальных углов способом
приёмов при двух положениях круга исключает коллимационную
ошибку. Случайные погрешности – результат действия нескольких причин. Её величина зависит от того, кто измеряет, каким
методом и в каких условиях. Случайными эти ошибки называют130
ся потому, что каждый из факторов действует случайно. Их нельзя устранить, но можно уменьшить влияние, увеличивая число
измерений.
Грубые погрешности измерений (выбросы) могут сильно
исказить среднее, дисперсию и другие статистические оценки,
поэтому их исключают из серии измерений. Обычно в ряду полученных результатов они сразу видны, тем не менее в каждом
конкретном случае необходимо доказать наличие выбросов.
Существует ряд критериев для фиксирования выбросов. Например, критерий 3 служит для выявления и исключения грубых
погрешностей. Применяется этот критерий, если выборка результатов измерений подчинятся нормальному закону распределения и количество данных более 30–50. В геодезии теодолитные и нивелирные ходы имеют ограничения по длине или по
количеству штативов, поэтому и количество данных невелико.
И тогда критерий может быть уменьшен до 2 [47].
Любая выборка дает лишь приближенное представление о
генеральной совокупности, и все выборочные статистические характеристики (средняя, дисперсия и др.) являются некоторым
приближением, или оценкой генеральных параметров. Эти оценки ещё именуют точечными, потому что для замены неизвестного
параметра предлагается конкретное число. Положительная сторона точечной оценки в том, что это однозначное число (или несколько чисел – оценок параметров) можно поставить в формулу
распределения и тем самым полностью восстановить закон распределения вероятностей анализируемых данных. К сожалению,
точечные оценки параметров не дают представление о степени их
точности (насколько эти оценки будут отличаться от параметров
генеральной совокупности) и о надежности полученной оценки.
Особенно часто вопрос о точности и надежности оценки возникает тогда, когда объем выборки недостаточно велик. Параметры
генеральной совокупности (математическое ожидание, среднее
квадратическое отклонение и др.) вычислить в большинстве случаев не представляется возможным, по меньшей мере по двум
131
причинам. Первая из них – недоступность всех объектов генеральной совокупности, а вторая – наличие погрешностей измерений. В этом случае принято указывать интервал, в котором с определенной долей вероятности лежит истинное (генеральное)
значение статистической характеристики. Этот интервал называется доверительным интервалом (ДИ) и уже упоминался ранее.
4.3. Точечные оценки и требования к ним
Ранее рассматривались некоторые оценки выборки: среднее
значение, дисперсия, стандартное отклонение и др. Выбор той
или иной меры для оценки параметров генеральной совокупности
связан со свойствами оценок. Любые характеристики распределения вероятностей могут быть выражены через его параметры.
Поэтому одна из основных задач статистики заключается в том,
чтобы по выборочной совокупности случайной величины сделать
выводы о параметрах распределения, вычислить их приближенные значения. В геодезии, маркшейдерии, горном деле и во многих других отраслях промышленности чаще всего используется
нормальный закон распределения вероятностей. Его параметрами
являются математическое ожидание и дисперсия. Другие законы
распределения могут иметь иные параметры.
Введем обозначения: θ – оцениваемый параметр генеральной совокупности, θn – оценка параметра θ (точечная
оценка) на основе выборки объема n. Сделав допущение о типе
закона распределения, мы по выборке получаем приближенные
значения (точечные оценки) его параметров. Оценка – это
функция от нашей выборки. Но таких функций от выборки
можно придумать великое множество. Очевидно, что эта оценка должна удовлетворять нескольким условиям, по меньшей
мере она не должна значимо отличаться от оцениваемого параметра генеральной совокупности. Под «хорошей» понимают
такую оценку θn, которая с большой вероятностью близка
132
к истинному параметру θ. Рассмотрим желательные свойства
точечной оценки.
1. Состоятельность. Оценка θn называется состоятельной, если при неограниченном росте объема выборки (n → ∞)
эта оценка стремится к неизвестному истинному значению параметра (θn → θ). В математической статистике доказано, что
состоятельной оценкой генерального среднего значения μ является выборочное среднее арифметическое x в , а состоятельной
оценкой генеральной дисперсии σ2 – выборочная дисперсия σ2в.
Методы вычисления этих выборочных характеристик были рассмотрены ранее.
2. Несмещенность. Оценка θn называется несмещенной,
если ее математическое ожидание совпадает с неизвестным истинным значением параметра, т.е. M (θn) = θ, или, иными словами, если она не содержит систематической составляющей. Таким образом, несмещенная оценка оказывается истинной в
среднем. Более слабым условием является асимптотическая несмещенность, которая означает, что математическое ожидание
оценки сходится к истинному значению параметра с ростом
объема выборки. Выборочное среднее арифметическое хв является несмещенной оценкой генерального среднего μ.
Одним из свойств выборочного среднего арифметического является положение о том, что сумма квадратов отклонений
значений признака от среднего арифметического меньше, чем
сумма квадратов отклонений от любой другой величины (в том
числе и от генерального среднего μ). В случаях, когда анализируемые данные содержат систематическую составляющую, то и
вычисленные оценки дисперсии по формуле (4.1) будут содержать систематическую ошибку и такая оценка будет смещенной.
x x
n
2 i1
2
i
n
.
(4.1)
133
Несмещенной оценкой генеральной дисперсии σ2 является
исправленная выборочная дисперсия, вычисляемая по формуле
(4.2), поскольку при неограниченном повторении выборки из
генеральной совокупности и усреднении выборочной дисперсии, полученной на основании этой формулы, по всем выборкам
получается истинное значение генеральной дисперсии.
x x
n
S 2 i1
2
i
n 1
.
(4.2)
Однако нам недостаточно иметь «истинное» в среднем
значение, хотелось бы еще, чтобы разброс значений вблизи этого среднего был как можно меньше. Степень разброса выборочной оценки вблизи истинного значения как раз и характеризует
следующее свойство оценок, называемое эффективностью.
3. Эффективность. Несмещенная оценка θn называется
эффективной, если она имеет минимально возможную дисперсию в классе всех несмещенных оценок. Это надо понимать
так: полученные по выборке оценки хв и S 2 – случайные величины, так как случайны сами выборочные значения. Поэтому
принято говорить о математическом ожидании и дисперсии
оценок хв и S 2. Эффективность этих оценок означает, что их
дисперсии D (хв) и D (S 2) меньше дисперсий любых других
несмещенных оценок среднего значения и дисперсии генеральной совокупности.
Итак, наилучшими в указанном смысле оценками генерального среднего значения и генеральной дисперсии являются
выборочные характеристики хв и S 2. Численное значение эффективности оценки можно определить отношением минимально возможной дисперсии к дисперсии данной несмещенной оценки. Таким
образом, эффективность есть число в интервале от нуля до единицы, причем эффективность наилучшей оценки равна единице.
4. Робастность. Оценка θn называется робастной, если она
устойчива к резко выделяющимся наблюдениям.
134
Из рассмотренных требований только состоятельность
является практически обязательным требованием к статистическим оценкам, остальные представленные выше свойства
являются скорее пожеланиями, чем обязательными требованиями, чаще всего все требования не могут быть удовлетворены одновременно. В ряде случаев при отборе проб, при выполнении химических анализов, при измерениях и их обработке
имеются соответствующие методики проведения работ, направленные на уменьшение или даже на исключение грубых и
систематических погрешностей в конечных данных. Например,
коллимационная ошибка (систематическая составляющая) теодолита будет исключена при измерении углов методом приёмов (двумя полуприёмами: один при круге лево, второй – при
круге право). Измерения длин сторон теодолитного хода рулеткой выполняется несколько раз, грубые измерения не принимаются в расчёт. На величину погрешности имеются ограничения, прописанные в методиках работы. Методическими
руководствами часто рекомендуются двойные измерения. Разность между ними есть величина случайная с нулевым средним
и с равномерным их рассеиванием относительно среднего.
Если среднее не равно 0, имеется систематическая погрешность, и её можно устранить.
Например, рассмотрим свойства оценок параметров нормального распределения μ, σ2.
1. Оценки μ: выборочное среднее дает состоятельную, несмещенную, эффективную, но неробастную оценку. С другой
стороны, выборочная медиана Me дает состоятельную, несмещенную, неэффективную, но робастную оценку. Таким образом,
выборочная медиана проигрывает выборочному среднему в эффективности, но выигрывает в робастности.
2. Оценки σ2: наиболее употребительная оценка, определяемая формулой (4.3), дает состоятельную, несмещенную, эффективную, но неробастную оценку дисперсии:
135
x x
n
s 2 i 1
2
i
n 1
.
(4.3)
Заметим, что деление на (n – 1) вместо интуитивно ожидаемого n как раз и призвано обеспечить несмещенность оценки. При увеличении количества наблюдений свыше 30 можно в
знаменателе выражения (4.3) использовать n. С другой стороны,
оценка «сигмы» нормального распределения на основе межквартильного выборочного размаха по формуле σ = q / 1,35 дает
пример неэффективной, но робастной оценки.
4.4. Стандартная ошибка среднего арифметического
Оценки xв и S 2, полученные по ограниченной выборке, не
будут совпадать с истинными значениями параметров μ и σ2 генеральной совокупности. Правда, проверить это утверждение
невозможно, поскольку неизвестны истинные значения этих параметров. Но если несколько раз отбирать повторные и несовпадающие выборки из одной и той же генеральной совокупности с параметрами μ и σ2 и по каждой выборке вычислять их
оценки xв и S 2, то окажется, что эти оценки для разных выборок не будут совпадать.
Разности оценок параметров выборки от истинных значений этих параметров всей генеральной совокупности именуются
статистическими ошибками, или ошибками репрезентативности.
Следует понимать, что их происхождение не имеет ничего общего с ошибками измерения. Ошибки репрезентативности возникают только потому, что не все объекты генеральной совокупности представлены в выборке.
Величины статистических ошибок оценивают по среднему
квадратическому (стандартному) отклонению выборочных характеристик. Здесь рассматривается только стандартное откло136
нение выборочного среднего арифметического. Если взять
очень много независимых выборок объема k из одной и той же
генеральной совокупности и определить для каждой из них
среднее арифметическое, то окажется, что полученные средние
арифметические варьируют вокруг своего среднего значения
(равного μ) в k раз меньше, чем отдельные варианты выборки.
Тогда стандартное отклонение выборочного среднего арифметического будет равно [45]
x
,
n
(4.4)
где σ – стандартное отклонение генеральной совокупности. Когда нет параметров генеральной совокупности, в качестве оценки стандартного отклонения выборочного среднего используется величина
Sx
S
.
n
(4.5)
Она именуется стандартной ошибкой среднего арифметического, или ошибкой репрезентативности. В приведенной формуле S – выборочное стандартное отклонение, S S 2 . Величина S x показывает, какая ошибка в среднем допускается, если
использовать вместо генерального среднего μ его выборочную
оценку хв. Поэтому вычисленное среднее арифметическое часто
указывают в виде xв x S x , чтобы оценить точность оценки х.
Из формулы видно, как зависит стандартная ошибка S x от объема выборки n. С увеличением объема выборки n стандартная
ошибка S x уменьшается пропорционально квадратному корню
из n. Ошибку выборочной средней иногда обозначают как m x .
Границы вычисленного среднего арифметического, указываемого в виде xв x S x , могут использоваться для опреде137
ления точности выборочной средней. Она вычисляется по формулам выборочного коэффициента вариации (формула (4.6))
в процентах как отношение ошибки репрезентативности выборочной средней к самой выборочной средней:
Cs
Sx
в
xв
100.
(4.6)
Точность выборочной средней считается удовлетворительной, если коэффициент Cs 3 5 % .
Теперь можно уточнить вопрос, который важен для геодезистов и горных инженеров-маркшейдеров и не был раскрыт
при вычислении выборочных характеристик: с такой точностью
нужно вычислять выборочные характеристики?
Как мы только что убедились, при ограниченном объеме
выборки n истинное значение генерального среднего μ не может
быть определено сколь угодно точно. В связи с этим и при вычислении xв оставлять большое число значащих цифр не имеет
смысла. Существует эмпирическое правило, согласно которому
в окончательном результате положение последней значащей
цифры должно соответствовать положению первой значащей
S
цифры в величине x [1].
3
Например, в таблице доверительных интервалов на
рис. 4.1 xв 24,09931 , выборочное стандартное отклонение
S = 2,350344, n = 60 (табл. 4.1). Тогда S x
S
2,350344
0,303 ,
7,746
n
Sx
0,101 . Первая значащая цифра стоит на первом месте по3
сле запятой, поэтому среднее можно округлить до одного (пер-
а
вого) знака после запятой xв = 24,1. Вместе с тем, чтобы избежать накопления ошибок, связанных с округлением, промежу138
точные результаты нужно вычислять с точностью на один порядок больше, чем точность окончательных результатов. Погрешность оценки измеряемой величины следует выражать не более
чем двумя значащими цифрами. По ГОСТ Р 8.736-2011 [19] две
значащие цифры в погрешности оценки измеряемой величины
сохраняют:
– при точных измерениях;
– если первая значащая цифра имеет значение не более трех.
4.5. Интервальные оценки
4.5.1. Общие сведения
Как указывалось ранее, выборка дает лишь приближенное
представление о генеральной совокупности и все выборочные
статистические характеристики являются некоторым приближением генеральных параметров.
По хлориду калия из генеральной совокупности отобрано
60 проб, их некоторые статистики приведены в табл. 4.1. Нас
интересуют выборочное среднее, выборочный стандарт и экстремумы.
Таблица 4.1
Статистики по хлориду калия
Во многих исследованиях, особенно для малых выборок,
требуется получить не только точечную оценку θn неизвестного
параметра θ, а ещё и интервал, в котором с определенной долей
вероятности лежит истинное (генеральное) значение статистической характеристики (например, p0 = 0,95 или 0,99).
139
P (a < θ < b ) = p 0 .
(4.7)
Используем эту формулу для записи доверительного интервала. Применительно к данным рассматриваемого примера
(см. рис. 4.1) это выражение запишется следующим образом:
P (23,49 < µ < 24,71) = 0,95. А интерпретируется это выражение
так: с доверительной вероятностью 95 % среднее значение не
будет выходить за границы доверительного интервала (в 95 случаях из 100). Доверительный интервал зависит от выборки. Поскольку выборка случайна, для каждой выборки мы будем получать свой доверительный интервал.
Например, среднее значение содержания хлористого калия по 60 пробам составляет 24,1 %. Вместе со средним значением и другими статистиками программа вычислит и доверительные интервалы. Выведем их отдельно в таблице на рис. 4.1.
а
б
Рис. 4.1. Доверительные интервалы:
а – в таблице и б – пояснения на графике
Параметры положения и доверительные интервалы определены в программе Statistica в модуле описательных статистик (рис. 4.2).
Нам осталось определить величину интервала Е, представленную на правой части рис. 4.1.
Пусть найденная по результатам выборки объема n статистическая характеристика θn (x1, x2, x3, …, xn) является точечной
оценкой неизвестного параметра . Чем меньше разность
n , тем лучше качество оценки, тем она точнее. Таким образом, положительное число характеризует точность оценки:
n .
140
(4.8)
Рис. 4.2. Положение границ интервала
Ранее мы рассматривали выборочное среднее xв и стандартное отклонение выборочного среднего x . И можно было
бы записать границы интервала выборочного среднего так:
( xв x ) xв ( xв x ).
Но с учётом вероятностного подхода формулы (4.7) статистический метод не позволяет категорически утверждать, что
оценка строго удовлетворяет неравенству (4.8) в смысле математического анализа. Можно только говорить о вероятности (1 – ),
с которой это неравенство выполняется.
Доверительной вероятностью оценки называют вероятность (1 – ) выполнения неравенства (4.8). Обычно доверительная
вероятность оценки задается заранее. Наиболее часто полагают
(1 – ) = 0,95; 0,99; 0,9973. Доверительная вероятность точечной
оценки показывает, что при извлечении выборки объема n из
одной и той же генеральной совокупности в (1 – ) в 100 % случаев параметр будет накрываться данным интервалом.
Пусть вероятность того, что n равна (1 – ). Учитывая необходимость вероятностного подхода, выражение (4.8)
перепишем в виде
141
P ( n ) 1 .
(4.9)
Преобразуем формулу (4.9):
P(n ) (n ) 1 .
(4.10)
Последняя формула показывает, что неизвестный параметр заключен внутри интервала (n ),(n ) . Этот интервал и называется доверительным.
Итак, доверительный интервал (n ),(n ) накрывает
неизвестный параметр с заданной надежностью (1 – ).
В практических приложениях важную роль играет длина доверительного интервала. Чем меньше длина доверительного интервала (n ),(n ) , тем точнее оценка. Из формулы (4.10)
длина доверительного интервала равна 2. Из этой же формулы
видно, что длина доверительного интервала зависит от двух величин – доверительной вероятности (1 – ) и объема выборки n.
Таким образом, , (1 – ) и n тесно взаимосвязаны и, задавая определенные значения двум из них, можно определить величину
третьей.
4.5.2. Доверительный интервал для математического
ожидания генеральной совокупности, имеющей
нормальное распределение при известной дисперсии
Пусть из генеральной совокупности X, имеющей нормальный закон распределения при известной дисперсии σ2 и неизвестном математическом ожидании m, произведена случайная
выборка x1, х2, х3, …, xn. Для оценки математического ожидания
используем статистику:
n
x
i
x i 1 .
n
142
(4.11)
Выборка имеет нормальное распределение Х N ( x , σ / n).
Тогда статистика
U=
xm
n
(4.12)
нормирована по стандарту в отклонениях от математического
ожидания и имеет нормальное распределение с параметрами
U N (0,1). Найдем вероятность отклонения x m для малых
выборок (при n 30):
xm
n t P x m t
P0 P
1
1
n
2
2
P x t
m xt
.
1
1
n
n
2
2
(4.13)
; xt
), определённый по
1
n
n
2
выражению (4.13), и есть доверительный интервал для математического ожидания m при известной дисперсии σ2.
Интервал ( x t
1
2
В выражении 4.13 t является квантилем распределе 1 2
ния Стьюдента с параметрами (n – 1, 1 – ), определяемым по
2
доверительной вероятности (1 – ) уровня. Предельная погрешность точечной оценки математического ожидания определяется
из выражения
t
1
2
.
n
(4.14)
143
Анализируя формулы доверительного интервала и погрешности оценки, задаваемые выражениями (4.13), (4.14), можно заметить, что:
а) увеличение объема выборки n приводит к уменьшению
длины доверительного интервала;
б) увеличение доверительной вероятности 1 приводит
к увеличению длины доверительного интервала, т.е. к уменьшению точности оценки математического ожидания;
в) если задать априори требуемую точность и доверительную вероятность (1 – ), то из соотношения (4.14) можно
найти минимальный объем выборки, который обеспечивает заданную точность.
Если дисперсия в выражениях (4.13) и (4.14) неизвестна,
она может быть заменена её оценкой S.
При большом объёме выборки распределение Стьюдента
стремится к значениям нормального распределения. Считается,
что при n > 30 вместо t-распределения уже можно использовать
нормальное распределение, при этом критическое значение квантиля распределения Стьюдента tкрит заменяют на значение zкрит.
Определим размер выборки для вычисления среднего содержания хлористого калия с точностью e = 0,5 % c вероятностью 95 %, если стандартное отклонение S = 2,35 (см. табл. 4.1).
Из выражения (4.14) выведем n. При неизвестном объёме выборки воспользуемся не распределением Стьюдента, а нормальным распределением. Для α = 1 – 0,95 = 0,05, z-значение нор
), тогда понадомального распределения равно 1,96 при (1 –
2
бится 85 проб:
2
2
2,35
n z 1,96
85.
1
e
0,5
2
144
4.5.3. Построение доверительного интервала для оценки
среднего значения генеральной совокупности
Рассмотрим пример построения доверительного интервала
для оценки среднего значения генеральной совокупности в программе Statistica. Исходные данные для примера по выборке из
генеральной совокупности приведены в табл. 4.1.
Чтобы найти границы доверительного интервала для
среднего значения генеральной совокупности, требуется произвести следующие действия:
1) по полученной выборке объема n вычисляем среднее
арифметическое x в и стандарт;
2) принимаем доверительную вероятность (1 – 0,95 = 0,05),
тогда (1 – α / 2) = 0,975;
3) по таблице t-распределения Стьюдента найдём граничное значение tα / 2 в зависимости от уровня значимости α и числа
степеней свободы k = n – 1; t = 2,00;
4) вычислим предельную погрешность точечной оценки
математического ожидания при 1 – α / 2. Она определяется из
2,35
выражения t
2,0
0,61;
1
n
60
2
5) найдём границы доверительного интервала по формуле:
x x x .
Воспользуемся данными из таблицы с доверительными
интервалами (см. рис. 4.1, а), тогда 24,10 0, 61 x 24,10 0, 61
или 23, 49 x 24, 71.
Эти значения совпадают с расчётными в программе
Statistica (рис. 4.1, а).
В практике научных исследований, когда закон распределения малой выборочной совокупности (при n < 30) неизвестен
или отличен от нормального, пользуются вышеприведенной
формулой для приближенной оценки доверительных интервалов.
145
Если же неизвестно, тогда доверительный интервал, накрывающий неизвестное математическое ожидание m случайной
величины ХN (a, ), имеет следующий вид:
x t
2
где t
2
; n 1
; n 1
S
S
,
m x t
; n 1
n
n
2
(4.15)
– квантиль распределения Стьюдента, определяемый по
таблицам, по заданной доверительной вероятности p0 = (1 – ) и
числу степеней свободы = n – 1 (n – объем выборки);
_
x, S – точечные несмещенные оценки параметров нормального распределения;
S
– предельная погрешность точечного оцениn
2
вания математического ожидания. Случайная величина Х N
при неизвестном обладает теми же свойствами, что и при известном .
t
; n 1
4.5.4. Доверительный интервал для среднего
квадратического отклонения 2
Построим доверительный интервал для неизвестной дисперсии, нормально распределенной генеральной совокупности.
Оценкой для генеральной дисперсии является выборочная дисперсия. Доверительный интервал для стандартного отклонения
находится по следующей формуле:
S
n 1
n 1
S 2
2
2
где 2
2
; n 1
; 2
1
2
; n 1
; n 1
1
2
,
(4.16)
; n 1
– квантили 2 распределения, определенные
по таблице распределения 2 по заданной доверительной веро146
ятности (1 – ) и числу степеней свободы = n – 1 исходя из
следующих условий. Неравенства:
1
1
1
A(12 < 2 22 ) и B ( 2 2 2 )
2
1
являются равновероятными, то есть их вероятности равны
(P(A) = P(B)). Тогда:
1
1
1
P (12 2 22 ) P ( 2 2 2 )
2
1
(4.17)
Доверительный интервал для стандартного отклонения
имеет вид
S
n 1
22
<σ< S
n 1
.
12
(4.18)
Последовательность действий для построения доверительного интервала для стандарта следующая:
1. По выборке вычислить стандарт .
2. Задать уровень значимости α, по таблицам найти два
хи-квадрат значения для доверительной вероятности (1 – α/2) и
(α/2) с числом степеней свободы df = n – 1.
3. Подставить полученные значения в формулу 4.18.
Для ранее рассмотренного примера вычислим в программе Statistica стандарт и доверительные интервалы (табл. 4.2).
Вычислим в вероятностном калькуляторе значения 2 для
α=0,05:
– для вероятности 1 / 2 и с числом степеней свободы
df = n – 1; 22 82,11 ;
– вероятности / 2 и с числом степеней свободы df = n – 1;
2
1 39,66.
147
Таблица 4.2
Доверительные интервалы по хлориду калия
Тогда левая граница доверительного интервала составит
59
2,35
1,9922;
82,11
правая граница доверительного интервала составит
59
2,35
2,865.
39,66
Оба интервала совпадают с вычисленными в программе
значениями с учётом погрешностей округления.
4.5.5. Доверительный интервал для оценки
коэффициента корреляции
Чтобы построить доверительный интервал для оценки коэффициента корреляции r, используют дополнительное преобразование Фишера zr, которое есть в статистических таблицах:
zr ln
1 r
.
1 r
(4.19)
Величина zr приближенно распределена нормально со
средним z и дисперсией 1 / (N – 3). Тогда строят доверительный
интервал для zr по нормальному распределению, далее делают
обратное преобразование. Если доверительный интервал для r
накрывает нулевое значение, то корреляция считается статистически не доказанной.
148
5. КОРРЕЛЯЦИОННО-РЕГРЕССИОННЫЙ АНАЛИЗ
5.1. Общие сведения
В математике зависимость переменной Y от переменной Х
записывается как y = f (x). Эта зависимость, когда каждому допустимому значению аргумента X ставится в соответствие по определенному правилу единственно возможное значение Y, именуется функциональной.
Для природных явлений, горно-геологических условий
разработки месторождений характерно, что наряду с существенными факторами, на них оказывают воздействие многие другие, в том числе случайные возмущения. В связи с этим существующие зависимости не проявляются так однозначно, как при
функциональных связях, а лишь при большом числе наблюдений «в общем и среднем». Связь носит вероятностный, случайный характер, в численном выражении меняясь от испытания к
испытанию, но эта связь определенно присутствует и называется статистической. При этом каждому значению X может соответствовать не одно значение Y, как при функциональной зависимости, а целое множество значений [20].
В качестве примера функциональной зависимости можно
привести зависимость часовой производительности проходческого комбайна Р (м3/час), от площади сечения его рабочего органа S , м2, скорости проходки по пласту в одно сечение vt, м/ч,
и времени работы T, ч. Исходные данные примем на примере
отработки сильвинитового пласта АБ комбайном «Урал-20» на
одном из рудников ПАО «Уралкалий»:
P f ( S , vt , T ) S vt T 15 0,5 60 450.
Статистическая зависимость – это связь, при которой каждому значению независимой переменной X из множества её
149
возможных значений соответствует множество возможных значений зависимой переменной Y, характеризуемое определенным
законом распределения [20].
Частным случаем статистической зависимости является корреляционная (или стохастическая). Понятие корреляции
соответствует русскому термину «соотношение». Если изменение одной из случайных величин влечет изменение среднего
другой случайной величины, то статистическую зависимость
называют корреляционной. Сами случайные величины, связанные корреляционной зависимостью, оказываются коррелированными [20]. Таким образом, корреляция – это степень зависимости между двумя (или более) переменными.
5.2. Исследование взаимосвязи между признаками
5.2.1. Параметрические меры связи. Коэффициент
корреляции Пирсона
В приведенном выше примере с зависимостью часовой
производительности комбайна от времени его работы Т и скорости подвигания комбайна ставится в соответствие по определенному правилу единственно возможное значение. Определим
объём отбитой рудной массы в камере в зависимости от её длины. Такой объём определяется на этапе планирования горных
работ. После отработки камеры построим график планируемых
объёмов добычи от длины выработки и график фактического
объёма, по маркшейдерским замерам (рис. 5.1).
Левый график построен по плановому сечению комбайна S, равному 15 м2. На графике видна линейная прямо пропорциональная зависимость, все точки лежат на прямой. В процессе
фактического ведения горных работ по этой камере комбайн
следовал вдоль кровли пласта, немного её подрезая. Поскольку
пласт имеет складчатую структуру, комбайн должен её повто150
рить, чтобы не прирезать большие объёмы пустой породы
в кровле. Но у комбайна угол подъёма (наклона) не превышает
8–12 градусов, поэтому он не может повторить конфигурацию
каждой складки. На некоторых крутых складках комбайн отходит назад и, «гоняясь» за пластом, выравнивается и подрубает
почву (перезарубки комбайна). Перезарубки увеличивают площадь сечения выработки и влияют на объём камеры. Это видно
на правом графике, на интервале 40–50 м от горловины выработки. Используемая в проекте функциональная зависимость
объёма выработки от её протяжённости при фактических замерах объёма даёт отклонения, обусловленные горно-геологическими условиями. Изменения возможны и при наличии погрешностей в замерах. Они небольшие, но отклонения преобразуют
первоначально функциональную зависимость в статистическую.
а
б
Рис. 5.1. Зависимость объёма камеры от её длины: а – проектная
на площадь сечения комбайна 15 м2, б – на фактическую площадь
Другой пример, по сильвинитовому пласту выполнен отбор проб на компоненты KСl и MgСl2. Если появится возможность установить зависимость одного компонента от другого, то
стоимость химических анализов можно будет уменьшить. График рассеяния KСl и MgСl2 приведён на рис. 5.2. Видно, что
границы облака рассеивания графика удалены от линии, проходящей по большой оси облака (эллипса рассеивания ab).
151
Рис. 5.2. График рассеивания компонентов KСl и MgСl2
На графиках рассеивания каждая проба в осях KСl / MgСl2
изображена точкой. Обозначим x = KСl; y = MgСl2. Точка со
средними значениями компонентов лежит в центре облака. Вычислим среднее значение компонентов из выражения (2.9):
n
n
x
i
x i 1 ;
n
y
y i 1
n
i
.
Рассчитаем дисперсию, как среднюю арифметическую
квадратов отклонений значений от их средней арифметической,
рассчитаем по формулам (2.14):
n
xi x
x2 i 1
n
y y
n
2
2
; y
i 1
2
i
n
.
Тогда коэффициент парной корреляции Пирсона вычисляется по формулам:
rxy
152
xy x y ( xi x)( yi y)
,
n x y
x y
(5.1)
где xi и yi – значения аргумента и функции х и у соответственно
для i-гo объекта, i = 1…n;
n – число объектов;
xy – средние арифметические значения произведений
признаков х на у;
x , y – стандартные отклонения признаков х и у;
x и y – средние арифметические значения признаков х и у
соответственно.
Коэффициент парной корреляции изменяется в пределах
от – 1 до + 1. Равенство коэффициента нулю говорит об отсутствии линейной связи. А если коэффициенты равны – 1 или + 1,
такое значение показывает наличие функциональной связи. Знак
«+» указывает на связь прямо пропорциональную (увеличение
или уменьшение одного признака сопровождается аналогичным
изменением другого признака), знак «–» – на связь обратно пропорциональную (увеличение или уменьшение одного признака
сопровождается противоположным по направлению изменением
другого признака).
Сила связи характеризуется абсолютной величиной коэффициента корреляции. Для ориентировочного описания величины коэффициента корреляции используются границы его значений, приведённые в табл. 5.1. В специальной литературе можно
встретить и другие границы категорий.
Таблица 5.1
Интерпретация значений коэффициента корреляции
Значение по модулю
0
От 0,0 до 0,2
От 0,21 до 0,5
От 0,51 до 0,7
От 0,71 до 0,9
Свыше 0,91
1
Интерпретация
Нет линейной связи
Очень слабая корреляция
Слабая корреляция
Средняя корреляция
Высокая корреляция
Очень высокая корреляция
Связь функциональная
153
5.2.2. Ранговые корреляции
Помимо выборочного коэффициента корреляции Пирсона,
для определения степени взаимосвязи между величинами X и Y
можно использовать так называемые ранговые корреляции, при
расчете которых используются не сами значения xi , yi , а их
ранги – xi r и yi r . Ранговые корреляции полезны по следующим
причинам:
− встречаются случаи, когда анализируемые величины не
могут быть измерены количественно, но могут быть ранжированы, т.е. упорядочены по степени проявления контролируемого
свойства. К этому типу можно отнести случаи, когда технологи
на основе опыта ранжируют объекты в порядке предпочтения,
когда эксперты «на глаз» оценивают износ рабочего органа комбайна, дефектность режущих зубков и другие свойства объектов;
− ранговые коэффициенты корреляции в отличие от коэффициента корреляции Пирсона являются робастными оценками (т.е. мало чувствительны к отдельным, резко выделяющимся наблюдениям);
− ранговые коэффициенты корреляции в отличие от коэффициента корреляции Пирсона являются непараметрическими оценками (т.е. основанные на ранговых корреляциях выводы
не связаны с какими бы то ни было предположениями о функциональной зависимости, описывающей плотность совместного
распределения проверяемых величин);
− если контролируемые параметры изменяются в широком диапазоне (например, в пределах нескольких порядков), то
переход к рангам иногда позволяет «спрямить» и наглядно
представить сложные нелинейные зависимости.
Рассмотрим два различных наиболее употребительных на
практике способа оценки ранговых корреляций, разработанных
соответственно Спирмэном (Spearman) и Кендаллом (Kendall).
154
5.2.2.1. Коэффициент корреляции Спирмэна
Коэффициент корреляции был разработан и предложен
в 1904 г. Чарльзом Эдвардом Спирмэном, английским учёным,
профессором Лондонского и Честерфилдского университетов. Он
используется для выявления и оценки тесноты связи между двумя
рядами сопоставляемых количественных переменных. В том случае, если ранги значений, упорядоченных по степени возрастания
или убывания, в большинстве случаев совпадают (большему значению одного показателя соответствует большее значение другого показателя, например, при сопоставлении длины камеры и её
объёма), делается вывод о наличии прямой корреляционной связи. Если ранги показателей имеют противоположную направленность (большему значению одного показателя соответствует
меньшее значение другого, например при сопоставлении длины
камеры и остаточного её объёма), то говорят об обратной связи
между показателями [25].
Коэффициент корреляции Спирмэна может быть легко посчитан в полной аналогии с коэффициентом корреляции Пирсона.
Для этого нужно в формуле (5.1) для расчета выборочного коэффициента корреляции заменить х и у на их ранги и проделать все
необходимые вычисления, соответственно, не с самими величинами, а с их рангами. Имеется и эквивалентная формула расчета:
n
r 1
6 di 2
i 1
2
n (n 1)
; d i2 rxi ryi ,
где rxi ; ryi – ранги анализируемых переменных.
Алгоритм применения ранговой корреляции Спирмэна
для оценки степени связи признаков можно записать в такой
последовательности:
1) Выполнить ранжирование значений первой исследуемой переменной rxi , начисляя ранг 1 наименьшему значению, и
155
записать ранги в первый столбец по порядку номеров испытуемых или по возрастанию ранга. При равных значениях переменных им присваивается одинаковый среднеарифметический ранг.
2) Аналогично (по тем же правилам) ранжировать значения второй переменной ryi и занести соответствующие ранги во
второй столбец.
Подсчитать разности di между рангами rxi и ryi по каждой строке и занести их в третий столбец.
Квадраты d i2 занести в четвертый столбец и подсчитать
их сумму.
При наличии одинаковых рангов рассчитать поправки:
Ta ( a 3 a ) / 12;
Tb (b3 b) / 12,
где a, b – объем каждой группы одинаковых рангов в ранговых
рядах A и B.
Рассчитать коэффициент ранговой корреляции Спирмэна
rB* по формуле:
a) при отсутствии одинаковых рангов: rB* 1
6 di2
n (n2 1)
;
б) при наличии одинаковых рангов ryi :
d2 T T
rB* 1 6 i 2 a b ,
n (n 1)
где n – количество наблюдений, участвовавших в ранжировании.
Рассчитаем коэффициент ранговой корреляции Спирмэна
в программе Statistica (рис. 5.3). Входим в меню «Анализ» –
«Непараметрическая статистика» – «Корреляции Спирмэна» –
«Тау () Кендалла» – «Гамма». Выбираем переменные «длина
камеры» и «объём», рассчитываем корреляцию Спирмэна.
156
а
б
в
г
д
Рис. 5.3. Пошаговые действия для расчёта корреляции Спирмэна
в программе Statistica: а – входные данные, б – выбор исследуемых
переменных, в – результаты расчётов корреляции Спирмэна,
г – Кендалла, д – Пирсона
Расчёты показывают, что полученные значения корреляции Спирмэна совпадают со значениями корреляции Пирсона.
157
5.2.2.2. Коэффициент корреляции Кендалла
Альтернативой предыдущему методу определения корреляции является коэффициент ранговой корреляции -Кендалла
(тау Кендалла). Он также позволяет определить взаимосвязи
между двумя ранговыми переменными.
Коэффициент ранговой корреляции -Кендалла определяется как разность вероятностей совпадения и противоположностей в рангах.
Для одних и тех же значений переменных значения коэффициента корреляции Спирмэна будет всегда немного больше,
чем значения коэффициента ранговой корреляции -Кендалла,
тогда как уровень значимости будет одинаков или же у коэффициента корреляции -Кендалла будет немного больше.
Коэффициент корреляции Кендалла использует комбинаторный подсчет числа перестановок, необходимых для превращения одной последовательности чисел в другую. Соответствующую методику расчета лучше всего понять на конкретном
примере отработки промышленного пласта на одном из рудников ВКМКС.
По пласту Кр-II камеры отработаны одним ходом комбайна и погашены семь выемочных единиц (ВЕ), одинаковых по
геометрическим параметрам (длина ВЕ, ширина и мощность),
но с изменяющейся гипсометрией пласта. Из актов на погашение ВЕ выписаны величина разубоживания rxi и сумма потерь в
каждой выемочной единице ry , %. Требуется установить налиi
чие (или отсутствие) связи между величиной разубоживания и
эксплуатационными потерями при добыче. Упорядочим (ранжируем) пары (хi, yi) в соответствии с ростом значений хi и, сопоставив значениям хi значения yi, получим табл. 5.2.
158
Таблица 5.2
Пример ранжирования данных по разубоживанию
и эксплуатационным потерям при отработке
сильвинитового пласта, %
1
2
3
Ранги
4
5
6
7
rxi
6,4
6,9
7,0
7,1
7,6
7,7
7,8
ryi
69
67
64
63
65
66
62
Показатель
В таблице с ранжированной строкой rxi требуется упорядочить значения из строки ry i по возрастанию. При перемещении
каждого значения необходимо считать количество перестановок.
При ранжировании выбираем минимальное значение
строки ry , это 62. Оно стоит на последнем месте, его переставi
ляем влево на первое место, при этом вся строка сдвигается
вправо на одну клетку. При перестановке на первое место этому
числу требуется 6 перестановок. Получаем последовательность:
62 69 67 64 63 65 66. Следующее по возрастанию число 63, его
переставляем влево на три позиции, получаем ряд: 62 63 69 67
64 65 66. Далее 64 переставляем влево через 2 позиции, 65 число
перестановок 2, 66 число перестановок 2, и 66 потребует одну
перестановку. Число 69 оказывается на последнем месте и не
требует перестановок, у него число перестановок 0. Считаем
общее количество перестановок: 6 + 3 + 2 + 2 + 2 + 1 + 0 = 16.
Коэффициент корреляции Кендалла определяем по выражению
1
4 S
,
n (n 1)
где S – количество перестановок; n – количество наблюдений.
159
Рассчитаем коэффициент ранговой корреляции Кендалла
в программе Statistica (табл. 5.3). Выбираем последовательность
команд: «Анализ» – «Непараметрическая статистика» – «Корреляции Спирмэна» – «Тау Кендалла» – «Гамма». Выбираем переменные rx и ry , в которых введены величины разубоживания
и потерь, рассчитываем корреляцию «Тау Кендалла».
Таблица 5.3
Результаты расчёта корреляции Кендалла
Выведем правило, по которому можно было бы сопоставлять числу перестановок некоторый коэффициент корреляции.
Минимальное число перестановок (нуль) соответствует ситуации, когда последовательности rx и ry изначально одинаковы,
т.е. строго согласованы между собой; такой ситуации естественно сопоставить коэффициент корреляции + 1. Максимальное
число перестановок возникает в ситуации, когда последовательности rx и ry изначально антисогласованны, т.е. упорядоченной
по возрастанию последовательности rx (1, 2, … (n – 1), n) соответствует строго убывающая последовательность ry (n, (n – 1),
…3, 2, 1). Число перестановок S в этом случае есть сумма арифметической прогрессии: S max = (n – 1) + (n – 2) + … + 2 + 1 =
= n (n 1) / 2. Описанной ситуации естественно сопоставить
коэффициент корреляции – 1.
Гипотеза о независимости признаков принимается, если
полученный уровень значимости оказывается не ниже критиче160
ского, и отвергается в противном случае. Расcчитанный уровень
значимости выводится в табл. 5.3 и 5.4.
При достаточно большом числе наблюдений между коэффициентами корреляции рангов Спирмэна и коэффициентом
корреляции рангов Кендалла существует следующее соотноше3
ние: rS .
2
Таблица 5.4
Результаты расчёта корреляции Спирмэна
В
нашем примере с малой выборкой (n = 7):
3
rs 0,5238 0,7857, корреляция Кендала τ = 0,5238 – приве2
дена в табл. 5.3. Рассчитанная по приведенному выражению,
корреляция Спирмэна больше вычисленной по программе.
Увеличение корреляции обусловлено малой длиной выборки.
5.3. Парный регрессионный анализ
5.3.1. Общие сведения
Регрессионный анализ ‒ один из основных методов статистического анализа, который используется для исследования
связей между свойствами исследуемого показателя и факторами
окружающей среды на основе как единовременных, так и динамических наблюдений [51; 65]. Регрессионная модель строится
для описания взаимосвязи отдельного изучаемого свойства
161
с воздействующим на него фактором. В таком типе анализа
влияющий фактор – аргумент – принимается независимой переменной, или предиктором, а результат – зависимой переменной,
или функцией (переменной отклика) [51]. Задача регрессионного анализа – установить наличие взаимосвязи между зависимой
и независимой переменными, построить уравнение регрессии
(зависимости) и доказать его состоятельность.
Процессы, происходящие в недрах, сложны и зачастую
имеют нелинейный характер. Любое уравнение регрессии, построенное в классе линейных или нелинейных функций, дает
приближенное описание процесса. Поэтому требуется специальная процедура доказательства значимости и достоверности
(адекватности) построенной модели. От решения задачи оценки
значимости и адекватности зависит и степень доверия к результатам, полученным по уравнению регрессии.
На первом этапе проверяется степень статистической связи между аргументами и функцией регрессионной модели. Если
такая связь полностью отсутствует, то аргументы никак не
влияют на функцию (не объясняют функцию) и уравнение оказывается бесполезным. Для простой линейной регрессии это означает, что в уравнении y = b0 + b1x коэффициент b1 = 0 и линия
регрессии будет параллельна оси x (рис. 5.7, б). Такая модель
для любых значений независимой переменной x всегда будет
выдавать одну и ту же оценку зависимой переменной y, равную
ее среднему значению, вычисленную по всем наблюдениям.
Очевидно, что такая модель будет бесполезной. С таким же успехом для оценки зависимой переменной можно использовать
ее среднее значение.
Если коэффициент b1 отличен от нуля, то линия регрессии
имеет наклон (или подъём), что указывает на зависимость функции от аргумента, а сама линия аппроксимирует эту зависимость
(рис. 5.7, г). В этом случае модель будет иметь некоторую статистическую значимость. Для оценки уровня значимости регрессионной модели (особенно для множественной регрессии)
162
используется коэффициент детерминации, коэффициент корреляции, статистика Фишера, остаточная сумма квадратов. Для
множественной регрессии необходимо оценить значимость не
только всего уравнения, но и каждого коэффициента регрессии,
обычно она выполняется по статистике Стъюдента. Даже если в
результате анализа уравнения получены статистики, подтверждающие значимость уравнения, из этого ещё не следует, что
модель хорошо согласуется с результатами наблюдений, т.е.
адекватна им.
Под адекватностью модели простой линейной регрессии
подразумевается, что никакая другая модель не даст значимого
улучшения в предсказании Y. Другими словами, полученная модель адекватна, если предсказанные по ней значения переменной Y согласуются с результатами наблюдений.
Главным путем проверки адекватности уравнения исследуемому объекту выступает практика. Оценку адекватности проводят на основе анализа остатков. Если они подчиняются нормальному закону распределения, не имеют нелинейности в распределении и автокорреляции, то модель считается адекватной.
Кроме того, при оценке адекватности проверяют: 1) полноту отражения моделью свойств реального объекта; 2) правильность используемых логических и математических соотношений (функций); 3) соответствие модели исходной информации; 4) корректность принятых при моделировании допущений
и ограничений; 5) корректность выдвинутых гипотез и предположений и т.д.
При необходимости в данные вносятся соответствующие
коррективы и параметры модели пересчитывают.
Выполняя корреляционно-регрессионный анализ, необходимо учитывать следующие особенности:
– Корреляционно-регрессионный анализ базируется на некоторых предварительно оговоренных статистических условиях
и гипотезах. Поэтому требуется специальная процедура доказательства их выполнения, а также проверка значимости и досто163
верности (адекватности) построенной модели. От результатов
проверки гипотез, решения задач оценки значимости и адекватности зависит и степень доверия к результатам, полученным по
уравнению регрессии.
– Статистика всегда дает ответ в понятиях вероятности.
Она укажет, что вероятность p статистической значимости такаято (например, 95 %) или, что то же самое, уровень значимости
α = 0,05 [51]. Например, в матрице парных коэффициентов корреляций (табл. 5.7) корреляция между содержанием полезного компонента KCl пласта АБ и координатой Х составляет r = 0,30
с уровнем значимости 0,015. Это означает, что в (1000 – 15) = 885
случаях из 1000 изменение одной переменной повлияет на другую
переменную, т.е. корреляция будет высоко значима. Ответ всегда
должен подтверждаться вероятностью наступления события.
– Результаты полученного статистического анализа справедливы только для той области исходных данных, на которой
он был получен. Если использовать полученные выводы анализа
для другой области данных, то они будут ненадежными, а может
быть, и неверными. Вопросы прогнозирования изучаемого признака по выведенным уравнениям регрессии на новые участки
требуют осторожного подхода. Для этой цели лучше использовать другие методы (например, МГУА, нейронные сети и др.).
5.3.2. Проверка степени статистической связи
Проведём проверку степени статистической связи переменных в программе Statistica на примере данных опробования
участка сильвинитового пласта АБ в зоне замещения сильвинита
карналлитом на одном из рудников ВКМКС. По одной из выработок отобрано 30 проб. Химический состав пород в пробах
представлен в прил. Д.
После ввода этих данных в таблицу программы Statistica
выберем в меню «Анализ» → «Основные статистики таблицы» →
164
«Парные и частные корреляции». В появившемся окне кнопкой
«Квадратная матрица» (рис. 5.4) выберем переменные для анализа – содержание хлорида калия в руде (KCl) и содержание
хлорида магния в руде (MgCl2).
Рис. 5.4. Задание параметров вычисления матрицы корреляций
В закладке «Опции» можно задать функцию «отображать
р-уровень и N», а в специальном окне – уровень значимости α
(рис. 5.4). Уровень значимости – это максимально приемлемая
для исследователя вероятность ошибочно отклонить нулевую гипотезу, когда на самом деле она верна, т.е. допускаемая вероятность ошибки первого рода. Величина уровня значимости устанавливается исследователем произвольно, в технических науках
она обычно принимается равной 0,05 либо 0,1. Если α принимает
значения от 0,05 до 0,1, то результат считается статистически
значимым, если α меньше либо равна 0,01, то результат считается
статистически высоко значимым. В строке «Отображать р-уровень и N» под р-уровнем понимается уровень значимости, вычисленный для каждой пары переменных.
165
Если в закладке «Парные» активировать кнопку «Матрица
парных корреляций», то в отчёт будет выведена таблица парных
коэффициентов корреляций (табл. 5.5), в которой на пересечении столбцов и строк распечатаны по две величины. Первая –
коэффициент парной корреляции r, ниже – его уровень значимости. Красным цветом отмечаются те значения, которые имеют
значимость, не превышающую заданную (в примере α = 0,05,
печатается в шапке таблицы).
Таблица 5.5
Матрица парных корреляций
Анализ матрицы парных коэффициентов корреляций
(табл. 5.5) показывает наличие средней по степени тесноты линейной связи между содержанием хлорида калия в руде (KCl) и
содержанием хлорида магния в руде (MgCl2).
В некоторых примерах будем использовать несколько переменных, загрузим их из таблицы (прил. Б) и выведем матрицу
парных коэффициентов корреляций (табл. 5.6).
Всего в таблице 65 наблюдений, введены следующие переменные:
X и Y – координаты скважины или пробы;
ZKROW – высотная отметка кровли пласта АБ в месте отбора пробы;
М – мощность пласта сильвинита;
no – величина нерастворимого остатка, %;
KCl, MgCl2, NaCl, CaSO4 – химический состав проб, %.
166
Таблица 5.6
Корреляционная матрица к примеру (из прил. Б)
Анализ корреляционной матрицы показывает следующее.
Высотная отметка кровли пласта сильно связана с местоположением пробы в пространстве (очень высокая корреляция от
координат X и в меньшей степени от Y). Мощность пласта подвержена аналогичному влиянию геопространства. Хлористый
калий в слабой степени зависит от геопространственной составляющей и нерастворимого остатка. Никакие другие анализируемые факторы на него больше не оказывают влияния. Заметна
корреляция между последними тремя компонентами матрицы.
Анализ коэффициентов корреляций этой матрицы даёт нам
степень тесноты линейной зависимости и достижимый уровень
значимости по каждой паре переменных. К примеру, корреляция
переменных M и KCl слабая, составляет всего r = 0,24 при достижимом уровне значимости α = 0,06. Если принят критический
уровень α = 0,05, то корреляция статистически незначима.
167
Вместе с тем в процессе вычисления линейного уравнения
регрессии требуется проверить, а на самом ли деле зависимости
линейны. Ответ на этот вопрос может дать график рассеивания
признаков.
График показывает рассеивание исходных точек вокруг
прямой регрессии (рис. 5.6). Когда переменных много, можно
воспользоваться матричными графиками (рис. 5.5).
Рис. 5.5. Матричные графики
Переменные с высокой корреляцией представлены на графике почти линейным распределением точек (пара переменных
ZKROW и X). Пробы на графике в осях KCl и NaCL расположены
почти по прямой линии, но имеются три точки, лежащие в стороне, скорее всего это выбросы. На этих графиках можно заметить
наличие и других грубых значений (по NaCl) и нелинейностей
(координата Х и высотная отметка кровли плата).
168
Матричные графики позволяют получить предварительное представление о зависимости между парами случайных величин Х и У. Характер распределения точек может указать на
вид взаимосвязи двух переменных. По отдельным парам переменных впоследствии можно построить и парные графики рассеивания, например, представленные на рис. 5.6.
а
б
Рис. 5.6. Графики положения проб в осях NaCl – KCl:
а – пробы 1, 2, 44 – выбросы; на графике б они удалены
169
Видно, что после удаления грубых проб точки группируются почти по линии регрессии. В практической работе возможны различные варианты расположения точек на диаграмме рассеяния, некоторые из них приведены на рис. 5.7. По ним можно
судить о виде и степени взаимосвязи между переменными.
Рассмотрим подробней возможные варианты полей рассеивания случайных величин (рис. 5.7):
а) Точки рассеиваются почти в окружности, для такого варианта линейная связь между признаками отсутствует (рис. 5.7, а).
Если в качестве примера рассмотреть график в осях NaCl – KCl
(см. рис. 5.6, а) и убрать из него некорректные точки переменных (пробы 1, 2, 44 – выбросы), то диаграмма рассеяния примет
вид облака рассеяния в виде эллипса с небольшим сжатием
(см. рис. 5.7, в), т.е. будет наблюдаться линейная зависимость между переменными. Это подтверждается высоким коэффициентом
парной зависимости (r = 0,84) и близкой к нулю величиной уровня
значимости α = 0,00, что многократно превышает установленное
ранее значение α = 0,05.
б) В данном варианте по облаку рассеивания можно сказать, что линейная связь между переменными отсутствует, поскольку изменение одной переменной не ведёт к изменению
значения второй переменной.
Рис. 5.7. Поле рассеивания случайных величин Х и Y
170
в) Вид графика показывает наличие слабой связи между
переменными и представлен в виде вытянутого эллипса, большая ось которого имеет наклон относительно осей координат.
Такой график представлен на рис. 5.8 в осях MgCl2 – KCl с удалёнными выбросами.
г) Вид графика представляет типичное поле рассеивания
точек с устойчивой линейной обратной связью.
д), е) Оба графика характерны для рассеивания переменных, связанных устойчивой нелинейной зависимостью.
В случае, когда установлен вид нелинейной зависимости,
можно использовать преобразования переменных. Так, для графика на рис. 5.7, е в функции yi b0 b1 x0i обозначим x0i 1/ xi .
Тогда получим уравнение регрессии в виде обратно пропорциональной функции y b0 b1 / xi . Некоторые виды преобразований приведены в п. 7.
5.3.3. Вычисление параметров линейной регрессии
На одном из рудников ПАО «Уралкалий» опробован участок сильвинитового пласта АБ в зоне замещения сильвинита
карналлитом. Всего по выработке отобрано 30 проб, химический состав проб представлен на диаграмме рассеивания
(см. рис. 5.8). Представленное облако точек аппроксимировано
линией регрессии, уравнение которой подписано на рис. 5.8.
Для имеющейся выборки наблюдений уравнение регрессии отыскивалось в виде функции
yˆ i b0 b j x j ei ,
где
(5.2)
yˆi – вычисленное значение функции в i-й точке (i = 1, n);
n – число наблюдений;
b0 – свободный член уравнения регрессии;
b j – коэффициенты регрессии для j-й переменной. В пар-
ной регрессии зависимая переменная одна (j = 1);
171
ei – остатки, вычисляются из выражения «практика минус
теория»:
ei yi yˆ i yi (b0 b1 xi );
Xi – независимая переменная, предиктор или аргумент.
Рис. 5.8. Диаграмма рассеивания в осях MgCl2 – KCl
Само уравнение имеет линейный вид. Свободный член
линейного уравнения b0 8,97 показывает высоту точки пересечения линии регрессии и оси ординат. Коэффициент регрессии b1 0, 098 представляет собой тангенс угла наклона прямой
Y = f (x) к оси абсцисс (рис. 5.9).
Коэффициенты регрессии b1 и свободный член уравнения b0
вычисляются на основании принципа наименьших квадратов:
n
e min.
2
i
(5.3)
1
Перепишем сумму квадратов отклонений от линии регрессии (выражение (5.3)) с учётом равенства (5.2):
n
n
1
1
S ei2 ( yi b0 b1 xi ) 2 .
172
(5.4)
Рис. 5.9. Отклонения точек от линии регрессии
В этом выражении yi и xi – наблюдаемые значения, они известны. Значит, величина суммы квадратов S будет зависеть
только от параметров b0 и b1. Значения b0 и b1 определим исходя
из условия S = min. Для этого дифференцируем уравнение (5.4)
сначала по b0, а потом и по b1 и приравняем результаты к нулю.
После некоторых промежуточных преобразований получаем систему нормальных уравнений:
n
n
b
n
b
x
yi
1 i
0
i 1
i 1
n
n
n
2
b
x
b
x
yi xi
1 i
i
0
i 1
i 1
i 1
В этих выражениях суммирование ведётся от единицы до n.
Из этой системы уравнений найдём коэффициент регрессии:
n
n
n
x y x y / n x x y y
b
. (5.5)
/
x
x
n
x x
i 1
1
i
i
i 1
2
i
i
i 1
2
i
i
i
i
2
i
173
Величина xi2 именуется нескорректированной суммой
квадратов X-ов, а ( xi ) 2 / n – коррекцией на среднее значение
X-ов. Разность между ними (знаменатель левой части выражения
(5.5)) называют скорректированной суммой квадратов X-ов. По
n
аналогии с этим xi yi именуется нескорректированной сумi 1
n
x
)
(
yi ) / n
i
i 1
i 1
мой смешанных (парных) произведений, а (
n
именуют коррекцией на среднее. Разность между ними (числитель левой части уравнения) называют скорректированной суммой произведений x на y.
Перепишем выражение (5.5) в другой форме:
S xy xi x yi y xi x yi xi yi y
x y
i 1 i
n
i
n
x
i
1 i
y
(5.6)
n
i 1
n
i
x y n x y;
n
i 1 i
i
y y y y y / n y n y .
S xx xi x xi x xi xi2 xi / n xi2 n x ;
S yy yi y
2
2
2
i
i
2
i
2
i
2
2
i
2
Тогда выражение (5.5) можно переписать в упрощенном
виде:
b1 S xy / S xx .
(5.7)
Если в выражение (5.2) подставить средние значения x и y ,
то свободный член уравнения можно определить из выражения
(без остатков ei, поскольку сумма квадратов отклонений ei из всех
возможных построений линий минимальна):
b0 y b1 x.
174
(5.8)
Подставим b0 в выражение (5.2), получим оцениваемое
уравнение регрессии:
yˆ i b0 b j x j ei y b1 x b1 xi ei y b1 ( xi x ) ei ; (5.9)
Если в выражении (5.9) приравнять xi x , то окажется,
что и yˆ i y . Значит, точка P с координатами ( x, y ) должна лежать на выведенной линии регрессии.
В нашем первом примере с 30 пробами в табл. 5.7 выведены основные статистики, а в табл. 5.8 – рассчитанные оценки
уравнения регрессии.
Таблица 5.7
Основные статистики
Таблица 5.8
Оценки уравнения регрессии
Уравнение регрессии имеет следующий вид:
MgCl2 = 8,9724 + 0,0977·KCl; подставим в него среднее
значение хлорида калия:
MgCl2 = 8,9724 + 0,0977·32,03833 = 12,10.
В прил. Е приведены наблюдаемые данные, вычисленные
по уравнению регрессии, и остатки. Как видно, средние наблю175
даемые и вычисленные сходятся. Средний остаток равен нулю.
Таким образом, для средних значений функции и аргумента остаток е равен нулю, и в уравнении (5.9) он может не учитываться. Поскольку свободный член уравнения рассчитывается по
остаточному принципу в выражении (5.8), то и сумма остатков
будет равна нулю (с учётом погрешности округления она может
незначительно отличаться от нуля).
5.4. Вычисление оценок регрессии
На диаграмме рассеивания (см. рис. 5.8) показана линия
регрессии и одна проба (точка Р) с координатами (Xi, Yi). На оси
ординат показано положение пробы, вычисленное по уравнению
регрессии ŷ , и среднее значение функции из наблюдений y.
Тогда можно записать следующее тождество:
Yi Y (Yi Yˆi ) (Yˆi Y ),
(5.10)
из которого выведем
Yi Yˆi Yi Y (Yˆi Y ).
(5.11)
Из рис. 5.10 видно, что самая значительная разность представлена отклонением наблюдаемого значения функции в точке
Р от общего среднего значения функции Pr (Yi Y ). Вторую
разность представляет отклонение предсказанного значения
функции от того же общего среднего Teor (Yˆi Y ). Остаток
E Y Yˆ представляет собой разность между практикой и теоi
i
i
рией (в общем виде):
Pri Teori Yi Y Yˆi Y Yi Yˆi Ei .
(5.12)
Среднее значение для предсказанных по уравнению регрессии ряда значений функции можно определить, как
n
Yˆ / n (b b x ) / n (n b b n x) / n b b x yˆ. (5.13)
i
1
176
0
1
i
0
1
0
1
Рис. 5.10. Положение i-й точки на оси ординат графика:
Yi – наблюдаемое значение (практика);
Yˆ – вычисленное значение (теория);
i
Y – среднее значение из наблюдений
Из выражений (5.10) среднее значение предсказанной функции равно среднему арифметическому наблюдаемого значения
функции. Но тогда и сумма остатков равна нулю:
e ( y Yˆ ) n y n y 0.
i
i
i
Перепишем выражение (5.10) в следующей форме:
(Yi Y ) (Yˆi Y ) (Yi Yˆi ).
(5.14)
Возведём обе части выражения в квадрат и просуммируем
от 1 до n, получим:
n
n
n
( y y) (Yˆ Y ) ( y Yˆ ) .
2
i
1
2
i
1
2
i
i
(5.15)
1
В уравнении (5.14) левая часть (Yi Y ) представляет отклонение i-го наблюдения от общего среднего значения функции. В выражении (5.15) эта часть будет суммой квадратов (SS)
177
отклонений относительно среднего значения наблюдений –
кратко SS относительно среднего.
(Yˆi Y ) – отклонения предсказанного значения функции
от его среднего значения. В выражении (5.15) эта часть будет
суммой квадратов отклонений регрессии относительно среднего
значения наблюдений – кратко SS, обусловленная регрессией.
(Yi Yˆi ) – остаток от вычисленного значения функции.
Последняя разность в выражении (5.15) даёт сумму квадратов SS
относительно регрессии, или сумму квадратов остатков. Тогда
можно записать тождество:
SS
Относительно
среднего
=
SS
Обусловленная
регрессией
+
SS
Относительно
регрессии;
=
SS
От регрессии
+
SS
Остатков.
или
SS
Общая
Если в выражении (5.15) и приведенных тождествах сумма
квадратов относительно регрессии (или сумма квадратов остатков) была бы равна нулю, то уравнение регрессии объясняло бы и
описывало 100 % разброса функции. Иными словами, уравнение
бы описывало функциональную зависимость без остатков.
Сумма двух слагаемых правой части тождества не может
превышать общую сумму квадратов. Можно записать:
(SSрегр + SSост) / (SSобщ) ≤ 1.
Из этого неравенства очевидно, чем меньше SSост, тем
больше будет SSрегр. Если из левой части убрать сумму квадратов
остатков, то получим выражение для коэффициента детерминации (или квадрата коэффициента множественной корреляции):
R2 = (SSрегр) / (SSобщ).
178
Если величина R2 = 1, связь будет функциональная. Из приведенных выражений понятно, только не равные нулю остатки
делают эту связь статистической. Коэффициент множественной
корреляции определяется как корень квадратный из коэффициента детерминации, и поэтому не может быть отрицательным.
5.5. Дисперсионный анализ
В разделе 3.3.4 были приведены разъяснения по степеням
свободы. Число степеней свободы показывает, как много независимых элементов информации требуется для образования
суммы квадратов. Например, при расчёте SS общей используются n независимых разностей (Yi Y ) . Но при вычислении средних значений мы уже один раз использовали эти наблюдения,
значит, число степеней свободы для общей суммы квадратов
составит (n – 1) независимых элементов.
Сумма квадратов, обусловленная регрессией SSрегр (из выражения (5.15)) для парной регрессии может быть получена, если использовать только одно значение b1, поэтому имеет одну
степень свободы. Сумма квадратов остатков требует (n – 2) степени свободы. В соответствии с тождеством (5.14) можно разложить и степени свободы:
(n – 1) = 1 + (n – 2).
(5.16)
Используя приведенные тождества и рассчитанные суммы
квадратов, строится таблица дисперсионного анализа (табл. 5.9).
Таблица 5.9
Таблица дисперсионного анализа
179
Первый столбец таблицы отображает источники вариации. В первой строке он обусловлен регрессией и составляет
19,84. Вторая строка содержит вариацию остатков, а третья
включает общую вариацию наблюдаемой функции. Она рассчитывается как сумма двух первых сумм.
Но эти суммы можно рассчитать и независимо от дисперсионного анализа. Общая сумма квадратов наблюдаемых значений функции может быть определена из выражения
SSобщ 1 ( yi y )2 .
n
(5.17)
Сумма квадратов, вычисленных по уравнению регрессии
значений функции:
n
SSрегр 1 (Yˆi Y )2 .
(5.18)
И сумма квадратов остатков:
n
SSост 1 ( yi Yˆi )2 .
(5.19)
В программе Statistica построим уравнение регрессии и
выведем таблицу с вычисленными остатками, дополнив её наблюдаемыми и предсказанными значениями функции. Таблица
приведена в прил. Е. Дополним её столбцами, в которых вычислим квадраты разностей (Yˆi Y ) и (Yi Y ) в последней строке
выведем суммы квадратов разностей. Для вычисления сумм используем инструмент блоковых статистик. Из приложения видно, SSобщ = 47,96049; SSрегр = 19,84306; SSост = 28,11745. Расхождение расчётных и приведенных в таблице дисперсионного анализа результатов в пятом знаке после запятой обусловлено
погрешностями округления. В этой таблице обращают на себя
внимание рассчитанные средние значения наблюдаемой функции и предсказанные по уравнению. Они равны, что подтверждает ранее высказанное утверждение из выражения (5.13)
о равенстве среднего значения предсказанной функции и среднего арифметического наблюдаемого значения функции.
180
Ранее утверждалось, что отношение сумм квадратов даёт
нам коэффициент детерминации R2 = (SSрегр) / (SSобщ). Для нашего
примера R2 = 19,84 / 47,96 = 0,4137, что также сходится с приведенными значениями в табл. 5.8.
Числа степеней свободы представлены в третьем столбце
табл. 5.9, их равенство (n – 1) = 1 + (n – 2) соблюдается. В четвёртом столбце рассчитаны средние квадраты отклонений как
сумма квадратов второго столбца, отнесённая к соответствующему числу степеней свободы. Полученные два значения средних квадратов на одну степень свободы. Первый – средний
квадрат, обусловленный регрессией, а второй – средний квадрат
остатков. Вычислим отношение средних квадратов (квадратов,
делённых на число степеней свободы), обусловленных регрессией, и остатков, частное от деления обозначим F:
F = [(SSрегр / 1)] / [(SSост / (n – 2)] = 19,843 / 1,004 = 19,76. (5.20)
На основании формулы для расчёта R2 выражение (5.19)
можно переписать так:
F = [R2 / (1 – R2)] · [k2 / k1] = [0,4137 / (1 – 0,4137)] · [28 / 1] =
= 0,7056·28 = 19,757~19,76,
(5.21)
где k1, k2 числа степеней свободы.
Эта статистика подчиняется распределению Фишера, она
обычно используется для общей оценки достоверности полученного регрессионного уравнения [51]. Если средние квадраты
в выражении (5.19) будут равны, то и F = 1, в этом случае нет
смысла пользоваться уравнением регрессии. Вместо него лучше
использовать среднее значение наблюдаемой функции. Уравнением можно пользоваться тогда, когда F будет больше 1, т.е.
когда средний квадрат, обусловленный регрессией, больше
среднего квадрата остатков. А насколько больше?
В данном случае отношение дисперсии наших измерений
к дисперсии ошибок модели (разности расчетных данных и ре181
ально полученных) подчиняется закону распределения Фишера.
Назовём рассчитанное отношение эмпирическим (Fэмп, в литературе можно встретить термин фактическое значение критерия
Fфакт). Далее мы должны будем сравнить рассчитанный для этого уравнения критерий с табличным значением (его назовём как
критический Fкрит, в литературе можно встретить обозначение
как табличный Fтабл) для соответствующей вероятности и числа
степеней свободы. Мы используем для нашего примера вероятность 0,95 (или уровень значимости p-level 0,05), степеней свободы 1; 28. Принято писать Fкрит (α, k1, k2), где α – уровень значимости, k1, k2 – числа степеней свободы, например, Fтабл (0,05;
1; 28) = 4,196. Таким образом, для нашего примера с 30 наблюдениями и уровнем значимости 0,05 средний квадрат, обусловленный регрессией, должен быть больше среднего квадрата остатков в 4,196 раза.
Для вычисления Fкрит в пакете Statistica используем вероятностный калькулятор. Если расчёты показывают, что при выбранных условиях Fэмп > Fкрит, то говорят, что регрессия статистически
значима. В нашем примере Fэмп > Fкрит (19,76 > 4,20), следовательно, уравнение регрессии в целом признается статистически значимым. Данная оценка справедлива как для уравнения парной регрессии, так и для уравнения множественной регрессии, т.е. когда в
уравнении несколько независимых аргументов.
Для множественной регрессии проверяется общая, совокупная значимость коэффициентов, т.е. всего уравнения в целом.
Такой анализ осуществляется на основе проверки гипотезы об
одновременном равенстве нулю всех коэффициентов регрессии
при аргументах: H0: b1 = b2 = … = bm = 0. Если данная гипотеза не
отклоняется, то делается вывод о том, что совокупное влияние
всех m объясняющих переменных х1, х2, …, хm модели на зависимую переменную y можно считать статистически несущественным, а общее качество уравнения регрессии – невысоким.
Однако на практике чаще вместо указанной гипотезы проверяют тесно связанную с ней гипотезу о статистической значи182
мости коэффициента детерминации R2. Для этого выдвигают
нулевую гипотезу Н0, в соответствии с которой принимается
R2 = 0. (Напомним – альтернативная ей гипотеза Н1 предполагает, что R2 > 0.) Но если гипотеза о равенстве коэффициентов регрессии нулю отклоняется (или отклоняется нулевая гипотеза Н0:
R2 = 0), из этого ещё не следует, что уравнение согласуется с результатами наблюдений, или адекватно данным. Адекватность
уравнения требует дополнительных проверок.
В программе Statistica рассчитанная величина Fэмп выводится при формировании оценок уравнения регрессии (табл. 5.8).
Из таблицы видно, что число степеней свободы (1, 28), достижимый уравнением уровень значимости α = 0,00013, при критическом значении 0,05. Такое многократно заниженное значение
критического уровня значимости по отношению к априори выбранному свидетельствует о том, что Fэмп > Fкрит, следовательно,
выведенное уравнение значимо, а сама процедура проверки значимости по её достижимому значению аналогична проверке Fэмп
и Fкрит. Но искать таблицу и проводить сравнение нет необходимости, это делает программа Statistica, указывая достоверность
отличия полученного F-критерия от табличного [51].
Стоит понимать, что данный тест проверяет гипотезу
о том, что все факторы одновременно являются незначимыми.
Поэтому при наличии незначимых отдельных факторов модель
в целом может быть значима.
Чтобы иметь общее суждение о качестве модели из относительных отклонений по каждому наблюдению, в ряде отраслей определяют среднюю ошибку аппроксимации:
А
1
n
y yˆ i
.
i 1 i
n
yi
(5.22)
Средняя ошибка аппроксимации не должна превышать
8–15 % и в пакете Statistica отображается в таблице остатков.
Можно создать новую вычисляемую колонку в этой таблице
ABS (Ei / Yi) и найти среднее значение по ней. В нашем примере
183
получили значение 6,64 %, что свидетельствует о хорошем
описании наблюдаемых данных полученным уравнением регрессии.
5.6. Статистическая оценка полученных
коэффициентов регрессии
В табл. 5.8 выведены краткие результаты регрессии, в том
числе и вычисленные значения статистики Стьюдента (столбец t).
Это самая распространенная статистика для оценки значений параметров аппроксимации. Эмпирическое значение критерия Стьюдента рассчитывается по формуле
t
b
,
Sb
(5.23)
где b – вычисленное среднее значение параметра b0 или b1 для
парной регрессии; S b – его стандартное отклонение.
Для аргумента KCl в табл. 5.8 рассчитаем эмпирическую
величину критерия: t = 0,0977 / 0,0220 = 4,44, что совпадает
(с учётом погрешности округления) с вычисленным программой
значением. Выдвигаем нулевую гипотезу о равенстве коэффициента регрессии нулю. В шапке табл. 5.8 в скобках от t записано число степеней свободы (28). Принимаем уровень значимости α = 0,05 и в вероятностном калькуляторе вычисляем табличное значение tтабл (α = 0,05; n = 28) = 2,048 (рис. 5.11).
Рассчитанное значение t-критерия сравнивается с его
критическим значением при заданном уровне значимости и
числе степеней свободы f = n ‒ m ‒ 1. Если рассчитанная величина критерия Стьюдента больше, чем табличная, нулевая гипотеза отвергается в пользу альтернативной. Мы можем утверждать, что параметр с заданным уровнем значимости отличен
от нуля и, следовательно, статистически значим. Сравнение
t-рассчитанного с t-табличным производится в программе [51].
184
В последнем столбце для свободного члена b0 и коэффициента
регрессии b1 указан достижимый уровень значимости p-level,
в нашем примере он значительно меньше априори заданного
уровня 0,05. Параметры b0 и b1 значимы с вероятностью больше 99,999 %. Таким образом, доказана статистическая значимость (отличие от нуля) обоих параметров уравнения парной
регрессии [51].
Рис. 5.11. Расчёты критического значения критерия Стьюдента
Отметим, что в парной линейной регрессии между критерием Фишера и критериям Стьюдента коэффициента регрессии существует связь. Для рассматриваемого примера:
F tb2 4, 4452 19,758. С учётом погрешности округления,
эта величина совпадает с рассчитанным в табл. 5.8 критерием
Фишера F = 19,76.
Наличие этих связей позволяет сделать вывод, что статистическая незначимость коэффициента регрессии или коэффициента корреляции влечет за собой незначимость уравнения
парной регрессии в целом либо, наоборот, незначимость уравнения регрессии подразумевает несущественность указанных
185
коэффициентов. Поэтому критерий Стьюдента в большей степени важен во множественной регрессии для «отсева» незначимых аргументов.
5.7. Исследование уравнения регрессии
5.7.1. Показатели качества и достоверности уравнения
При вычислении коэффициентов регрессии мы применили
принцип наименьших квадратов (выражение (5.3)). Его использование позволило построить линию регрессии так, что отклонения точек от неё (остатки) становятся минимальными. В этом случае точки
равномерно разнесены от линии (рис. 5.9), а остатки могут быть положительными и отрицательными. В сумме они близки к нулю.
Ранее указывалась важность нормального распределения
в горном деле и исследованиях природных явлений и объектов.
В корреляционно-регрессионном анализе используются переменные, которые измерены по интервальной и пропорциональной шкале. В процессе проведения анализа применяются параметрические методы оценивания, а они требуют нормального
распределения переменных.
В связи с этими и другими требованиями при выполнении
регрессионного анализа предполагается, что выполняются следующие условия:
– связь между переменными является линейной (по параметрам);
– остатки интерпретируются как случайные величины.
Они имеют нормальное распределение с нулевым средним и
некоторой дисперсией (пишут ei ~ N (0, σ2)), в остатках нет значимой автокорреляции cov (ei, ej) = 0.
Представим, что среди проб по сильвинитовому пласту
попала проба из зоны замещения сильвинита карналлитом. На
диаграмме рассеивания (рис. 5.12) она расположена под номером 1. По расположению пробы на рисунке видно, что она находится далеко от общей группы.
186
Рис. 5.12. Диаграмма рассеивания проб с выбросом
В разделе 1 этой главы упоминалось о подчинении нормальному распределению вероятностей исходных данных. При
большом объёме данных проверка производится по трехсигмовому интервалу. В нашем примере всего 30 наблюдений, используем двухсигмовый интервал. Данные для проверки представлены в табл. 5.10, а параметры и оценки регрессионного
уравнения приведены в табл. 5.11.
MgCl2 12,301; MgCl2 1, 419;
MgCl 2 2 MgCl2 12,301 2 1, 419 15,139;
MgCl 2 2 MgCl2 12,301 2 1, 419 9, 463.
По хлористому магнию максимальное значение выходит
за интервал MgCl2 + 2 . Проверим хлористый калий:
KCl = 31,372; KCl 1, 419;
KCl 2 KCl = 31,372 + 2·9,718 = 50,808;
KCl 2 KCl = 31,372 – 2·9,718 = 11,936.
187
Таблица 5.10
Описательные статистики для переменных к парной регрессии
Таблица 5.11
Итоги вычислений параметров парной регрессии
Минимальное значение хлорида калия в той же пробе выходит за нижнюю границу интервала KCl – 2 . Следовательно, эта проба не является представительной для сильвинитового
пласта и её требуется исключить из анализа. Линии регрессии на
диаграммах рассеивания исходных данных с грубой пробой
(выбросом) и без неё имеют разные наклоны. Оценки уравнения
также значительно отличаются. Невысокая величина коэффициента множественной корреляции R = 0,22 в примере с грубой
пробой (табл. 5.13) указывает на слабую, даже ближе к очень
слабой корреляцию. Коэффициент детерминации объясняет всего 4,7 % вариации функции, что не позволит нам использовать
выведенное уравнение. И эмпирическая величина критерия Фишера Fэмп = 1,4 < Fтабл (0,05; 1; 28) = 4,196 явно свидетельствует
об отсутствии статистической значимости уравнения. Построим
график остатков (табл. 5.12).
На графике остатков также присутствует проба, которая
выходит за границы интервала 2. Величина остатка этой пробы
резко выделяется среди остальных. На гистограмме распределе188
ния хлористого магния (рис. 5.13, а) проявляется наличие выброса, а для гистограммы хлористого калия (рис. 5.13, б) наличие пробы с минимальным значением содержания полезного
компонента придаёт гистограмме ассиметричный характер и
смещает оценки переменной.
Таблица 5.12
Фрагмент графика остатков
а
б
Рис. 5.13. Гистограммы распределения полезных компонентов проб
Таким образом, исходные данные должны быть подготовлены к анализу. Неподготовленные данные не дадут приемлемого результата аппроксимации уравнением регрессии. Необходимо удалить выброс и дальнейший анализ проводить без него.
Мы заменили эту пробу на другую, следующую из отобранных
189
в этой выработке. Загрузим матрицу парных коэффициентов
корреляций выборки без выброса.
После удаления грубых проб степень тесноты линейной
связи между переменными выросла с 0,22 до 0,64. Согласно классификации по табл. 5.2 она стала средней. Коэффициент парной
корреляции (табл. 5.13) равен коэффициенту множественной корреляции (табл. 5.8).
Таблица 5.13
Таблица вычислений парных коэффициентов корреляций
после замены грубой пробы
5.7.2. Показатели адекватности модели
5.7.2.1. Анализ нормальности остатков
Графики рассеивания, представленные на рис. 5.5, 5.6,
позволяют получить предварительное представление о зависимости между парами случайных величин Х и Y. Характер распределения точек может указать на вид взаимосвязи двух переменных, а при необходимости потребуется изучить график
детальнее. В исходных данных (и на графиках) не должно быть
выбросов. В ряде случаев на графиках может встретиться нелинейность (рис. 5.7, д, е), которая потребует преобразования
переменных. Помимо первичного анализа исходных данных,
большой объём информации об адекватности выведенного
уравнения регрессии даёт анализ остатков.
Линейная регрессионная модель считается адекватной, если вычисленные по ней значения функции yˆi (см. формулу (5.2))
согласуются с результатами наблюдений yi. Первичная оценка
190
адекватности может быть проведена по графику распределения
остатков. Остатки должны быть нормально распределены, со
средним значением, равным нулю, и постоянной дисперсией, независимо от величин зависимой и независимой переменных. Модель должна быть адекватна на всех отрезках интервала изменения зависимой переменной.
О нормальности остатков можно судить по графику остатков на нормальной вероятностной бумаге. Чем ближе распределение к нормальному виду, тем лучше значения остатков ложатся на прямую линию (рис. 5.6, б).
5.7.2.2. Анализ остатков на нелинейность
Много информации об адекватности модели дают графики
распределения функции от аргумента (рис. 5.14, а, б) и графики
остатков от независимой переменной (для множественной регрессии анализ проводится для каждого аргумента). Характерные
варианты графиков остатков от независимой переменной представлены на рис. 5.14, г, д, е.
Остатки должны быть нормально распределены, т.е. на графике они должны представлять приблизительно горизонтальную
полосу одинаковой ширины на всем ее протяжении, как это отображено на рис. 5.14, г. Коэффициент корреляции r между регрессионными остатками и переменными должен равняться нулю.
В ряде случаев на графиках остатков хорошо просматривается нелинейный тренд. Присутствие нелинейного тренда в
регрессионных остатках говорит о необходимости пересмотра
модели – преобразования или ввода новых переменных, перехода от линейной модели к нелинейной (см. рис. 5.14, д, е).
На графиках зависимости регрессионных остатков (Е) от
предсказанного значения зависимой переменной (Yв) можно судить о постоянстве (или непостоянстве) дисперсии ошибки. Например, на графике (см. рис. 5.14, в) видно, что с увеличением
значений зависимой переменной дисперсия (разброс) остатков
увеличивается.
191
Рис. 5.14. Графики остатков
Такое явление нестабильности дисперсии ошибки именуется гетероскедастичностью. Это еще одно подтверждение неадекватности анализируемой модели.
На рис. 5.14, г остатки размещены равномерно вдоль полосы относительно линии регрессии, что свидетельствует об адекватности уравнения регрессии. На рис. 5.14, б они сгруппированы
вокруг кривой, следовательно, уравнение неадекватно. В него
необходимо ввести аргумент, который бы описывал (объяснял)
эту нелинейность.
На рис. 5.14, д показано волновое распределение остатков.
Такой график свидетельствует о наличии в остатках автокорреляции, её ещё именуют сериальной корреляцией.
Рассмотрим некоторые моменты анализа остатков на примерах для выведенного уравнения регрессии (формула (5.4))
в программе Statistica (рис. 5.15).
В окне вывода результатов регрессии («Анализ» → «Множественная регрессия») активируем закладку «Остатки» и далее
кнопку «Анализ остатков» (см. рис. 5.15, 5.16).
192
Рис. 5.15. Вывод результатов регрессионного анализа
Рис. 5.16. Функции окна «Анализ остатков»
Начинать анализ можно с графика остатков на нормальном
вероятностном графике. В окне «Анализ остатков» выбираем закладку «Вероятностные графики», нажмём кнопку «Нормальный». На графике (рис. 5.17, а) ожидаемое распределение точек
выборки, подчиняющейся нормальному закону, представлено
прямой линией. Если остатки хорошо укладываются на прямую
линию, это означает, что остатки распределены нормально.
193
а
б
Рис. 5.17. а – нормальный вероятностный график
и б – гистограмма остатков
Отклонения от прямой линии свидетельствуют о нарушении распределения. Небольшое количество отклонений можно
трактовать как выбросы. Такие данные в исходных таблицах
должны быть проверены и при подтверждении удалены путём
составления соответствующего условия в окне вычисления
множественной регрессии. В противном случае выбросы могут
указывать на неадекватность модели.
Подтвердить выбросы может анализ построчного графика
остатков. Активируем в закладке «Остатки» кнопку «Построчные графики остатков», тип остатков – «Исходные». На графике
(рис. 5.18, а) выводятся сверху вниз построчно положение остатков в осях от – 3S до + 3S, где S – оценка стандартного отклонения. Нелинейный характер распределения остатков на
графике может указывать на отсутствие нелинейной составляющей, которая должна быть в уравнении регрессии. Волновой
характер распределения остатков может указывать на наличие
автокорреляции остатков.
194
а
б
Рис. 5.18. а – построчный график и б – таблица остатков
На построчном графике величина оценки стандартного
отклонения в расчётах не показана, но её можно вычислить. Для
этого необходимо выделить столбец «Остатки» с первого до последнего наблюдения (не захватывая ниже строки с вычисленными статистиками) и выбрать последовательно команды «Блоковые статистики» → «По столбцам» → «Все». Результаты расчёта будут отображены в конце столбца8.
В них можно посмотреть «Стандартное отклонение наблюдений – S». Далее можно построчно просматривать график и выбирать те наблюдения, которые находятся на прямой ± (3S) или
выходят за неё. Это будут выбросы. Но лучше в окне «Анализ
остатков» в закладке «Выбросы» отметить строку «Стандартный
остаток (> 2 сигма)» и нажать кнопку «Построчный график выбросов». В полученном графике будут отображены только те
строки, у которых остатки не укладываются в интервал 2 . Если
нет выбросов, будет выведено соответствующее сообщение.
По остаткам можно построить и гистограмму их распределения. В закладке «Остатки» выберите тип остатков – «Исходные»
и нажмите кнопку «Гистограмма остатков» (см. рис. 5.18, б).
8
В более поздних версиях программы Statistica блоковые статистики
отображаются в отдельной таблице.
195
Гипотезу о нормальном распределении остатков можно
проверить и с помощью критериев согласия. Методика проверки
по критерию χ2 детально изложена в разделе 3.5.
5.7.2.3. Анализ остатков на автокорреляцию
Нарушение предположения о некоррелированности остатков приводит к тому, что в последовательности остатков будет
наблюдаться сериальная корреляция, т.е. зависимость между
остатками, отстоящими друг от друга на k шагов (где k – лаг).
Отметим, что все критерии значимости при вычислении множественной регрессии предполагают, что данные являются случайной выборкой из независимых наблюдений. Если это не так,
то оценки (B-коэффициенты) могут быть более неустойчивыми,
чем это гарантируют их уровни значимости. Если есть подозрение об автокоррелированности остатков, требуется проверка их
с помощью критерия Дарбина – Уотсона. Для этого выберем закладку «Дополнительно» в окне «Анализ остатков» (см. рис. 5.15)
и активируем кнопку «Статистика Дарбина – Уотсона». В появившейся таблице (табл. 5.14) выводится статистика критерия d
и вычисленное значение сериальной корреляции ru. Чем меньше
коэффициент сериальной корреляции остатков (по модулю), тем
адекватнее уравнение регрессии.
Статистика критерия Дарбина – Уотсона d связана с автокорреляцией соотношением
d 2(1 ru ).
(5.24)
Таблица 5.14
Статистика Дарбина – Уотсона
196
Из него видно, что при ru 1 d 0, а при ru 1 d 4.
Если сериальная корреляция в остатках отсутствует, d = 2. Критерий Дарбина – Уотсона d позволяет проверить гипотезу Н0: все
сериальные корреляции равны нулю при альтернативной гипотезе Н1: ru 0.
Процедура проверки состоит в сравнении вычисленного
значения критерия d с табличными d1 и d2 (прил. Ж) в зависимости от числа наблюдений n, числа оцениваемых параметров k,
а также уровня значимости α. Решение при альтернативной гипотезе Н1: ru 0 принимается по одному из правил:
– Н0 принимается на уровне значимости 2α, если d > d2
при ru положительном, или (4 – d) > d2 при ru отрицательном;
– Н0 отвергается на уровне значимости 2α, если d < d1 при ru
положительном, или (4 – d) < d1 при ru отрицательном.
Когда значение критерия d находится внутри интервала
d1 d d2, а при отрицательном коэффициенте сериальной
d1 (4 – d) d2 оценить величину автокорреляции остатков по
критерию Дарбина – Уотсона нельзя, необходимы дальнейшие
исследования.
5.7.2.4. Доверительный интервал
Чтобы визуально оценить, насколько точные значения показателей могут отличаться от рассчитанных, строят доверительные интервалы. Они определяют пределы, в которых лежат истинные значения определяемых показателей с заданной степенью
точности, соответствующей заданному уровню значимости α.
Для расчета доверительных интервалов для параметров b0
и bj уравнения линейной регрессии (формула (5.2)) определяют
предельную ошибку ∆ для каждого показателя:
∆b0 = tтабл · mb0, ∆bj = tтабл · mbj.
197
Величина tтабл представляет собой табличное значение
t-критерия Стьюдента под влиянием случайных факторов при
степени свободы k = n – 2 и заданном уровне значимости α. Тогда расчет доверительных интервалов для параметров b0 и bj
уравнения регрессии можно будет выполнить из выражений
yb0 = b0 ± ∆b0; ybj = bj ± ∆bj.
Доверительный интервал – это интервал, в котором с определённой степенью уверенности можно ожидать появления
фактического значения зависимой переменной.
К линии регрессии границы (сплошная линия на рис. 5.19)
доверительного интервала ближе всего находятся в точке со
средними значениями зависимой и независимой переменных
( y, x ). Чем дальше от этой точки, тем больше границы интервала отклоняются от линии регрессии.
Рис. 5.19. Доверительные интервалы (пунктиром верхняя и нижняя
граница) для выведенного уравнения регрессии
198
Пример использования линейной регрессионной модели
приведен на рис. 5.20.
Рис. 5.20. График зависимости предела прочности на одноосное сжатие
сланцевых пород Средне-Назымского месторождения от модуля
упругости [30]
199
6. МНОЖЕСТВЕННАЯ РЕГРЕССИЯ
6.1. Отличия множественной регрессии от парной
В предыдущем разделе были изложены основы парной
регрессии. Часто исследуют зависимость одной переменной от
нескольких других переменных.
Для имеющейся выборки наблюдений уравнение регрессии отыскивают в виде функции (5.2), причём для коэффициентов регрессии j = 1, 2, …, m, где m – число аргументов. Коэффициенты регрессии вычисляются с использованием критерия
(5.3), проверка адекватности модели регрессии выполняется
аналогично проверке в парной регрессии.
Проверка значимости коэффициентов при независимых
переменных в уравнении множественной регрессии выполняется с использованием t-критерия Стьюдента. Незначимые аргументы удаляются из уравнения регрессии (по одному), после
чего оно пересчитывается. На заключительном этапе исследований выполняется анализ остатков. Вместе с тем построение
уравнения множественной регрессии в сравнении с парной регрессией имеет некоторые особенности.
Во-первых, в ряде случаев возможны проблемы вычислительного характера. Например, для пластовых месторождений,
если исходные данные содержат высотную отметку кровли пласта (Нkrow_AB), почвы пласта (Нpod_AB) и мощность (mAB), то коэффициент корреляции между переменными будет близок к единице (r = 0,9998), что характерно для функциональных зависимостей. Мощность пласта mAB, которая также присутствует
в исходных данных, можно записать как функцию:
mAB = Нkrow_AB – Нpod_AB, откуда Нpod_AB = Нkrow_AB – mAB.
200
Для пластовых залежей мощность меняется незначительно,
если представить её постоянной (mAB = const), тогда высотная отметка кровли есть линейная функция отметки почвы пласта.
Нpod_AB = Нkrow_AB – С, где C – константа.
Этим и объясняется высокий коэффициент корреляции
между переменными Нkrow_AB и Нpod_AB.
Вычисления параметров регрессии производятся в матричной форме. При наличии функциональной зависимости хотя
бы между двумя переменными (векторами) в матрице будет наблюдаться коллинеарность9. В процессе расчётов параметров
уравнения регрессии определитель матрицы (или собственные
числа информационной матрицы) будет близок к нулю. Для
множественной регрессии это явление именуется мультиколлинеарностью, оно приводит к падению точности оценок, искажению результатов оценок, неустойчивости расчётов и в итоге к
неверным выводам. Чтобы избавиться от мультиколлинеарности, можно из двух взаимозависимых переменных убрать одну.
Во-вторых, не все аргументы в уравнении множественной
регрессии одинаково важны, некоторые из них могут быть лишними. Предварительно на этот вопрос можно получить ответ,
анализируя матрицу парных коэффициентов корреляции. Если
между функцией и какой-либо переменной слабая связь, влияние этой переменной на функцию будет незначительно. В разделе 5 показан метод отбора аргументов с использованием критерия Стьюдента при заданном уровне значимости α и со степенями свободы = (n – m – 1). Во множественной регрессии его
использование позволяет отсеять статистически незначимые
факторы.
9
Коллинеа́рность – отношение параллельности векторов: два ненулевых вектора называются коллинеарными, если они лежат на параллельных
прямых или на одной прямой. Если возникает коллинеарность, это признак
наличия линейной связи между двумя переменными, что вызывает проблемы
с оценкой параметров в регрессии.
201
В-третьих, в уравнение могут входить аргументы, отличающиеся по числу значащих цифр. Это уже было заметно в ранее приведенных примерах. Переменными служили и координаты (десятки тысяч метров) и содержание нерастворимого остатка
0,15 %. Очевидно, что результаты регрессионных моделей не
должны зависеть от единиц измерения этих величин. Желательно,
чтобы алгоритмы обработки трактовали эти значения единообразно, все входные и выходная переменные должны быть приведены к единому масштабу. Когда используются нормированные
переменные, их значения обычно лежат в диапазоне от 0 до ± 1.
Такую обработку (стандартизацию в программе Statistica) полезно провести еще до этапа вычислений регрессии.
6.2. Пошаговая или гребневая регрессия
При вычислении параметров уравнения множественной
регрессии с небольшим количеством аргументов можно использовать метод всех регрессий, который использовался и в парной
регрессии. Чем больше рассчитанное значение статистики tрасч,
тем больший вклад переменная несёт в уравнении регрессии. Если аргументов в уравнении много, то на этом принципе можно
организовать отбор переменных в уравнение регрессии в пошаговой регрессии методом исключений (Backward stepwise). Принцип вычислений заключается в выполнении следующих этапов:
1. Выполняется регрессионный анализ для всех аргументов. Для каждого аргумента вычисляется статистика Fm = (tm)2,
где tm – статистика Стьюдента. Аргументы выстраиваются (ранжируются) по уменьшению статистики Fm.
2. Задаётся критическое значение Fкрит, с которым сравнивается статистика F0 = Fi. Если минимальное значение F0 < Fкрит,
то i-я переменная из анализа исключается и на её место становится следующая по рангу (по величине статистики Fm).
202
Проверка по пункту 2 выполняется с новой переменной до
тех пор, пока F0 Fкрит.
Аналогичный метод (Forward stepwise) – метод включений. Процедура включений организована (по смыслу) в обратном порядке метода выключений.
6.3. Пример выполнения задания в пакете Statistica
методом всех регрессий
1. Для примера загрузим исходную таблицу данных, содержащую по участку значения переменных, взятых по пробам
и рудничным скважинам ВКМКС. Таблица содержит поля: номер пробы, отметка кровли пласта Н_АБ, координаты Х, Y, мощность и содержание компонентов в пробах (рис. 6.1). Найдём
зависимость Zkrow от остальных геопространственных переменных. В анализ не включаем грубые наблюдения и наблюдения с
незаполненными полями. В разделе 5 приведены примеры отбора грубых наблюдений.
Таблица 6.1
Матрица парных корреляций
Анализ матрицы парных коэффициентов корреляции показывает наличие тесной связи между координатой Х и высотной отметкой кровли пласта Zkrow (r = 0,93), а также Zkrow и мощности пласта. Корреляция высотной отметки с остальными аргументами также существенная.
203
2. Вычисляем оценки уравнения регрессии. В меню «Анализ» → «Множественная регрессия» нажмём на кнопку «Переменные» и выберем в левом столбце зависимую переменную,
а в правом – независимые.
Рис. 6.1. Выбор переменных для множественной регрессии
Исключим из анализа поля с незаполненными значениями, они равны нулю. Для этого в окне «Множественная регрессия» выберем закладку «Дополнительно» и в открывшемся окне (рис. 6.2) выберем кнопку
(«Select Cases У»).
Рис. 6.2. Ввод дополнительных параметров
204
Поскольку в матрице парных коэффициентов корреляций
имеются высокие корреляции, вычисления будем производить
с повышенной точностью, для чего поставим галочку в соответствующей строке рис. 6.2.
Зададим условия исключения значений рассматриваемых
переменных, равных нулю из анализа (рис. 6.3). Аналогичные
условия можно составить и для грубых значений.
Рис. 6.3. Задание условий выбора значений
Результаты вычислений приводятся в окне на рис. 6.4.
Представим результаты вычисленных статистик в виде
таблицы, для этого в окне «Результаты множественной регрессии» откроем закладку «Быстрый» и нажмём кнопку «Итоговая
таблица регрессии» (табл. 6.2).
205
Рис. 6.4. Оценки уравнения регрессии
Таблица 6.2
Итоги вычислений уравнения регрессии
(метод всех регрессий)
206
Проверку значимости коэффициентов уравнения регрессии
выполним с использованием t-статистики Стьюдента. Табличное
(критическое) значение t-статистики при уровне значимости 0,05
и числе степеней свободы 61 для двусторонней критической области вычислим в вероятностном калькуляторе, tкрит ≈ 2.
Минимальное вычисленное значение критерия Стьюдента
у координаты Y (tв = – 2,17), что больше (по модулю) табличного. Достигаемый уровень значимости составляет 0,033, что
меньше принятого за критический уровень 0,05. Поэтому все
аргументы уравнения значимы и удалить какой-либо из них без
существенного ухудшения результатов нельзя. Обращает на себя внимание высокий коэффициент множественной корреляции
R ≈ 0,95. Вычисленное значение статистики Фишера F равно
примерно 181,54, что больше критического, определённого в
статистическом калькуляторе Fкрит (α = 0,05) ( = 3,61) ≈ 2,76.
Коэффициент детерминации равен R2 ≈ 0,9 (рис. 6.5), т.е.
уравнение объясняет 89,9 % отклонений точек от функциональной зависимости, что, конечно, значительно.
6.4. Пошаговая регрессия
Воспользуемся другим способом для отбора только значимых переменных – методом включения. Для этого в окне задания параметров (рис. 6.2) поставим галочку в строке «Пошаговая или гребневая регрессия». Этот способ применяют как раз
для борьбы с избыточностью данных, когда независимые переменные коррелируют друг с другом, что и наблюдается в нашем
примере. Опция «Процедура» позволяет выбрать тип процедуры
регрессионного анализа:
Стандартная. При выборе этой опции все переменные
будут включены в уравнение регрессии одним блоком (т.е. на
одном шаге итерации).
207
С включением. При выборе этой опции независимые переменные будут по отдельности включаться или исключаться из
модели на каждом шаге регрессии (если выбрано «F – включить» или «F – исключить») до тех пор, пока не будет получена
«наилучшая» регрессионная модель.
Пошаговая с исключением. При выборе этой опции аргументы будут исключаться из модели по одной на каждом шаге
(если выбрано «F – включить» или «F – исключить») до тех пор,
пока не будет получена «лучшая» регрессионная модель [10; 66].
Рассмотрим пример пошаговой регрессии с включением.
Выберем «Пошаговая с включением» (рис. 6.5).
В качестве критерия для исключения можно использовать критическое значение статистики Fкрит. Её величину
(включения / исключения) можно вычислить следующим образом. В табл. 6.2 видно, что минимальный вклад в регрессию
вносит переменная Y. Для неё вычисленное значение коэффициента Стьюдента t = | – 2,169 | (по модулю). Тогда F = t 2 =
= 2,169·2,169 = 4,705. С учётом округлений примем для включения
сначала F = 4,704, а затем F = 4,706. При детализации параметров
пошаговой регрессии в окне на рис. 65, б) необходимо также задать
величину толерантности.
а
б
Рис. 6.5. а – выбор метода пошаговой регрессии и б – его детализация
208
Толерантность определяется как единица минус квадрат
множественной корреляции переменной с другими независимыми переменными уравнения регрессии. Поэтому чем меньше
толерантность переменной, тем в большей степени ее вклад
в регрессию является избыточным (т.е. она является избыточной
при заданных значениях других независимых переменных). Если толерантность каких-либо переменных в уравнении регрессии равна нулю (или очень близка к нулю), оценки не могут
быть вычислены (так как получаемая матрица плохо обусловлена и не может быть обращена).
Опция позволяет задать минимальное значение толерантности. Минимальное допустимое значение этого параметра равно 1E – 25 (т.е. число с 24 нулями после десятичной точки). Однако не рекомендуется устанавливать этот параметр на такое
экстремально малое значение. Если толерантность переменной
на входе в регрессионное уравнение меньше установленного по
умолчанию значения (0,0001), это означает, что такая переменная на 99,99 % является излишней для переменных, уже включенных в уравнение. Принудительное включение чрезвычайно
избыточных переменных в регрессионное уравнение не только
сомнительно с точки зрения уместности получаемых результатов, но и приводит к очень ненадежным оценкам [23].
Результаты расчётов с заданными параметрами пошаговой
регрессии «с включением» представлены на рис. 6.6. Вариант
расчёта с вводом критического значения статистики Fкрит = 4,704
(см. рис. 6.6, б) показал результаты, аналогичные данным, приведённым в табл. 6.2 (метод всех регрессий). Т.е. вклад независимых переменных X, Y, M на изменение зависимой переменной
Zkrow в рассматриваемом уравнении множественной регрессии
является значимым.
Дальнейшая методика анализа уравнения множественной
регрессии выполняется аналогично изложенному материалу для
парной регрессии.
209
а
б
Рис. 6.6. Пошаговая регрессия с включением.
Ввод параметров включения: а – F = 4,706; б – F = 4,704
Гребневая10 регрессия используется в случаях, когда независимые переменные очень сильно коррелируют друг с другом.
Коэффициенты регрессии перед неизвестными, вычисленные с
использованием обычного метода наименьших квадратов, будут
неустойчивыми. Если используем гребневую регрессию, то она
даёт более устойчивые (хотя и смещенные) результаты вычислений, но искусственно занижает коэффициенты корреляции.
10
рессией.
210
Гребневая регрессия в некоторых источниках именуется ридж рег-
В табл. 6.3–6.6 сравним расчёты обычной и гребневой
регрессии для нашего примера с наличием взаимозависимых
аргументов.
Таблица 6.3
Итоги гребневой регрессии с включением
Таблица 6.4
Статистики остатков при гребневой регрессии с включением
Анализируя результаты расчётов, можно заметить более
высокие результаты значимости коэффициента детерминации и
критерия Фишера, полученные по методу «всех регрессий» по
сравнению с результатами, полученными по методу «гребневой
регрессии с включением». В то же время величина стандартной
ошибки оценки и границы разброса остатков больше у метода
«гребневой регрессии с включением».
211
Таблица 6.5
Результаты расчётов по методу всех регрессий:
итоги регрессии
Таблица 6.6
Статистики остатков
Остатки должны быть нормально распределены с нулевым
средним. И в первом, и во втором случаях вычисления подтверждают этот принцип. Но медиана от среднего имеет меньшее
отклонение в гребневой регрессии, что свидетельствует о большем смещении при использовании метода всех регрессий.
212
Рис. 6.7. Зависимость статического модуля упругости карбонатных
пород в пластовых условиях от скорости продольной волны
для месторождений Средней Азии, D = V 2
Множественная регрессия широко используется в науке,
её инструменты способствуют более сложному описанию зависимостей. Например, на рис. 6.7 уравнение множественной регрессии показывает зависимость статического модуля упругости
карбонатных пород в пластовых условиях от скорости продольной волны для месторождений Средней Азии.
213
7. НЕЛИНЕЙНАЯ РЕГРЕССИЯ
7.1. Виды моделей
В предыдущих главах при выводе уравнений регрессии
мы использовали линейное уравнение, в которое входят в виде
суммы произведения i-го коэффициента регрессии на j-й аргумент (раздел 5.2). В реальности в уравнении, помимо суммирования, может использоваться несколько алгебраических операций или их комбинаций. При использовании совокупности разных алгебраических операций можно получить уравнения
(регрессионные модели) в разных вариациях:
Уже знакомые нам аддитивные модели, представленные
в виде алгебраической суммы произведений переменных на вычисленные коэффициенты регрессии при переменных. Они
имеют вид Y = a0 + a1·X1 + a2·X2 + a3·X3 + … + an·Xn.
К таким моделям относится, например, расчёт объема
производства готового удобрения в его взаимосвязи с объемом
производства хлорида калия в отдельных рудоуправлениях.
Мультипликативные модели, которые представляют собой произведение независимых переменных в степени. Значениями степеней становятся коэффициенты регрессии. Уравнения имеют следующий вид: Y = а0·X а1·X а2·X а3·…·X аn.
Примером мультипликативной модели в первых степенях
является двухфакторная модель объема валовой продукции (ВП)
на обогатительной фабрике рудника: ВП = ЧР·ГВ, где ЧР – численность работников, ГВ – среднегодовая выработка одного работника.
Кратные модели, которые представляют собой частное
от деления двух аргументов. Они имеют вид Y = а0·X1а1 / X2а2.
Такую модель даёт расчёт рентабельности совокупных активов
рудоуправления R, который рассчитывается делением суммы
прибыли П на среднегодовую их стоимость С : R = П / С.
214
Смешанные (комбинированные) модели представляют
собой различные сочетания комбинаций предыдущих моделей:
Y = а0· (X1·X2)а2 / X3а3; Y = а0·X1а1×X2а2 / X3а3 и др.
Когда одинаковым приращениям независимой переменной соответствуют неодинаковые и изменяющиеся по некоторому нелинейному закону приращения другого признака, регрессия оказывается нелинейной. Внешним признаком нелинейной регрессии служит то, что средняя линия, построенная на
графике рассеивания, формируется в виде кривой различной
конфигурации. До этого раздела мы рассматривали линейные
регрессионные зависимости и их оценки. Для таких моделей
имеются механизмы оценок параметров, разработаны доказательства качества уравнений, развиты методы тестирования и
механизмы проверки адекватности. Функции для таких моделей
имеют простой вид, их можно достаточно просто реализовать на
практике в виде вычислительных алгоритмов. Такие преимущества линейной регрессии делают ее применение более предпочтительным. Когда есть возможность использовать линейную
модель с большим количеством переменных вместо нелинейной, пусть даже и с меньшим числом аргументов, лучше предпочесть линейную модель. В реальных случаях использование
линейных уравнений для изучения природных и горно-геологических зависимостей дает вполне удовлетворительные
результаты. Они вполне могут использоваться для создания адекватных зависимостей, выполнения анализа и построения прогноза. Вместе с тем, в силу многообразия и сложности природных условий и процессов, при формировании месторождений не
стоит ограничиваться рассмотрением лишь регрессионных моделей линейного вида. К выводу о непригодности модели при
проведении анализа линейной регрессии исследователя может
привести анализ данных графиков остатков. Нелинейная форма
графиков будет свидетельствовать о неадекватности выведенного уравнения и о возможной структуре необходимых нелинейных преобразований.
215
7.2. Виды графиков функций
В математике функция – одно из основных понятий, она
отражает зависимость одной переменной от другой (или нескольких других). В зависимости от направленности изучаемого
явления все семейства функций, используемых в том или ином
виде для описания наблюдаемых процессов в природе, можно
разделить на несколько крупных категорий:
1. Монотонные. Они могут быть возрастающие и убывающие.
2. С одним или несколькими экстремумами.
3. С изломом.
4. Четные и нечетные.
Монотонные могут быть линейными, степенными (за исключением параболы), показательными, экспоненциальными,
логарифмическими и логистическими [51].
Функция является чётной, если для любого значения х из области определения функции выполняется равенство f (x) = f (– x).
Функция является нечётной, если для любого значения х
из области определения функции выполняется равенство f (– x) =
= – f (x).
7.3. Начальные вопросы спецификации
регрессионных моделей
7.3.1. Выбор аргументов и формы уравнения регрессии
Под спецификацией регрессионных моделей понимают
выбор аргументов и нахождение вида связи между зависимой
переменной и аргументами. Понятно, что для парной регрессии
эта задача сводится к выбору аргумента и вида связи. Таким образом, спецификация модели требует решения двух задач. Первая задача – это выбор структуры уравнения регрессии, т.е. ма216
тематической формы модели. Вторая – это определение состава
независимых аргументов. Качество аппроксимации уравнений
регрессии в значительной степени зависит от правильно выбранной спецификации уравнения.
Выбор спецификации должен выполняться на основании
глубокого и осмысленного анализа исследуемой задачи, с учётом
результатов исследования зависимостей переменных, входящих в
восстанавливаемую модель. По мнению авторов работы [1], исследователь ещё до вывода уравнения регрессии должен ответить
на ряд вопросов, связанных с характером искомой связи:
– будет выводимая им функция монотонной или она
включает экстремумы;
– ожидается ли стремление функции к асимптотам11 и какова их содержательная интерпретация;
– какова природа воздействия независимых переменных
на функцию – аддитивная, мультипликативная или иная;
– какова содержательная природа предполагаемой зависимости.
7.3.2. Классы нелинейной регрессии
Построим график рассеивания для содержания двух компонентов (переменных) в горных породах одного из рудников
ВКМКС – хлорида калия KCl – и нерастворимого остатка.
Рис. 7.1 свидетельствует, что зависимость носит нелинейный
характер. Аппроксимация линейным уравнением регрессии
(см. рис. 7.1, б) даёт неплохой коэффициент детерминации, но
уравнение неадекватно, на это укажет нелинейность графика
остатков. Полиномиальное уравнение (см. рис. 7.1, а) нелинейно, имеет высокую степень тесноты связи и адекватно описывает имеющуюся связь.
11
Асимпто́та, или аси́мптота, – прямая, обладающая таким свойством,
что расстояние от точки кривой до этой прямой стремится к нулю при удалении точки вдоль ветви в бесконечность.
217
а
б
Рис. 7.1. Уравнения регрессии: а – полином второй степени (R2 = 0,956),
б – линейное (R2 = 0,814)
Если посмотреть на форму уравнений, то на рис. 7.1, б
функция линейна, она включает свободный член плюс произведение коэффициента регрессии на аргумент. Уравнение регрессии на рис. 7.1, а включает три слагаемых:
– до преобразований y = a + b1x + b2x2;
(7.1)
– после преобразований y = a + b1u1 + b2u2,
(7.2)
где a – свободный член, b1, b2 – коэффициенты регрессии,
218
u1 = x; u2 = x2.
В этом уравнении квадратичный аргумент x2 мы заменили
на новую переменную u2.
По структуре они оба линейны, и в уравнениях (7.1) и
(7.2) произведения b1·x и b2·x2 входят в уравнения аддитивно,
как слагаемые. Оно осталось линейным, несмотря на вторую
степень у одного из слагаемых. Такие уравнения ещё именуют
нелинейными относительно независимых переменных, но они
остаются линейными по оцениваемым параметрам, а значит,
аддитивными. В этом случае используется обычная замена одних переменных другими. Нелинейные переменные заменяют
новыми «линейными» переменными, этот приём и сводит нелинейную регрессию к линейной форме. Мы только преобразовали
данные, но с такими данными для построения уравнения регрессии и его оценки можно использовать ранее изложенный метод
наименьших квадратов (МНК) [51].
Построим степенную функцию вида
y = axbе.
(7.3)
Она нелинейна относительно оцениваемых параметров, так
как параметры a и b входят в уравнение не аддитивно, а мультипликативно. К этому же классу можно отнести показательные и
экспоненциальные функции. Вместе с тем такая функция становится внутренне линейной, если с помощью соответствующих
преобразований её можно свести к линейной форме. Методы преобразований в этом классе регрессий расширены, помимо уже
известной замены переменных, можно воспользоваться логарифмированием или иными видами преобразований.
Прологарифмируем выражение (7.3) по основанию e.
После логарифмирования получаем линейное по параметрам
уравнение, свободный член и коэффициент регрессии которого
(а и b) могут быть найдены по МНК:
lnyi = lna + b·lnxi + lnei
(7.4.)
(более подробно рассмотрим это в п. 7.5.2.1).
219
Таким образом, различают три класса нелинейных регрессий [1; 51]:
– нелинейные относительно независимых переменных.
Такие уравнения остаются линейными по оцениваемым параметрам [1];
– нелинейные по оцениваемым параметрам (их ещё именуют как внутренне линейные);
– нелинейные модели, внутренне нелинейные.
Если нелинейная модель по оцениваемым параметрам линейна, она может быть сведена к линейному виду.
Если нелинейная модель внутренне линейна, после некоторых преобразований её можно привести к линейному виду
(например, логарифмированием и заменой переменных).
Если же нелинейная модель внутренне нелинейна, она не
может быть сведена к линейной функции.
Для оценки неизвестных параметров в нелинейных моделях
как парной, так и множественной регрессии используют замену
переменных, логарифмирование всех или некоторых компонентов уравнения или используют эти и другие преобразования в
различных комбинациях. Если не удаётся подобрать подходящие
преобразования исходных данных, выполняют оценку параметров на основе метода максимального правдоподобия и применения итеративных процедур оптимизации.
7.4. Нелинейная парная регрессия
7.4.1. Степенная функция
Одной из простых и распространенных функций среди степенных является квадратичная с графиком, называемым параболой
(рис. 7.2). Крутизна ветвей параболы будет тем выше, чем выше
степень (приведены примеры для степени, равной 2 и 4).
220
Рис. 7.2. График зависимости степенной функции (парабола) [51]
Если показатель степени четный, тогда график этой функции будет симметричен относительно оси y, как это представлено на рис 7.2. Функция y = x2 – четная функция. На промежутке
[0; +) функция возрастает, на промежутке (–; 0] функция убывает. Графиком этой функции является парабола. В общем случае
степенная функция с натуральным показателем задаётся формулой y = xn, где n – натуральное число. При n = 1 получаем функцию y = x. Пусть n – произвольное четное число, большее двух:
4, 6, 8…. В этом случае функция y = xn обладает теми же свойствами, что и функция y = x2. График функции напоминает параболу y = x2, только ветви графика при |х| > 1 круче направлены
вверх. Причём, чем больше n при |х| < 1, тем «теснее ветви прижимаются» к оси Х [33].
Функция y = x3 – нечетная функция, её область определения – вся числовая прямая. Функция возрастает на всей числовой прямой, графиком функции является кубическая парабола.
Примеры графиков степенных функций, соответствующих
различным показателям степени, приведены на рис. 7.3.
Отмечается, что «графики степенной функции при положительном показателе b1 называются параболами порядка b1,
а при отрицательном – гиперболами порядка b1. Таким образом,
смена знака показателя при аргументе c положительного на от221
рицательный превращает функцию возрастающую в убывающую» [48].
Рис. 7.3. График зависимости степенной функции (парабола)
В отраслях, где переменные представлены, как правило,
положительными числами, степенная функция используется в
другой форме: y x 1 или y = (x / b)a. При этом «в самом обb
щем случае x может быть любым действительным числом при
показателе степени больше 0 и не равно 0 при показателе степени меньше 0. Для любых b1 график функции проходит через
точку (1; 1). В уравнениях степенной функции первую называют
однопараметрической, а вторую – двухпараметрической» [51].
Рис. 7.4. Примеры графиков степенной функции
Степенная функция очень широко используется в нефтедобыче [51]. Например, уравнение Фрейндлиха для описания процесса сорбции грунта на скважинных площадках [43]:
222
Q = mCn,
где Q – концентрация сорбированного иона (моль/100 г почвы);
С – концентрация иона в контактирующем растворе,
моль/л;
m и n – эмпирические параметры, характерные для каждого почвенного образца.
Установленные эмпирические параметры зачастую несут
определённую физическую сущность. В том же уравнении
Фрейндлиха, невзирая «на его эмпирический характер, степенной параметр n (показатель степени) можно рассматривать как
показатель неоднородности сорбционных центров, он приближается к нулю по мере возрастания неоднородности и стремится к единице при увеличении их однородности» [51]. Это
свидетельствует о том, что вычисление параметров аппроксимации имеет не только практическое значение в целях использования их в математических моделях, но и важно для понимания и анализа физических процессов. В то же время, чтобы установить физический смысл и значение регрессионных
коэффициентов, надо проводить дополнительные эксперименты, анализировать поведение уравнения в различных условиях.
В самом общем случае эти коэффициенты, как и любые регрессионные коэффициенты, безразмерны. При использовании
регрессионного уравнения нужно указывать не только его вид,
но и размерность зависимой переменной и аргументов, а также
обязательно фиксировать границы области определения факторов [1; 51].
Степенные функции используются в различных областях
исследований. Например, при описании зависимости между статическим модулем упругости и скоростью продольной волны
в образцах (рис. 7.5).
223
Рис. 7.5. Степенная зависимость между статическим модулем
упругости и скоростью продольной волны Средне-Назымского
месторождения [30]
Зависимость вида: Eст a y р b приводится к линейному виду путём логарифмирования lny = lna + b lnx.
7.4.2. Показательная и экспоненциальная функции
При рассмотрении многих природных процессов и явлений «может оказаться полезным анализ показательной функции y = bx, где b ‒ основание показательной функции, имеет
только положительные значения, а в качестве переменной выступает показатель степени. Частный случай показательной
функции ‒ функция экспоненциальная: y = b1 exp (b2x), где
exp ‒ основание натуральных логарифмов (e = 2,7182…). Особым свойством экспоненты является то, что она возрастает
(рис. 7.6, а) или убывает (рис. 7.6, б) быстрее, чем степенная
функция» [51].
224
а
б
Рис. 7.6. Пример графиков показательной функции:
а – возрастающей; б – убывающей
Используя функцию натурального логарифма lnx, можно
выразить показательную функцию с произвольным положительным основанием b1 через экспоненту: b1x = e x·ln(b1). Эта связь
позволяет ограничиться изучением свойств экспоненты в большинстве аппроксимаций [51]. В этом выражении «работает правило знака перед аргументом: “плюс” – возрастающая функция,
“минус” – убывающая. Экспоненциальная функция сначала довольно быстро возрастает (или убывает при минусе перед аргументом), а затем постепенно и плавно “выходит на плато”, что
указывает на наступление некоторого равновесия. Эти свойства
показательной и экспоненциальной функций позволяют использовать их во многих областях науки, в том числе при описании
химических реакций, роста численности микроорганизмов и др.
Экспоненциальные функции очень важны, поскольку они описывают такие физические явления, как радиационный распад.
Описывая экспоненциальные функции, нельзя не упомянуть
часто встречающееся распределение (или функцию) Вейбулла.
[51]. Она встречается в описании распределения частиц геологической пробы по гранулометрическому составу:
y = b1 + (1 – b1) [1 – exp ( – b2xb3)].
225
7.4.3. Логарифмическая функция
Логарифмическая функция с основанием b1 ‒ это функция
вида log b1 x , где b1 > 0 и b1 ≠ 1. Если b1 > 1, то функция на всей
области определения возрастает (рис. 7.7, а), а если 0 < b1 < 1 ‒
убывает (рис. 7.7, б). Особенностью логарифмической функции
является то, что нулевое значение она принимает в точке х = 1
при любом b1 > 0.
а
б
Рис. 7.7. Примеры графиков логарифмической функции:
а – возрастающей; б – убывающей
«При работе с логарифмической функцией может оказаться
полезным тот факт, что графики показательной вида b1x и логарифмической функций, имеющих одинаковое основание, симметричны относительно биссектрисы у = х, т.е. функция y = logbx
обратна показательной функции y = bx. Поэтому в большинстве
случаев используют показательную или экспоненциальную
функции» [51] (рис. 7.8).
В научных исследованиях логарифмическая функция
встречается достаточно часто: в астрономии – для отображения
степени отблеска звезд и моделирования спиралевидного внешнего вида галактик; в акустике – для оценки громкости шума;
в биологии – при описании формы ракушек улиток, рогов животных, паутин и т.д.; в экономике – при различных расчетах
роста денежных капиталов и др. «Важно то, что и показатель226
ная, и логарифмическая функции могут быть в той или иной мере сведены к экспоненциальной, пользоваться которой при аппроксимации многих природных явлений бывает проще» [51].
а
б
Рис. 7.8. Примеры графиков функций:
а ‒ показательной; б ‒ логарифмической
7.4.4. Логистическая кривая
Логистическая функция, или логистическая кривая, – обобщённая сигмоидальная (S-образная) кривая. Чаще всего используется логистическая функция (иногда её именуют логитфункцией), она описывается выражением: y = 1 / (1 + e–x), где
e = 2,72 – число Эйлера.
Область допустимых значений х этой функции совпадает с
множеством всех действительных чисел. Более того, она уникальна своей формой (рис. 7.9): на первом этапе медленно возрастает, следующий её этап характеризуется ускоренным ростом, напоминая показательную функцию, а на последней фазе её
ускорение замедляется и функция медленно и постепенно приближается к некоторому максимальному значению. Из-за своей
формы, напоминающей греческую прописную букву «сигма»,
эту кривую и называют «сигмоидной».
227
Рис. 7.9. График логистической функции
Наличие трёх фаз (медленного, ускоренного возрастания и
постепенного выравнивания) позволяет использовать эту сигмоидную функцию для «многих природных процессов, которые
сначала развиваются медленно (лаг-фаза в биологических процессах), потом ускоряются, а в завершающей стадии постепенно
замедляются. Вторая стадия ‒ стадия быстрого роста логистической кривой – приблизительно соответствует экспоненте (показательной функции). Затем по мере насыщения рост замедляется, проходит линейную фазу и, наконец, в «зрелом периоде»
рост практически останавливается. Так можно описать многие
процессы роста. А при положительном знаке перед аргументом
функции – это процессы разложения, распада и др. Эта функция
очень широко используется в экологии. При ограничении процессов размножения организмов в популяции каким-либо ресурсом, например, количеством доступной пищи, удельная скорость
роста популяции зависит от ее численности (плотности)» [51].
7.4.5. Функции с одним экстремумом
Среди функций, имеющих один максимум или минимум,
можно выделить две, наиболее употребляемые в естественных
науках – параболическую и гауссовскую функции (гауссовская
логит-функция) [33; 51].
228
График «с одним экстремумом можно получить в частном случае степенной функции или при использовании любой
квадратичной функции. Например, очень часто можно встретить запись классической параболической функции в виде полинома 2-й степени:
y = b0 + b1x + b2x2.
Кривая нормального распределения, или гауссовская кривая, напоминает параболу и чаще всего описывает распределение частот в выборке (например, гистограмма распределения
частот ошибок). Если выборкой является популяция, многие ее
свойства можно описать с помощью кривой нормального распределения» [51] (например, изменение численности при изменении условий среды). Форму кривой и уравнение можно посмотреть в соответствующем разделе. Примером такой функции
служит степенная зависимость между статическим модулем упругости и скоростью продольной волны для некоторых месторождений [30] (рис. 7.10).
Рис. 7.10. Зависимость между статическим модулем упругости
карбонатных пород и скоростью продольной волны для некоторых
месторождений Средней Азии
229
7.4.6. Функции с несколькими экстремумами
Для описания кривых с несколькими экстремумами применяются полиномы 3-й степени и более высокой и сплайн-функция.
7.4.6.1. Полиномиальная функция
Полиномиальная функция имеет вид многочлена степени n:
y = b0 + b1x + b2 x2 + b3 x3 + … + bn xn.
Функция используется для описания экспериментальных
данных в случае, если ни одна из вышеописанных функций не
применима [51]. Полиномиальная функция высокой степени
способна описать практически любые данные (теоремы Вейерштрасса об описании любого процесса полиномами). В методе
группового учёта аргументов (МГУА, аналог искусственных
нейронных сетей) полиномы являются базовой функцией. Однако интерпретация коэффициентов регрессии при этом затруднительна. В горном деле и геологии также возникает необходимость описать довольно сложный процесс или явление. Например, математически описать динамику изменения высотной
отметки почвы пласта для того, чтобы наиболее удобным образом далее представить это описание в геомеханических моделях.
В описании таких задач может быть полезной «именно полиномиальная функция. Для математического описания сложных и
неясных по физической сути явлений нередко ничего не остается, как попробовать начать это описание именно с полинома,
причем высокой степени. Потом, возможно, удастся это уравнение (полином) упростить и, более того, даже выяснить физический
смысл некоторых параметров. Однако подчеркнем, в большинстве
случаев параметры полиномов не имеют физического смысла и
в физически обоснованных моделях их использование возможно, но без раскрытия физической основы процесса и соответственно управления им» [51].
230
7.4.6.2. Сплайн-функция
Сплайн-функция – это кусочная функция, в которой для
каждого отрезка между экспериментальными точками подбирается свой вид полинома 3-й степени (или более высокой), хорошо
описывающий прохождение кривой через многочисленные максимумы и минимумы. Такой вид подгонки функций используется
при моделировании различных поверхностей, пикетные точки
которых расположены с высокой плотностью, в том числе при
картографировании топографических поверхностей земной поверхности (горизонтали на картах и планах, изолинии содержаний, мощности и др.). Поскольку такая функция не имеет никакого физического смысла, для других целей применение этой функции ограничено, «а последующая (после аппроксимации
экспериментальных данных сплайн-функцией) физическая интерпретация такого рода аппроксимации невозможна» [51]. Не
всегда можно подобрать к экспериментальным данным некоторую простую по форме зависимость, например, при совместном
влиянии на экосистему горного предприятия процесса проведения горных работ и внешних факторов. В таких случаях появляется необходимость использования сложных полиномиальных
функций с множеством параметров. Вместе с тем возникает вопрос оценки важности для целей адекватного моделирования всех
коэффициентов в подобных случаях. С большой долей вероятности можно предположить, что не все параметры имеют физический смысл и значимо влияют на результат моделирования.
7.5. Нелинейная множественная регрессия
В предыдущих разделах уже были освещены многие вопросы оценивания уравнений множественной регрессии, значимости уравнения и адекватности. В настоящем разделе в большей
степени пойдёт уклон на пояснение методов преобразования не231
линейных переменных (а иногда и функции) для использования
уже знакомой технологии регрессионного анализа.
7.5.1. Некоторые процедуры преобразования аргументов
в уравнениях, нелинейных относительно независимых
переменных
7.5.1.1. Полиномиальная регрессия
Примером уравнений, нелинейных по независимым переменным, могут служить уже ранее рассмотренные полиномы
разных степеней. Например, полином третьей степени:
y = b0 + b1x + b2x2 + b3x3.
В этих уравнениях аргументы преобразуются путём замены x2 на z2, а x3 на z3, тогда полином можно переписать в следующем виде:
y = b0 + b1x + b2 z2 + b3 z3.
А это уже линейное уравнение с известными методами
оценивания параметров и проверки выдвигаемых при регрессионном анализе гипотез.
При исследованиях чаще всего используются полиномы
низших порядков (второго, реже третьего) [1]. Особенно, если
анализируются геопространственные переменные. На это имеется несколько причин:
– во-первых, чем выше степень полинома (одномерного),
тем больше изгибов имеет кривая, тогда тем менее однородны
исходные данные;
– во-вторых, если в степень возводятся величины большого порядка (например, координаты 8–10 значащих цифр), высокие степени приводят к потере точности вычислений;
– в-третьих, увеличение степени полинома означает включение в модель дополнительной переменной, образованной воз232
ведением в степень уже имеющейся переменной. Такое дополнение повлечёт сложности при статистической оценке модели,
связанные с эффектом мультиколлинеарности, который мы рассмотрели в предыдущих разделах.
Графиком полинома второй степени y = 2 + 1,5x + 2x2 является парабола (рис. 7.11, а).
а
б
Рис. 7.11. Графики параболы:
а) y = 2 + 1,5x + 2x2; b2 > 0; б) y = – 2 + 1,5x – 2x2; b2 < 0
В исследованиях геопространственных данных полиномы
низких степеней используют для описания тренда (дрейфа) в
случайных функциях, в геостатистике. При этом делается предположение, что все закономерности изменчивости случайных
функций можно представить в виде совокупности двух составляющих – детерминистической функции, которая и называется
трендом, и остаточной стохастической компоненты. Базовое допущение такой концепции состоит в том, что выборочные наблюдения интерпретируются как результаты стохастического
процесса. Следует помнить, что разложение случайной переменной на компонент дрейфа и стохастический компонент –
просто механизм, позволяющий нам описывать реальное явление математическими терминами. В этом случае оценкам зна233
чимости и адекватности полинома большого значения не придают, поскольку после удаления (учёта) тренда на следующем
этапе анализируется и аппроксимируется остаток.
7.5.1.2. Гипербола
К нелинейным по независимым переменным функциям
можно отнести и равностороннюю гиперболу y = a0 + (b / x),
графики которой показаны на рис. 7.12. Оценка такой регрессии,
нелинейной относительно независимых переменных, достаточно
проста. Путем замены переменных (u = 1 / x) они легко сводятся
к линейным функциям и оцениваются с помощью метода наименьших квадратов. Вообще, графиком функции y = k / x (при
этом k ≠ 0) является гипербола, ветви которой расположены в
первой и третьей четверти, если k > 0, и во второй и четвёртой
четверти, если k < 0. Точка с координатами (0; 0) является центром симметрии гиперболы. Функция непрерывна на промежутках (− ∞; 0) и (0; + ∞) и претерпевает разрыв при x = 0. Уравнение гиперболы может иметь свободный член, как, например, на
рис. 7.12, б). В этом случае график (и центр симметрии) смещается по оси y на величину свободного члена.
а
б
Рис. 7.12. График гиперболы: а – без свободного члена: y = 2 / x;
б – свободный член равен 3: y = 3 + 2 / x
234
На рис. 7.13 показан график зависимости статического коэффициента Пуассона от объёмного содержания глин для некоторых месторождений Средней Азии.
Рис. 7.13. Зависимость между статическим коэффициентом Пуассона
и объёмным содержанием глин месторождений Средней Азии [30]
7.5.2. Некоторые процедуры преобразования аргументов
в уравнениях, нелинейных относительно параметров
7.5.2.1. Общие сведения
В п. 7.3 рассматривались уравнения, нелинейные относительно независимых переменных. Отмечалось, что они остаются линейными по оцениваемым параметрам. В такие линейные
уравнения аргументы могут входить нелинейно, например
в квадрате или кубе, как в полиноме.
К другому классу регрессий относятся уравнения, в которых результирующая переменная y нелинейно связана с параметрами. Нелинейность относительно параметров представляет
235
собой более сложный случай [1; 51]. К ним относятся степенные, показательные и экспоненциальные функции. Эти модели,
в свою очередь, могут быть разделены на две группы – внутренне линейные и внутренне нелинейные модели.
К примеру, степенная функция вида y = axbe нелинейна
относительно оцениваемых параметров, так как включает параметры уравнения a и b неаддитивно. Однако ее можно считать
внутренне линейной, ибо логарифмирование данного уравнения
по основанию e приводит его к линейному виду:
lnyi = lna + b·lnxi + lni·ei
Заменив переменные, получим линейное уравнение регрессии.
Стандартным и широко используемым подходом к преобразованиям моделей подобного вида в геологии и горном деле,
в экономике является логарифмирование.
7.5.2.2. Логарифмические преобразования для степенных,
показательных и экспоненциальных функций
Прологарифмируем обе части степенной функции y = axbе:
lny = lna + blnx + lnе.
Эти преобразования дают двойную логарифмическую модель (и зависимая, и объясняющая переменные заданы в логарифмическом виде). Степенные функции обладают большими
возможностями. Они достаточно успешно моделируют как линейные, так и криволинейные, как возрастающие, так и убывающие зависимости. В практике исследований используются и
полулогарифмические модели, когда логарифмируется только
левая или только правая часть уравнения.
Если нелинейная мультипликативная модель внутренне
линейна, то при помощи определенных процедур она может
быть сведена к линейному виду и оценена при помощи метода
236
наименьших квадратов. Напротив, если модель внутренне нелинейна, то к линейной функции ее свести нельзя [51]. Однако намного чаще в практике встречаются внутренне линейные модели. Приведем некоторые из них с примерами замен.
Таблица 7.1
Логарифмические преобразования
Показательная функция: lny = lna + xlnb + lne; выполним преобразования:
y = abxе,
Y = lny; A = lna; B = lnb; E = lne;
рис. 7.14
получаем линейную функцию: Y = A + Bx + E
Степенная функция:
lny = lna + blnx + lne; выполним преобразования:
y = axbе,
Y = lny; A = lna; X = lnx; E = lne;
рис. 7.15
получаем линейную функцию: Y = A + bX + E
Экспоненциальная
lny = a + bx выполним преобразования: Y = lny;
функция: y = ea + bx,
получаем линейную функцию: Y = A + bX
рис. 7.16
Показательная функция определена для основания b. Графики функции существенно зависят от значения этого параметра (рис. 7.14) [33].
В классе внутренне линейных функций отдельное место
занимает степенная функция [33]. В этом выражении параметр b
интерпретируется как коэффициент эластичности.
а
б
Рис. 7.14. Графики показательных функций вида y = abxe:
а) y = 2 x, b > 1; б) y = 0,5x, 0 < b < 1
237
а
б
в
г
Рис. 7.15. Графики степенных функций:
а) y = 2x 2,5 ; б) y = 2x 0,5 ; в) y = – 2 + 2x 3 ; г) y = 2x 4
Он показывает, на сколько процентов изменится результат
при изменении аргумента на 1 %. Степенная функция часто используется при анализе экономических моделей.
Экспоненциальной называют показательную функцию для
основания e – иррационального числа, примерно равного
2,718281828459. Основные формулы такие же, как и для показательной функции с основанием степени е. Экспонента y = e x
определена для всех x. Ее область определения – вся числовая
238
ось (– ∞ < x < + ∞). Экспонента является монотонно возрастающей функцией, поэтому экстремумов не имеет (рис. 7.16, а).
Обратной функцией для экспоненты является натуральный логарифм ln e x = x.
Пример экспоненциальной функции индекса компрессии
от пористости образцов для некоторых месторождений Западной Сибири приведен на рис. 7. 16, б).
а
б
Рис. 7.16. Графики экспоненциальных функций: а – график
экспоненты y = e0,35 + 1,25x; б – график экспоненциальной зависимости
индекса компрессии от пористости для месторождения Западной
Сибири [30]
239
7.5.2.3. Некоторые дополнительные процедуры
преобразования переменных
Можно предположить, что существует возможность большого выбора аналитических представлений нелинейной формы
связи, использование которых ограничивает лишь сложность процедур оценки параметров. С математической реализацией относительно несложно такая задача решается для функций, преобразуемых к линейному виду [51]. В табл. 7.2 приведены дополнительные виды преобразования переменных, приводящие уравнения к
линейному виду. Вместе с тем интерпретация коэффициента регрессии так, как она выполнялась в линейном уравнении, для нелинейной зависимости не подходит.
Поэтому для оценки степени влияния изменения аргумента
на изменение значения функции используют частную производную, взятую по соответствующему фактору X. Производная по аргументу является мерой чувствительности одной переменной к
изменению другой, она именуется коэффициентом эластичности.
Эластичность показывает, на сколько процентов изменится значение функции при изменении значения аргумента на 1 %. В общем
случае коэффициент эластичности рассчитывается по формуле
Э YX
X dY X dY
Y
:
,
Y dX Y dX
X
где YX – первая производная функции у по аргументу x.
Например, в случае парной линейной регрессии коэффициент эластичности будет равен
Э
b1 X
b1 X
.
Y
b0 b1 X
Коэффициенты эластичности могут быть рассчитаны как
средние и точечные коэффициенты. Для каждого вида нелинейных функций средние коэффициенты эластичности рассчитываются по индивидуальным формулам.
240
Таблица 7.2
Некоторые дополнительные виды преобразования переменных
№
п/п
1
2
3
4
5
6
7
8
9
10
11
12
Функция
и её график
Линеаризующие
преобразования
преобразование выражения
переменных
для b0 и b1
y′
x′
b0′
b1′
y = b0 + b1 / x,
y
рис. 7.12
y = 1 / (b0 + b1x),
график прямолиней- 1 / y
ной зависимости
y = x / (b0 + b1x),
график прямолиней- 1 / y
ной зависимости
y = b 0 b 1 x,
ln (y)
похож на рис. 7.8
b1 x
y = b 0e ,
ln (y)
рис. 7.6, 7.18
−x
y = 1 / (b0 + b1 e ),
1/y
рис. 7.17, а
b1
y = b 0x ,
ln (y)
похож на рис. 7.15
y = b0 + b1lg (x),
y
похож на рис. 7.7
y = b0 / (b1 + x),
1/y
похож на правую
часть рис. 7.14
y = b0x / (b1 + x),
1/y
похож на рис. 7.17, б
b1 x
y = b 0e / ,
ln (y)
похож на рис. 7.6
n
y = b0 + b1 x ,
y
рис. 7.2, 7.11
Преобразованное
уравнение
1/x
b0
b1
y = b0 + b1 (1 / x)
x
b0
b1
1 / y = b 0 + b 1x
1/x
b0
b1
1 / y = b0 + b1 / x
ln (y) = ln (b0) +
+ хln (b1)
x
ln (b0) ln (b1)
x
ln (b0)
b1
ln (y) = ln (b0) + b1х
e–x
b0
b1
1 / y = b0 + b1 e–x
ln (x) ln (b0)
b1
ln (y) = ln (b0) +
+ b1ln (x)
lg (x)
b1
y = b0 + b1lg (x)
x
b 1 / b0 1 / b
1 / y = b1 / b0 +
+ х b1 / b0
1/x
b 1 / b0 1 / b 1
1/y=
= b1 / b0 + 1 / b1·1 / x
1/x
ln (b0)
b1
ln (y) = ln (b0) + b1 / x
xn
b0
b1
y = b0 + b1 xn
b0
241
а
б
Рис. 7.17. Графики функций:
а) y = 1 / (2,5 + 3,4e–x); б) y = 2x / (0,25 + x)
Рис. 7.18. График функции y = 2,5e2,5x
Чаще всего коэффициенты эластичности применяются
в анализе производственных функций. Использование коэффициентов эластичности в качестве дополнения к коэффициентам
регрессии расширяет возможности сопоставления и экономической интерпретации результатов. Вместе с тем их расчёт не всегда имеет смысл, поскольку в некоторых случаях интерпретация
факторных переменных в процентном отношении невозможна
или бессмысленна [1; 51].
242
7.5.3. Некоторые вопросы спецификации
регрессионных моделей
Преобразование данных открывает широкие возможности
использования нелинейных зависимостей. При этом качество
модели будет зависеть от спецификации уравнения.
Результаты ошибок спецификации переменных в уравнениях регрессии можно резюмировать следующим образом:
1. Если в уравнение не включен аргумент, который должен присутствовать, то оценки коэффициентов регрессии в ряде
случаев могут быть смещенными. Тогда стандартные ошибки
коэффициентов и соответствующие тесты Стьюдента на значимость аргумента в целом становятся некорректными.
2. Если в уравнение введена переменная, которая не должна
в нём присутствовать, то оценки коэффициентов регрессии будут
несмещенными, однако (не всегда) неэффективными. Стандартные ошибки будут в целом корректны, но из-за неэффективности
регрессионных оценок они будут излишне большими.
Таким образом, неправильные постановка и решение этих
задач приводят к появлению в создаваемых моделях ошибок
спецификации.
Можно заметить, что при проведении анализа глубинных
процессов природных явлений, геологических тел и объектов
горного производства приходится постоянно сталкиваться с нехваткой исходных данных. В процессе сбора данных некоторые
переменные невозможно измерить, другие поддаются измерению,
но это достигается большими затратами времени и ресурсов.
В таких случаях вместо отсутствующих переменных полезно использовать некоторые их заменители. Возможно и использование
одного аргумента с разными степенями, особенно в полиномиальной регрессии. В этом случае должно уделяться внимание исследователя таким вопросам, как определение значимости регрессоров, проверка мультиколлинеарности и т.д. В целом работоспособной является модель с правильной спецификацией. Это
243
означает, что уравнение регрессии достаточно надежно определяет соотношение между исследуемыми горно-геологическими показателями.
Если в исследованиях горного производства допустить
создание любого типа уравнения между зависимой и независимыми переменными, не вдаваясь в смысл, возникает несколько
вопросов [51].
Во-первых, как трактовать полученную функцию с точки
зрения простых практических рекомендаций. С этой позиции линейная зависимость очень удобна, так как позволяет дать простое
толкование: «чем больше x (к примеру, чем больше камера), тем
больше y (тем больше времени нужно, чтобы её отработать)». Задавая конкретные приращения x, можно ожидать пропорциональное приращение y. Нелинейные соотношения обычно нельзя так
просто проинтерпретировать и выразить аналогичными логическими связями.
Во-вторых, как проверить существование по факту выведенной нелинейной зависимости и её границ. В случае нелинейности
связи определение степени тесноты связи соотносится с проблемой
изучения аналитической формы связи (коэффициент корреляции
в этом случае прямо зависит от выбранной формы связи).
Параболическую связь можно распознать по равномерному изменению влияния независимой переменной на зависимую
по мере изменения величины фактора. Например, высотная отметка почвы пласта в антиклинальной складке растет с приближением пикетов к замку складки, после чего она понижается.
Гиперболические зависимости характеризуют связи, при
которых зависимый признак имеет некий предел, по мере достижения которого его рост замедляется. Подобные связи встречаются при исследованиях эффективности использования оборудования (комбайны, конвейеры и др.), когда его производительность растет до определенного максимального уровня, по мере
приближения к которому постепенно замедляется.
244
Таким образом, для построения адекватной регрессионной
модели нужно попытаться найти функцию, которая наилучшим
способом описывает данные. В ряде случаев для принятия обоснованного решения по выбору вида модели приходится проводить
сравнительный анализ нескольких уравнений. Для этого требуется
выбрать критерии, с помощью которых будет проводиться сравнение. Помимо использующихся статистических методов отбора при
сравнении моделей применяются следующие условия:
1. Простота. При прочих равных условиях приоритет отдается модели, имеющей меньшее число объясняющих переменных.
2. Максимальное соответствие, определяемое величиной
коэффициента детерминации.
3. Согласованность с теорией. Если уравнение (вид функции, знак при параметре регрессии) не соответствует теоретическим предпосылкам, оно не может быть признано качественным.
4. Прогнозные качества. Полученные при помощи модели
значения должны подтверждаться реальностью.
Идея метода наименьших квадратов основана на том, чтобы минимизировать сумму квадратов отклонений расчетных значений уравнения от эмпирических. Для решения этой задачи составляется система алгебраических уравнений. Но в отличие от
линейной регрессии для нелинейных моделей необходимо создавать систему нелинейных алгебраических уравнений. Решить
аналитически такую систему уравнений, как правило, уже невозможно. Её можно решить численно, но такие решения затрудняют проведение статистического анализа модели, т.е. сложно или
невозможно оценить значимость коэффициентов регрессии, построить для них доверительные интервалы, оценить качество
уравнения регрессии в целом, оценить точность прогноза, использовать критерии Стьюдента и Фишера и т.д. Кое-что из вышеперечисленного численные методы позволяют проделать, однако полный статистический анализ модели, подобный анализу
линейной модели, провести не удается.
245
В моделях, нелинейных по оцениваемым параметрам, но
приводимых к линейному виду, МНК применяется к преобразованным переменным. Преобразования переменных также требуют более осторожного их использования по следующим причинам [1]:
1) Следует с осторожностью применять логарифмические
преобразования, они могут использоваться только в случае, если
переменные исходной нелинейной модели принимают положительные значения. В противном случае (при отрицательных значениях переменных) логарифмическая функция не определена.
2) Если в исходной модели остатки нормально распределены, возможно, преобразованные остатки этим свойством обладать не будут, что приводит к проблемам с предположением
о нормальном распределении остатков, а в некоторых случаях
в остатках появится гетероскедастичность [1].
3) При нелинейных преобразованиях, подобных логарифмическому, нельзя утверждать, что свойства оценок преобразованной модели после обратного преобразования сохранятся (будут иметь место) и для исходной модели. При линеаризации
функции12 возникают и другие проблемы: искажение остатков e
и нарушение их первоначальных свойств.
4) Если случайный член в уравнение смешанного типа
входит аддитивно, то в этом случае модель невозможно преобразовать так, чтобы свести ее к линейной.
5) Использование в уравнениях регрессии высоких степеней может привести к потере точности. В полиномиальной рег12
Линеаризация (от лат. linearis – «линейный») – один из методов приближённого представления замкнутых нелинейных систем, при котором исследование нелинейной системы заменяется анализом линейной системы, в
некотором смысле эквивалентной исходной. После линеаризации функций
система переходит в систему линейных дифференциальных уравнений nпорядка. Методы линеаризации: логарифмирование – применяется к степенным функциям; метод обратного преобразования – для дробных функций;
комплексный метод – для дробных и степенных функций.
246
рессии явление мультиколлинеарности приводит к погрешностям оценок.
Некоторые новые методы, в том числе методы нейронных
сетей, группового учёта аргументов и другие, дают возможность
исследовать нелинейные модели, ранее не подвергавшиеся тестированию.
В главе 5 показано, что степень тесноты линейной связи
показывают парные и множественный коэффициенты корреляции. Они отличаются друг от друга методами вычислений.
Исходя из тождеств
SS
Относительно
среднего
SS
Общая
=
=
SS
Обусловленная
регрессией
SS
От регрессии
+
+
SS
Относительно ;
регрессии
SS
Остатков .
можно записать:
(SSрегр + SSост) / (SSобщ) ≤ 1.
Если в выражении (5.15) и приведенном тождестве сумма
квадратов относительно регрессии (или сумма квадратов остатков) была бы равна нулю, то уравнение регрессии объясняло бы
и описывало 100 % разброса функции. Иными словами, уравнение бы описывало функциональную зависимость без остатков.
Из этого неравенства очевидно, чем меньше SSост тем
больше будет SSрегр. Если из правой части убрать сумму квадратов остатков, то получим выражение, которое в линейной регрессии называется коэффициентом детерминации (или квадрат коэффициента множественной корреляции): R2 = (SSрегр) / (SSобщ).
Перепишем это уравнение в другом виде:
SS 2
R2 1 2ост .
SSобщ
(7.5)
247
Коэффициент множественной корреляции определяется
как корень квадратный из коэффициента детерминации и поэтому не может быть отрицательным.
В уравнении нелинейной регрессии, так же как и в линейной зависимости, рассчитываются показатели корреляции. Но
величину R2 (равную отношению объясненной уравнением регрессии дисперсии результата у к общей дисперсии у) для нелинейных связей называют индексом детерминации, а корень из
данной величины R называют индексом корреляции. Величина
индекса корреляции R находится в границах от 0 до 1. Чем ближе она к единице, тем теснее связь рассматриваемых признаков,
тем более надежно уравнение регрессии.
Если после преобразования уравнение регрессии (нелинейное по объясняющим переменным) принимает форму линейного парного уравнения регрессии, то для оценки тесноты связи
в парной регрессии может быть использован парный коэффициент корреляции Ryx = ryz, где z – преобразованная величина аргумента, например z = 1 / x или z = ln x.
Иначе обстоит дело, когда преобразования уравнения в линейную форму связаны с результативным признаком (нелинейность по параметрам). В этом случае парный коэффициент корреляции по преобразованным значениям признаков дает лишь приближенную оценку тесноты связи и численно не совпадает с
индексом корреляции.
Это можно увидеть из следующих формул:
SS 2
( yi Y i ) .
R (1 2ост ) 1 1n
SSобщ
( yi y)2
n
2
2
1
Следует обратить внимание на то, что разности в соответn
^
n
ствующих суммах ( yi Y i ) и ( yi y ) 2 берутся не в преоб1
1
разованных, а в исходных значениях результативного признака.
248
Иначе говоря, при вычислении этих сумм следует использовать
не преобразованные (линеаризованные) зависимости, а именно
исходные нелинейные уравнения регрессии. После вывода уравнения оценку детерминации можно вычислить самостоятельно.
Индекс детерминации R2 можно сравнивать с коэффициентом парной детерминации r2 для обоснования возможности
применения линейной функции. Чем больше кривизна линии
регрессии, тем величина коэффициента парной детерминации r2 меньше индекса детерминации R2. Близость этих показателей означает, что нет необходимости усложнять форму уравнения регрессии и можно использовать линейную функцию.
Практически если величина (R2 – r2) не превышает 0,1, то предположение о линейной форме связи считается оправданным.
В противном случае проводится оценка существенности различий R2, вычисленных по одним и тем же исходным данным, через t-критерий Стьюдента:
t( R r )
R2 r 2
,
m( R r )
где m( R r ) – ошибка разности ( R 2 r 2 ).
Её можно вычислить из выражения
m( Rr ) ( R 2 r 2 ) ( R 2 r 2 )2 (2 ( R 2 r 2 )) / n .
Если tнабл > tкрит (α; n – m – 1), различия между рассматриваемыми показателями корреляции существенны и замена нелинейной
регрессии уравнением линейной функции невозможна. Практически если величина t < 2, то различия между R и r несущественны
и, следовательно, возможно применение линейной регрессии, даже если есть предположения о некоторой нелинейности рассматриваемых соотношений признаков фактора и результата.
О качестве нелинейного уравнения регрессии можно также судить и по средней ошибке аппроксимации. Эту величину
249
дают нам остатки по каждому наблюдению. Чтобы иметь общее
суждение о качестве модели из относительных отклонений по
каждому наблюдению, определяют среднюю ошибку аппроксимации по выражению (5.21). Существует и другое выражение:
A
1
y
( y y) / n 100.
2
Как правило, таблицу остатков можно вывести в статистических программах. Величина А = 5–7 % считается незначительной ошибкой, она свидетельствует о хорошем подборе модели к исходным данным.
7.6. Фиксированная нелинейная регрессия
При обработке наблюдений пользователь может воспользоваться преобразованиями, изложенными ранее в разделе 7.5.
Подобрав требуемое, по мнению исследователя, преобразование
в программе Statistica, можно создать новые поля и ввести подобранные аргументы (и, возможно, функцию), к примеру x2
или несколько преобразованных аргументов в соответствующие
столбцы. В дальнейшем можно будет подбирать и анализировать зависимости функции от выбранного аргумента (или нескольких аргументов).
В программе Statistica имеются механизмы формирования
некоторых дополнительных переменных программно, не создавая дополнительные поля в исходной таблице. Для этого имеется окно, в котором пользователю необходимо отметить требуемые для анализа преобразования (рис. 7.19). Выбранные преобразования применяются как для функции (переменная V11), так
и для аргументов. В дальнейшем при выборе одной зависимой и
нескольких (или одной) независимых переменных потребуется
указать необходимые варианты.
250
а
б
Рис. 7.19. Окна для преобразования зависимых и независимых
переменных в уравнении из нелинейного вида в линейный:
а – выбор типов нелинейных преобразований; б – выделение
преобразованных аргументов для регрессии
В последующем производится подбор уравнения и вывод результатов вычислений, как при обычном регрессионном анализе.
7.7. Нелинейное оценивание
Как указывалось ранее, если нелинейная мультипликативная модель внутренне линейна, её можно преобразовать
в линейное уравнение. Но если модель внутренне нелинейна, то
к линейной функции ее свести нельзя. В некоторых случаях
пользователь знает структуру нелинейной по параметрам зависимости и может задать её предполагаемый вид. Остаётся только вычислить коэффициенты регрессии при аргументах. В таких
ситуациях для вывода функции используются различные итеративные процедуры, одна из которых реализована в рассматриваемом модуле.
Пример. На одном из рудников ПАО «Уралкалий» с начала панели пройдены 20 камер комбайном «Урал 20». Ширина
камеры 5,4 м, ширина выемочной единицы 12,6 м. В табл. 7.2
приведены расстояния до каждой оси камеры от начала панели.
251
В плане развития горных работ расчётная величина потерь
составила 68,40 %. После разработки камер определены фактические потери. Они отклоняются от средней величины плановых
потерь. Отклонения определены как разность фактических и плановых потерь. Определим зависимость отклонений потерь от
удаления камеры. Введём исходные данные в программу и построим график отклонений потерь от планового значения
(рис. 7.20). Видно, что отклонения встречаются как с положительным, так и с отрицательным знаком, график имеет волнообразный характер.
а
б
Рис. 7.20. а – таблица потерь полезного ископаемого по камерам
и б – график их отклонения от плановых значений
График изменения отклонений потерь можно описать
двумя синусоидами вида F (Li) = sin (b·Li), а тренд (небольшой
изгиб графика в его начальной части) – экспонентой. Остаётся
вычислить параметр b. Используем для этого инструменты нелинейного оценивания.
В этой закладке нелинейного оценивания параметры ожидаемой модели могут подгоняться по методу наименьших квадратов (рис. 7.21), по критерию максимума правдоподобия или с
252
помощью любой определенной пользователем функции потерь
[66]. Регрессия пользователя даёт возможность выбрать один из
четырех мощных и существенно различных по своим характеристикам методов оценивания (квазиньютоновский, симплексметод, метод Хука – Дживса и метод Розенброка), так что практически в любой задаче (даже очень сложной в вычислительном
отношении) можно получить устойчивые оценки параметров.
Рис. 7.21. Инструменты нелинейного оценивания
Выберем «Регрессия пользователя – произвольная функция
потерь», откроется окно, в котором пропишем сначала предполагаемую функцию, а затем и функцию потерь. В регрессионном
анализе такой функцией служил метод минимизации остатков,
в нашем примере минимизируется функция L = (факт – теор)2.
Рис. 7.22. Формирование вида предполагаемой функции
253
В качестве функции потерь выбираем сумму квадратов
разностей наблюдаемых и предсказанных значений (OBS –
PRED)2, оценки параметров вычисляются методом наименьших
квадратов. В появившемся далее окне «Метод оценивания» во
вкладке «Дополнительно» можно задать вычислительный метод
(квазиньютоновский, симплекс-метод, метод Хука – Дживса или
метод Розенброка), максимальное число итераций, величину
критерия сходимости, можно задать начальные значения искомых коэффициентов и шаг изменения параметров [70]. Чтобы
получить среднеквадратические ошибки оценок параметров,
нужно включить опцию «Асимптотические стандартные ошибки». Требуется обратить особое внимание на выбор начальных
значений параметров, так как неудачное начальное приближение
может привести к медленной сходимости или даже к расходимости процесса вычислений. Если запустить программу оценивания
при некорректно введённых параметрах, то может появиться следующее сообщение: «Вычисления не могут выполняться: следует
изменить начальные значения параметров / точность вычислений /
величину шага». Некорректные результаты могут появиться и без
сообщений. Об этом могут свидетельствовать низкий коэффициент корреляции, значительная величина потерь и явное несовпадение восстановленной функции с опытными точками. Результаты вычислений содержат [70]: значение функции потерь (Loss
function) по шагам итераций (Final value), оценки параметров,
коэффициент множественной корреляции R, долю дисперсии
исходных данных, объясняемую моделью (коэффициент детерминации R2) (рис. 7.24). Кнопкой «Подогнанная функция и наблюдаемые значения» можно построить график предполагаемой
функции и визуально оценить сходимость его с заданными точками. Из рис. 7.24 видно, что кривая без отклонений проходит
через опытные точки. Об этом свидетельствуют и представленные на рис. 7.25 коэффициент множественной корреляции,
равны единице и отсутствие потерь. Иными словами, получена
функциональная зависимость, параметры которой выведены
в табл. 7.3.
254
Рис. 7.23. Выбор метода оценивания и параметров модели
Рис. 7.24. Построенный график модели
255
Таблица 7.3
Оценки параметров
Рис. 7.25. Полученные результаты моделирования
256
ЗАКЛЮЧЕНИЕ
Горнодобывающие предприятия относятся к категории
опасных производственных объектов. Инженерные службы
предприятия обязаны организовывать и осуществлять производственный контроль за состоянием объектов разработки. Для
этих целей производятся отбор проб и исследования их физикомеханических свойств. Гидрогеологи отбирают пробы рудничных рассолов и определяют природу их возникновения. Если в
рассолах обнаруживается пресная вода, она может появиться из
водоносных горизонтов, тогда возникает опасность затопления
рудника. Геологи отбирают пробы руды на содержание полезных компонентов, обработка которых позволяет получить ожидаемое качество руды, что влияет на экономику предприятия.
Во всех этих и многих других случаях решение практических инженерных задач базируются на обработке большого объёма
количественной информации, которую необходимо объективно
оценить, провести группировку или классификацию, доказать наличие зависимостей и установить пространственные закономерности развития объектов разработки, процессов или явлений, выполнять моделирование и давать прогноз их развития.
Такие задачи успешно решаются с помощью математических методов и соответствующих программных средств, разработанных для персональных компьютеров. Горный инженер должен
лишь статистически корректно сформулировать задачу, выбрать
наиболее подходящий для конкретных условий метод анализа и
после обработки дать объективную интерпретацию результатов.
В настоящем пособии приводятся разделы статистики случайных величин или одномерная статистика, элементы которой
используются в маркшейдерской и геодезической службах для обработки полевых измерений. Из многомерного статистического
анализа приводится корреляционный и регрессионный анализ, что
даёт возможность проверить наличие зависимостей и установить
пространственные закономерности объектов разработки.
257
СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ
1. Айвазян С.А., Енюков И.С., Мешалкин Л.Д. Прикладная
статистика: исследование зависимостей: cправочное издание / под
ред. С.А. Айвазяна. – М.: Финансы и статистика, 1985. – 487 с.
2. Акимов В.А., Быков А.А., Щетинин Е.Ю. Введение в
статистику экстремальных значений и ее приложения // Всероссийский научно-исследовательский институт по проблемам гражданской обороны и чрезвычайных ситуаций МЧС России. – М.,
2009. – 536 с.
3. Анализ данных для геологического моделирования толщи
Верхнекамского месторождения калийно-магниевых солей /
А.В. Катаев, С.Н. Кутовой, Д.А. Мейстер, Е.М. Ефимов,
А.П. Рачкова // Вестник Пермского национального исследовательского политехнического университета. Геология. Нефтегазовое и
горное дело. Geology. Oil and gas engineering and mining. – 2019. –
Т. 19, № 4. – С. 344–355.
4. Аргучинцева А.В. Методы статистической обработки и
анализа гидрометеорологических наблюдений: учеб. пособие. –
Иркутск: Иркут. гос. ун-т, 2007. – 105 с.
5. Арманд Д.Л. Наука о ландшафте. (Основы теории и логико-математические методы). – М., 1975. – 288 с.
6. Безручко Б.П., Смирнов Д.А. Математическое моделирование и хаотические временные ряды. – Саратов: ГосУНЦ
«Колледж», 2005. – С. 139–155.
7. Бернштейн С.Н. Современное состояние теории вероятностей и ее приложений // Труды Всероссийского съезда математиков, Москва, 27 апреля – 4 мая 1927 г. – М. – Л.: ГИЗ,
1928. – С. 50–63.
8. Бокс Дж., Дженкинс Г. Анализ временных рядов. Прогноз и управление. – М.: Мир, 1974.
258
9. Боровиков В.П., Боровиков И.П. STATISTICA – Статистический анализ и обработка данных в среде Windows. – 2-е изд. –
М.: Информационно-издательский дом «Филинъ», 1998. – 608 с.
10. Боровиков В.П. STATISTICA. Искусство анализа данных на компьютере. – СПб.: Питер, 2001. – 656 с.
11. Вентцель Е.С. Теория вероятностей: учебник. –
11-е изд., стер. – М.: КноРус, 2010. – 664 с.
12. Вероятность и математическая статистика: энциклопедия / под ред. Ю.В. Прохорова. – М.: Большая Российская энциклопедия, 2003.
13. Вуколов Э.А. Основы статистического анализа. Практикум по статистическим методам и исследованию операций с
использованием пакетов STATISTICA и EXCEL: учеб. пособие. –
М.: ФОРУМ, 2008. – 464 с.
14. Газизов Д.И. Обзор методов статистического анализа
временных рядов и проблемы, возникающие при анализе нестационарных временных рядов // Математика. – 2016. – № 158 (3). –
С. 9–14.
15. Герасимов А.Н., Морозова Н.И. Параметрические и непараметрические методы в медицинской статистике [Электронный ресурс]. – URL: http://elibrary.ru/item.asp?id=24344525/ (дата
обращения: 04.04.2022).
16. Горбацевич В.В. Анализ и прогнозирование временных
рядов. Методические указания к чтению лекций и проведению
практических занятий [Электронный ресурс]. – М.: Государственный авиационный технологический университет, 2000. –
Ч. 2. – URL: http://www.fineprint.com/ (дата обращения: 04.04.2022).
17. ГОСТ Р ИСО 5479-2002. Статистические методы. Проверка отклонения распределения вероятностей от нормального
распределения. – М.: Изд-во стандартов, 2002. – 30 с.
18. ГОСТ Р 50779.21-2004. Статистические методы. Правила определения и методы расчета статистических характеристик по выборочным данным. Ч. 1. Нормальное распределение. – М., 2004.
259
19. ГОСТ Р 8.736-2011. Государственная система обеспечения единства измерений. Измерения прямые многократные.
Методы обработки результатов измерений. Основные положения. – М., 2011.
20. Гмурман В.Е. Теория вероятностей и математическая
статистика: учебник. – 12-е изд. – М.: Юрайт, 2016. – 479 с.
21. Дементьев Л.Ф. Математические методы и ЭВМ в нефтегазовой геологии: учеб. пособие. – М.: Недра, 1983. – 189 с.
22. Демьянов В.В., Савельева Е.А. Геостатистика: теория
и практика. – М.: Наука, 2010. – 327 с.
23. Дрейпер Н., Смит Г. Прикладной регрессионный анализ: в 2 кн. – М.: Финансы и статистика, 1987.
24. Ивченко Г.И., Медведев Ю.И. Математическая статистика: учебник. – М.: Книжный дом «ЛИБРОКОМ», 2014. – 352 с.
25. Иконникова И.А. Основы математической статистики:
метод. указания. – Томск, 2014. – 46 с.
26. Казаков Б.П., Шалимов А.В., Зайцев А.В. Исследование
процессов миграции конденсационных рассолов в выработках
калийных рудников // Горный информационно-аналитический
бюллетень (научно-технический журнал). – 2016. – № 11. –
С. 216–225.
27. Калинченко В.М. Математическое моделирование и
прогноз показателей месторождений: справочник. – М.: Недра,
1993. – 319 с.
28. Капитанова О.В. Прогнозирование социально-экономических процессов: учеб.-метод. пособие [Электронный ресурс]. –
Нижний Новгород: Нижегородский госуниверситет, 2016. – 74 с. –
URL: http://www.unn.ru/books/met_files/Kapitanova.pdf/ (дата обращения: 04.04.2022).
29. Катаев А.В., Кутовой С.Н., Ашихмин С.Г. Математическая статистика в горном деле: учеб.-метод. пособие. – Пермь:
Изд-во Перм. гос. техн. ун-та, 2009. – 98 с.
30. Кашников Ю.А., Ашихмин С.Г. Механика горных пород при разработке месторождений углеводородного сырья: монография. – М.: Горная книга, 2019. – 496 с.
260
31. Кендалл М. Дж., Стьюарт А. Многомерный статистический анализ и временные ряды. – М.: Наука, 1976. – 736 с.
32. Лемешко Б.Ю., Лемешко С.Б. Сравнительный анализ
критериев проверки отклонения распределения от нормального
закона // Метрология. – 2005. – № 2. – С. 3–23.
33. Маслова Т.Н., Суходский А.М. Справочник школьника по математике. 5–11 классы. – М.: Мир и Образование, 2008. –
672 с.
34. Методическое руководство по ведению горных работ на
рудниках Верхнекамского калийного месторождения / Уральский
филиал ВНИИГ. – М.: Недра, 1992. – 468 с.
35. Миркин Б.Г. Методы кластер-анализа для поддержки
принятия решений: обзор: препринт WP7/2011/03. – М.: Изд.
дом Национального исследовательского университета «Высшая
школа экономики», 2011. – 88 с.
36. Митина О.В. Моделирование латентных изменений c
помощью структурных уравнений // Экспериментальная психология. – 2008. – Т. 1, № 1. – С. 131–148.
37. Наследов А.Д. Математические методы психологического исследования, анализ и интерпретация данных: учеб.
пособие. – СПб.: Речь, 2004. – 392 с.
38. Никифоров И.А. Применение ЭВМ в геологии: учеб.
пособие. – Оренбург: ИПК ГОУ ОГУ, 2009. – 168 с.
39. Орлов А.И. Заметки по теории классификации [Электронный ресурс] // Социология: методология, методы, математическое моделирование. – 1992. – № 2. – С. 28–50. – URL: http://
elibrary.ru/item.asp?id=18085437/ (дата обращения: 04.04.2022).
40. Орлов А.И. Основные этапы становления статистических методов // Научный журнал КубГАУ. – 2014. – № 97 (03). –
С. 1–25.
41. Орлов А.И. Прикладная статистика: курс лекций
[Электронный ресурс]. – М.: Интуит НОУ, 2016. – 946 с. – URL:
https://book.ru/book/917997/ (дата обращения: 04.04.2022).
261
42. Орлов А.И. Прикладная статистика. – М.: Экзамен,
2004.
43. Орлов Д.С. Химия почв. – М.: Изд-во Московский гос.
ун-та, 1992.
44. Орлов А.И. Эконометрика [Электронный ресурс]. – М.:
Экзамен, 2002. – 576 с. – URL: http://www.aup.ru/books/m153/ (дата
обращения: 04.04.2022).
45. Основы математической статистики: учеб. пособие /
под ред. В.С. Иванова. – М.: ФиС, 1990. – 176 с.
46. ОСТ 41-08-212-04. Стандарт отрасли. Управление качеством аналитических работ. Нормы погрешности при определении химического состава минерального сырья и классификация методик лабораторного анализа по точности результатов. –
М., 2004.
47. Папазов М.Г., Могильный С.Г. Теория ошибок и способ наименьших квадратов. – М.: Недра, 1968. – 302 с.
48. Попов И.О. Разработка методов и алгоритмов предварительной цифровой обработки стохастических процессов: дис. …
канд. техн. наук: 05.13.01. – М., 2012. – 181 с.
49. Применение математических знаний в профессиональной деятельности: учеб. пособие: в 4 ч. / Н.П. Пучков и др.; М-во
образования и науки Рос. Федерации, Тамбов. гос. техн. ун-т. –
Тамбов, 2012.
50. Прогнозирование временных рядов в пакете Statistica:
метод. указания / сост. Л.И. Дубровская. – Томск: Томск. гос.
ун-т, 2012. – 36 с.
51. Регрессионный анализ в почвоведении: учеб. пособие /
Е.В. Шеин [и др.]; Владим. гос.ун-т им. А.Г. и Н.Г. Столетовых. –
Владимир: Изд-во ВлГУ, 2016. ‒ 88 с.
52. Р 50.1.033-2001. Рекомендации по стандартизации. Прикладная статистика. Правила проверки согласия опытного распределения с теоретическим. Ч. 1. Критерии типа хи-квадрат. –
М., 2001.
262
53. Робастность в статистике. Подход на основе функций
влияния / Ф. Хампель, Э. Рончетти, П. Рауссеу, В. Штаэль. – М.:
Мир, 1989. – 512 с.
54. Рыжов П.А. Математическая статистика в горном деле:
учеб. пособие. – М.: Высшая школа, 1973. – 287 с.
55. Светуньков И.С., Светуньков С.Г. Методы и модели социально-экономического прогнозирования: учебник и практикум
для академического бакалавриата: в 2 т. – М.: Юрайт, 2014. –
Т. 1. Теория и методология прогнозирования. – 351 с.
56. Светуньков И.С., Светуньков С.Г. Методы социальноэкономического прогнозирования: учебник и практикум для академического бакалавриата: в 2 т. – М.: Юрайт, 2017. – Т. 2. Модели и методы. – 447 с.
57. Спектральный анализ временных рядов [Электронный
ресурс]. – URL: https://poisk-ru.ru/s23410t8.html/ (дата обращения: 04.04.2022).
58. Специальные мероприятия по безопасному ведению
горных работ на Верхнекамском месторождении калийных солей в условиях газового режима в ПАО «Уралкалий». – Пермь –
Березники, 2015.
59. Справочник по математическим методам в геологии /
Д.А. Родионов, Р.И. Коган, В.А. Голубева [и др.]. – М.: Недра,
1987. – 335 с.
60. Статистический анализ данных, моделирование и исследование вероятностных закономерностей. Компьютерный подход:
монография. – Новосибирск: Изд-во НГТУ, 2011. – 888 с.
61. Стационарный процесс – Stationary process [Электронный ресурс].– URL:https://ru.abcdef.wiki/wiki/Stationary_process/
(дата обращения: 04.04.2022).
62. Теория вероятностей и математическая статистика /
В.С. Мхитарян, Л.И. Трошин, Е.В. Адамова, К.К. Шевченко,
Н.Я. Бамбаева; Московский междунар. ин-т эконометрики, информатики, финансов и права. – М., 2003. – 130 с.
263
63. Тихомиров Н.П., Дорохина Е.Ю. Эконометрика: учебник. – М.: Изд-во Рос. экон. акад., 2002. – 640 с.
64. Туркалендарь [Электронный ресурс]. – URL: https:
//www.turcalendar.ru/perm/ (дата обращения: 04.04.2022).
65. Филиппова В. Случайные величины [Электронный ресурс]. – URL: https://pandia.ru/text /78/263/264.php/ (дата обращения: 04.04.2022).
66. Халафян А.А. STATISTICA 6. Статистический анализ
данных. – М.: Бином, 2008.
67. Шепель В.Н., Богословская С.С. Периодизация истории статистики как основа изучения эволюции статистической
науки и практики // Известия Оренбургского государственного
аграрного университета. – 2009. – № 3. – С. 148–151.
68. Шпаков П.С., Попов В.Н. Статистическая обработка
экспериментальных данных: учеб. пособие. – М: Изд-во Москов.
гос. горного ун-та, 2003. – 268 с.
69. Шуметов В.Г., Шуметова Л.В. Факторный анализ:
подход с применением ЭВМ. – Орел: ОрелГТУ, 1999. – 88 с.
70. Электронный учебник по статистике [Электронный
ресурс]. – URL: http://statsoft.ru/home/textbook/esc.html/ (дата обращения: 04.04.2022).
71. Big data: How do your data grow? [Электронный ресурс]. – URL: https://www.nature.com/nature/journal/v455/n7209/
full/455028a.html/ (дата обращения: 04.04.2022).
72. Wold H. A Study in the Analysis of Stationary Time Series. – Stockholm: Almqvist and Wiksel, 1938.
264
ПРИЛОЖЕНИЯ
Приложение А
Результаты анализов проб по полезному компоненту КCl
№ п/п
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
Пер. 1
23,8
26,1
25,0
23,8
25,1
25,0
25,0
21,9
24,0
23,4
22,7
19,4
21,9
24,0
23,4
25,1
22,0
24,4
27,7
23,4
20,3
23,8
27,5
27,6
21,9
24,0
23,4
26,2
25,4
31,3
Пер. 2
18,7
25,6
23,4
26,6
27,2
27,4
27,2
18,8
20,7
25,0
25,5
20,4
23,8
22,4
25,0
24,8
25,8
21,9
24,0
23,4
25,0
22,2
10,1
29,6
23,8
23,6
24,8
25,8
21,9
24,0
Пер. 5
23,8
26,1
25,0
23,8
25,1
25,0
25,0
21,9
24,0
23,4
22,7
19,4
21,9
24,0
23,4
25,1
22,0
24,4
27,7
23,4
20,3
23,8
27,5
27,6
21,9
24,0
23,4
26,2
25,4
31,3
Пер. 6
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
№ п/п
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
Пер. 5
18,7
25,6
23,4
26,6
27,2
27,4
27,2
18,8
20,7
25,0
25,5
20,4
23,8
22,4
25,0
24,8
25,8
21,9
24,0
23,4
25,0
22,2
10,1
29,6
23,8
23,6
24,8
25,8
21,9
24,0
Пер. 6
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
265
Приложение Б
Таблица данных к проверке соответствия нормальному закону
распределения значений переменных по критерию согласия χ2
№ п/п
X
Y
ZKROW M
1
32057,35 42220,03 – 163,57 3,83
2
32488,85 42386,83 – 146,36 3,41
3
32250,00 38270,00 – 157,13 3,33
4
32060,00 38470,00 – 157,16 3,58
5
32445,00 38070,00 – 133,64 2,75
6
32060,00 38270,00 – 148,46 3,10
7
32060,00 38670,00 – 160,14 2,88
8
32645,00 38670,00 – 128,36 3,65
9
32645,00 38270,00 – 115,53 3,69
10 33870,00 41590,00 – 89,50 3,27
11 32445,00 38470,00 – 134,89 3,31
12 33045,00 38270,00 – 103,30 3,81
13 33045,00 38670,00 – 101,09 3,86
14 32840,00 38670,00 – 103,50 3,71
15 32840,00 38270,00 – 113,20 3,48
16 29690,00 42430,00 – 194,00 2,23
17 29590,00 39920,00 – 198,16 2,59
18 29890,00 42275,00 – 194,00 2,69
19 32445,00 37870,00 – 117,15 3,20
20 31280,00 41540,00 – 192,50 2,92
21 31100,00 41545,00 – 191,00 2,68
22 31290,00 41745,00 – 193,00 2,82
23 29900,00 42080,00 – 193,00 2,74
24 31100,00 41740,00 – 192,32 3,08
25 29390,00 39925,00 – 195,18 2,75
26 29390,00 39730,00 – 186,65 2,74
27 32695,00 37880,00 – 107,84 3,43
28 29200,00 39925,00 – 193,64 3,05
29 30100,00 42275,00 – 194,50 2,61
30 32250,00 37880,00 – 124,59 2,96
31 32840,00 37880,00 – 104,00 3,89
32 30097,30 42081,10 – 193,00 2,79
266
no
2,90
1,27
0,92
1,23
1,09
1,27
1,16
1,12
1,69
1,42
1,08
1,29
1,12
1,16
1,17
1,02
1,28
2,19
1,05
0,85
1,01
0,79
1,16
1,01
1,07
1,03
1,25
1,15
1,28
1,25
1,35
0,97
KCl
27,91
30,12
36,36
30,45
39,13
31,66
35,00
36,55
35,05
37,48
28,81
36,49
33,31
36,49
35,00
32,95
31,33
32,36
38,33
34,66
33,63
41,83
35,08
34,51
35,51
30,06
37,23
35,23
34,60
34,58
34,37
39,83
MgCl2
0,33
0,02
0,14
0,11
0,15
0,10
0,15
0,14
0,14
0,18
0,13
0,13
0,14
0,10
0,08
0,14
0,12
0,19
0,15
0,19
0,15
0,09
0,11
0,09
0,11
0,08
0,12
0,14
0,13
0,12
0,19
0,11
NaCl CaSO4
34,25 2,40
0,00
0,40
60,59 1,83
66,45 1,65
57,79 1,65
65,02 1,85
61,82 1,80
60,57 1,49
61,31 1,87
59,01 1,73
68,24 1,62
60,07 1,91
63,42 1,89
60,66 1,50
61,92 1,76
63,66 2,09
65,28 1,88
62,81 2,23
59,27 1,04
62,55 1,55
63,39 1,66
55,80 1,39
61,49 1,98
62,52 1,72
61,35 1,81
67,00 1,74
59,68 1,60
61,80 1,51
62,63 1,59
62,45 1,48
62,21 1,69
57,36 1,62
Окончание таблицы прил. Б
№ п/п
X
Y
ZKROW M
33 30680,00 41545,00 – 199,68 2,92
34 30470,00 41540,00 – 201,19 2,66
35 29100,00 41870,00 – 208,00 1,85
36 33040,00 38470,00 – 101,00 4,52
37 33250,00 38470,00 – 93,25 4,62
38 33252,00 38660,00 – 92,69 3,88
39 33250,00 38270,00 – 92,50 4,02
40 33049,88 36379,01 – 101,39 3,80
41 32845,00 38070,00 – 102,97 3,39
42 32445,00 37670,00 – 111,37 3,39
43 29408,07 41413,97 – 218,30 2,00
44 32420,85 42363,53 – 145,02 3,98
45 33450,00 38470,00 – 92,45 3,49
46 33638,00 38470,00 – 85,96 4,06
47 33450,00 38680,00 – 93,70 4,59
48 33640,00 38670,00 – 89,18 4,22
49 30845,00 37765,00 – 184,89 2,81
50 33041,00 38068,00 – 102,82 3,71
51 30842,00 38155,00 – 186,18 2,63
52 29695,00 42613,00 – 191,00 2,41
53 30842,00 37765,00 – 192,11 2,79
54 32240,00 38070,00 – 129,94 3,31
55 32050,00 38070,00 – 137,11 3,84
56 31770,00 38070,00 – 150,17 3,32
57 31770,00 37880,00 – 149,10 3,08
58 30712,45 43343,43 – 173,64 2,58
59 29894,10 42617,00 – 190,45 2,88
60 29894,10 42430,70 – 192,66 2,53
61 30094,60 42617,00 – 191,70 2,57
62 31050,00 37950,00 – 178,03 2,70
63 31050,00 38160,00 – 179,72 2,62
64 29300,00 41880,00 – 204,50 2,47
65 30080,00 42430,00 – 197,00 2,89
no
1,34
1,07
0,93
1,09
1,24
0,90
1,10
1,33
1,19
1,51
1,44
0,98
1,23
1,14
1,11
1,09
0,98
0,92
1,17
1,08
0,90
1,22
1,22
1,03
0,99
1,26
0,77
0,95
0,95
0,79
1,35
1,62
1,03
KCl
31,86
36,13
27,72
39,25
31,84
39,04
28,72
28,55
32,66
33,63
32,63
32,26
36,00
37,26
38,19
37,63
31,72
37,53
32,70
36,99
36,79
36,99
38,27
35,13
34,21
33,21
29,89
30,04
34,36
31,00
30,23
29,00
33,60
MgCl2
0,16
0,14
0,13
0,15
0,14
0,14
0,15
0,09
0,12
0,14
0,30
0,12
0,14
0,13
0,16
0,19
0,13
0,17
0,08
0,13
0,13
0,12
0,11
0,15
0,13
0,12
0,09
0,18
0,17
0,10
0,11
0,14
0,17
NaCl CaSO4
64,24 2,26
60,99 1,47
69,84 1,24
57,62 1,74
65,05 1,59
58,31 1,48
67,91 1,99
68,11 1,65
64,01 1,88
62,74 1,83
62,41 2,92
0,00
0,87
60,92 1,59
59,71 1,65
58,88 1,48
59,48 1,42
65,76 1,28
59,48 1,71
64,23 1,66
60,30 1,36
60,77 1,27
60,07 1,49
58,34 1,89
62,26 1,29
62,74 1,83
63,60 1,64
67,45 1,72
67,14 1,50
62,65 1,70
66,27 1,73
65,92 2,28
67,36 1,81
63,31 1,71
267
268
268
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
Коэффициенты ak для вычисления статистики критерия Шапиро – Уилка (k)
20
21
22
23
24
25
n
29
30
31
29 0,4291 0,2968 0,2499 0,215 0,1864 0,1616 0,1395 0,1192 0,1002 0,0822 0,065 0,0483 0,032 0,0159
30 0,4254 0,2944 0,2487 0,2148 0,187 0,163 0,1415 0,1219 0,1036 0,0862 0,0697 0,0537 0,0381 0,0227 0,0076
31 0,422 0,2921 0,2475 0,2145 0,1874 0,1641 0,1433 0,1243 0,1066 0,0899 0,0739 0,0585 0,0435 0,0289 0,0144
27
28
26
26 0,4407 0,3043 0,2533 0,2151 0,1836 0,1563 0,1316 0,1089 0,0876 0,0672 0,0476 0,0284 0,0094
28 0,4328 0,2992 0,251 0,2151 0,1857 0,1601 0,1372 0,1162 0,0965 0,0778 0,0598 0,0424 0,0253 0,0084
25
25 0,445 0,3069 0,2543 0,2148 0,1822 0,1539 0,1283 0,1046 0,0823 0,061 0,0403 0,02
27 0,4366 0,3018 0,2522 0,2152 0,1848 0,1584 0,1346 0,1128 0,0923 0,0728 0,054 0,0358 0,0178
23
24
22
22 0,459 0,3156 0,2571 0,2131 0,1764 0,1443 0,115 0,0878 0,0618 0,0368 0,012
24 0,4493 0,3098 0,2554 0,2145 0,1807 0,1512 0,1245 0,0997 0,0764 0,0539 0,0321 0,0107
21
21 0,4643 0,3185 0,2578 0,2119 0,1736 0,1399 0,1092 0,0804 0,053 0,0263
23 0,4542 0,3126 0,2563 0,2139 0,1787 0,148 0,1201 0,0941 0,0696 0,0459 0,0228
19
20
18
18 0,4886 0,3253 0,2553 0,2027 0,1587 0,1197 0,0837 0,0496 0,0163
20 0,4734 0,3211 0,2565 0,2085 0,1686 0,1334 0,1013 0,0711 0,0422 0,014
17
17 0,4968 0,3273 0,254 0,1988 0,1524 0,1109 0,0725 0,0359
19 0,4808 0,3232 0,2561 0,2059 0,1641 0,1271 0,0932 0,0612 0,0303
16
16 0,5056 0,329 0,2521 0,1939 0,1447 0,1005 0,0593 0,0196
13 0,5359 0,3325 0,2412 0,1707 0,1099 0,0539
14
13
12 0,5475 0,3325 0,2347 0,1586 0,0922 0,0303
15
12
11 0,5601 0,3315 0,226 0,1429 0,0695
15 0,515 0,3306 0,2495 0,1878 0,1353 0,098 0,0433
11
10 0,5739 0,3291 0,2141 0,1224 0,0399
14 0,5251 0,3318 0,243 0,1802 0,124 0,0727 0,024
9
10
9 0,5888 0,3244 0,1976 0,0947
8
1
8 0,6052 0,3164 0,1743 0,0561
n
Коэффициенты для вычисления статистики критерия Шапиро – Уилка
Приложение В
269
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
n
41
42
43
44
45
46
47
40 0,3964 0,2737 0,2368 0,2098 0,1878 0,1691 0,1526 0,1376 0,1237 0,1108 0,0986 0,087 0,0759 0,0651 0,0546 0,0444 0,0343 0,0244 0,0146 0,0049
41 0,3949 0,2719 0,2357 0,2091 0,1876 0,1693 0,1531 0,1384 0,1249 0,1123 0,1004 0,0891 0,0782 0,0677 0,0575 0,0476 0,0379 0,0283 0,0188 0,0094
42 0,3917 0,2701 0,2345 0,2085 0,1874 0,1694 0,1535 0,1392 0,1259 0,1136 0,102 0,0909 0,0804 0,0701 0,0602 0,0506 0,0411 0,0318 0,0227 0,0136 0,0045
43 0,3894 0,2684 0,2334 0,2078 0,1871 0,1695 0,1539 0,1398 0,1269 0,1149 0,1035 0,0927 0,0824 0,0724 0,0628 0,0534 0,0442 0,0352 0,0263 0,0175 0,0087
44 0,3872 0,2667 0,2323 0,2072 0,1868 0,1695 0,1542 0,1405 0,1278 0,116 0,1049 0,0943 0,0842 0,0745 0,0651 0,056 0,0471 0,0383 0,0296 0,0211 0,0126 0,0042
45 0,385 0,2651 0,2313 0,2065 0,1868 0,1695 0,1545 0,141 0,1286 0,117 0,1062 0,0959 0,086 0,0765 0,0673 0,0584 0,0497 0,0412 0,0328 0,0245 0,0163 0,0081
46 0,383 0,2635 0,2302 0,2058 0,1862 0,1695 0,1548 0,1415 0,1293 0,118 0,1073 0,0972 0,0876 0,0783 0,0694 0,0607 0,0522 0,0439 0,0357 0,0277 0,0197 0,0118 0,0039
47 0,3808 0,262 0,2291 0,2052 0,1869 0,1695 0,155 0,142
49 0,377 0,2589 0,2271 0,2038 0,1851 0,1692 0,1553 0,1427 0,1312 0,1205 0,1105 0,101 0,0919 0,0832 0,0748 0,0667 0,0588 0,0511 0,0436 0,0361 0,0288 0,0215 0,0143 0,0071
50 0,3751 0,2574 0,226 0,2032 0,1847 0,1691 0,1554 0,143 0,1317 0,1212 0,1113 0,102 0,0932 0,0846 0,0764 0,0685 0,0608 0,0532 0,0459 0,0386 0,0314 0,0244 0,0174 0,0104 0,0035 50
48
49
48 0,3789 0,2604 0,2281 0,2045 0,1855 0,1693 0,1551 0,1423 0,1306 0,1197 0,1095 0,0998 0,0906 0,0817 0,0731 0,0648 0,0568 0,0489 0,0411 0,0335 0,0259 0,0185 0,0111 0,0037
0,13 0,1189 0,1085 0,0986 0,0892 0,0801 0,0713 0,0628 0,0546 0,0465 0,0385 0,0307 0,0229 0,0153 0,0076
39
40
39 0,3989 0,2755 0,238 0,2104 0,188 0,1689 0,152 0,1366 0,1225 0,1092 0,0967 0,0848 0,0733 0,0622 0,0515 0,0409 0,0305 0,0203 0,0101
37
0,077 0,0645 0,0523 0,0404 0,0287 0,0172 0,0057
36 0,4068 0,2813 0,2415 0,2121 0,1883 0,1678 0,1496 0,1331 0,1179 0,1036 0,09
38
36
35 0,4098 0,2834 0,2427 0,2127 0,1883 0,1673 0,1487 0,1317 0,116 0,1013 0,0873 0,0739 0,061 0,0484 0,0361 0,0239 0,0119
38 0,4015 0,2774 0,2391 0,211 0,1881 0,1686 0,1513 0,1356 0,1211 0,1075 0,0947 0,0824 0,0706 0,0592 0,0481 0,0372 0,0264 0,0158 0,0053
35
34 0,4127 0,2854 0,2439 0,2132 0,1882 0,1667 0,1475 0,1301 0,114 0,0988 0,0844 0,0706 0,0572 0,0441 0,0314 0,0187 0,0062
37 0,404 0,2794 0,2403 0,2116 0,1883 0,1683 0,1505 0,1344 0,1196 0,1056 0,0924 0,0798 0,0677 0,0559 0,0444 0,0331 0,022 0,011
33
34
33 0,4156 0,2876 0,2451 0,2137 0,188 0,166 0,1463 0,1284 0,1118 0,0961 0,0812 0,0669 0,053 0,0395 0,0262 0,0131
32
1
32 0,4188 0,2898 0,2463 0,2141 0,1878 0,1651 0,1449 0,1265 0,1093 0,0931 0,0777 0,0629 0,0485 0,0344 0,0206 0,0068
n
Окончание таблицы прил. В
Приложение Г
Критические значения максимального отклонения выборочной
интегральной функции распределения от теоретической,
Dкрит (для критерия Лиллиефорса)
Размер
выборки
N
Уровень значимости для D = Max | F * (X) – SN (X) |
0,20
0,15
0,10
0,05
0,01
4
0,300
0,319
0,352
0,381
0,417
5
0,285
0,299
0,315
0,337
0,405
6
0,265
0,277
0,294
0,319
0,364
7
0,247
0,258
0,276
0,300
0,348
8
0,233
0,244
0,261
0,285
0,331
9
0,223
0,233
0,249
0,271
0,311
10
0,215
0,224
0,239
0,258
0,294
11
0,206
0,217
0,230
0,249
0,284
12
0,199
0,212
0,223
0,242
0,275
13
0,190
0,202
0,214
0,234
0,268
14
0,183
0,194
0,207
0,227
0,261
15
0,177
0,187
0,201
0,220
0,257
16
0,173
0,182
0,195
0,213
0,250
17
0,169
0,177
0,189
0,206
0,245
18
0,166
0,173
0,184
0,200
0,239
19
0,163
0,169
0,179
0,195
0,235
20
0,160
0,166
0,174
0,190
0,231
25
0,149
0,153
0,165
0,180
0,203
30
0,131
0,136
0,144
0,161
0,187
0,768 / N
0805 / N
0,886 / N
1,031 / N
Более 30 0,736 / N
270
Приложение Д
Результаты обработки проб для линейной регрессии
№ п/п
MgCl2
KCl
№ п/п
MgCl2
KCl
1
10,1
25,3
16
11,0
19,6
2
11,7
19,9
17
10,3
31,1
3
12,3
44,8
18
13,7
34,9
4
13,5
28,4
19
14,2
34,9
5
13,6
48,0
20
13,6
43,0
6
14,3
39,0
21
13,1
45,7
7
13,1
40,1
22
11,8
39,6
8
12,8
31,2
23
10,6
27,5
9
11,5
36,2
24
10,4
19,3
10
10,7
16,1
25
12,2
30,1
11
10,7
32,5
26
14,0
40,4
12
12,6
23,4
27
12,7
36,4
13
11,8
25,6
28
11,9
31,5
14
11,3
30,5
29
11,2
25,5
15
12,2
37,1
30
10,4
23,8
271
Приложение Е
Таблица остатков парной регрессии
272
Приложение Ж
Статистика Дарбина – Уотсона: d1 и d2 для уровня значимости 0,05
(число переменных k = 1–5) [63]
n
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
30
40
50
60
70
80
90
100
150
200
k=1
d1
d2
0,61
1,4
0,7 1,356
0,763 1,332
0,824 1,32
0,879 1,32
0,927 1,324
0,971 1,331
1,01 1,34
1,045 1,35
1,077 1,361
1,106 1,371
1,133 1,381
1,158 1,391
1,18 1,401
1,201 1,411
1,221 1,42
1,239 1,429
1,257 1,437
1,273 1,446
1,288 1,454
1,352 1,489
1,442 1,544
1,503 1,585
1,549 1,616
1,583 1,641
1,611 1,662
1,635 1,679
1,654 1,694
1,72 1,746
1,758 1,778
k=2
d1
d2
–
–
0,467 1,896
0,559 1,777
0,624 1,699
0,697 1,641
0,758 1,604
0,812 1,579
0,861 1,562
0,905 1,551
0,946 1,543
0,982 1,539
1,015 1,536
1,046 1,535
1,074 1,536
1,1 1,537
1,125 1,538
1,147 1,541
1,168 1,543
1,188 1,546
1,206 1,55
1,284 1,567
1,391 1,6
1,452 1,628
1,514 1,652
1,554 1,672
1,586 1,688
1,612 1,703
1,634 1,715
1,706 1,76
1,748 1,789
k=3
d1
d2
–
–
–
–
0,368 2,287
0,455 2,128
0,525 2,016
0,595 1,928
0,658 1,864
0,715 1,816
0,767 1,779
0,814 1,75
0,857 1,728
0,897 1,71
0,933 1,696
0,967 1,685
0,998 1,676
1,026 1,669
1,053 1,664
1,078 1,66
1,101 1,656
1,123 1,654
1,214 1,65
1,338 1,659
1,421 1,674
1,48 1,689
1,525 1,703
1,56 1,715
1,589 1,726
1,613 1,736
1,693 1,774
1,736 1,799
k=4
d1
d2
–
–
–
–
–
–
0,296 2,588
0,376 2,814
0,444 2,283
0,512 2,177
0,574 2,094
0,632 2,03
0,685 1,977
0,734 1,935
0,779 1,9
0,82 1,872
0,859 1,848
0,894 1,828
0,927 1,812
0,958 1,797
0,986 1,785
1,013 1,775
1,038 1,767
1,143 1,739
1,285 1,721
1,378 1,721
1,444 1,727
1,494 1,735
1,534 1,743
1,568 1,751
1,592 1,758
1,679 1,789
1,728 1,81
k=5
d1
d2
–
–
–
–
–
–
–
–
0,243 2,822
0,316 2,645
0,379 2,506
0,445 2,39
0,505 2,296
0,562 2,22
0,615 2,157
0,664 2,104
0,71 2,06
0,752 2,023
0,792 1,991
0,824 1,964
0,863 1,94
0,895 1,92
0,925 1,902
0,953 1,886
1,071 1,833
1,23 1,786
1,335 1,771
1,408 1,767
1,464 1,768
1,507 1,772
1,542 1,776
1,571 1,78
1,665 1,802
1,718 1,82
273
Окончание таблицы прил. Ж (число переменных k = 6–10) [63]
n
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
30
40
50
60
70
80
90
100
150
200
k=6
d2
d1
–
–
–
–
–
–
–
–
–
–
0,203 3,005
0,268 2,832
0,328 2,692
0,389 2,572
0,447 2,472
0,502 2,388
0,554 2,318
0,603 2,257
0,649 2,206
0,692 2,162
0,732 2,124
0,769 2,09
0,804 2,061
0,837 2,035
0,868 2,012
0,998 1,931
1,175 1,854
1,219 1,822
1,372 1,808
1,433 1,802
1,48 1,801
1,518 1,801
1,55 1,803
1,651 1,817
1,707 1,831
k=7
d1
d2
–
–
–
–
–
–
–
–
–
–
–
–
0,171 3,149
0,23 2,985
0,286 2,848
0,343 2,727
0,398 2,624
0,451 2,537
0,502 2,461
0,549 2,396
0,595 2,339
0,637 2,29
0,677 2,246
0,715 2,208
0,751 2,174
0,784 2,144
0,926 2,034
1,12 1,924
1,246 1,875
1,335 1,85
1,401 1,837
1,428 1,831
1,494 1,827
1,528 1,826
1,637 1,832
1,697 1,841
k=8
d1
d2
–
–
–
–
–
–
–
–
–
–
–
–
–
–
0,147 3,266
0,2 3,111
0,251 2,979
0,304 2,86
0,356 2,757
0,407 2,667
0,456 2,589
0,502 2,521
0,547 2,46
0,588 2,407
0,628 2,36
0,666 2,318
0,702 2,28
0,854 2,141
1,064 1,997
1,201 1,93
1,298 1,894
1,369 1,873
1,425 1,861
1,469 1,854
1,506 1,85
1,622 1,847
1,686 1,852
k=9
d1
d2
–
–
–
–
–
–
–
–
–
–
–
–
–
–
–
–
0,127 3,36
0,175 3,216
0,222 3,09
0,272 2,975
0,321 2,873
0,369 2,783
0,416 2,704
0,461 2,633
0,504 2,571
0,545 2,514
0,584 2,464
0,621 2,419
0,782 2,251
1,008 2,072
1,156 1,986
1,26 1,939
1,337 1,91
1,397 1,893
1,445 1,881
1,484 1,874
1,608 1,862
1,675 1,863
k = 10
d1
d2
–
–
–
–
–
–
–
–
–
–
–
–
–
–
–
–
–
–
0,111 3,438
0,155 3,304
0,198 3,184
0,244 3,073
0,29 2,974
0,336 2,885
0,38 2,806
0,424 2,734
0,465 2,67
0,506 2,613
0,544 2,56
0,712 2,363
0,945 2,149
1,11 2,044
1,222 1,984
1,305 1,948
1,369 1,925
1,42 1,909
1,462 1,898
1,594 1,877
1,665 1,874
П р и м е ч а н и е : n – число наблюдений; k – число объясняющих переменных (без учёта свободного члена).
274
Учебное издание
Катаев Анатолий Вениаминович,
Кутовой Сергей Николаевич
ПРИКЛАДНОЙ СТАТИСТИЧЕСКИЙ
АНАЛИЗ В ГОРНОМ ДЕЛЕ
(ОДНОМЕРНАЯ МАТЕМАТИЧЕСКАЯ
СТАТИСТИКА И РЕГРЕССИОННЫЙ АНАЛИЗ)
Учебное пособие
Редактор и корректор М.А. Шемякина
Подписано в печать 05.07.2022. Формат 60×90/16.
Усл. печ. л. 17,2. Тираж 43 экз. Заказ № 116/2022.
Издательство
Пермского национального исследовательского
политехнического университета.
Адрес: 614990, г. Пермь, Комсомольский проспект, 29, к. 113.
Тел. (342) 219-80-33.
