Математическое моделирование и оценивание распределений в зависимости доза-эффект тема диссертации и автореферата по ВАК РФ 05.13.18, кандидат физико-математических наук Ярощук, Марина Владимировна

• Ярощук, Марина Владимировна
• кандидат физико-математических наук
• 2011

Оглавление диссертации кандидат физико-математических наук Ярощук, Марина Владимировна

Введение.

1 Зависимость доза-эффект и статистическое оценивание распределений в зависимости доза-эффект.

1.1 Построение модели зависимости доза-эффект.

1.2 Непараметрическое оценивание распределений в зависимости доза-эффект.

1.3 Условия и предположения.

1.4 Вспомогательные результаты.

2 ШУ-оценки в зависимости доза-эффект при случайном плане эксперимента в схеме прямых наблюдений.

2.1 Состоятельность и асимптотическая нормальность оценок.

2.2 Двухшаговые кА'А! - оценки и их асимптотический анализ.

2.3 Оценивание эффективных доз в зависимости доза-эффект.

2.4 Оценки Пристли-Чао для случайных планов эксперимента.

3 Предельные распределения kNN - оценок для случайного плана эксперимента в схеме непрямых наблюдений.

3.1 ШЫ - оценки в схеме непрямых наблюдений и их асимптотический анализ.

3.2 Предельные распределения двухшаговых ШМ — оценок.*.

4 Оценивание распределений для фиксированного плана эксперимента в схеме прямых и непрямых наблюдений.

4.1 Оценки Надарая-Ватсона при постоянном шаге деления в случае прямых наблюдений.

4.2 Двухшаговые оценки в схеме прямых наблюдений.

4.3 Асимптотический анализ оценок функции распределения в схеме непрямых наблюдений.

4.4 Устранение погрешности наблюдений.

4.5 Асимптотически несмещенные оценки в схеме непрямых наблюдений.

4.6 Оценки Пристли-Чао при переменном шаге деления в схеме прямых наблюдений.

5 Имитационное моделирование зависимости доза-эффект.

5.1 Выбор ширины окна просмотра данных с помощью процедуры кросс-проверки и метода штрафных функций.

5.2 Численное исследование оценок распределений при фиксированном плане эксперимента

5.3 Численный анализ kNN- оценок при случайном плане эксперимента.

5.4 Практический пример оценивания функции распределения и категорий эффективных доз.

Введение диссертации (часть автореферата) на тему «Математическое моделирование и оценивание распределений в зависимости доза-эффект»

Актуальность темы диссертации

При разработке новых лекарственных средств (т.е. веществ, обладающих фармакологической активностью, прошедших клинические испытания и предназначенных для изготовления лекарственных форм) анализ связи между дозой и эффектом и их количественное определение имеет большое значение. Под дозой мы понимаем некоторое значение агента (фактора), которое может изменить состояние исследуемого объекта, а под эффектом — наблюдаемый качественный (альтернативный) отклик объекта на введенную дозу. Основу решения проблемы количественного оценивания связи между наблюдаемым эффектом и введенной дозой составляет функция эффективности, под которой мы понимаем зависимость вероятности наблюдения эффекта от введенной дозы. Задача оценивания функции эффективности по экспериментальным данным: введенной дозе и наличию или отсутствию эффекта является важнейшей задачей зависимости доза-эффект. Решение отмеченной задачи представляет большой теоретический интерес и имеет обширные практические приложения во многих областях медицины и биологии.

Функция эффективности имеет очень важное, а иногда и принципиальное значение в фармакологии - при оценке эффективности лекарственных препаратов, в токсикологии и радиологии - при исследовании количественной токсичности ядов и поражающих свойств ионизирующих излучений, в гигиене - при нормировании критических уровней вредных факторов. Построение функции эффективности является статистической задачей, способ решения' которой предъявляет соответствующие требования к планированию эксперимента и виду получаемых исходных данных. Биологический эксперимент на завершающем этапе требует методологически обоснованных точных статистических оценок результатов, учитывающих погрешности получения исходных данных и их влияние на конечные результаты. Поэтому с прикладной стороны актуальность темы диссертации не вызывает сомнений.

В некоторых случаях, однако, отсутствует понятие дозы в вышеопределенном смысле. Примером могут служить эконометрические модели с дискретными зависимыми переменными при случайной константе регрессионной зависимости (см. [56, 122]). Тем не менее, такие задачи укладываются в рассмотренную в диссертации модель доза-эффект и могут быть решены предложенными в ней методами.

Наиболее часто оценивают дозы LD50 и ED5Q :LDS0— это доза, при которой 50% от количества объектов, получивших дозу, погибает (средняя летальная доза), EDS0 — это средне-эффективная доза (для 50% объектов наблюдается эффект). На современном этапе в токсикометрии востребованными являются величины доз, которые вызывают появление эффекта, учитываемого в экспериментальной группе тест-объектов с заданной вероятностью 0,01 - 0,1; 0,9 - 0,99. Такие дозы получили название доз EDX -EDW, ED90 -ED99. Потребности практики обуславливают необходимость одновременного определения как полного перечня категорий эффективных доз от EDX до ED99, так и вида самой функции эффективности. Здесь возможен и другой подход, принцип которого заключается в первоначальном определении по исходным данным категорий эффективных доз. Затем по найденным категориям эффективных доз устанавливается вид и распределение функции эффективности. Разработка новых токсикометрических моделей оценки токсичности должна быть направлена на максимально возможное уменьшение числа токсикологических испытаний на живых тест-объектах при сохранении заданной надежности конечных показателей токсичности, то есть на сокращение материальных затрат. Так, например, в Швейцарии в 1987 году для определения LDS0 было использовано 1,3 миллиона лабораторных животных (см. [128]).

В диссертационной работе нас интересует проблема нахождения функции эффективности и оценка доз EDWOa , в широком диапазоне значений 0 < а < 1, по результатам наблюдений: введенным дозам и наличию или отсутствию эффекта. Мы строим математическую модель зависимости доза-эффект, в которой рассматриваем минимальную границу, с которой начинается реакция организма, как латентную случайную величину. Если нижняя граница чувствительности X и введенная доза U - независимы как случайные величины, то функция эффективности является функцией распределения, однако даже в этом случае для оценки функции эффективности и категорий эффективных доз мы не можем воспользоваться классическими методами математической статистики, поскольку исследуемая величина ненаблюдаема, а вместо нее наблюдаются менее информативные величины: индикаторы эффекта И] = l{Ui > Xt) и введенные дозы Ut, i — \,.,n. Для оценки функции эффективности мы используем непараметрические методы математической статистики, а именно, ядерные оценки регрессии.

Степень проработанности проблемы

Наибольшее прикладное значение в зависимости доза-эффект имеет направление, связанное с вопросами оценки показателей токсичности (средне-эффективных доз). Токсикометрия средне-эффективных доз охватывает широкую область применения в токсикологии, при прогнозировании опасности для человека вредных факторов производства, при разработке лекарственных препаратов и методов лечения, в исследованиях патогенеза интоксикации.

Существенные недостатки традиционных методов определения средне-эффективных доз состоят в том, что для своего адекватного применения они предъявляют ряд граничных условий к планированию и выполнению токсикологического эксперимента как в отношении градаций испытываемых доз, так и в отношении числа тест-объектов в экспериментальных группах.

Для построения кривой доза-эффект и оценки ED50 обычно применяется официальная методика в модификациях Литчфилда-Вилкоксона [96] и Финни [76], а также метод Спирмена-Кербера [27] и метод Рида и Менча [38]. Алгоритм Спирмена-Кербера основывается на предположении о симметричности распределения минимальной границы — случайной величины (с.в.) X. Для корректного применения метода Спирмена-Кербера требуется испытание на каждом уровне не менее 6 доз, при этом интервал между дозами должен быть одинаков. На каждом уровне обязательным является как наличие, так и отсутствие эффектов. Этим методом оценивается средне-эффективная доза и среднеквадратичное отклонение (см. [27]). Выполнить условия Спирмена-Кербера на практике бывает трудно, поэтому надежность результатов, полученных данным методом, обычно мала. Кроме того, этот метод ориентирован на оценку доз ED50 или близких к ним.

Использование метода Рида и Менча предполагает испытания доз, логарифмы которых отстоят друг от друга на одинаковое расстояние. В основе этого метода лежит предположение о том, что если испытание некоторой дозы дало 100% эффект, то испытание большей дозы заведомо даст положительный эффект, поэтому большие дозы не испытываются. Аналогично, если испытание какой-либо дозы не привело к наступлению эффекта, то нет необходимости испытывать меньшие дозы — они также эффекта не дадут. В эту схему не укладывается феномен парадоксальной токсичности, изложенный в монографии C.B. Криштопенко, М.С. Тихова и Е.Б. Поповой [37], и означающий уменьшение вероятности эффекта при увеличении испытанных доз. Метод Рида и Менча сильно зависит от точности оценки ED*5Q и требует большого количества экспериментапыгых данных, малые или большие уровни доз с помощью данного метода не определяются.

Метод Финни основан на соотношении log EDl00a = ц + сгФ~\а), где Ф"1 (х) - обратная функция стандартного нормального закона, ¡л, сг - математическое ожидание и дисперсия.

Рекомендации по использованию того или иного метода, не адаптированные к конкретным ситуациям, приводят к нежелательным последствиям. Обычно предполагается, что функция распределения должна иметь нормальное распределение, но, построенная в примере, рассмотренном в [37] (стр. 159-160), оценка говорит о том, что функция распределения имеет показательное распределение. Связано это с тем, что, по-видимому, исходное распределение было равномерным, а логарифмирование доз привело к показательному распределению. Значит, формальное применение официальной методики может привести к ошибкам.

Кроме указанных методов для оценивания зависимости доза-эффект и средне-эффективных доз (называемых еще медианными средне-эффективными дозами) используются модели бинарного выбора - пробит и логит, основанные на использовании нормальной и логистической функций распределения. Модели бинарного выбора хорошо работают в окрестности медианных средне-эффективных доз. Эти методы реализованы в большинстве современных эконометрических компьютерных программных пакетов (ЭКПП): SPSS, XL STAT-Dose, BioStat 2007, Probit Analysis, StatPlus (Статистика*). С помощью этих ЭКПП можно произвести обработку кривой зависимости доза-эффекг, вычислить эффективную дозу, а также соответствующие доверительные интервалы. Существуют различные модификации пробит- и логит-анализа, которые, имея в своей основе главную идею — преобразование процентов встречаемости эффекта в пробиты, - различаются алгоритмами линеаризации и статистической обработки. Большая часть этих программ основывается на алгоритме метода максимального правдоподобия для регрессионной схемы в модели бинарного выбора (Д.Финни (D.J. Finney [76])), некоторые авторы (Миллер и Тейнтер (L.S. Miller, M.L. Tainter [100]), Литчфилд и Вилкоксон (J.T. Litchfield, F.W. Wilcoxon [96])) используют для этой цели метод наименьших квадратов. Однако применение пробит- и логит-моделей дает большие погрешности в определении доз на краях распределения [44].

Иногда для построения функции эффективности используется сплайн-аппроксимация [24]. Программа сплайн-аппроксимации, описанная в работе [24], предназначена для расчета параметров кривых доза-эффект, однако рассмотренный там метод сильно привязан к конкретному эксперименту и для состоятельного оценивания требует большого числа наблюдений. Метод сплайн-аппроксимации не использует каких-либо вероятностных моделей, ввиду чего тяжело оценить качество построенных кривых, а также затруднительно построить доверительные интервалы. Таким образом, как при пробит-анализе, так и при использовании других моделей, функции распределения рассматриваемых случайных величин хорошо аппроксимируются линейными или нелинейными функциями, но только в окрестности медианы, и при этом ценой больших ошибок на краях распределения (см. [23]), особенно если реальная модель распределения отличается от нормального распределения. Кроме того, при практической реализации пробит-анализа или его модификаций отсутствует возможность проведения единичных испытаний, согласно официальной методики, испытания должны носить групповой характер.

Основной недостаток официально применяемых методов состоит в том, что указанные методы ориентируются, в основном, на оценку средне-эффективной дозы ЕВ50 или близких к ней и не позволяют состоятельно оценивать малые или большие дозы, тогда как малые и большие дозы являются востребованными для практических нужд. Доверительные интервалы для крайних доз ЕВХ - ЕО10, ЕИ90 - Ж>99, имеющие важное практическое значение в медико-биологической практике (см. [16-19, 28]), при помощи этих же методов получаются либо довольно широкими, либо ненадежными. Кроме того, часть ЭВМ-программ оценки зависимости доза-эффект и определения ЕИШа не работают при малых или больших значениях а . В ряде случаев, например, при исследовании эффектов сверхмалых доз характерны немонотонные функции эффективности (см. [25]), а пробит-анализ или лошт-модели не позволяют строить оценки в таких ситуациях, поскольку ориентированы на монотонное преобразование данных. В некоторых случаях (см., например, [105]) лучшей моделью функции эффективности авторы считают распределение Вейбулла или распределение экстремальных значений. Связано это со спецификой эксперимента, рассмотренного в этих работах. Большинство практиков придерживается мнения, что нормальное распределение не очень хорошо подходит для описания зависимости доза-эффект, ввиду специфичности рассматриваемых задач. В диссертации (в приложении 1) показано, что использование нормального распределения вместо асимметричных распределений или распределений с тяжелыми хвостами приводит к большим ошибкам в оценивании крайних доз. Наряду с тем, что методы пробит-анализа плохо оценивают категории доз, близких к границам интервала распределения, они также не учи тывают, что значения воздействовавшей дозы измеряются с погрешностью. Реально же в экспериментальной практике возникает необходимость строить оценки по исходным данным, содержащим ошибки, распределение которых неизвестно. Рассмотренные выше распределения: нормальное, Вейбулла, распределение экстремальных значений, логистическое являются унимодальными и традиционно используемые методы про-бит-анализа плохо работают, например, для смесей распределений, бимодальных и полимодальных распределений. Недостатком параметрических методов является то, что они эффективны, если реальная модель близка к гипотетической, и сильно теряют в эффективности при отклонении от предполагаемой модели.

Таким образом, данная проблема на сегодняшний момент характеризуется недостаточной теоретической проработанностью, а современные требования практики требуют эффективных способов оценивания категорий доз в зависимости доза-эффект на границах распределения. Нынешнее состояние знания в проблеме оценивания функции эффективности не позволяет этого сделать. Здесь требуются исследования возможных путей решения данной проблемы и их практической реализации.

В работах Тихова М.С. и Крииггопенко C.B. [35-37] был предложен непараметрический метод оценки функции эффективности (ФЭ), который задачу оценки ФЭ сводит к задаче оценивания функции регрессии и использования для этой цели непараметрических (ядерных) оценок регрессии с шириной окна просмотра данных h — параметра сглаживания. Такой подход позволяет по результатам единичных испытаний оценивать средне-эффективную дозу ED50 не хуже, чем методы пробит-анализа, а малые и большие дозы, близкие к 0% или к 100%, оценивать эффективнее, чем пробит-анализом, строить доверительные интервалы, достаточно узкие как в середине, так и на краях распределения. С помощью метода, изложенного в работах [35-37], можно оценивать и немонотонные функции эффективности. Данный метод позволяет также производить планирование эксперимента. Предложенный в,[35-37] непараметрический подход использовался также в работах других авторов, например, в работе [44], в статьях [47,112] исследовалось воздействие диоксинов на окружающую среду и здоровье человека, где также использовалась методология работ [35-37]. Однако, изученные в работах [35-37] оценки функции эффективности (в основном оценки Надарая-Ватсона) при п —» оо, h —» 0, nh —» оо хотя и сходятся со скоростью yfnh к истинному распределению, не являются, во-первых, \fnh — состоятельными (их предельное математическое ожидание отлично от нуля), а во-вторых, предельная дисперсия оценок для случайных доз U с плотностью распределения g(x) > 0 пропорциональна величине cr2(x) = F(x)(l - F(x))/g(x), где F(x) - неизвестная функция распределения минимальной границы, т.е. предельная дисперсия оценок зависит от плотности распределения вводимой дозы в заданной точке х: для EDma при малых или больших значениях а значение g(EDl00a) мало, поэтому дисперсия а2 может оказаться довольно большой. Чтобы устранить влияние плотности распределения вводимой дозы для оценю! функции распределения F(x), вместо оценок Надарая-Ватсона в настоящей диссертации мы используем kNN - оценки (оценки к ближайших соседей). Для kNN - оценок предельная дисперсия пропорциональна величине F(x) (l — F(x)J и не зависит от плотности g(x). Мы используем также оценки Янга и модифицированные оценки Янга [2], которые асимптотически эквивалентны kNN — оценкам (см. [2]), имеют такую же предельную дисперсию, что и kNN - оценки, при этом построение оценок Янга проще реализуется с использованием современных пакетов программ, чем kNN - оценка. Однако, как kNN — оценки, так и оценки Янга не являются - состоятельными. Чтобы сделать их -Jk — состоятельными, мы конструируем двухшаговые оценки, у которых предельная дисперсия такая же, как и у kNN - оценок и оценок Янга и которые являются асимптотически несмещенными. Двухшаговые оценки для плотности распределения предложены и исследованы в работах [88, 97]. Мы их строим для оценки функции регрессии. Для построения асимптотически несмещенных оценок функции эффективности мы используем модифицированную конструкцию и доказываем yfk - состоятельность построенных оценок.

Более того, математическую модель зависимости доза-эффект мы рассматриваем как задачу статистического анализа для случая прямых и непрямых наблюдений, т.е. когда вводимая в организм доза измеряется с некоторой ошибкой, а реакция организма (эффект) идет на «чистую» вводимую дозу. Рассмотрены случаи фиксированного плана (вводимая доза выбирается заранее и является неслучайной величиной) и случайного плана эксперимента (вводимая доза является случайной величиной). Таким образом, рассмотренные постановки охватывают широкий спектр разнообразных практических ситуаций в проблеме доза-эффект. К тому же измерение доз с ошибкой — это типичная практическая ситуация, которая ранее не рассматривалась, и не учитывались ошибки измерения в оценках средне-эффективных доз и оценках среднеквадратичного отклонения. Если задача оценки плотности для свертки распределений изучалась в работах [67, 104, 110, 111]), то задача оценки функции распределения в модели непрямых наблюдений в зависимости доза-эффекг рассмотрена впервые. В диссертации мы решаем эту проблему. Математическая модель зависимости доза-эффект в предложенной постановке дает возможность использовать для решения проблем дозозависимых эффектов широкий набор мощных средств математической статистики.

При изучении вопросов, связанных с конкретным применением рассматриваемых процедур для конечных выборок, возникает проблема выбора оптимального значения параметра сглаживания h, который присутствует в рассматриваемых оценках функции эффективности. Как показывает практика, качество оценок в большей степени зависит от параметра сглаживания, нежели от вида ядерной функции, поэтому так важно выбирать оптимальное значение h. Автоматическому выбору оптимальной ширины окна в задачах оценивания регрессии посвящены работы W.Hardle, P. Hall and J.S. Marron, M. Neumann, R.Eubank and W.Schucany, J.Beran, Y.Feng and S. Heiler, H.-G. Muller and U. Stadtmuller, J.S. Wu and C.K. Chu, J.Rice and M.Rosenblatt, B.W. Silverman и др. [63, 72, 78, 82, 84, 85, 101, 102, 110, 115, 123, 126], в них предлагается использовать процедуру кросс-проверки (cross-validation), штрафные функции и метод подстановки. Однако исследования проводились там для других моделей и для случая прямых наблюдений. Мы строим комбинированный алгоритм метода подстановки и кросс-проверки в зависимости доза-эффект. Показано, что в условиях непрямых наблюдений этот алгоритм приводит к состоятельным асимптотически нормальным оценкам оптимального значения параметра сглаживания. Причем указанный метод приводит к меньшему риску оценивания, чем метод кросс-проверки или метод подстановки. Предложенные в диссертации оценки исследованы как теоретическими, так и численными методами.

Таким образом, поставленные в диссертационном исследовании по выбранной теме задачи характеризуются недостаточной научной проработанностью, актуальны и требуют своего решения в широком спектре практического анализа, поскольку они важны для практического применения полученных результатов и являются востребованными в токсикологии, фармакологии, биологии, экологии.

Цель и задачи исследования , Целью данной работы является разработка и развитие методов построения у/к — состоятельных оценок функции распределения в зависимости доза-эффект, дисперсия которых равномерно мала при больших п, а также систематическое исследование асимптотических свойств построенных оценок. В рамках этого направления требовалось решить задачи непараметрического оценивания как теоретического, так и прикладного характера.

Задачами диссертации являются:

1. Построение оценок, дисперсия которых не зависит от распределения дозы, т.е. равномерно сходящихся к функции распределения.

2. Построение -состоятельных оценок с учетом погрешности измерении доз и уменьшение этих погрешностей.

3. Разработка алгоритмов выбора ширины окна и исследование поведения оценок ширины окна просмотра данных.

4. Исследование свойств построенных оценок неизвестной функции распределения имитационными численными методами.

Объект и инструмент исследования

Объектом исследования являются математические конструкции, формализующие исходные объекты зависимости доза-эффект и статистические оценки функции распределения по неполным выборкам. Рассмотрены случайные и фиксированные планы эксперимента в схеме прямых и непрямых наблюдений. Исследования проводились с использованием методов теории вероятностей, математической статистики, теории функций, математического анализа и имитационного моделирования (метод Монте-Карло). Инструментом исследования являются асимптотические методы теории вероятностей и численные методы компьютерного моделирования.

Достоверность полученных в работе результатов обеспечивается строгостью рассуждений, использованием фундаментальных методов теории вероятностей и математической статистики, согласованностью теоретических выводов и численных результатов экспериментов, непротиворечивостью полученных результатов с ранее известными результатами.

Методы проведенного исследования

Математический аппарат построения оценок функции распределения по результатам независимых единичных испытаний разработан на основе метода ядерного сглаживания непараметрических оценок регрессии. Построение кЬШ — оценок основывается на использовании порядковых статистик в задаче непараметрического оценивания. Для доказательства состоятельности и асимптотической нормальности оценок использовался аппарат характеристических функций, классические предельные теоремы теории вероятностей и результаты асимптотической теории порядковых статистик.

Для получения оценок с автоматическим выбором оптимальной ширины окна в модели доза-эффект применялась комбинированная процедура кросс-проверки.

Научная новизна и научная значимость полученных результатов

Все основные результаты диссертационной работы являются новыми и впервые опубликованы в работах диссертанта.

Для модели доза-эффект построены непараметрические и у/пй — состоятельные оценки функции распределения и проведен их асимптотический анализ для случайного и фиксированного планов эксперимента. Доказана асимптотическая нормальность и асимптотическая несмещенность двухшаговых оценок, рассмотрены методы уменьшения погрешности наблюдений для случая непрямых наблюдений. Для фиксированного и случайного планов эксперимента построены пенализированные оценки с автоматическим выбором ширины окна. Проведен численный анализ имитационной модели, адаптированный к практической ситуации.

Практическая значимость полученных результатов

Результаты диссертации могут быть использованы для оценки уровня биологической активности веществ в опытах на токсичность на основании альтернативных кривых «доза-эффект», при планировании клинических испытаний новых лекарственных средств. Разработано программное обеспечение, реализующее предложенный в диссертации метод построения оценок функции эффективности, которое позволяет оценивать эффективные дозы уровней от 5% до 95%, в том числе и категории доз, близкие к границам интервала распределения, строить оценки также и в случае, когда значения воздействовавшей дозы измеряются с погрешностью. Программа позволяет пользователям получать оценки с автоматическим выбором ширины окна при фиксированном плане эксперимента по непрямым наблюдениям.

Методы оценивания, разработанные в диссертации, были применены для построения функции распределения и категорий эффективных доз при исследовании чувствительности к адреналину. Данные были взяты из литературы (см. [37]).

Основные положения, выносимые на защиту На защиту выносятся:

1. кЫЫ - оценки и двухшаговые - оценки для неизвестной функции распределения в зависимости доза-эффект, результаты их теоретического асимптотического анализа в схеме прямых и непрямых наблюдений для модели со случайным и фиксированным планами эксперимента, а также численное исследование построенных оценок.

2. л/к — и — состоятельные оценки и результаты их асимптотического анализа с учетом погрешности испытанных доз для модели с фиксированным планом эксперимента и способы уменьшения погрешности наблюдений.

3. Адаптивный алгоритм построения оценок с автоматическим выбором ширины окна просмотра данных для моделей с фиксированными и случайными планами эксперимента, реализованный в разработанном диссертантом программном комплексе.

4. Численное сравнение оценок функции эффективности в моделях с прямыми и непрямыми наблюдениями.

Опубликованность результатов

Результаты диссертации опубликованы автором в пятнадцати работах [1-15]. Из них шесть работ [1-6] в журналах из списка ВАК. Две работы - [4, 6], опубликованные в журналах из списка ВАК, написаны без соавторов. Всего без соавторов изданы 5 работ из общего числа.

Среди публикаций из списка ВАК — одна статья в «Вестнике Нижегородского университета», одна статья в журнале «Нелинейный мир», четыре работы в журнале «Обозрение прикладной и промышленной математики». Кроме того, шесть статей опубликованы в материалах международных конференций, одна статья в рецензируемом межвузовском сборнике научных трудов, две статьи депонированы ВИНИТИ.

В совместных работах [1-3, 5, 7, 9, 12] автору принадлежит использование методов анализа оценок в зависимости доза-эффект и выполнение данного анализа, а соавтору — идея работы. В работах [8, 13, 15] автору также принадлежит использование методов анализа и его выполнение для исследования оценок при фиксированном плане эксперимента, первому соавтору — идея работы, а второму соавтору исследование интегрированных среднеквадратичных ошибок в схеме непрямых наблюдений.

Апробация результатов диссертации

Основные результаты диссертации докладывались на следующих конференциях и научных семинарах:

10-я междисциплинарная научная конференция «Нелинейный мир» (Нижний Новгород, 2005 г.);

XII Всероссийская школа-коллоквиум по стохастическим методам (Дагомыс, 2005г.);

7-й Всероссийский симпозиум по прикладной и промышленной математике (ВСППМ), (Йошкар-Ола, 2006);

Международная конференция 11е181а1:'2006 (Рига, 2006 г.);

XIV Всероссийская школа-коллоквиум по стохастическим методам (Адлер, 2007 г.);

XX Международная конференция «Математические методы в технике и технологиях» (Ярославль, 2007 г.);

8-я международная конференция «Компьютерный анализ данных и моделирование» СБАМ'2007 (Минск, 2007 г.);

X Всероссийский симпозиум по прикладной и промышленной математике (ВСППМ), (Дагомыс, 2009 г.).

В 2006 году исследования проводились при поддержке Российского Фонда Фундаментальных Исследований (грант № 04-02-17191-а).

В 2006-2010 гг. по результатам диссертации делались доклады на семинарах по теории вероятностей и математической статистике кафедры теории статистических решений и кафедры прикладной теории вероятностей факультета ВМК ННГУ им. Н.И.Лобачевского.

Структура, объем и краткое содержание диссертации

Диссертация состоит из введения, пяти глав, заключения, списка литературы, включающего 128 наименований, и приложений на 60 страницах. В приложениях в виде таблиц и графиков приведены результаты имитационного моделирования, описанные в пятой главе диссертации, также в приложения вынесены некоторые доказательства. Общий объем работы составляет 217 страниц, объем основного текста — 157 страниц.

Заключение диссертации по теме «Математическое моделирование, численные методы и комплексы программ», Ярощук, Марина Владимировна

Основные результаты исследования зависимости доза-эффект для случайного и фиксированного плана эксперимента в случае прямых наблюдений, а также наблюдений с погрешностью, сводятся к следующему.

Впервые рассмотрена задача оценивания неизвестной функции распределения в зависимости доза-эффект с помощью ШЫ — оценок. Для случайного плана эксперимента в схеме прямых и непрямых наблюдений были построены кАгМ - оценки и двухшаговые асимптотически несмещенные ШМ- оценки и проведен их асимптотический анализ. Установлена их состоятельность и асимптотическая нормальность. Оказалось, что их предельная дисперсия не зависит от неизвестной плотности. Для фиксированного плана эксперимента изучены оценки Надарая—Ватсона (в случае постоянного шага) и оценки

Пристли-Чао (для переменного шага). Построены 4пЬ - состоятельные оценки для модели с фиксированным планом эксперимента. Кроме того, асимптотическое поведение оценок Пристли—Чао было изучено и для случайных планов наблюдений. Для фиксированного плана в схеме непрямых наблюдений было установлено, что оценки, полученные при предположении нормальности, имеют такое же предельное распределение, что и оценки в схеме прямых наблюдений, т. е. уменьшена погрешность наблюдения.

Таким образом, для изучения модели доза-эффект были применены непараметрические ядерные оценки различных типов, рассмотрен важный для практики случай наблюдений с ошибкой и для него построены состоятельные, асимптотически несмещенные и асимптотически нормальные оценки.

Кроме аналитического исследования было проведено изучение имитационной модели. Ввиду асимптотического характера исследования, проведенного в диссертации, на практике возникает проблема оптимального подбора значений параметров модели, в частности, — ширины окна просмотра И. Для моделей с фиксированными и случайными планами эксперимента разработан комбинированный адаптивный алгоритм выбора оптимальной ширины окна. Осуществлено построение оценок с автоматическим выбором оптимальной ширины окна методами кросс-проверки, подстановки, штрафных функций, а также с помощью разработанного алгоритма. Проведен численный анализ построенных оценок. При решении задачи численной оптимизации делается вывод, что предложенные в диссертационной работе оценки более точно оценивают «малые» и «большие» дозы и приводят к получению более узких доверительных интервалов по сравнению с существующими методами.

Основные аналитические результаты диссертации — асимптотическая нормальность оценок и процедура построения у[гИг — и у[к - состоятельных оценок согласуются с численными оценками, полученными в ходе изучения имитационной модели для выборок конечного объема.

Полученные в диссертационной работе результаты могут быть применены для системного изучения свойств непараметрических оценок и дальнейшего развития анализа зависимости доза-эффект, а также при разработке модулей статистических пакетов.

Заключение

Список литературы диссертационного исследования кандидат физико-математических наук Ярощук, Марина Владимировна, 2011 год

1. Ярощук, М.В. Статистическое оценивание зависимости доза-эффект с помощью kNN —оценок / М.С. Тихов, М.В. Ярощук // Обозрение Прикл. и Пром. Математики - М.: Изд-во ТВП - 2005. - Т. 12, в. 3. - С. 683 - 684.

2. Ярощук, М.В. Модифицированные оценки Янга в зависимости доза-эффект / Тихов М.С., Ярощук М.В // Обозрение Прикл. и Пром. Математики М.: Изд-во ТВП — 2006. — Т. 13, в. 1. - С. 144.

3. Ярощук, М.В. Асимптотическая нормальность kNN — оценок в зависимости доза-эффект / М.С. Тихов, М.В. Ярощук // Вестник Нижегородского университета. Серия: Математика. 2006. Вып.1(4), - С. 129-137.

4. Ярощук, М.В. Об оценивании распределений в зависимости доза-эффект / М.В. Ярощук // Обозрение Прикл. и Пром. Математики М.: Изд-во ТВП -2007. - Т. 14, в. 1.-С. 178-180.

5. Ярощук. М.В. Статистическое оценивание распределений по интервально цензурированным выборкам в схеме непрямых наблюдений / М.С. Тихов, М.В. Ярощук//Нелинейный мир М.: изд-во Радиотехника— 2007, Т.5, №1,2, С.4-8.

6. Ярощук М.В. Имитационное моделирование зависимости доза-эффект и статистический анализ оценок функции эффективности/ М.В. Ярощук // Обозрение Прикл. и Пром. Математики М.: Изд-во ТВП -2009. - Т. 16, в. 6. - С. 1148-1150.

7. Ярощук, М.В. Статистическое оценивание нелинейной зависимости доза-эффект с помощью kNN оценок / М.С. Тихов, М.В. Ярощук // Десятая междисциплинарная научная конференция «Нелинейный мир». Тезисы докладов — Нижний Новгород: изд-во ННГУ - 2005. - С.139.

8. Yarochuk, M.V. Asymptotic normality ^-Nearest Neighbor estimators in dependence dose-response / M.S. Tikhov, M.V.Yarochuk — изд-во Ташкентского ун-та, Ташкент, 2006. С. 46- 49.

9. Ярощук, М.В. Об асимптотической нормальности kNN — оценок в зависимости доза-эффект / М.В. Ярощук. Нижегородский гос. ун-т — Н.Н., 2006 49 с. -Библиогр.: 11 назв. - Рус. - Деп . в ВИНИТИ 1536- В2006

10. П.Ярощук, М.В. Предельные распределения kNN оценок в зависимости доза-эффект в схеме непрямых наблюдений / М.В. Ярощук. Нижегородский гос. ун-т — Н.Н., 2006. - 39 с. - Библиогр.: 11 назв. - Рус. - Деп. в ВИНИТИ 1535- В2006

11. Yarochuk, M.V. Statistical estimation of distributions in dose-response dependence / M.S. Tikhov, M.V.Yarochuk // Reliability and Statistics in Transport and Communication: Proc. of the 6th Intern. Conf., Riga, Latvia. — 2006. — P. 374-375.

12. Yarochuk, M.V. Computer-based data analysis in dose-response dependence / M.V. Yarochuk // Computer Data Analysis and Modeling: Proc. of 8th Intern. Conf., Minsk, September 11-15.-2007.- V. l.-P. 186-189.

13. Yarochuk, M.V. Asymptotic normality of the integrated square error at the fixed plan of experiment for indirect observations / M.S. Tikhov, D.S.Krishtopenko, M.V.Yarochuk // J. "Computer Modeling and New Technologies". 2007. - V. 11, No 1. - P. 46-56.

14. Авалиани, С.JT. Вероятностные методы оценки пороговых концентраций при гигиеническом регламентировании атмосферных загрязнений / C.JI. Авалиани, З.П. Григоревская, Е.В. Печенникова // Гигиена и санитария. 1987. №8. - С. 10-13.

15. Богданов, А.А. Метод анализа зависимости «доза-эффект» в многофакторных медико-биологических экспериментах / А.А. Богданов, В.Д. Шлендов // Бюлл. эксперим. биол. и медицины. -1994. № 33. — С. 228-331.

16. Беленький, M.JI. Элементы количественной оценки фармакологического эффекта / M.JI. Беленький. JI.: Медгиз, 1963. -152 с.

17. Бессмертных, Б.С. Математическая статистика в клинической, профилактической и экспериментальной медицине / Б.С. Бессмертных. М., 1967. 215 с.

18. Газенко, О.Г. Словарь физиологических терминов / О.Г. Газенко — М.: Наука, 1987. -445 с.

19. Гнеденко, Б.В. Курс теории вероятностей / Б.В. Гнеденко М.: Наука, 1988.- 448 с.

20. Градштейн, И.С. Таблицы интегралов, сумм, рядов и произведений / И.С. Градштейн, И.М. Рыжик — М.: Физматгиз, 1963. — 1100 с.

21. Гублер, Е.В. Применение непараметрических критериев статистики в медико-биологических исследованиях / Е.В.Гублер, А.А. Генкин — JL: Медицина, Ленингр. отд-ние, 1973. — 141 с.

22. Гуревич, К.Г. Оценка параметров кривой «доза-эффект» методом сплайн-интерполяции / К.Г. Гуревич // Вести. Моск. Ун-та. — Сер. 2. — Химия. 2000. -Т.41, № 200. - С. 69-70.

23. Гуревич, К.Г. Фармакологический анализ бимодальных дозовых зависимостей / К.Г. Гуревич // Рос. хим. журн. 2002. - Т.46, № 6. - С. 68-73.

24. Епанечников, В.А. Непараметрическая оценка многомерной плотности вероятности I В.А. Епанечников // Теор. вероятн. и ее примен. — 1969, Т. 14. — С. 156-161.

25. Закс, JI. Статистическое оценивание / JI. Закс. М.: Статистика, 1976. 598 с.

26. Заугольников, С.Д. Экспрессные методы определения токсичности и опасности химических веществ / С.Д. Заугольников, М.М. Кочанов, А.О. Лойт, И.И. Ставчанский. JL: Медицина, 1978. 184 с.

27. Ибрагимов, И.А. Асимптотическая теория оценивания / И.А. Ибрагимов, Р. 3. Хасьминский. М.: Наука, 1979. 528 с.

28. Ибрагимов, И.А. О непараметрическом оценивании регрессии / И.А. Ибрагимов, Р. 3. Хасьминский. Доклады АН СССР. 1980. - № 21. - С. 810-814.

29. Катковник, В.Я. Сходимость линейных и нелинейных непараметрических оценок ядерного типа / В.Я. Катковник // Автоматика и телемеханика. — 1983. №4. - С. 108-120.

30. Колмогоров, А.Н. Элементы теории функций и функционального анализа / А.Н. Колмогоров, C.B. Фомин. М.: Наука, 1976.-542 с.

31. Криштопенко, C.B. Токсикометрия эффективных доз/ C.B. Криштопенко, М.С. Тихов Нижний Новгород: Изд-во ННГУ, 1997. - 156 с.

32. Криштопенко, C.B. Парадоксальная токсичность/ C.B. Криштопенко, М.С. Тихов, Е.Б. Попова Нижний Новгород: Изд-во НГМА, 2001. - 164 с.

33. Криштопенко, C.B. Доза-эффект / C.B. Криштопенко, М.С. Тихов, Е.Б. Попова -М.: Медицина, 2008. 288 с.

34. Лакин, Г.Ф. Биометрия / Г.Ф. Лакин. М.: Высшая школа, 1990. 352 с.

35. Лапач, С.М. Статистическое методы в медико-биологических исследованиях с использованием Excel / С.М. Лапач, A.B. Чубенко, П.М. Бабич. К.: Морион, 2001. - 408 с.

36. Лоэв, М. Теория вероятностей / М. Лоэв. М.: ИЛ., 1962. 720 с.

37. Надарая, Е.А. Об оценке регрессии/ Е.А. Надарая // Теория вероятн. и ее примен. -1964. Т. 9, в.1. — С.157- 159.

38. Надарая, Э.А. О непараметрических оценках плотности вероятности и регрессии / Э.А. Надарая // Теория вероятн. и ее примен. 1965. Т. 10, в.1. - С.199 - 203.

39. Невельсон, М.Б. Стохастическая аппроксимация и рекуррентное оценивание / М.Б. Невельсон, Р.З. Хасьминский. М: Наука, 1972. — 304 с.

40. Осипов, А.Л. Непараметрический метод построения зависимости «доза-эффект» /

41. A.Л. Осипов, С.Н. Аношкин // ж. «Автометрия».-2006. Т. 42, №6. С. 63-69.

42. Прудников, А.П. Интегралы и ряды. Элементарные функции / А.П. Прудников, Ю.А. Брычков, О.И. Маричев. М.: Наука, 1981. -800 с.

43. Pao, С.Р. Линейные статистические методы и их применение / С.Р. Pao. М.: Наука, 1968.-548 с.

44. Румак, B.C. Воздействие диоксинов на окружающую среду и здоровье человека /

45. B.C. Румак, Чинь Куок Кхань, А.Н. Кузнецов и др. // Вестник РАН: Проблемы экологии. 2009. - Т. 79, №2. - С. 124-130.

46. Слуцкий, Е.Е. Избранные труды: теория вероятностей, математическая статистика / Е.Е. Слуцкий М.: изд-во АН СССР, 1960. - 292 с.

47. Смирнов, Н.В. Приближение законов распределения случайных величин по эмпирическим данным / Н.В. Смирнов // Успехи мат. наук 1944. Т. 10. - С. 179206.

48. Смирнов, Н.В. Теория вероятностей и математическая статистика. Избранные труды/ Н.В. Смирнов М.: Наука, 1970. - 288 с.

49. Тихов М.С. Асимптотические методы в теории порядковых статистик и их приложения: учебное пособие. Горький, изд-во Горьк. ун-т, 1985. — 80 с.

50. Тихов, М.С. Оценивание дисперсий оценок функции распределения в зависимости доза—эффект/ М.С. Тихов, В.В. Агеев // Обозрение Прикл. и Пром. Математики — М.: Изд-во ТВП 2009. - Т. 16, в. 6. - С. 581 - 582.

51. Тихов, М.С. Оценки параметров нерегулярных в окрестности квантилей плотностей по отрезкам вариационного ряда / М.С. Тихов // Теория вероятностей и ее применение. 1987. - Т. 32, в. 2. - С. 382 - 387.

52. Тихон, М.С. Построение и анализ статистических оценок для неполностью известных семейств распределений: Дис. . д-ра физ.-мат.наук. Н.Новгород, 1993. -354 с.

53. Тихов, М.С. Линейные функции индуцированных порядковых статистик и непараметрическое оценивание распределений в зависимости доза-эффект / М.С. Тихов // Обозрение Прикл. и Пром. Математики М.: Изд-во ТВП — 1999. - Т.6, B.1.-C. 244.

54. Тихов, М.С. Эконометрические дискретные модели бинарного выбора / М.С. Тихов // Прикладная статистика в социально-экономических проблемах: материалы межд. конф. Нижний Новгород: изд-во ННГУ - 2003. - Т.1. - С.104-106.

55. Хардле, В. Прикладная непараметрическая регрессия / В. Хардле. М.: Мир, 1983. -349 с.

56. Цыбаков, А.Б. О выборе ширины окна в ядерной непараметрической регрессии / А.Б. Цыбаков // ТВП М.: Изд-во ТВП-1987. -Т. 32, в. 1. - С. 153-159.

57. Ширяев, А.Н. Вероятность / А.Н. Ширяев // в 2-х книгах М.:МЦНМО, 2007. Кн. 1 - 552 с. -Кн. 2 -416 с.

58. Barbe, P. Joint approximation of process based on spacings and order statistics. / P. Barbe // Stochastic process and their Applications, 53. -1994. P. 339-349.

59. Benedetti, J.K. On the nonparametric estimation of regression functions / J.K. Benedetti // Journal of the Royal Statistical Society, Series B, 39 1977, P. 248-253.

60. Beran, R. Discussion of "Jackknife, bootstrap and resampling methods in nonparametric regression analysis"/ R. Beran, C.F.J.Wu // Aim. Statist. 1986. - V. 14, P.1295-1298.

61. Beran, J. Modifying the double smoothing bandwidth selector in nonparametric regression / J. Beran, Y. Feng and S. Heiler // Statistical Methodology. 2009. - V. 6, Issues 5. -P. 447-465.

62. Bross, I.D. Taking a covariable into account / I.D.Bross // J. Amer.Statist. Assoc.59 — 1964, P. 725-736.

63. Cheng, K.F. Nonparametric estimation of a regression function / K.F. Cheng, P.E. Lin // Zeitschrift fur Wahrscheinlichkeitstheorie und verwandte Gebiete, 57 — 1981, P. 223233.

64. Collomb, G. Quelques properietes de la methode du noyau pour l'estimation non-parametrique de la regression en un point fixe / G. Collomb // C.R. Acad. Sc. Paris, 285. -1977, P. 289-292.

65. David, H.A. Order Statistics / H.A. David, H.N.Nadaraja Wiley, 2003. - 458 p.

66. Dette, H. A Note on Nonparametric Estimation of the Effective Dose in Quantal Bioassay / H. Dette, N. Neumeyer, K.F. Pilz // Journal of the American Statistical Association. 2005. - V. 100. - P. 503- 510.

67. Dvoretzky, A Asymptotic minimax character of the sample distribution function and of the classical multinomial estimator / A Dvoretzky, J. Kiefer and J. Wolfowitz // Annals of Mathematical Statistics. 1956. - V.27. - P. 642 -669.

68. Einmahl, U. Uniform in Bandwidth Consistency of Kernel-type Function Estimators/ U. Einmahl, D.M. Mason // Ann. Statist. 2005. - V. 33, № 3. - P. 1380 - 1403.

69. Eubank, R. Adaptive bandwidth choice for kernel regression / R. Eubank, W. Schucany // Technical Report № SMU.DS.TR.241 department of Statistical Science. -1990.

70. Fan, J. Nonparametric regression with errors in variables / J. Fan, Y. Truong // The Annals of Statistics. 1993. - V.21, №4. - P.1900-1925.

71. Faraway, J.J Bootstrap selection of bandwidth and confidence bands for nonparametric regression/ J.J. Faraway // J. Statist. Comput. Simulation-1990. V. 37. -P.37-44.

72. Faraway, J.J. Bootstrap choice of bandwidth for density estimation / J.J. Faraway, M. Jhun // J. Amer. Statiat. Assoc. -1990. V. 85. - P. 1119-1122

73. Finney, D.J. Probit Analysis / D.J. Finney, 3 ed. Cambridge: University Press, 1980. -333 p.

74. Gasser, T. Estimating regression function and their derivatives by the kernel method / T. Gasser, H.G. Muller// Scand. J. Statist. -1984. -V. 11. P. 171-185.

75. Gasser, T. Kernel estimation of regression functions. Smoothing techniques for Curve estimation / T. Gasser, H.G. Muller // Lecture Notes in Math., Springer, New York -1979.-V. 757.-P. 23-68.

76. Gasser, T. Kernels for nonparametric curve estimation / T. Gasser, H.G. Muller, V. Mammitzsch // J. Roy. Statist. Soc. -1985. Ser.B, V. 47. -P. 238-252.

77. Gasser, T. Residual variance and residual pattern in nonlinear regression / T. Gasser, L. Sroka, C. Jennen-Steinmetz // Biometrika. 1986. - V. 73. -P. 625-633.

78. Geisser, S. A predictive sample reuse method with application / S. Geisser // Journal of American Statistical Association. 1975. - V. 70. - P. 320-328.

79. Hall, P. A Local Cross-Validation Algorithm / P. Hall, W.R. Schucany // Statistics and Probability Letters. -1989. V. 8. - P.109-117.

80. Hardle, W. Bootstrapping in Nonparametric Regression: Local Adaptive Smoothing and Confidence Bands / W. Hardle, A.W. Bowman // Journal of the American Statistical association. 1988. -V. 83. -P. 102-110.

81. Hardle, W. How far are automatically chosen regression smoothing parameters from their optimum / W. Hardle, P. Hall, J.S. Marron // J. Amer. Statist. Assoc. -1988. -V. 83. -P. 86-99.

82. Hardle, W. Regression smoothing parameters that are not far from their optimum / W. Hardle, P.Hall, J.S. Marron//J. Amer. Statist. Assoc.-1992.-V. 87. -P. 227-233.

83. Hardle, W. Applied nonparametric Methods, in Handbook of Econometrics / W. Hardle, O. Linton // North Holland Elsevier Science, 1994. -V.4. P. 44-88.

84. Hardle, W. Optimal Bandwidth in nonparametric regression function estimation / W. Hardle, J.S. Marron //The Annals of Statistics. 1985.-V.13, № 4.-P. 1465-1481.

85. Hengartner, N.W. Asymptotic unbiased density estimators / N.W. Hengartner // E. Matzner-Lober // ESAIM. 2009. - V. 13. - P. 1-14.

86. Hlawka, E. Losung von Integralgleichungen mittels zahlentheoretisher Methoden I / E. Hlavvka // Siztzungsber., Abt. II. Osterr. Akad. Wiss., Math. -Naturwiss. Kl. 1962. -V. 171, № 1 -P. 103 -123.

87. Hodges, J.L. The efficiency of some nonparametric competitors of the t-test / J.L. Hodges, E.L. Lehmann // Annals of Mathematical Statistics. 1956. -V. 27. - P. 324335.

88. Hoeffding, W. Probability inequalities for sums of bounded random variables/ W. Hoeffding // Siztzungsber. Abt. II. Oster. Acad. Wiss., Math.-Naturwiss. Kl. 1962. - V. 171, № l.-P. 103-123.

89. Kolmogoroff, A. Sulla determinazione empirica di una legge di distribuzione / A. Kolmogoroff // Giornale dell' Institute italianj degli Attuari 1933. - V. 4- P. 83 -91.

90. Jennen-Steinmetz, C. A unifying approach to nonparametric regression estimation / C. Jennen-Steinmetz, T. Gasser // Unpublished manuscript. -1988.

91. Lewbel, A. Estimator for Inverse Density Weighted expectations / A. Lewbel, S. Schennach // Journal of Econometrics. 2007. -V. 136, № 1 -P. 189-211.

92. Li, Q. Nonparametric Econometrics: Theory and Practice / Q. Li, J.S. Racine // Princeton University press, 2007. 768 p.

93. Litchfield, J.T. A simplified method of evaluating dose-effect experiments/ J.T. Litchfield, F.W. Wilcoxon // J. Pharmacol. Exper. Ther. 1949. - V. 96. - P. 99-113.

94. Loftsgaarden, D.O. A nonparametric estimate of a multivariate density function/ D.O. Loftsgaarden, G.P. Quesenberry// Ann. Mathem. Statist. 1965. - V. 36. - P. 1049 -1051.

95. Mack, Y.P. Local properties of k NN Regression Estimates/ Y.P. Mack // SIAM J. Alg. Disc. Meth. - 1981. - V. 2. -P. 311 -323.

96. McDiarmid, C. On the method of bounded difference / C. McDiarmid // In Surveys in Combinatorics. Cambridge University press: Cambridge. - 1989. - P. 148-188.

97. Miller, L.S. Estimation of the ED50 and its error by means of logariphmic probit graph paper/ L.S. Miller, M.L. Tainter // Proc.Soc.Exp.Biol.Med. 1944. - V.7. - P. 261-264.

98. Muller, H.-G. Variable bandwidth kernel estimators of regression curves / H.-G. Muller, U. Stadtmuller // Ann. Statist. 1987. -V. 15. -P. 182-201.

99. Neumann, M. Automatic bandwith choice and confidence intervals in nonparametric regression / M. Neumann // The Annals of Statistics. 1995. - V. 23. - P. 1937-1959.

100. Niederreiter, H. Random Number Generation and Quasi-Monte Carlo Methods / H. Niederreiter SIAM Philadelphia, Pensylvania, 1992.-241 p.

101. Parsen, E. On estimation of a probability density function and mode / E. Parsen // Ann. Math.Statist. 1962. - V. 33. - P. 1056-1076.

102. Peleg, M. Mathematical interpretation of dose-response curves / M. Peleg, M.D. Normand, E. Damrau // Bulletin of Mathematical Biology. -1997.-V. 59, № 4 P. 747767.

103. Priestley, M.B. Nonparametric function fitting / M.B. Priestley and M.T. Chao // Journal of the Royal Statistical Society. -1972. -Ser. B. -V. 34. -P. 385-392.

104. Racine, Jeffrey S. Nonparametric econometrics: a primer/ Jeffrey S.Racine // Quantile. -2008.-№4.-P. 7-56.

105. Reinsch, H. Smoothing by spline functions / H.Reinsch // Numerische mathematic. -1967. -№ 10. -P.177-183.

106. Renyi, A. On the theory of order statistics / A. Renyi // Acta math. Acad. Sci. hung. -1953. -P.191-231.

107. Rice, J. Smoothing splines: regression, derivatives and deconvolution / J. Rice and M. Rosenblatt // Ann.Statistic. 1983. - V.l 1. - P.141-156.

108. Rosenblatt, M. Remarks on some nonparametric estimates of a density function / M. Rosenblatt // Ann. Math. Statist. 1956. -V.27, № 3. - P. 832-837.

109. Rumak, V.S. The Effect of Dioxins on the Environment and Human Health / V.S. Rumak, Trinh Quoc Khanh, A.N. Kuznetsov // Herald of the Russian Academy of Sciences. 2009. - V. 79, № 1. - P.50-56.

110. Schucany, W.R. On nonparametric regression with higher-order kernels / W.R Schucany //Journal of Statistical Planning and Inference. 1989. -№ 23. -P.145-151.

111. Shibata, R. An optimal selection of regression variables / R. Shibata // Biometrica. -1981.-V.68.-P. 45-54.

112. Silverman, B.W. Some aspects of the spline smoothing approach to non-parametric regression curve fitting (with discussion) / B.W. Silverman // J. Roy. Statist. Soc. -1985. Ser.B, V.47. - P. 1-52.

113. Simonoff, J.S. Smoothing Methods in Statistics / J.S. Simonoff. New York: Springer Verlag, 1996.- 338 p.

114. Stone, C.J. Cross-validatory choice and assessment of statistical predictions (with discussion) / C.J. Stone // Journal of Royal Statistical Society. -1974. № 36. - P. 111-147.

115. Stute, W. Asymptotic normality of nearest neighbor regression function estimates / W. Stute// Annals of Statistics.- 1984.-№12.-P. 917-926.

116. Taylor, C.C. Bootstrap choice of the smoothing parameter in kernel density estimation / C.C. Taylor // Biometrika. -1989. V.76. - P. 705-712.

117. Tikhov M.S. Statistical Estimation based on Interval Censored Data. / Tikhov M.S. // Param. and Semiparam. Models with Appl. to Rel., Surv. Analisys, and Qual. of Life: Springer-Verlag: Theor.& Meth. 2004. -V. XLIV. - P. 209-215.

118. Tikhov, M.S. Statistical Estimation on the Basis of Interval-Cencored Data/ M.S. Tikhov // J. Math. Sciences. 2004. -V . 119, N. 3. - P. 321- 335.

119. Tikhov, M.S. Econometric models with discrete dependent variables // 8-th Intern. Vilnius Con. on Probab. Theory and Math. Stat. Abstracts. TEV. - Vilnius - 2002. -P. 325.

120. Wahba, G. A completely automatic French curve: fitting spline functions by cross-validation / G. Wahba, and S. Wold // Comm. Statist. -1975. V. 4. - P. 1—17.

121. Wand, M.P. Kernel Smoothing / Wand M.P. and M.C. Jones. Boston: CRC Press., 1995.-230 p.

122. Watson, G.S. Smooth regression analysis/ G.S. Watson// Sankliya. -1964. V. 26. P. 359-372.

123. Wu, J.S. Nonparametric function estimation and bandwidth selection for discontinuous regression functions / J.S. Wu and C.K. Chu // J. Statistica Sinica. -1993. V. 3. P. 557-576.

124. Yang, S. Linear functions of concomitants of order statistics with application to nonparametric estimation of a regression function / S. Yang // Journal of the American statistical association. 1981. - V.76. - P. 658-662.

125. Zbinden, G. Les methods alternatives, present et avenir / G. Zbinden // The-rapie. -1990.-V. 45, №5. -P. 347-350.