Тестирование распределений в зависимости доза-эффект тема диссертации и автореферата по ВАК РФ 05.13.18, кандидат физико-математических наук Криштопенко, Дмитрий Сергеевич

• Криштопенко, Дмитрий Сергеевич
• кандидат физико-математических наук
• 2010

Оглавление диссертации кандидат физико-математических наук Криштопенко, Дмитрий Сергеевич

Введение.

1. Математическая модель и оценка зависимости доза-эффект.

1.1 Математическая модель зависимости доза-эффект.

1.2 Предположения.

1.3 Случайный план эксперимента.

1.4 Фиксированный план эксперимента.

2. Асимптотические распределения зависимости доза-эффект при фиксированном плане эксперимента.

2.1 Прямые наблюдения. Интегрированные квадратичные ошибки.

2.2 Прямые наблюдения. Суммируемые квадратичные уклонения.

2.3 Непрямые наблюдения. Интегрированные квадратичные ошибки

2.4 Непрямые наблюдения. Суммируемые квадратичные уклонения.

3. Асимптотические распределения зависимости доза-эффект при случайном плане эксперимента.

3.1 Прямые наблюдения. Интегрированные квадратичные ошибки.

3.2 Прямые наблюдения. Суммируемые квадратичные уклонения.

3.3 Непрямые наблюдения.

4. Оптимальный выбор параметра сглаживания модели зависимости доза-эффект.

Введение диссертации (часть автореферата) на тему «Тестирование распределений в зависимости доза-эффект»

Актуальность темы диссертации.

Во многих областях медицины и биологии (фармакологии, токсикологии, радиобиологии, биохимии и др.) фундаментальной проблемой является изучение механизмов действия лекарственных средств, токсических веществ, ионизирующей радиации на биологические, экологические объекты. Наиболее востребованно решение данной проблемы в фармакологии при создании новых лекарственных средств (т.е. фармакологических средств, прошедших клинические испытания), поэтому при разработке новых лекарств анализ связи между дозой и эффектом и их количественное определение имеет большое значение для практики. Несмотря на то, что спектр проявлений токсического процесса определяется строением токсиканта, тем не менее, выраженность развивающегося эффекта является функцией количества действующего агента. Для обозначения количества вещества, воздействующего на биологический объект, используется понятие доза. Под дозой понимается некоторое количественное значение агента (фактора), изменяющее состояние исследуемого объекта, а под эффектом - наблюдаемый качественный (альтернативный) или количественный отклик объекта на введенную дозу.

В некоторых случаях (например, при статистической оценке возраста менархе или возраста менопаузы, когда фиксируется возраст пациента и наличие или нет интересующего нас события, точный момент наступления которого неизвестен) отсутствует понятие дозы, в вышеопределенном смысле, тем не менее, задача оценки возраста менархе или оценки возраста менопаузы укладывается в рассматриваемую в диссертации модель доза-эффект и может быть решена предложенными в ней методами.

Основу решения проблемы количественного оценивания связи между наблюдаемым эффектом и введенной дозой составляет способ построения и анализа» функции эффективности по результатам наблюдаемых данных: введенной дозы и наличия или отсутствия эффекта, по которым можно вычислить среднеэффективную дозу Ж)50 (доза препарата ЕО50 дает эффект в 50% случаев), а также другие дозы ЕОа, 0 < а < 100.

На современном этапе в токсикометрии востребованными являются величины доз, которые вызывают появление эффекта, учитываемого в экспериментальной группе тест-объектов с заданной вероятностью 0,01; 0,05; 0,1; 0,16; 0,5; 0,84; 0,9; 0,95; 0,99. Такие дозы получили название доз ЕЭХ,

ЕВЪ, ££>10, ЕИХ6, ЕБи, ¿£О90, ЕИ95, ЕВ99. Поэтому как среднеэффективная доза ЕБ50, так и другие категории доз: малые, например ЕВ{, ЕИ5, ЕИ10, Ей16 и большие дозы ( ЕБЫ, ЕО90, ЕВ95, ЕВ99), должны в полной мере отвечать максимально жестким критериям корректности, надежности, адекватности и состоятельности.

Проблема статистической оценки токсического и других эффектов рассматривается как одна из важнейших в токсикометрии и активно разрабатывается исходя из задач экспериментальной практики. В предложенной диссертации нас интересует проблема нахождения функции эффективности (ФЭ), под которой мы будем понимать зависимость вероятности наблюдения эффекта от воздействия данного значения введенной дозы, по результатам наблюдений, и статистические выводы, касающиеся найденной функции эффективности.

Для построения функции эффективности и расчета ЕО50 обычно применяется официальная методика пробит-анализа в модификациях Литч-филда-Вилкоксона [31] и Финни [84 - 88] (включена в Фармакопею СССР, 1987). Иногда для оценки среднеэффективных доз (медианные среднеэф-фективные дозы) используются модели бинарного выбора как замена линейной модели нелинейной (в основном используются пробит- и логит-модели, т.е. нормальная или логистическая функции распределения). В некоторых случаях для построения ФЭ используется сплайн-интерполяция [35]. Однако как при-пробит-анализе, так и при использовании* других моделей, например, модели бинарного выбора, эти функции распределения хорошо аппроксимируются линейными функциями, но только в окрестности медианы, ценой больших ошибок на краях распределения (см: [51]), особенно если реальная модель распределения отличается от нормального или логистического распределений. Кроме того, при практической реализации пробит-анализа или его модификаций отсутствует возможность проведения единичных испытаний, эти методы ориентируются, в основном, на оценку среднеэффективной дозы ЕИ50 или близкой к ней и не позволяют состоятельно оценивать малые (ЕИ], ЕЭ5, ЕВ10, ЕО[6) или большие ( Ейы, ЕО90, ЕБ95, ЕВ99) дозы, а эти дозы являются востребованными для практических нужд при оценке количества антидота, где требуется умение адекватно определять указанные уровни доз; для оценки границ безопасности или терапевтического индекса препарата, ввиду того, что эти границы является эффективными дозами ЕИа для небольших значений 0<а<10. Большинство ЭВМ-программ оценки зависимости доза-эффект не работают при малых или больших значениях а. В ряде случаев, например, при исследовании эффектов сверхмалых доз характерны немонотонные функции эффективности (см. [32], Бурлакова Е.Б.), а пробит-анализ или модели бинарного выбора не позволяют оценивать такие ситуации.

Ввиду того, что случайная величина — минимальная граница, с которой начинается реакция организма, ненаблюдаема, мы не можем использовать эмпирическую функцию распределения для оценки категорий эффективных доз, поэтому в работах [39-41] был предложен метод, который задачу оценки функции эффективности (функции распределения) сводит к задаче оценивания функции регрессии с использованием непараметрических (ядерных) оценок регрессии. Это позволяет по результатам единичных испытаний оценивать среднеэффективную дозу ЕИ50 не хуже, чем методами пробит-анализа, а малые и большие дозы, близкие к 0% или к Л 00%, оценивать эффективнее, чем с помощью пробит-анализа. Метод работ [39-41] позволяет оценивать и немонотонные функции эффективности.

В первой главе диссертации в качестве оценок ФЭ рассматриваются непараметрические оценки Надарая-Ватсона, а также — асимптотически несмещенные оценки, которые для оценок плотности были введены и рассмотрены в работах [97, 125], а для оценок регрессии и оценок функции распределения в зависимости доза-эффект были введены в работе [125]. Область исследования в диссертации — это задачи проверки гипотез согласия и однородности (задача межлабораторного сравнения) на базе указанных оценок в зависимости доза-эффект, т.е. проблемы, которые ранее не рассматривались. Решение данных задач позволяет проверять адекватность рассматриваемых моделей, проводить межлабораторные сравнения, идентифицировать случай монотонной зависимости вероятности эффекта от введенной дозы, проверять гипотезы об уровне эффективности доз. Заметим, что оценки функции эффективности методов пробит-анализа, в частности методов Литчфилда-Вилкоксона [31] и Финни [84 — 88] не позволяют в силу вышеуказанных причин конструировать критерии проверки статистических гипотез согласия и однородности. Однако эти задачи проверки гипотез востребованны на практике (см. [32, 35, 48, 51, 53]), поэтому вышесказанное определяет актуальность нашей диссертационной работы, в которой построены непараметрические критерии согласия, однородности и монотонности на основе ядерных оценок Надарая-Ватсона [49], [125] и других непараметрических оценок. Предложенные в диссертации критерии исследованы как теоретическими, так и численными методами.

В начале диссертации мы строим математическую модель зависимости доза-эффект, адекватную условиям воздействия вещества на организм, и рассматриваем её как задачу статистического анализа для случая прямых и непрямых наблюдений, т.е. когда вводимая в организм доза измеряется с некоторой ошибкой, а реакция организма (эффект) идет на «чистую» вводимую дозу. Рассмотрены также случаи фиксированного, плана (вводимая доза выбирается заранее и является неслучайной величиной) и случайного плана эксперимента (вводимая доза является случайной' величиной). Таким образом; рассмотренные постановки охватывают широкий спектр разнообразных практических ситуаций в проблеме доза-эффект. Если задачи оценки плотности для свертки распределений рассматривались и исследовались в литературе (см.[111,113, 124]), то задача оценки функции распределения в модели непрямых наблюдений в зависимости доза-эффект рассмотрена впервые. Предложенная модель дает возможность использовать для решения проблем дозозависимых эффектов весь набор мощных методов математической статистики.

Задача асимптотического поведения непараметрических оценок функции регресии была изучена впервые в работе В.Д. Конакова [38], где доказана асимптотическая нормальность интегрированной квадратичной ошибки (ИКО) с весовой функцией, равной квадрату плотности, для статистики Надарая-Ватсона. Доказательство В.Д. Конакова опиралось на асимптотические свойства эмпирических процессов. В работе [91] П. Холл, используя центральные предельные теоремы для мартингалов и вырожденных II-статистик, доказал асимптотическую нормальность как для точечных квадратичных ошибок, так и для интегрированных квадратичных ошибок на базе статистик Надарая-Ватсона в Ь2-норме уклонения при более слабых ограничениях, чем в работе Д. Конакова [38].

Мы рассматриваем и исследуем асимптотическое поведение интегрированных квадратичных ошибок (ИКО) оценок в зависимости доза-эффект в Ь2—норме с весом, как для прямых, так и для непрямых наблюдений, как при проверяемой гипотезе, так и при альтернативах, что отличается от постановок В.Д.Конакова [38] и П.Холла [91, 92]. На основе полученных теоретических результатов нами построены конкретные тесты для проверки гипотез согласия и однородности. Если в [38; 91, 92] в качестве меры отклонения использовалась только ИКО, то в диссертации в качестве мер отклонения мы рассматриваем также суммируемые квадратичные уклонения (СКУ). Это связано с тем, что при компьютерной реализации, критериев проверки гипотез, в* некоторых случаях предпочтительней рассматривать СКУ вместо ИКО без потери точности выводов. На основе асимптотических распределений СКУ и ИКО (на базе статистик типа Надарая-Ватсона и асимптотически несмещенных оценок) мы строим статистические критерии проверки гипотез согласия и однородности двух выборок в рассматриваемых математических моделях зависимости доза-эффект. Такие задачи для исследуемой в диссертации постановки являются новыми. Новыми являются и полученные результаты.

При изучении вопросов, связанных с конкретным применением критериев проверки гипотез согласия и однородности, возникает проблема выбора оптимального значения параметра сглаживания, который присутствует в рассматриваемых оценках функции эффективности. Решением этой проблемы в диссертации является адаптивный алгоритм кросс-проверки выбора параметра сглаживания. В условиях каждой из рассматриваемых ситуаций он является состоятельным и приводит к асимптотически нормальным оценкам оптимального значения параметра сглаживания. Цель и задачи исследования.

Целью диссертационной работы является разработка статистических критериев согласия проверки гипотез о виде неизвестной функции распределения, однородности двух выборок и монотонности функции эффективности в зависимости доза-эффект, а также анализ результатов их практического применения по реальным данным.

Задачами исследования являются: 1) построение и анализ статистических критериев проверки гипотез согласия о виде функции эффективности и однородности двух выборок на основе асимптотического поведения теоретически построенных ИКО и СКУ и применение тестов для анализа реальных данных;

2) разработка алгоритма оптимального выбора параметра сглаживания в построенных критериях и рассматриваемых оценках функции эффективности;

3) построение критерия проверки гипотезы о монотонности неизвестной функции эффективности и его применение для анализа реальных данных;

4) исследование свойств построенных критериев численными методами при альтернативных гипотезах;

5) создание ActiveX компонента, позволяющего строить оценку функции эффективности, проверять гипотезу о виде ФЭ и гипотезу о монотонности ФЭ в диалоговом режиме, и который может быть использован для написания плагинов для MatLab и других математических пакетов. Объект исследования.

Объектом исследования являются математические модели зависимости доза-эффект и критерии проверки гипотез согласия и однородности. В качестве примера применения полученных результатов анализируются реальные данные из работы [41] о проведенных испытаниях аллоксима в комплексном лечении острых отравлений фосфорорганическими инсектицидами. Методы проведенного исследования, достоверность и обоснованность результатов.

Для доказательства теоретических результатов диссертационной работы использовались методы теории вероятностей, математического и функционального анализа, теории мартингалов и распределений ¿/-статистик, классические и функциональные предельные теоремы, методы имитационного моделирования. Инструментом исследования являются асимптотические методы математической статистики и численные методы компьютерного моделирования, а также асимптотические методы математического и функционального анализа. Достоверность полученных результатов. подтверждается корректностью разработанных математических моделей, использованием фундаментальных результатов математической статистики, строгостью рассуждений, адекватностью полученных теоретических результатов с экспериментальными данными, а также с результатами численного моделирования.

Научная новизна и научная значимость полученных результатов.

Все основные результаты диссертационной работы являются новыми и впервые опубликованы в работах диссертанта.

Впервые рассмотрена задача проверки гипотез согласия, однородности и монотонности в зависимости доза-эффект. Построены критерии проверки гипотез согласия о виде функции эффективности, однородности двух выборок. Разработан алгоритм выбора параметра сглаживания, минимизирующий СКУ на базе рассматриваемых оценок. Построен критерий монотонности неизвестной функции эффективности на основе комбинации прямой и обратной оценок, который применен для анализа реальных данных [41] о проведенных испытаниях аллоксима в комплексном лечении острых отравлений фосфорорганическими инсектицидами. Численными методами показано, при уровне значимости 0.05, при нормальном распределении с единичной дисперсией мощность критериев согласия не ниже 0.3, если разность между математическими ожиданиями нулевой и альтернативной гипотез не менее, чем 0.25. Создан ActiveX компонент, позволяющий строить оценку функции эффективности, проверять гипотезу о ее виде и гипотезу о монотонности ФЭ по построенным критериям.

Основной теоретический результат состоит в получении асимптотических распределений ИКО и СКУ рассматриваемых статистик для построения критериев согласия проверки гипотез о виде функции эффективности и гипотезы однородности двух выборок при фиксированном и- случайном планах эксперимента для прямых и непрямых наблюдений, а также критерия проверки строгой монотонности неизвестной функции эффективности в рассматриваемых математических моделях по исходным статистическим данным.

Практическая значимость,полученных результатов.

В токсикометрии важное значение отводится методам определения эффективных доз, так как они являются теми решающими факторами, от которых зависит способ планирования экспериментов, порядок формирования и объем исходных данных, а в конечном итоге качество, эффективность и достоверность искомых показателей токсичности. По этим признакам проблему токсикометрической оценки показателей токсичности можно рассматривать как важнейшую проблему теоретической токсикологии, имеющей прикладное значение для различных разделов биологии и медицины.

Результаты, полученные в диссертационной работе, были применены для анализа поведения неизвестной функции эффективности и проверки адекватности исходных данных, полученных в результате проведенных испытаний аллоксима в комплексном лечении острых отравлений фосфороргани-ческими инсектицидами [41]. Были обработаны результаты исследований чувствительности к адреналину у людей по тесту капельной накожной пробы ([40], с. 116).

Показано, что применение построенного критерия однородности для гипотезы о принадлежности двух выборок к одному предельному распределению приводит к тому, что данная гипотеза не отвергается при уровне значимости 0,05. Это дает основание объединить результаты двух экспериментов и по двум выборкам построить одну функцию эффективности, для которой был применен критерий проверки монотонности.

Теоретические результаты, полученные в диссертационной работе, могут быть использованы при планировании клинических испытаний новых лекарственных средств и анализа эффективности их действия, а также в курсах математической и прикладной статистики. s

Основные положения, выносимые на защиту.

На защиту выносятся:

I 1. Критерии проверки согласия и однородности на основе ИКО и СКУ i для рассматриваемых оценок функции эффективности в зависимости доза-эффект при фиксированном и случайном планах эксперимента для случаев прямых и непрямых наблюдений и результаты оценки мощности этих критериев численными методами.

2. Статистические критерии проверки гипотезы о строгой монотонности неизвестной функции эффективности и анализ их практического применения по реальным [41] и моделируемым данным.

3. Алгоритм выбора оптимальной ширины окна и его конкретная реализация в критериях согласия, однородности и монотонности.

4. ActiveX компонент, позволяющий с помощью разработанного диалогового интерфейса анализировать конкретные экспериментальные данные. Опубликованность результатов и личный вклад соискателя.

Результаты диссертации опубликованы в 30 работах [1-30], из них 9 работ [1- 9] - в журналах из списка ВАК (журналы «Обозрение Прикладной и Промышленной Математики», «Нелинейный мир», «Вестник Нижегородского университета им. Н.И.Лобачевского»), 3 работы [11], [13], [25] в рецензируемом межвузовском сборнике научных трудов «Статистические методы оценивания и проверки гипотез», одна работа [20] в журнале «Computer Modeling and New Technologies» (Latvia, Riga), 18 работ в материалах международных и всероссийских конференций: Две работы выполнены без соавторов, одна из которых из списка ВАК. В совместных работах [1-5, 720, 22-30] автору принадлежат полученные в ходе исследования результаты, соавтору — идея работы, а также формулировка и постановка задач.

Общий объем публикаций - 160 стр. Апробация результатов диссертации.

Основные результаты диссертации докладывались на:

V международной конференции «Предельные теоремы теории вероятностей и их приложения» (Ташкент, 2005 г.); I 12-ой Всероссийской, школе-коллоквиуме по стохастическим методам

ВШКСМ) (Сочи, 2005);

9th International Vilnius Conference on Probability Theory and Mathematical Statistics (Vilnius, 2006);

7-м Всероссийском симпозиуме по прикладной и промышленной математике (ВСППМ) (Йошкар-Ола, 2006);

XVII всероссийской научно-технической конференции «Современные ' проблемы математики и естествознания» (Н. Новгород, 2007);

Международной междисциплинарной научной конференции «Синергетика в естественных науках» (Тверь, 2007);

XIV международной конференции «Математика. Компьютер. Образование» (Пущино, 2007);

III межвузовской научно-практической конференции «Математическое моделирование и информационные технологии в сфере обслуживания потребителей» (Сочи, 2007);

XII International Conference on Applied Stochastic Models and Data Analysis (Greece, Chania, 2007);

8-ой международной междисциплинарной научно-практической конференции «Современные проблемы науки и образования» (Алушта, 2007);

XX международной научной конференции «Математические методы в технике и технологиях» (Ярославль, 2007);

8 International Conference «Computer Data Analysis and Modeling» (Minsk, 2007);

14-ой Всероссийской школе-коллоквиуме по стохастическим методам (г.Адлер, 2007);

IV всероссийской научно-практической конференции «Актуальные задачи математического моделирования и информационных технологий» (Сочи, 2008);

Международной научной конференции «Современные проблемы математики, механики и информационных технологий» (Ташкент, 2008);

XVI международной конференции «Математика. Компьютер. Образование» (Пущино, 2008);

International Science Conference «Probability Theory, Random Processes, Mathematical Statistics and Applications» (Minsk, 2008);

7-ой Международной конференции «Вероятностные методы в дискретной математике» (ВМДМ) (Петрозаводск, 2008 г.);

15-ой Всероссийской школе-коллоквиуме по стохастическим методам (Волгоград, 2008 г.);

Международной научной конференции «Вычислительные технологии и математическое моделирование» (Ташкент, 2009);

IV всероссийской научной конференции «Проектирование инженерных и научных приложений в среде MATLAB» (Астрахань, 2009);

Международной научной конференции «Теория вероятностей, случайные процессы, математическая статистика и приложения» (Минск, 2010).

Диссертация докладывалась на научных семинарах кафедры прикладной теории вероятностей и кафедры теории статистических решений ННГУ им. Н.И. Лобачевского.

Структура, объем и краткое содержание диссертации.

Диссертация состоит из введения, шести глав, заключения и приложения. Объем диссертации — 209 стр. текста. Список литературы — 129 источников на 12 стр. Общий объем - 339 стр.

Заключение диссертации по теме «Математическое моделирование, численные методы и комплексы программ», Криштопенко, Дмитрий Сергеевич

Выводы по Главе 4 В главе 4 рассматривается задача априорного выбора оптимального значения параметра сглаживания к, который присутствует в рассматриваемых оценках функции эффективности. Предложен адаптивный алгоритм кросс-проверки выбора параметра сглаживания для фиксированного плана - прямых и непрямых наблюдений. Показано, что данный алгоритм является состоятельным, приводит к асимптотически оптимальному значению к и является устойчивым относительно выбросов в наблюдаемой выборке. Показано, что оценки оптимального значения параметра сглаживания являются асимптотически нормальными. л

ЗАКЛЮЧЕНИЕ

В диссертации получены следующие результаты:

1. Построены и проанализированы статистические критерии проверки гипотез согласия о виде неизвестной функции эффективности и однородности двух выборок на основе асимптотического поведения теоретически построенных ИКО и СКУ для прямых и непрямых наблюдений при случайном и фиксированном планах эксперимента. Полученные критерии были использованы при решении задачи межлабораторного сравнения реальных данных. Показано, что эти реальные данные не противоречат основным предположениям математической модели, в рамках которой получены эти критерии.

2. Разработан алгоритм оптимального выбора параметра сглаживания, который присутствует в построенных критериях и рассматриваемых оценках функции эффективности. Показано, что данный, алгоритм является состоятельным и устойчивым относительно выбросов в наблюдаемой выборке. Показано, что оценки оптимального значения параметра сглаживания являются асимптотически нормальными.

3. Построен статистический критерий проверки гипотезы о монотонности неизвестной функции эффективности, на основе статистики Ь2-уклонения, полученной с помощью комбинации монотонной оценки обратной функции эффективности и рассматриваемых оценок прямой функции эффективности, который был примененен для анализа реальных данных Доказана состоятельность и асимптотическая нормальность данной статистики Ь2 —уклонения при нуль-гипотезе строгой л монотонности. I

4. Исследованы свойства построенных критериев численными методами при альтернативных гипотезах. Показано, что мощность построенных критериев при альтернативе возрастает. Получено, что для критерия для прямых наблюдений на выборке непрямых наблюдений размер критерия увеличивается по мере роста дисперсии ошибки, а мощность падает. Численными методами показано что, если границы для дисперсии ошибки известны, то уменьшение мощности можно компенсировать за счет предложенного преобразования и уменьшения уровня значимости. Предложен способ устранения ошибки измерения.

Теоретические результаты диссертационной работы легли в основу ActiveX компонента, позволяющего в диалоговом режиме анализировать конкретные экспериментальные данные.

Список литературы диссертационного исследования кандидат физико-математических наук Криштопенко, Дмитрий Сергеевич, 2010 год

1. Криштопенко, Д. С. Оценивание распределений в зависимости доза-эффект при фиксированном плане эксперимента / Д. С. Криштопенко, М. С. Тихов // Статистические методы оценивания и проверки гипотез. — Пермь: изд-во Пермского ун-та. 2006. - С. 66-77.

2. Криштопенко, Д. С. Тестирование монотонных функций эффективности по неполным наблюдениям в случае непрямых наблюдений / Д. С. Криштопенко, М.С. Тихов // Обозрение Прикладной и Промышленной Математики. -М.: изд-во ТВП. 2008. - Т.15, в.4. - С. 648-649.

3. Криштопенко, Д. С. Критерий монотонности функции эффективности в модели доза-эффект эффект / Д. С. Криштопенко, М.С. Тихов // Вестник Нижегородского университета им. Н.И.Лобачевского. — Н.Новгород: изд-во ННГУ. — 2009. -№1. — С. 128-134.

4. Беленький, M. JI. Элементы количественной оценки фармакологического эффекта / Mi JI. Беленький // JL: Изд-во мед. лит. 1963. — С. 152.

5. Бурлакова, Е. Б. Биоантиоксиданты / Е. Б. Бурлакова // Рос. хим. ж. (Ж. Рос. хим: об-ва им: Д.И.Менделеева) . 2007. - Т. LI, №1. - С. 3-12.

6. Гнеденко, Б. В. Курс теории вероятностей / Б. В. Гнеденко // М:: Едиториал УРСС. 2005. — С. 448.

7. Государственная фармакопея СССР: общие методы анализа. //11 изд., вып. 1. М.: Медицина. - 1987. - С. 337.

8. Гуревич, К. Г. Оценка параметров кривой «доза-эффект» методом сплайн-интерполяции / К. Г. Гуревич // Вестник Моск. Ун-та. Сер.2, Химия. -2000. - Т.41, №200. - С. 69-70.

9. Закс Л. Статистическое оценивание. / Л.Закс / М.: Статистика. 1976 — 598 с.

10. Крамер, Г. Математические методы статистики / Г. Крамер // М.:Наука. — 1975.-С. 648.

11. Конаков, В. Д. Об одной глобальной мере отклонения оценки линии регрессии. / Конаков В.Д. // Теор. вероятн. и ее примен. 1977. - Т.22, в:4. — С. 879-891.

12. Криштопенко, С. В. Токсикометрия эффективных доз / С. В. Криштопенко, М. С. Тихов // Нижний Новгород: Изд-во НГУ. 1997. - С. 156.

13. Криштопенко, С. В. Парадоксальная токсичность / С. В. Криштопенко, М. С. Тихов, Е. Б. Попова // Нижний Новгород.: изд-во НГМА. 2001. — С. 164.

14. Криштопенко, С. В. Доза-эффект / С. В. Криштопенко, М. С. Тихов, Е. Б. Попова // М.: изд-во Медицина. 2008. - С. 288.

15. Криштопенко, C.B. Статистическое оценивание зависимости доза-эффект при наличии погрешности измерений / С. В. Криштопенко, М. С. Тихов // 3-я Всероссийская школа-коллоквиум по стохастическим методам. — М.: изд-во ТВП. 1996. - С.93-95.

16. Леман, Э. Теория точечного оценивания / Э., Леман // М.: Наука. 1991. - С. 448.

17. Леман, Э. Проверка статистических гипотез / Э. Леман // М.: Наука. 1979. -С. 408.

18. Гнеденко, Б. В. Курс теории вероятностей / Б. В. Гнеденко // М.: Едиториал УРСС. 2005. - С. 448.

19. Государственная фармакопея СССР: общие методы анализа. //11 изд., вып.1. -М.: Медицина. 1987. - С. 337.

20. Гуревич, К. Г. Оценка параметров кривой «доза-эффект» методом сплайн-интерполяции / К. Г. Гуревич // Вестник Моск. Ун-та. Сер.2, Химия. -2000. - Т.41, №200. - С. 69-70.

21. Закс Л. Статистическое оценивание. / Л.Закс / М.: Статистика. 1976 - 598 с.

22. Крамер, Г. Математические методы статистики / Г. Крамер // М.:Наука. -1975.-С. 648.

23. Конаков, В. Д. Об одной глобальной мере отклонения оценки линии регрессии. / Конаков В.Д. // Теор. вероятн. и ее примен. 1977. - Т.22, в.4. - С. 879-891.

24. Криштопенко, С. В. Токсикометрия эффективных доз / С. В. Криштопенко, М. С. Тихов // Нижний Новгород: Изд-во НГУ. 1997. - С. 156.

25. Криштопенко, С. В. Парадоксальная токсичность / С. В. Криштопенко, М. С. Тихов, Е. Б. Попова // Нижний Новгород.: изд-во НГМА. 2001. - С. 164.

26. Криштопенко, С. В. Доза-эффект / С. В. Криштопенко, М. С. Тихов, Е. Б. Попова // М.: изд-во Медицина. 2008. - С. 288.

27. Криштопенко, C.B. Статистическое оценивание зависимости доза-эффект при наличии погрешности измерений / С. В. Криштопенко, М. С. Тихов // 3-я Всероссийская школа-коллоквиум по стохастическим методам. М.: изд-во ТВП. - 1996. - С.93-95.

28. Леман, Э. Теория точечного оценивания / Э. Леман // М.: Наука. 1991. - С. 448.

29. Леман, Э. Проверка статистических гипотез / Э. Леман // М.: Наука. 1979. -С. 408.

30. Липцер, Р.Ш. Теория мартингалов / Р. Ш. Липцер., А. Н. Ширяев // М.: Наука.-1986.-С. 512.

31. Лоэв, М. Теория вероятности / М. Лоэв // М.: ИЛ. 1962. - С. 720.

32. Масюк, С. В. Влияние неопределенностей в дозах на оценку радиационных рисков / С. В. Масюк и др.// Радиация и риск (Бюллетень Национального радиационно-эпидемиологического регистра). 2008. — Т. 17, №3. — С. 6475.

33. Надарая, Е.А. Об оценке регрессии / Е. А. Надарая // Теор. вероятн. и ее примен. т. 9. в.1.- 1964.-С. 157-159.

34. Натансон И. П. Теория функций вещественной переменной / И. П. Натансон // М.: Наука. 1974. - С. 480.

35. Осипов, А. Л. Непараметрический метод построения зависимости «доза-эффект» / А. Л. Осипов, С. Н. Аношкин // Журнал «Автометрия» . 2006. -Т.42, №6. - С. 63-69.

36. Рао, С. Р. Линейные статистические методы и их применения / С.Р. Рао // М: Наука.- 1965.-С. 548.

37. Румак В. С. Воздействие диоксинов на окружающую среду и здоровье человека. / B.C. Румак, Г.А. Софронов и др. // Вестник РАН: Проблемы экологии. 2009. - Т.79, №2. - С. 124-130.

38. Смирнов Н.В. Теория вероятностей и математическая статистика: избранные труды. М.: Наука - 1970. -С. 290.

39. Суховольский В.Г. Оценка и прогноз послепожарного состояния лиственницы гмелина на мерзлотных почвах Средней Сибири / А.П. Абаимов, С.Г. Прокушкин, В.Г. Суховольский, Т.М. Овчинникова // журнал «Лесоведение». 2004.- №2, с. 3-11.

40. Тихов М. С. Асимптотически несмещенные оценки функции распределения зависимости доза-эффект в схеме непрямых наблюдений / М.С. Тихов, И.С. Ефименко // Обозрение Прикладной и Промышленной Математики. — М. — 2004. Т.11, в.З. - С. 466-468.

41. Тихов М. С. Статистическое оценивание распределений по интервально цензурированным выборкам в схеме непрямых наблюдений / М. С. Тихов, М. В. Ярощук // Нелинейный мир. М.: изд-во РАДИОТЕХНИКА. - Т.5, №1-2.-2007.-С. 4-8.

42. Тихов М. С. Эконометрические дискретные модели бинарного поиска / Тихов М. С.// Прикладная статистика в социально-экономических проблемах. —

43. H.Новгород.: изд-во Нижегородского ун-та. -Т.1, 2003, с 104-106.

44. Тихов, М. С. Построение и анализ статистических оценок для неполностью известных семейств распределений: дис. д-ра физ.-мат. наук: 01.01.05/ Михаил Семенович Тихов; С.-Петербургский гос. ун-т. СПб. 1993. - 377 л.

45. Хардле В. Прикладная непараметрическая регрессия. / В.Хардле / М.: Мир. -1993.-349 с.

46. Ширяев, А. Н. Вероятность. / А. Н. Ширяев // В 2-х книгах М: МЦНМО, 2007. Кн. 1.-с. 552 .-Кн. 2. - с. 416.

47. Abramson, I.S. On bandwidth variation in kernel edtimates — a square root law /

48. S. Abramson // Annals of Statistics 10. 1982. - P. 1217-1223.

49. Abramson, I.S. Adaptive density flattening metric distortion principle for combining bias in nearest neighbor methods / I.S. Abramson // Annals of Statistics 10. -1984.-P. 880-886.

50. Andrews, D. Asymptotic normality of series estimators for nonparametric and semiparametric regression models / D. Andrews // Econometrica. 1991. - v. 59, no. 2.-P. 307-345.

51. Baten, W. D. Probit analysis applied to Salmonella pitllorium survivai data / W. D. Baten, H. J. Stafseth // J. Bactheoriology. 1956. - 71(2). - P.214-216.

52. Bettermann, H. Bimodal dose-dependent effect on autonomic, cardiac control-after oral administration of Atropa belladonna / H. Bettermann at al. // Auton Neu-rosci. (J. Auton Nerv. Syst.). -2001. -90 (1-2). P. 132-137.

53. Birke, M. Testing Strict Monotonicity in Nonparametric Regression / M. Birke and H. Dette I I Mathematical Methods of Statistics. 2007. - v.16, no.2. - P. 110123.

54. Birke, M. Central limit theorems for the integrated squared error of derivative estimators / M. Birke // Statistics & Probability Letters. 2008. - v.78. - P. 19031913.

55. Birke, M. A note on estimating a monotone regression function by combining kernel and density estimates / M. Birke and H. Dette // Journal of Nonparametric Statistics. 2008. - v.20. - P. 679-691.

56. Bissantz, N. Asymptotic normality and confidence intervals for inverse regression models with convolution-type operators / N. Bissantz, M. Birke // Journal of Multivariate Statistics. -2009. v. 100(10). - P. 2364-2375.

57. Brown, B.M. Martingal central limit theorems. / В. M. Brown // Ann. Math. Statist. 1971.-v.42.-P. 59-66.

58. Brown С. C. The statistical analysis of dose-effect relationships / Brown С. C.// P. 115-148. // In: Principles of Ecotoxilogy, John Wiley & Sons. 1978. -P. 350.

59. Butucea, C. Asymptotic normality of the integrated square error of a density estimator in the convolution model / C. Butucea // SORT. 2004. - 28(1). -P.9-26.

60. Cramer, Н. Mathematical Method of Statistics / H. Cramer // Asia Publishing House. Bombey. - 1962. - P. 575.

61. Debanne, S. M. Evaluation of statistical methodologies for estimation of median effective dose / S. M. Debanne, H. S. Haller // Toxicol., Appl. Pharmacol. 1985. - Vol. 79, N 2. - P. 274 - 282.

62. Dette, H.A simple nonparametric estimator of a monotone regression function / H. Dette, N. Neumeyer, K. F. Pilz // Bernoulli 12. 2006. - P. 469-490.

63. Einmahl, U. Uniform in Bandwidth Consistency of Kernel-type Function Estimators / Einmahl U., Mason D.M. // Ann." Statist. 2005. - v. 33, no 3. - P. 13801403:

64. Fan, J. Asymptotic normality for deconvolution kernel density estimators / J. Fan // Sankhya: The Indian Journal of Statistics. 1991. - v. 53, Series A, Pt.l. - P. 97-110.

65. Fan, J. Global behavior of deconvolution kernel estimates / J. Fan // Statistica Si-nica.-v. 1, no.2. 1991. - P. 541-551.

66. Fan J. A study of variable bandwidth selection for local polynomial regression. / J.Fan, I.Gijbels, T.C.Hu, L.S.Huang // Statistica Sinica. 1996. - v.6, No.l -P.l 13-127.

67. Finney, D. J. Probit analysis, 3rd.edn / D. J. Finney // Cambridge University Press. 1979.

68. Finney, D. J. The median lethal dose and its. estimation / D. J. Finney // Arch. Toxicol. 1985. - Vol. 54, N 4. - P. 215 - 218.

69. Finney, D. J. Statistical Methods in Biological Assay. / D. J. Finney // Charles Griffin & Co. 1978. - P. 508.

70. Finney, D. J. The application of probit analysis to the results of mental tests IID. J. Finney I I Psychometrika. 1944. - v. 9, no.l. - P. 31-39.

71. Finney, D. J. The Estimation from Individual Records of the Relationship Between Dose and Quantal Response / / D. J. Finney // Biometrika. 1947. - v. 34, no. — P.320-334.

72. Gyorh L. Distribution-Free Theory of Nonparametric Regression. /L.Gyorh, M.Kohler, A.Krzyzak, H.Walk/ Springer: NY. - 2002. - 647 p.

73. Hall, P. Central limit theorem for integrated square error properties of multivariate nonparametric density estimators / P. Hall // J. Multivariate Anal. v. 14, no.l.-1984.-P. 1-16.

74. Hall, P. Integrated square error properties of kernel estimators of regression functions / P. Hall II Ann. Statist. 1984. - v. 12, no.l. - P. 241-260:

75. Hall P. Estimation of distribution, moments and quantiles in deconvolution problems / / P. Hall, S. N. Lahiri // Ann. Statist. 2008. - v. 36, no.5. - P. 2110-2134.

76. Hardle, W. How Far Are Automatically Chosen Regression Smoothing Parameters From Their Optimum? / W. Hardle, P. Hall, J. S. Marron // Journal of the Amer. Statist. Assoc. 1988. - v.83, no.401. - P. 86-93.

77. Hardle W. Applied Nonparametric Regression. / W.Hardle / Humbolt-Universitat: Berlin. 1994. - 409 p.

78. Hardle W. Nonparametric and Semiparametric Models. /W.Hardle, M.Muller, S.Sperlich, A.Werwatz / Springer: NY 2004. - 87 p.

79. Hengartner N. W. Asymptotic unbiased density estimators / N. W. Hengartner, E. Matzner-Lober // ESAIM. 2009. - v. 13. - P. 1-14.

80. Hjort, N.L. Nonparametric density estimation with a parametric start / N. L. Hjort, I. K. Glad // Ann. Statist. 1995. - v.23, no.3. - P. 882-904.

81. Hlawka, E. Losung von Integralgleichungen mittls zahlentheoretisher Methoden I. / E. Hlawka // Siztzungsber., Abt. II. Oster. Akad. Wiss., Math.- Naturwiss. Kl. 1962.-v. 171, no. l.-P. 103-123.

82. Hoeffding W. Probability inequalities for sums of bounded random variables. / W. Hoeffding // Journal of the American Statistical Association. — 1963. v.58, — P.13-30.

83. Jones, M. C. On multiplicative bias correction in kernel density estimation / M. C. Jones, D. F. Signorini, N. L. Hjot // Sankhyä:The Indian Journal of Statistics. 1999. -v.61. - Series A, Pt.3. - P. 422-430.

84. Jones M. C. A simple bias reduction for density estimation / M. C. Jones, O. Linton, J. P. Nielsen // Biometrika. 1995. - v.82, no.2. - P. 327-338.

85. Jones, M.C. A simple nonnegative boundary correction method for kernel density estimation / M. C. Jones, P. J. Foster // Statistica Sinica. 1996. - v.6, no.4. — P. 1005-1013.

86. Lehmann, E.L. Theory of Point Estimation / E.L. Lehmann // NY: J. Wiley. -1983.

87. Lehmann, E.L. Testing Statistical Hypotheses / E.L. Lehmann, J. P. Romano // NY.: Springer. 2005. - P. 792.

88. Leung, D. H-Y. Cross-validation in nonparametric regression with outliers / Denis Heng-Yan Leung // Ann. Math. Statist. 2005. - v. 33, no.5. - P. 22912310.

89. Mack, Y. P. Weak and strong uniform consistency of kernel regression estimates / Y. P. Mack, B. W. Silverman // Z. Wahrsch. Verw. Gebiete 61. - 1982. -P. 405-415.

90. Matzio, M. Boosting kernel density estimates: A bias reduction technique? / M. Matzio, C. C. Taylor // Biometrika. 2004. - v.91, no.l. - P. 226-233.

91. McDiarmid C. On the method of bounded differences. / C. McDiarmid // In Surveys in Combinatorics. Cambridge University Press: Cambridge. - 1989 — P.148-188.

92. Niederreiter, H. Random Number Generation and Quasi-Monte Carlo-Method / H. Niederreiter // Pensylvania. Niederreiter H.: SIAM Philadelphia. - 1992. -P. 241.

93. Parzen, E. On estimation a probability density function and mode / E. Parzen // Ann. Math. Statist. 1962. - v. 33, no.3. - P. 1065-1076.

94. Rice, J. Bandwidth choice for nonparametric regression. / Rice J. // Annals of Statistics. 1984. - v.12, no. 4. - P. 1215-1230.

95. Rozenblatt, V. Remarks on some nonparametric estimates of a density function / V. Rozenblatt // Ann. Math. Statist. 1956. - v. 27, no.3. - P. 832-837.

96. Rumak, V. S. The Effect of Dioxins on the Environment and Human Health / V. S. Rumak and at al. // Herald of the Russian Academy of Sciences. v.79, no.l.-P. 50-56.

97. Serfling, R. J. Approximation Theorems of Mathematical Statistics / R. J. Ser-fling // Wiley. New York. - 2001. - P. 400.

98. Sidhu S. Age at Menopause in Educated Women of Amritsar (Punjab) / S. Sidhu, A. Kaur, M. Sidhu // J. Hum. Ecol. 2005. - v. 18, no. 1. - P. 49-51.

99. Slutsky E. Uber stochastische Asymptotem und Grenzwerte / E. Slutsky // J. Metron.- 1925.- 5, w.3 P. 3-89.

100. Stefanski L.A., Caroll R.J. Deconvolutiuon kernel density estimators / L.A. Stefanski, R. J. Caroll // Statistics. 1990. - v.21. -P. 69-184.

101. Takezawa K. Introduction to Nonmparametric Regression. / K. Takezawa / Wiley-Interscince: New Jersey. 2006. — 538 p.

102. Tenreiro, С. Loi asymptotic des erreurs quadratiques integrées des estimateurs a noyau de la densité et de la.regression sous des conditions de dependence / С. Tenreiro // Portugaliae Mathematica. 1997. - v. 54, № 2. - P. 187-213.

103. Tenreiro, C. Asymptotic distribution for a discrete version of integrated square error of multivariate density kernel estimators / C. Tenreiro // Journal of Statistical Planning and Inference. 1998.-v. 69, no.l.-P. 133-151.

104. Tenreiro, C. On asymptotic behavior of the ISE for automatic kernel distribution estimators / C. Tenreiro // Journal of Nonparametric Statistics. 2003. - v. 15, no.4&5.-P. 485-504.

105. Tenreiro, C. On the asymptotic behavior of the integrated square error of kernel density estimators with data-dependent bandwith / C. Tenreiro // Statis-tics&Probability Letters. v.53, no.3. - P. 283-292.

106. Tikhov, M.S. Statistical Estimation on the Basis of Interval-Censored Data / M. S. Tikhov //J. Math. Sciences, v. 119, no. 3. -2004. - P. 321-335.

107. Wand М.Р. Kernel Smoothing. / M/P/Wand, M.C.Jones / Chapman&Hall: NY.-1995.-212 p.

108. Watson, G. S. Smooth regression analysis / G. S. Watson // Sankhyâ. 1964. -v. 26. —P. 359-372.

109. Williams, D. A. Interval Estimation of the Median Lethal Dose / D. A. Williams // Biometrics. v.42, no. 3. - P. 641-645.

110. Yang, S. A central limit theorem for the integrated square error of the kernel density estimators with randomly censored data / S. Yang // Journal of Statistical Planning and Inference. 1993. - v. 37, no.2. - P. 127-143.f161

111. Щ. Статистический критерий монотонности функции эффективности в зависимости доза-эффект.

112. Пусть выполняется гипотеза Н0, тогда определимгде 5/4 </<11/8 фиксировано и выбирается заранее, как оценку для обратной функции Ф1(7), Здесь статистика Надарая-Ватсона Рп(х) определяется как:1 ^пк ;=1х-К1. V л .

113. Заметим, что оценку можно представить в виде:1 1 ' / р (х\ ,. \ 1 ну

114. РпЛ*) = — /И^ТГ— скиЬ=\<Ь \к{гУк =о -001 ^1. О -00поэтому, при п —> 00 ,1 11|/(Ф(х) < о сЬс = Ф"1 (о.о

115. В этом случае последовательность функций ^>п(Еп(х)) при н—»оосходится к функции <р(Ф(х)) = Ф1 (Ф(х)) = *.

116. Проведем эвристические рассуждения, объясняющие способ построения оценки для обратной функции, где для достаточно малого к заменим функцию функцией Кк(х) = (1 / И)К(х / И). Имеем:- == Г дД^

117. Подставив теперь в последнем выражении вместо Е(х) ее оценку Нал iдарая-Ватсона (х), получим оценку для Г (Я). Именно, рассмотрим для F(0) <1< 7<Х1) оценку^ / п) и)с1и ,где1. Р(х) = 0 --.

118. Мы будем рассматривать следующий интеграл1. Тп = |(^(^(х))-х)2^окак статистику теста для проверки гипотезы Н0 строгого возрастания функции эффективности.

119. Из построения оценки для обратной функции видно, что она сама является монотонной функцией, поэтому если оценка Надарая-ВатсонаЛад будет немонотонной функцией, то это отразится на статистике Тп.

120. В следующей лемме показано асимптотическое поведение статистики Тп.

121. Лемма П1.1. При условиях (К), (Н), (Ь) и при п —> оор1. Т —» ТгдеЛ40

122. Доказательство. Имеем: Отсюда следует, что

123. Фп»(0 = )/&(*) ^ + Н\к(г)кдх < |/(^(х) < ^ + //)< 1. '1. О -оо О

124. Рассмотрим разность Тп Т и преобразуем ее следующим образом:

125. Тп~Т= )\фп, (х)) х)2 - {ф(Ф(х)) - х)2 \ьс =о){Фпи (*)) + Ф(Ф(х)) 2х}{фпЬ (Гп (х)) - ф(ф{х))}сЬс.1. Отсюда,

126. Тп Т | < 4 \{фпк (Гп (х)) - ¿(Ф(х)Ж:поскольку 0 < х < 1, фпк{г)< 1 и ф(/) < 1.

127. Покажем теперь, что разность фпИ (Еп (х)) ^(ф(х)) равномерно по вероятности сходится к нулю. Действительно, так как функция К(1) равнанулю вне отрезка -1,1., то ¥п{у)-кг <и<Рп(у) + Ь7 и1. Фп Лад):= ¿г Т\\=1о -00 v ьу у1. Ъ(Х) Г Т? /.Л .Л

128. Делая замену —-= 2, получаем1. И7йисЬ.фАЕЛх))=)1(ЕМ<ЕЛх) + Иг)^(уЬад ^ кv /