Построение и исследование математической модели совместного действия нескольких веществ в зависимости доза-эффект тема диссертации и автореферата по ВАК РФ 05.13.18, кандидат наук Бородина Татьяна Сергеевна

• Бородина Татьяна Сергеевна
• кандидат наук
• 2019

Оглавление диссертации кандидат наук Бородина Татьяна Сергеевна

Введение

1. Математическая модель совместного действия

нескольких веществ в зависимости доза-эффект

1.1. Математическая модель зависимости доза-эффект

1.2. Сравнение непараметрического и параметрического подходов

1.3. Предположения и вспомогательные результаты

2. Оценка многомерного распределения и регрессии в зависимости

доза-эффект

2.1. Оценивание функции распределения в зависимости доза-эффект

2.2. Оценивание эффективных доз в зависимости доза-эффект

2.3. Непараметрическое оценивание методом оптимизации

условных квантилей

2.4. Построение регрессии с использованием оценок

эффективных доз

2.5. Проверка гипотез в модели зависимости доза-эффект

3. Численное исследование совместного действия нескольких

веществ в зависимости доза-эффект

3.1. Численные особенности моделирования зависимости

доза-эффект

3.2. Оценивание функции распределения методом

стохастической аппроксимации

3.3. Уменьшение погрешности наблюдений многомерных

данных

3.4. Численное исследование ядерных оценок

4. Алгоритмы программного комплекса и его

практическое применение

4.1. Алгоритмы программного комплекса

4.2. Практическое применение зависимости доза-эффект

Заключение

Список использованных источников

Приложения

1. Доказательства теорем

2. Примеры многомерных ядерных функций

3. Графики моделированных оценок квантилей

4. Графики моделированных оценок совместной функции эффективности

5. Данные примера ацетилхолин-атропин

6. Протокол эксперимента по построению общей функции эффективности двух веществ

7. Акт внедрения в учебный процесс

8. Свидетельство о регистрации электронного ресурса

9. Текст программы «Зависимость доза-эффект»

Введение диссертации (часть автореферата) на тему «Построение и исследование математической модели совместного действия нескольких веществ в зависимости доза-эффект»

Введение

Актуальность темы. Изучение связей между взаимодействующими объектами многокомпонентных (многомерных) систем является предметом исследования большинства научно-естественных, социально-экономических, технических дисциплин. В прикладном плане зависимость доза-эффект при совместном действии нескольких веществ как пример такой системы имеет ключевое значение при попытке определить допустимое воздействие на организм или систему каких-либо факторов, когда ответом является бинарная величина. Она представляет также теоретический интерес и имеет другие широкие применения в различных отраслях науки и техники.

Зависимость доза-эффект описывает изменение вероятности заданного эффекта воздействия некоторого патогена популяции в зависимости от «дозы», т.е. является математической зависимостью. Для ее описания требуется математическая модель. Применение математической модели необходимо, поскольку: 1) возникновение эффектов обычно не может быть измерено наблюдательными методами в необходимом диапазоне, и поэтому модели необходимы для экстраполяции от малых или больших доз или частых событий до реальных ситуаций воздействия; 2) размеры экспериментальных групп ограничены, и модели необходимы, чтобы отличить случайное изменение от истинных закономерностей, например, от биологических эффектов.

Первоначально такие зависимости описывали с помощью «сигмоидаль-ных» кривых, например, кривой Хилла, которая, по сути, есть логистическое распределение. Другой популярной моделью являлась кривая нормального распределения. Достаточно быстро выявилась несимметричность рекомендованных моделей, и популярным при описании зависимости доза-эффект становится логнормальное (параметрическое) распределение - probit analysis. Однако при этом обнаружилась неустойчивость параметрического подхода к ошибочной спецификации модели (см. п.1.2). По этой причине современная методика исследования зависимости доза-эффект связана с построением непараметриче-

ских оценок распределений, достоинством которых является робастность предлагаемых процедур. Кроме того, некоторые зависимости, например, немонотонные (называемые «парадоксальные» зависимости доза-эффект) невозможно было объяснить в рамках одномерного подхода. Далее, реальные практические ситуации имеют дело, как правило, с несколькими воздействующими дозами, а это приводит к более сложному описанию и исследованию таких моделей. Однако переход к многомерным моделям позволил выявить и некоторые закономерности, присущие им, например, особенность изоэффективных кривых, т.е. линий одного уровня математической зависимости, описываемой либо совместной функцией распределения, либо совместной функцией эффективности. В рамках многомерной модели удалось объяснить и оценить степень «парадоксальности» зависимости доза-эффект.

Отметим также, что зависимость доза-эффект - это условное название. Данный подход может быть применен как к собственно зависимости доза-эффект, так, например, в задаче биологической очистки воды [33], а также его можно использовать для оценки: 1) влияния загрязняющих факторов на экосистемы [42]; 2) дозозависимого экологически безопасного расстояния от источника загрязнения - медеплавильного комбината [65]; 3) послепожарного состояния лесов [19]; 4) экологического риска при техногенном загрязнении почвы [95] и т.д. Отдельной задачей является зависимость эффекта от времени, что также укладывается в рассматриваемую нами проблему.

Однако в литературе имеются лишь разрозненные практические исследования по оценке взаимного действия тех или иных веществ и нет систематических изысканий, как теоретических, так и практических, хотя практика нуждается в таких исследованиях.

Таким образом, область применения зависимости доза-эффект обширна, а, значит, актуальность рассматриваемой проблемы определяется как ее практической востребованностью, так и необходимостью исследования в части самой математической модели.

Методы исследования предлагаемой модели тесно связаны с многомерным регрессионным статистическим анализом, что также является актуальной задачей, которой уделяется в последнее время пристальное внимание. Сюда относится, например, построение пространственных кривых как линий одинакового уровня регрессии [107] .

Необходимо подчеркнуть роль компьютерных вычислений при исследовании зависимости доза-эффект. В многомерном анализе практическое применение предложенных подходов ввиду большого объема данных невозможно без программных средств реализации и исследования, поскольку приходится выполнять довольно трудоемкие численные расчеты.

Итак, на данный момент существует необходимость в построении адекватной математической модели зависимости доза-эффект в случае нескольких веществ и ее теоретическом подтверждении, в разработке способа оценки совместного действия нескольких веществ на основе математической модели и его компьютерной реализации в виде комплекса программ, что и определяет актуальность настоящей работы.

Соответствие диссертации паспорту научной специальности. Содержание диссертации соответствует п.5 «Комплексные исследования научных и технических проблем с применением современной технологии математического моделирования и вычислительного эксперимента», п.6 «Разработка новых математических методов и алгоритмов проверки адекватности математических моделей объектов на основе данных натурного эксперимента» и п.8 «Разработка систем компьютерного и имитационного моделирования» паспорта специальности научных работников 05.13.18 - «Математическое моделирование, численные методы и комплексы программ».

Степень разработанности проблемы. Кривая доза-эффект описывает изменение влияния некоторого патогена на биологическую систему в зависимости от его концентрации. Количественной характеристикой является вероятность заданного эффекта, а основными параметрами, которые определяются

при построении модели, являются эффективные дозы EDWOa, 0 < а < 1 (квантиль ха порядка 0 < а < 1 ), или сама кривая доза-эффект. Считается, что в абсолютном большинстве механизмы развития эффекта являются нелинейными, хотя для расчетов параметров часто используют и линейные модели. Behrens B. (1929), по сути, первым предложил метод количественной оценки зависимости доза-эффект. Его подход основан на приеме накопления частот. Дальнейшее развитие методов оценки зависимости доза-эффект связано с именами Spearman C. и Kärber G., Gaddum J., Reed L. и Muench H., Першин Г.Н., Карасик В.М., Finney D., Litchfild J., Прозоровский В.Б., Беленький М.Л., Schaeffer L., Фрум-кин Г.Т., Гуревич К.Г.. Некоторыми частными вопросами по оценке взаимного действия тех или иных веществ и исследованием соответствующих математических моделей занимались Dette H., Falk M., Hardle W., Murado M.A. and Prieto M.A., Gerber G.B, Панченкова О.А., Шитиков В.К. и др.

Суть большинства методов сводится к тому, что на каждом уровне доз подсчитывается частота эффекта, и оценивается механистическим способом параметрическая кривая «сигмоидальной» формы, по которой находится полумаксимальный эффект ED50. Однако данный подход имеет ряд существенных недостатков и, по сути, является несостоятельным при отклонении от «истинной» модели: он применим только к случаю строго монотонной зависимости (не применим к оцениванию кривой «парадоксальной» токсичности), параметрические методы не устойчивы к ошибочной спецификации модели, плохо работают в convolution-модели, в основном, они основаны на допущении гауссо-вости модели, а стремление к использованию других статистических моделей приводит к усложнению математического аппарата. Ошибочность модели может привести к существенному искажению оценок эффективных доз.

Оправданно также стремление исследователей получить при минимальных затратах на выполнение экспериментов объективные и достоверные оценки, а также желание объединить результаты испытаний одного и того же средства в разных лабораториях, что невозможно в рамках рассматриваемых ранее подхо-

дов. Таким образом, построение адекватной математической модели зависимости доза-эффект в многомерном случае позволило бы сократить натурный эксперимент и уменьшить или вовсе исключить указанные недостатки.

Предлагаемый в диссертации метод оценивания эффективных доз отличается от существующих ранее методов и основан на методологии Тихо-ва М.С. и Криштопенко С.В. (см. [55]-[57]). Построенная непараметрическая многомерная модель охватывает широкий спектр разнообразных практических ситуаций в проблеме доза-эффект и свободна от распределений. Она позволяет строить оценки как одномерных квантилей в широком диапазоне, так и многомерных квантилей; дает возможность оценивать немонотонные функции эффективности («парадоксальные» функции эффективности); учитывает случай, когда вводимые в организм дозы измеряются с некоторой ошибкой; использует единичные испытания; является основой для проверки гипотез и создания соответствующих критериев. Данный подход является конструктивным.

Отметим также, что в фармакологических исследованиях обычно интересует оценка ЕО50, тогда как в токсикологических исследованиях основной интерес представляет оценка эффективной дозы в широком диапазоне значений а. В этом контексте подход Тихова М.С. и Криштопенко С.В. на практике доказал свое превосходство над другими моделями как в случае одного агента, так и в случае нескольких веществ.

Кроме того, при отклонении от «исходной» модели предлагаемые оценки обладают свойством робастности, по эффективности и мощности превосходят параметрические, в случае, когда параметрическая модель, как правило, не соответствует действительности.

Целью диссертационной работы является разработка процедур оценивания совместного действия нескольких веществ в зависимости доза-эффект на основе вероятностной математической модели, теоретическое и численное исследование построенных для этого оценок совместной функции распределения

нескольких веществ и ее квантилей, а также доведение процедур и оценок до практической реализуемости в виде комплексов программ.

Задачи диссертации:

1. Построить многомерную математическую модель зависимости доза-эффект, предложить и теоретически исследовать оценку совместной функции распределения, ядерные оценки квантилей и изобол вероятности Л -эффекта, 0<А<1.

2. Построить и исследовать критерии согласия и однородности двух выборок по многомерным данным на основе асимптотического поведения интегрированной и суммируемой квадратичных ошибок для случая совместного действия нескольких субстанций в зависимости доза-эффект, а также построить критерии проверки этой зависимости на синергизм и антагонизм.

3. Провести численный анализ ядерных оценок квантилей, оценок совместной функции распределения двух веществ, изобол и анализ реальных данных: их практическая осуществимость, эффективность и робастность исследуется методом Монте-Карло.

4. Создать на основе разработанных алгоритмов компьютерную программу «Зависимость доза-эффект», позволяющую строить совместную функцию распределения для одного и двух веществ, а также изоболы вероятности Л -эффекта, 0 < Л, < 1.

Объект исследования. Объектом исследования являются: зависимость доза-эффект нескольких компонент, математическая модель совместного действия этих веществ, а также ядерные оценки функции распределения и квантилей, построенные на основе предложенного подхода.

Научная новизна работы.

Все основные результаты работы являются новыми, впервые опубликованы в работах диссертанта и заключаются в следующем:

1. Впервые разработана многомерная математическая модель зависимости доза-эффект для случая нескольких агентов, позволяющая анализировать структуру взаимодействия между компонентами. Эта модель отличается от рассмотренных ранее моделей тем, что она не зависит от выбранного распределения, поэтому при отклонении от него является устойчивой, т.е. она обладает свойством робастности статистической процедуры. Предложен новый класс процедур оценивания одномерных и пространственных квантилей в схеме прямых наблюдений для случайных и фиксированных планов эксперимента. Изучены свойства оценок квантилей, доказана их состоятельность и асимптотическая нормальность, что позволяет проводить проверку модели на адекватность, а также строить доверительные интервалы.

2. Впервые построены критерии согласия и однородности двух выборок по многомерным данным, сравнения двух поверхностей доза-эффект на основе асимптотического поведения интегрированной и суммированной квадратичных ошибок для случая совместного действия нескольких веществ в зависимости доза-эффект.

3. Проведен численный анализ ядерных оценок квантилей, оценок общей функции распределения граничных случайных величин, изобол и анализ реальных данных. Показана эффективность предложенного подхода. Поскольку реальные экспериментальные данные могут иметь большую погрешность измерения, для наблюдений с ошибками предложен новый метод уменьшения многомерных погрешностей; доказана состоятельность и действенность представленного метода.

4. Создана новая зарегистрированная компьютерная программа «Зависимость доза-эффект», с помощью которой можно строить совместную функцию распределения для одного и двух веществ и изоболы вероятности Я-эффекта (0</1<1) на основе метода стохастической аппроксимации. Это позволяет уменьшить время вычисления функции распределения.

Основные положения, выносимые на защиту:

1. Математическая модель совместного действия нескольких веществ в зависимости доза-эффект, а также ядерные оценки квантилей в зависимости доза-эффект (п.5 и п.6 паспорта специальности 05.13.18).

2. Критерии согласия и однородности двух выборок по многомерным данным на основе асимптотического поведения интегрированной и суммируемой квадратичных ошибок для случая совместного действия нескольких веществ в зависимости доза-эффект, критерий проверки модели на синергизм и антагонизм, а также анализ практических экспериментов на основе построенной модели (п.5 и п.6 паспорта специальности 05.13.18).

3. Сформулированные новые теоретические результаты асимптотического поведения оценок совместной функции распределения в схеме прямых наблюдений в модели со случайным и фиксированным планами эксперимента как по выборке заданного объема, так и методом стохастической аппроксимации, а также численное исследование построенных оценок. Способ уменьшения многомерных погрешностей для случайных планов эксперимента в модели непрямых наблюдений, его асимптотический анализ (п.5 и п.6 паспорта специальности 05.13.18).

4. Компьютерная программа «Зависимость доза-эффект», позволяющая строить совместную функцию распределения для одного и двух веществ, а также изоболы вероятности Я -эффекта (0<А<1) (п. 8 паспорта специальности 05.13.18).

Методология и инструменты исследования. Для доказательства теоретических результатов диссертационной работы использовались методы теории функций, математического анализа, матричного дифференциального исчисления, теории вероятностей, математической статистики, теории мартингалов, системного анализа и имитационного моделирования. Инструментом исследования являются асимптотические методы теории вероятностей и математиче-

ской статистики, теории функций, а также корректные численные методы компьютерного моделирования.

Теоретическая и практическая значимость работы. Теоретическая значимость исследования заключается в углублении математической модели совместного действия нескольких веществ в зависимости доза-эффект, в расширении класса оценок эффективных доз и исследовании их свойств, а также в получении асимптотических распределений интегрированной и суммированной квадратичных ошибок рассматриваемых статистик для построения критериев согласия и однородности двух выборок по многомерным данным для случая совместного действия нескольких веществ в зависимости доза-эффект. Предложенный подход позволяет оценивать изоболы распределения (линии Я-уровня распределения) в широком диапазоне (от 5% до 95%), а не только в окрестности медианы, реально уменьшать погрешность измерений, строить достоверные и практически приемлемые оценки эффективных доз, квалифицированно обосновать на основе разработанной и исследованной математической модели синергизм или антагонизм совместного действия нескольких веществ.

Основные результаты диссертации внедрены в учебный процесс ННГУ им. Н.И. Лобачевского в рамках дисциплины «Современные проблемы прикладной теории вероятностей».

Результаты диссертации могут быть использованы в токсикологии при разработке антидотов и изучении механизмов токсичности, в медицине для получения эффективных лекарственных средств, а также при планировании клинических испытаний новых лекарственных препаратов. Полученные оценки квантилей могут быть также использованы во многих прикладных задачах, где возникает задача построения эффективных оценок функции квантиля по неполным выборкам, например, в риск-менеджменте для оценки VaR, а также оценки условных CVaR показателей в портфельной оптимизации.

Результаты, полученные в диссертационной работе, были применены для построения совместной функции эффективности ацетилхолина и атропина и

изоболы вероятности Я = 0.5 эффекта хромодакриореи (слезотечение) у белых крыс. Данные были взяты из литературы [57], с. 189-192. По результатам испытаний токсичности синильной кислоты к Calandra granaría (амбарному долгоносику), взятых из книги Финни [123], с. 118, были построены изоболы вероятности Я = 0.5 и Я = 0.7 эффекта гибели Calandra granaría (амбарного долгоносика).

Степень достоверности и апробация результатов. Достоверность полученных результатов обеспечивается корректностью разработанных моделей, строгостью теоретических рассуждений, использованием фундаментальных методов теории вероятностей, математической статистики и матричного дифференциального исчисления, согласованностью теоретических выводов и численных результатов экспериментов, непротиворечивостью полученных результатов с ранее известными результатами.

Основные результаты диссертации докладывались на следующих конференциях и научных семинарах:

X Нижегородская сессия молодых ученых: Математические науки (Школа-семинар молодых ученых и специалистов Росатома, г. Саров, 2005 г.);

XIX международная конференция «Математика. Компьютер. Образование» (Дубна, 2012 г.);

Международная научно-практическая конференция «Актуальные задачи математического моделирования и информационных технологий» (Сочи, 2012 г.);

XIX Всероссийская школа-коллоквиум по стохастическим методам и XIII Всероссийский симпозиум по прикладной и промышленной математике (Сочи-Вардане, 2012 г.).

Научно-практическая конференция с международным участием «Статистика и ее применения» (Ташкент, 2012 г.);

12-я международная конференция «Reliability and Statistics in Transportation and Communication» (RelStat'12, Рига, Латвия, 2012 г.);

XX международная конференция «Математика. Компьютер. Образование» (Пущино, 2013 г.);

XХХI международный семинар по проблемам устойчивости стохастических моделей (Москва, 2013 г.);

XIV Всероссийский ^мпозиум по прикладной и промышленной математике (осенняя открытая сессия: Великий Новгород, 2013 г.);

IV научно-практическая конференция «Междисциплинарные исследования в области математического моделирования и информатики» (Тольятти, 2014 г.);

3-я международная конференция «Mathematical, Computational and Statistical Sciences» (Дубай, 2015 г.);

XIX Всероссийский симпозиум по прикладной и промышленной математике (осенняя сессия: Сочи, 2018 г.).

Диссертация докладывалась на научных семинарах по теории вероятностей и математической статистике кафедры теории статистических решений, кафедры прикладной теории вероятностей, кафедры программной инженерии факультета ВМК и института ИТММ ННГУ им. Н.И.Лобачевского.

Опубликованность результатов. Результаты диссертации опубликованы автором в семнадцати работах [1]-[13], [15]-[18], две из них - без соавторов (работа [16] - из списка ВАК). Источник [14] - свидетельство о регистрации компьютерной программы. Две работы: [4],[10] включены в базу данных Scopus, работы [11],[16] - в журналах из списка ВАК, одна статья напечатана в журнале «European Researcher». Двенадцать статей опубликованы в материалах международных конференций.

Личное участие автора в получении результатов, изложенных в диссертации. Все основные результаты диссертации являются новыми и получены автором лично. Общая структура диссертации, уровень понимания рассматриваемых в ней проблем, сформулированные основные результаты и выводы работы, положения, выносимые на защиту, отражают конкретный вклад автора. В

совместных работах автор принимал активное участие в постановке задач, разработке и проведении аналитических расчетов, в интерпретации, систематизации и обобщении полученных результатов, информационном обеспечении исследований, отборе материала и написании публикаций, а также представлял результаты исследований на научных конференциях и семинарах. Автор участвовал в разработке, написании и отладке компьютерной программы «Зависимость доза-эффект», а также в проверке эффективности ее работы.

Структура и объем диссертации. Диссертация состоит из введения, четырех глав, заключения, списка литературы, включающего 1 81 наименование, и приложений на 142 страницах. Общий объем работы составляет 308 страниц, объем основного текста - 150 страниц.

1. Математическая модель совместного действия нескольких веществ в зависимости доза-эффект

В настоящей главе сформулированы основные понятия зависимости доза-эффект, построена математическая модель совместного действия нескольких веществ и показаны ее преимущества по сравнению с параметрическими моделями; приводятся основные предположения и вспомогательные результаты, на базе которых строится данная модель с применением в качестве оценки функции распределения смещенной и несмещенной ядерной оценки регрессии.

1.1. Математическая модель зависимости доза-эффект

Всюду под дозой мы будем понимать некоторое количественное значение какого-либо вещества (фактора), изменяющее состояние исследуемого объекта, под эффектом - наблюдаемый качественный (альтернативный) отклик объекта на введенные дозы, который определяется по наличию или отсутствию некоторого выбранного (регистрируемого) результативного признака. В качестве эффектов могут учитываться такие альтернативные показатели, как летальный исход, судорожный синдром, саливация, слезотечение и другие.

Рассмотрим сначала математическую модель зависимости доза-эффект для одного вещества, которая впервые была предложена в работе М.С. Тихова и С.В. Криштопенко [53] и описана в монографиях [55]-[57].

Пусть в биообъект вводится доза U. Математическая модель зависимости доза-эффект основана на предположении, что существует некоторая граница X (латентная переменная), при превышении которой у тест-объекта проявляется положительный эффект. Если U > X, то эффект от введенной дозы присутствует, в противном случае, т.е. когда U<Х, эффект отсутствует. Будем считать, что минимальный уровень дозы X, с которого начинается эффект, есть случайная величина с неизвестной функцией распределения F(x) - Р(Х < х).

Подход, предложенный впервые М.С. Тиховым [82], М.С. Тиховым и С.В. Криштопенко [53], был основан на замечании, что если X и U независимые случайные величины, то E(JV II = х) = F(x), где W = I(X < U) есть индикатор события {X < U).

Пусть теперь мы наблюдаем повторную выборку 4i{n) ={(Wi,Ui\\<i <п}. Здесь Ui рассматриваются как введенные дозы, a Wt - как эффект от воздействия дозы Ui, причем Wi = 1, если (X < IL), a Wi = 0, в противном случае. Задачей исследования является оценка функции распределения F (x ) и её квантилей

по результатам наблюдений U(п). Такие наблюдения называются прямыми наблюдениями.

Пусть Х1,Х2,...,Хп - независимые и одинаково распределенные случайные величины с неизвестной функцией распределения F ( x ) и плотностью распределения f(x)> 0; UXJJ2,...JJп- независимые и одинаково распределенные случайные величины с неизвестной функцией распределения Q(x) и плотностью распределения q(x)> 0, независимые от Xt,i = \,...,n. Наблюдаем повторную выборку {{Wt,Ut\ 1 < / < п) . В этом случае мы говорим о случайных планах эксперимента. Если же вводимые дозы неслучайны (известны заранее), то есть (£/. - w.,1 < i < п), то будем говорить о фиксированном плане эксперимента.

Рассмотрим далее математические модели в схеме непрямых наблюдений.

Наблюдения будем называть непрямыми, если измерения вводимых доз производятся с ошибками, что зачастую встречается в экспериментальной практике. Ошибки могут быть обусловлены погрешностью измерений самого прибора. Иными словами, вместо величин Ul мы наблюдаем величины К = IL + £., где

si - погрешности измерений (независимые одинаково распределенные случайные величины), Yi - измеренная в i-м наблюдении доза, a Ui - введенная в организм доза. Для простоты можно считать, что si имеют нормальное распределение N(0,(7%) с известной или нет дисперсией сг02. Здесь мы наблюдаем по-

вторную выборку = {(1^,Г),1</<«}, где Щ = 1(Хг <£/). Основная задача: по выборке ^(") оценить неизвестную функцию распределения F(л) и её квантили.

Список литературы диссертационного исследования кандидат наук Бородина Татьяна Сергеевна, 2019 год

Список использованных источников

1. Журавлева, Т.С. (Бородина, Т.С.) Распределение интегрированных квадратичных ошибок несмещенных оценок функции распределения в зависимости доза-эффект / Т.С. Журавлева, М.С. Тихов // Тезисы доклада 10-й Нижегородской математической сессии молодых ученых, Саров-2005.-Н.Новгород.: изд-во Гладкова. - 2005. - С. 28-29.

2. Бородина, Т.С. Сравнение статистических критериев проверки однородности двух выборок в модели зависимости доза-эффект / М.С. Тихов, Т.С. Бородина // Сборник тезисов: XIX Международной конференции «Математика. Компьютер. Образование». - Дубна, М. - Ижевск: НИЦ «Регулярная и хаотическая динамика».- 2012. - С. 67. - URL: http://www.mce.biophys.msu.ru/archive/doc150499/rus.pdf

3. Borodina, T.S. Estimation and Computer Simulation of the Effective Doses in the Dose-Effect Dependence Over Random Experiment Plans / M.S. Tikhov, T.S. Borodina // European Researcher. - 2012. - Vol.20, №5-1. - P.472-476. - URL: http://www.erjournal.ru/journals n/1337184728.pdf

(e-library)

4. Бородина, Т. С. Математическая модель и компьютерный анализ критериев однородности зависимости «доза-эффект» / М.С. Тихов, Т.С. Бородина // Компьютерные исследования и моделирование. - 2012. - Т.4, №2. - С. 267273. - URL:

http://crm.ics.org.ru/uploads/сrmissues/crm 2012 2/12203.pdf (Math-Net.Ru, Scopus)

5. Бородина, Т.С. Асимптотическая нормальность ядерных оценок квантиль-ной функции / М.С. Тихов, Т.С. Бородина // Обозрение Прикладной и Промышленной Математики. - М.: изд-во ТВП. - 2012. - Т.19. - Вып. 5. -С. 806-807. - URL:

http://www.tvp.ru/conferen/vsppm13/petso233.pdf

6. Borodina, T.S. A nonparametric estimator for effective doses in dose-effect dependence over random experiment plans / M.S. Tikhov, T.S. Borodina // Abstract: International Seminar «Stochastic Models and Statistical Inference» Dedicated to the 100th Anniversary of Boris V. Gnedenko. - Riga. - 2012. - P. 118. - URL:

7. Borodina, T.S. A nonparametric estimator for effective doses in dose-effect dependence over random experiment plans / M.S. Tikhov, T.S. Borodina // Proceedings of the 12th «Reliability and Statistics Transportation and Communication» In-

temational Seminar (RelStat'12) 17-20 October - Riga, Latvia. - 2012. - P. 384391. - URL:

http://www.tsi.lv/sites/default/files/editor/science/Publikacii/RelStat 12/seminarg nedenko_tikhov_borodina_ok2. pdf

8. Бородина, Т.С. Оценивание параметров регрессии при анализе комбинированного действия двух и более веществ в зависимости «доза-эффект» / Т.С. Бородина, М.С. Тихов // Материалы конференции «Статистика и ее применения». - Ташкент.: изд-во НУУ. - 2012. - С. 39-45.

9. Бородина, Т.С. Статистическое оценивание совместного действия двух веществ в зависимости доза-эффект / М. С. Тихов, Т. С. Бородина // Сборник тезисов: XX Международной конференции «Математика. Компьютер. Образование». - Пущино, М. - Ижевск: НИЦ «Регулярная и хаотическая динамика». - 2013. - С. 52. - URL: http://www.mce.su/archive/doc 173298/rus.pdf

10. Borodina, T.S. Kernel Quantile Estimators in the Dose-Effect Dependence / T.S. Borodina, M.S. Tikhov // Automatic Control and Computer Sciences. - 2013. -Vol.47, №2. - P. 75-86.

(Scopus)

11. Бородина, Т.С. Асимптотическая нормальность непараметрических оценок квантилей / Т.С. Бородина, М.С. Тихов // Вестник Нижегородского университета. - Н. Новгород: изд-во Нижегородского ун-та. - 2013. - №1. -С. 196-207. - URL:

http://www.unn.ru/pages/e-library/vestnik/99999999 West 2013 1(1)/32.pdf (ВАК)

12. Borodina, T.S. Kernel quantile estimators in dose-effect relationships over indirect data / M.S. Tikhov, T.S. Borodina // Book of abstracts: XXXI International Seminar on Stability Problems for Stochastic Models. -M: IPI RAN. - 2013. - P. 9-10. - URL:

https://www.hse.ru/data/2013/09/04/1277162771/BOOK%20OF%20ABSTRACT S%20-%20ISSPSM%20(РУДН%202013).pdf

13. Бородина, Т.С. Критерии согласия на основе оценок квантильной функции / М.С. Тихов, Т.С. Бородина, М.С. Ивкин // Обозрение Прикладной и Промышленной Математики. - М.: изд-во ТВП. - 2013. - Т.20. - Вып. 4. -С. 570-571. - URL:

http: //tvp.ru/conferen/vsppm 14/novio079.pdf

14. Бородина, Т.С. Программа «Зависимость доза-эффект»: свидетельство о регистрации электронного ресурса №19667 / Т.С. Бородина, М.С. Тихов // ИНИПИ РАО ОФЭРНиО. - Дата рег. 11.11.13.

http: //ofernio. ru/portal/newspaper/ofernio/2013/11.doc

15. Бородина, Т.С. Непараметрическое оценивание квантилей в модели зависимости «доза-эффект» / М. С. Тихов, Т. С. Бородина // Материалы IV научно-практической конференции «Междисциплинарные исследования в области математического моделирования и информатики». - Тольятти, 14-15 апреля. - 2014. - С. 203-210.

(e-library)

16. Бородина, Т.С. Математическое моделирование и статистическое оценивание совместного действия двух веществ в зависимости «доза-эффект» / Т.С. Бородина // Вестник Нижегородского университета. - Н. Новгород: изд-во Нижегородского ун-та. - 2014. - № 4. - С. 394-401. - URL: http://www.unn.ru/pages/e-library/vestnik/19931778 2014 - 4-1 unicodeZ59.pdf (ВАК)

17. Borodina, T. On Reduction of Measurement Errors at Estimation of Distributions in Dose-effect Relationships / M. Tikhov, T. Borodina, M. Ivkin // The 3rd NAUN International Conference on Mathematical, Computational and Statistical Sciences (MCSS15) in Dubai. United Arab Emirates, February 22-24. - 2015. - P. 19-27. (e-library)

18. Бородина, Т.С. Оценивание совместной функции распределения в зависимости «доза-эффект» методом стохастической аппроксимации / Т.С. Бородина // Обозрение Прикладной и Промышленной Математики. - М.: изд-во ТВП. - 2018. - Т.25. - Вып. 3. - С. 232-233. - URL: http://tvp.ru/conferen/vsppmXIX/repso098.pdf

19.Абаимов, А.П. Оценка и прогноз послепожарного состояния лиственницы гмелина на мерзлотных почвах Средней Сибири / А.П. Абаимов, С.Г. Про-кушкин, В.Г. Суховольский, Т.М. Овчинникова // Лесоведение. - 2004. -№2. - С. 3-11.

20. Айвазян, С.А. Прикладная статистика: Исследование зависимостей / С.А. Айвазян, И.С. Енюков, Л.Д. Мешалкин. - М.: Финансы и статистика, 1985. -487 c.

21. Андерсон, Т. Статистический анализ временных рядов / Т. Андерсон. - М. Изд-во Мир, 1976. - 756 а

22. Ацел, Я. Функциональные уравнения с несколькими переменными / Я. Ацел, Ж. Домбр. - М.: Физматлит, 2003. - 432 с.

23. Беленький, М.Л. Элементы количественной оценки фармакологического эффекта / М.Л. Беленький. - Л.: Изд-во мед. лит., 1963. - 152 а

24. Билингсли, П. Сходимость вероятностных мер / П. Билингсли. - М.:Наука, 1977. - 352 с.

25. Большев, Л.Н. Таблицы математической статистики / Л.Н. Большев, Н.В. Смирнов. - М.: Наука, 1983. - 416 а

26. Бурбаки, Н. Алгебра: алгебраические структуры / Н. Бурбаки. - М.: ФМЛ, 1962. - 349 с.

27. Буторина, Ю.О. О больших уклонениях сглаженных статистик Колмогорова-Смирнова / Ю.О. Буторина, Я.Ю. Никитин // Вестник С.-Петербургского ун-та. - 2011. - Серия 1. - Вып. 2. - С. 14-20.

28. Вазан, М. Стохастическая аппроксимация / М. Вазан. - М.: Мир, 1972. -296 с.

29. Гантмахер, Ф.Р. Теория матриц / Ф.Р. Гантмахер. - М.: Физматлит, 2004. -560 с.

30. Гнеденко, Б.В. Курс теории вероятностей / Б.В. Гнеденко. - М.: Едиториал УРСС, 2005. - 448 а

31. Голенко Д.И. Моделирование и статистический анализ псевдослучайных чисел на электронных вычислительных машинах / Д.И. Голенко. - М.: Наука, 1965. - 227 с.

32. Государственная фармакопея СССР: общие методы анализа. // 11 изд., Вып. 1. - М.: Медицина. - 1987. - 337 а

33. Государственное санитарно-эпидемиологическое нормирование РФ: МР 2.1.4.0032-11. Интегральная оценка питьевой воды централизованных систем водоснабжения по показателям химической безвредности: методические рекомендации. - М.: ФБУЗ «Федеральный центр гигиены и эпидемиологии» Роспотребнадзора, 2011. - 37 а

34. Градштейн, И.С. Таблицы интегралов, сумм, рядов и произведений / И.С. Градштейн, И.М. Рыжик. - М.: ГИФМЛ, 1963. - 1100 с.

35. Гуревич, К.Г. Оценка параметров кривой «доза-эффект» методом сплайн-интерполяции / К.Г. Гуревич // Вестник Моск. Ун-та. - Сер.2, Химия. - 2000.

- Т.41, № 200. - С. 69-70.

36. Епанечников, В.А. Непараметрическая оценка многомерной плотности вероятностей / В.А. Епанечников // Теория вероятностей и ее применения. -1969. - Т.14. - Вып. 1. - С. 156-161.

37. Ермаков, С.М. Метод Монте-Карло в вычислительной математике / С.М. Ермаков. - СПб: СПбГУ, 2009. - 192 с.

38. Ермаков, С.М. Метод Монте-Карло и смежные вопросы / С.М. Ермаков. -М.: Наука, 1975. - 472 с.

39. Ермаков, С.М. О мультипликатовном датчике случайных чисел / С.М. Ермаков // Вестник СПбГУ. Сер.1. - 2003. - Вып. 3, №17. - С23-33.

40. Закс, Ш. Теория статистических выводов / Ш. Закс. - М.: Мир, 1975. - 776 с.

41. Закс, Л. Статистическое оценивание / Л. Закс. - М.:Статистика,1976. - 598 с.

42. Казмер, Ю.И. Применение бинарной теории к оценке типа комбинированного действия загрязнителей атмосферного воздуха на респираторное здоровье детей / Ю.И. Казмер и др // Медицинская информатика. - 2011. - №3(29).

- С. 36-44.

43. Кан, Ю.С. Задачи стохастического программирования с вероятностными критериями / Ю.С. Кан, А.И. Кибзун. - М.: Физматлит, 2009. - 375 с.

44. Кацнельсон, Б.А. К методологии оценки типа комбинированной токсичности на основе данных эколого-эпидемиологического исследования / Б.А. Кацнельсон и др. // Токсикологический вестник. - 2011. - №3. - С.2-6.

45. Кибзун, А.И. Оптимизация функции квантиля на основе ядерных оценок / А.И. Кибзун, Е.Л. Матвеев // Автоматика и телемеханика. - 2007. - №1. -С 68-80.

46. Конаков, В.Д. Об одной глобальной мере отклонения оценки линии регрессии / В.Д. Конаков // Теор. вероятн. и ее примен. - 1977. - Т.22. - Вып.4. -С. 879-891.

47. Коробов, Н.М. Теоретикочисловые методы в приближенном анализе / Н.М. Коробов. - М.: Физматгиз, 1963. - 224 с.

48. Кочеганов, В.М. Оценивание эффективных доз в зависимости доза-эффект / В.М. Кочеганов, М.С. Тихов // Обозрение Прикладной и Промышленной Математики. - М.: изд-во ТВП. - 2011. - Т.18. - Вып. 1. - С. 85-86.

49. Крамер, Г. Математические методы статистики / Г. Крамер. - М.: Наука, 1975. - 648 а

50. Кривенко, М.П. Свойства ядерной оценки многомерной плотности / М.П. Кривенко // Обозрение Прикладной и Промышленной Математики. - М.: изд-во ТВП. - 2012. - Т.19. - Вып. 2,3. - С. 1-2.

51. Криштопенко, Д.С. Асимптотические распределения суммируемых квадратичных уклонений оценок функции распределения в зависимости доза-эффект / Д.С. Криштопенко, М.С. Тихов // Обозрение Прикладной и Промышленной Математики. - М.: изд-во ТВП. - 2007. - Т.14. - Вып.4. - С. 666-668.

52. Криштопенко, Д.С. Тестирование распределений в зависимости доза-эффект: дис. к-та физ.-мат. наук: 05.13.18/ Дмитрий Сергеевич Криштопенко; Нижегородский гос. ун-т. им. Н.И.Лобачевского.- Н.Новгород, 2010. -300 а

53. Криштопенко, С.В. Оценивание эффективной дозы зависимости «доза-эффект» с использованием как прямых, так и непрямых наблюдений / С.В. Криштопенко, М.С. Тихов // 2-я Всероссийская школа-коллоквиум по стохастическим методам. - М.: изд-во ТВП. - 1995. - С.81-82.

54. Криштопенко, С.В. Статистическое оценивание зависимости доза-эффект при наличии погрешности измерений / С.В. Криштопенко, М.С. Тихов // 3-я Всероссийская школа-коллоквиум по стохастическим методам. - М.: изд-во ТВП. - 1996. - С. 93-95.

55. Криштопенко, С.В. Токсикометрия эффективных доз / С.В. Криштопенко, М.С. Тихов. - Нижний Новгород: Изд-во НГУ, 1997. - 156 а

56. Криштопенко, С.В. Парадоксальная токсичность / С.В. Криштопенко, М.С. Тихов, Е.Б. Попова. - Нижний Новгород: изд-во НГМА, 2001. - 164 а

57. Криштопенко, С.В. Доза-эффект / С.В. Криштопенко, М.С. Тихов, Е.Б. Попова. - М.: изд-во Медицина, 2008. - 288 а

58. Левин, Б.Р. Теоретические основы статистической радиотехники / Б.Р. Левин. - М.: Радио и связь, 1989. - 656 а

59. Леман, Э. Проверка статистических гипотез / Э. Леман. - М.: Наука, 1979. -408 а

60. Леман, Э. Теория точечного оценивания / Э. Леман. - М.: Наука, 1991. -448 а

61. Липцер, Р.Ш. Теория мартингалов / Р.Ш. Липцер, А.Н. Ширяев. - М.: Наука, 1986. - 512 с.

62. Лоэв, М. Теория вероятности / М. Лоэв. - М.: ИЛ, 1962. - 720 а

63.Магнус, Я. Матричное дифференциальное исчисление с приложениями к статистике и эконометрике / Я. Магнус, Х. Нейдекер. -М.: Физматлит, 2002.

- 496 с.

64. Матвеев, Е.Л. Оптимизация квантильного критерия при выпуклой целевой функции с помощью стохастического квазиградиентного алгоритма: авто-реф. дисс. на соискание уч. ст. канд. физ.-мат. наук: 05.13.01/ Евгений Леонидович Матвеев; Московский авиационный ин-т (гос. тех. ун-та). - Москва, 2010. - 19 с.

65. Михайлова, И.Н. Эпифитные лихеносинузии в условиях химического загрязнения: зависимости доза-эффект. / И.Н. Михайлова, Е.Л. Воробейчик // Экология. - 1995. - №6. - С.455-460.

66. Надарая, Э.А. Об оценке регрессии / Э.А. Надарая // Теор. вероятн. и ее примен. - 1964. - Т.9. - Вып. 1. - С. 157-159.

67. Надарая, Э.А. Оценка плотности двумерного распределения / Э.А. Надарая // Сообщ. АН ГрузССР. - 1964. - Т.36. - Вып. 2. - С. 267-268.

68. Надарая, Э.А. О некоторых критериях согласия, основанных на оценках плотности распределения типа ядра / Э.А. Надарая, Г.А. Сохадзе, П. Бабилуа // Теор. вероятн. и ее примен. - 2009. - Т. 54. - Вып. 2. - С. 359-367.

69. Надарая, Э.А. Об интегральной квадратической мере уклонения одной непараметрической оценки бернуллиевской регрессии / Э.А. Надарая, П. Бабилуа, Г.А. Сохадзе // Теор. вероятн. и ее примен. - 2012. - Т.57. - Вып. 2. -С. 322-336.

70. Натансон, И.П. Теория функций вещественной переменной / И.П. Натансон.

- М.: Наука, 1974. - 480 с.

71. Никитин, Я.Ю. Асимптотическая эффективность непараметрических критериев / Я.Ю. Никитин. - М.: Наука, 1995. - 240 с.

72. Осипов, А.Л. Непараметрический метод построения зависимости «доза-эффект» / А.Л. Осипов, С.Н. Аношкин // Автометрия. - 2006. - Т.42, №6. -С. 63-69.

73. Панченкова, О.А. Защитное действие нового антидота на основе карбоксима при отравлении фосфорорганическими соединениями: автореф. дисс. на соискание уч. ст. канд. биол. наук: 03.00.13 / Ольга Александровна Панченкова, Санкт-Пербург гос. ун-т. - СПб, 2009. - 18 с.

74. Попова, Е.Б. Планирование исследований и анализ зависимостей «доза-эффект» токсичных и лекарственных веществ: дис. д-ра мед. наук / Елена Борисовна Попова; ВМА. - Санкт-Петербург, 2010. - 254 с.

75. Прозоровский, В.Б. Статистическая обработка результатов фармакологических исследований / В.Б. Прозоровский // Психокормакол. биол. наркол. -2007. - Т.7, № 3-4. - С. 2090-2120.

76. Рао, С.Р. Линейные статистические методы и их применения / С.Р. Рао. - М: Наука, 1965. - 548 с.

77. Расин, Дж. Непараметрическая эконометрика: вводный курс / Дж. Расин // Квантиль. - 2008. - №4. - С. 7-56.

78.Сафронов, Г.А. Построение и анализ зависимости «доза-эффект» двух и более веществ / Г.А. Сафронов, С.В. Криштопенко, Е.Б. Попова // Токсикологический вестник. - 2010. - №4. - С. 30-34.

79. Сенета, Е. Правильно меняющиеся функции / Е. Сенета. - М.: Наука, 1985. - 142 с.

80. Смирнов, Н.В. Предельные законы распределения для членов вариационного ряда / Н.В. Смирнов // Труды Матем. ин-та им. В.А. Стеклова. - 1949. - Т. 25. - С. 5-59.

81. Смирнов, Н.В. Теория вероятностей и математическая статистика: избранные труды / Н.В. Смирнов. - М.: Наука, 1970. - 290 с.

82. Тихов, М.С. Построение и анализ статистических оценок для неполностью известных семейств распределений: дис. д-ра физ.-мат. наук: 01.01.05/ Михаил Семенович Тихов; С.-Петербургский гос. ун-т. - СПб, 1993. - 377 с.

83. Тихов, М.С. Алгоритмическое оценивание распределений зависимости доза-эффект с использованием как прямых, так и непрямых наблюдений / М.С. Тихов // Математические алгоритмы: тезисы 2-й Межд. конф. - Н.Новгород.: изд-во Нижегородского ун-та. - 1995. - С. 56-57.

84. Тихов, М.С. Устойчивость непараметрических оценок эффективных доз в зависимости "доза-эффект" при аддитивных искажениях данных / М.С. Тихов // Компьтерный анализ данных и моделирование: сб. научн. статей. -Минск : изд-во Белорус. ун-та. - 1998. - Т. IV. - С. 187-192.

85. Тихов, М.С. Эконометрические дискретные модели бинарного выбора / М.С. Тихов // Прикладная статистика в социально-экономических проблемах. - Н.Новгород: изд-во Нижегородского ун-та. - 2003. - Т.1. - С. 104-106.

86. Тихов, М.С. Статистическое оценивание распределений по интервально цензурированным выборкам в схеме непрямых наблюдений / М.С. Тихов, М.В. Ярощук // Нелинейный мир. - М.: изд-во РАДИОТЕХНИКА. - 2007. -Т.5, №1-2. - С. 4-8.

87.Тихов, М.С. Оценивание эффективных доз в зависимости доза-эффект по случайным планам эксперимента / М.С. Тихов // Статистические методы оценивания и проверки гипотез: межвуз. сб. научн. тр. Перм. гос. нац. иссл. ун-т. - Пермь. - 2012. - С. 84-99.

88.Тихов, М.С. Непараметрическое оценивание эффективных доз по данным бинарных откликов / М.С. Тихов // Уфимский математический журнал.-Уфа. - 2013. - Т.5, №2. - С. 94-108.

89.Фихтенгольц, Г.М. Курс дифференциального и интегрального исчисления / Г.М. Фихтенгольц. - М.-Спб, Физматлит, 2002. - Т.3. - 728 с.

90. Хардле, В. Прикладная непараметрическая регрессия. / В. Хардле. - М.: Мир, 1993. - 349 с.

91. Цыбаков, А.Б. О выборе ширины окна в ядерной непараметрической регрессии / А.Б. Цыбаков // Теория вероятностей и ее применения. - 1987. -Т.32. - Вып. 1. - С. 153-159.

92.Ченцов, Н.Н. Об оценке неизвестного среднего многомерного нормального распределения / Н.Н. Ченцов // Теория вероятн. и ее примен. - 1967. - Т.12. - Вып. 4. - С. 619-633.

93. Шадурская, В.С. По поводу определения средней смертельной дозы / В.С. Шадурская // Фармакология и токсикология. - 1953. - Т.16, №1. - С. 48-50.

94. Ширяев, А.Н. Вероятность: в 2-х книгах / А.Н. Ширяев. - М: МЦНМО, 2007. - Кн. 1. - 552 с.; Кн. 2. - 416 с.

95. Шитиков, В.К. Модели «доза-эффект» для оценки экологического риска при техногенном загрязнении почвы / В.К. Шитиков, В.А. Терехова, Б.А. Узбеков, К. А. Кыдралиева, Б.М. Худайбергенова // Принципы экологии. - 2015. -Т.4, №3. - С. 73-88.

96. Abrahamson, I.G. Exact Bahadur efficiencies for Kolmogorov-Smirnov and Kuiper one- and two-sample statistics / I.G. Abrahamson //Ann. Math. Statist. -1967. - Vol.38, №5. - P. 1475-1490.

97. Abramson, I.S. On bandwidth variation in kernel estimates - a square root law / I.S. Abramson // Annals of Statistics 10. - 1982. - P. 1217-1223.

98. Aitken, A.C. On Least Squares and Linear Combinations of Observations / A.C. Aitken // Proc. Royal Soc. - Edinburgh. - 1934. -Vol. 55. - P. 42-48.

99. Araujo Santos, P. Excess, Durations and Forecasting Value-at-Risk. / P. Araujo Santos . - Universidade de Lisboa, 2011. - 164 p.

100. Bahadur, R.R. A note on quantiles in large samples // Ann. Math. Statist. -1966. - Vol. 37. - P. 577-580.

101. Baten, W.D. Probit analysis applied to Salmonella pullorium survivai data / W.D. Baten, H. J. Stafseth // J. Bactheoriology. - 1956. - 71(2). - P.214-216.

102. Bellman, R. Introduction to Matrix Analysis / R. Bellman. - Siam, Philadelphia, 1997. - 403 p.

103. Birke, M. Testing Strict Monotonicity in Nonparametric Regression / M. Birke and H. Dette // Mathematical Methods of Statistics. - 2007. - Vol.16, №2. - P. 110-123.

104. Birke, M. Central limit theorems for the integrated squared error of derivative estimators / M. Birke // Statistics & Probability Letters. - 2008. - Vol.78. - P. 1903-1913.

105. Brown, B.M. Martingal central limit theorems. / B.M. Brown // Ann. Math. Statist. - 1971. - Vol.42. - P. 59-66.

106. Brown, C.C. The statistical analysis of dose-effect relationships / C.C. Brown. -In: Principles of Ecotoxilogy, John Wiley & Sons, 1978. - 350 p.

107. Chaouch, M. Estimation de quantiles géométriques conditionnels et non conditionnels / M. Chaouch, A. Gannoun, J. Saracco // Journal de la Société Française de Statistique. - 2009. - Vol.150, №2. - P. 1-27.

108. Cheng, Y. On the u-th geometric conditional quantile / Y. Cheng, de Gooijer J. // Journal of Statistical Planning and Inference. - 2007. - Vol.137(6). - P. 1914-1930.

109. Cover, T.M. Elements of Information Theory: 2nd Edit. / T.M. Cover, J.A. Thomas . - Wiley, 2006. - 776 p.

110. Cramer, H. Mathematical Method of Statistics / H. Cramer. - Asia Publishing House. - Bombey, 1962. - 575 p.

111. Csörgö, M. On the distance between smoothed empirical and quantile process / M. Csörgö, L. Horvath // Ann. Statist. - 1995. - Vol. 25. - P. 113-131.

112. Debanne, S.M. Evaluation of statistical methodologies for estimation of median effective dose / S.M. Debanne, H.S. Haller // Toxicol., Appl. Pharmacol. -1985. - Vol.79, №2. - P. 274 - 282.

113. Dette, H. A note on nonparametric estimation of the effective dose in quantal bioassay / H. Dette, N. Neumeyer, K. F. Pilz // Journal of the American Statistical Association. - 2005. - Vol.100. - P. 503-510.

114. Dette, H. A simple nonparametric estimator of a monotone regression function / H. Dette, N. Neumeyer, K. F. Pilz // Bernoulli 12. - 2006. - P. 469-490.

115. Devroye, L.P. A uniform Bound for the Deviation of Empirical Distribution Functions / L.P. Devroye // Journal of Multivariate Analysis. - 1977. - Vol.7. -P. 594-597.

116. Di Bernardino, E. Estimating level sets of a distribution function using a plugin method: multidimentional extension / E. Di Bernardino, T. Laloë // ESIAM: Probability and Statistics. - 2012. - P. 1-9.

117. Dwyer, P.S. Symbolic Matrix Derivatives / P.S. Dwyer, M.S. MacPhail // Ann. Math. Statist. - 1948. - Vol.19, №4. - P. 517-534.

118. Dwyer, P.S. Generalizations of a Gaussian Theorem / P.S. Dwyer // Ann. Math. Statist. - 1958. - Vol.29, №1. - P. 106-117.

119. Einmahl, U. Uniform in bandwidth consistency of kernel-type function estimators / U. Einmahl, D.M. Mason // Ann. Statist. - 2005. - Vol.33, №3. - P. 13801403.

120. Falk, M. Asymptotic normality of the kernel quantile estimator // Ann. Statist. - 1985. -Vol.13. - P. 428-433.

121. Fan, J. Asymptotic normality for deconvolution kernel density estimators / J. Fan // Sankhya: The Indian Journal of Statistics. - 1991. - Vol.53. - Series A, Pt.1. - P. 97-110.

122. Finney, D.J. Statistical Methods in Biological Assay. / D.J. Finney . - Charles Griffin & Co, 1978. - 508 p.

rc\

123. Finney, D.J. Probit analysis, 3 / D.J. Finney. - Cambridge University Press, 1979. - 272 p.

124. Finney, D.J. The median lethal dose and its estimation / D.J. Finney // Arch. Toxicol. - 1985. - Vol.54, №4. - P. 215 - 218.

125. Galambos, J. Regularly varying sequences / J. Galambos, E. Seneta // Proc. Amer. Math. - 1973. - Vol.41, №1. - P. 110-116.

126. Geenens, G. Probit transformation for kernel density estimation on the unit interval / G. Geenens // Journal Amer. Stat. Assoc. - 2013. - Vol.109, №505. - P. 346-358.

127. Gerber, G.B. Interactions: dose effect relationships and isoeffect curves / G.B. Gerber // Radiation and Environmental Biophysics, 1982, №4. - P. 235-243

128. Ghorai, J.K. Estimation of a smooth quantile function under the proportional hazards model / J.K. Ghorai // Ann. Inst. Statist. Math. - 1991. - Vol.43, №4. -P. 747-760.

129. Ghorai, J.K. A central limit theorem for the weighted integrated square error of the kernel type density estimator under the proportional hazard model / J.K. Ghorai, L.M. Pattanaik // Journal of Nonparametric Statistics. - 2003. - Vol.15, № 4&5. - P. 485-504.

130. Greene, W.H. Econometric Analysis. / W.H. Greene. - Prentice Hall, 7th ed.: NJ, 2011. - 1231 p.

131. Gyorh, L. Distribution-Free Theory of Nonparametric Regression. / L.Gyorh, M.Kohler, A.Krzyzak, H.Walk. - Springer: NY, 2002. - 647 p.

132. Hall, P. Central limit theorem for integrated square error properties of multivariate nonparametric density estimators / P. Hall // J. Multivariate Anal. - Vol.14, №1. - 1984. - P. 1-16.

133. Hall, P. Integrated square error properties of kernel estimators of regression functions / P. Hall // Ann. Statist. - 1984. - Vol.12, №1. - P. 241-260.

134. Hall, P. Estimation of distribution, moments and quantiles in deconvolution problems / P. Hall, S.N. Lahiri // Ann. Statist. - 2008. - Vol.36, №5. - P. 21102134.

135. Halmos, P. Finite Dimentional Vector Spaces: University Series in Undergraduate Mathematics / P. Halmos, J. Kelley. - Springer, Literary Licensing LLC: NY, 2013. - 98 p.

136. Hamilton, M. Trimmed Spearman-Karber method for estimating median lethal concentrations in toxicity bioassays / M. Hamilton, R. Russo, R. Thurston // Environ. Sci. Technol. - 1977. - Vol.11, №7. - P. 714-719.

137. Hardle, W. How Far Are Automatically Chosen Regression Smoothing Parameters From Their Optimum? / W. Hardle, P. Hall, J. S. Marron // Journal of the Amer. Statist. Assoc. - 1988. - Vol.83, №401. - P. 86-93.

138. Hardle, W. Applied Nonparametric Regression. / W.Hardle. - Humbolt-Universitat: Berlin, 1994. - 409 p.

139. Hardle, W. Nonparametric and Semiparametric Models. /W. Hardle, M. Muller, S. Sperlich, A. Werwatz . - Springer: NY, 2004. - 87 p.

140. Hengartner, N.W. Asymptotic unbiased density estimators / N.W. Hengartner, E. Matzner-Lober // ESAIM. - 2009. - Vol.13. - P. 1-14.

141. Hlawka, E. Losung von Integralgleichungen mittls zahlentheoretisher Methoden I. / E. Hlawka // Siztzungsber., Abt. II. Oster. Akad. Wiss., Math. - Naturwiss. Kl. - 1962. - Vol.171, №1. - P. 103-123.

142. Holton, G.A. Value-at-Risk. / G.A. Holton. - Theory and Pratice. Academic Press, 2003. - 408 p.

143. James, W. Estimation with quadratic loss / W. James, C. Stein // Proc. Fourth Berkeley Symp. Math. Statist. - 1961. - Prob.1. - P. 361-379.

144. Kiefer, J. On the deviations of the empiric distribution function of vector chance variables / J. Kiefer, J. Wolfowitz // Trans. Amer. Math. Soc. - 1958. -Vol.87. - P. 173-186.

145. Kiefer, J. On Bahadur's representation of sample quantiles // Ann. Math. Statist. - 1967. - Vol.38. - P. 1323-1342.

146. Kiefer, J. Deviations between the sample quantile process and the sample D.F. // In : Nonparametric Techniques in Statistical Inference (M.L.Puri, ed.). London: Cambridge Univ. Press. -1970. - P. 299-319.

147. Klein, R.W. An efficient semiparamertric estimator for binary response models / R.W. Klein, R.H. Spady // Econometrica. - 1993. - Vol.61, №2. - P. 387-421.

148. Krishtopenko, S. Dose-effect. / S. Krishtopenko, M. Tikhov, E. Popova. -Seattle: Amason Media EU S.a.r., Kindle Edition, 2013. - 324 p.

149. Laloe, T. Nonparametric estimation of regression level sets / T. Laloe, R. Ser-vien // Journal Korean Stat. Soc. - 2013. - Vol.3. - P. 301-311.

150. Lehmann, E.L. Theory of Point Estimation / E.L. Lehmann. - NY: J. Wiley, 1983. - 589 p.

151. Lehmann, E.L. Testing Statistical Hypotheses / E.L. Lehmann, J.P. Romano. -NY.: Springer, 2005. - 792 p.

152. Leung, D. H-Y. Cross-validation in nonparametric regression with outliers / Denis Heng-Yan Leung // Ann. Math. Statist. - 2005. - Vol.33, №5. - P. 22912310.

153. Lio, Y.L. Some convergence results for kernel-type quantile estimators under censoring / Y.L. Lio, W.J. Padgett // Statistics & Probab. Letters. - 1987. - Vol. 5. - P. 5-14.

154. Litchfield, J.T. A simplified method of evaluating dose-effect experiments / J.T. Litchfield, F.W. Wilcoxon // J. Pharmacol. Exper. Ther. - 1949. - Vol.96. -P. 99-113.

155. Liu, R. Kernel estimation of multivariate distribution function / R. Liu, L. Yang // Journal of Nonparametric Statistics. - 2008. - Vol.20. - P. 661-667.

156. Murado, M.A. Dose-Response Analysis in the Joint Action of Two Effectors. A New Approach to Simulation, Identification and Modelling of Some Basic Interactions / M.A. Murado, M.A. Prieto // PLoS ONE. - 2013. - P. 1-42.

157. Niederreiter, H. Random Number Generation and Quasi-Monte Carlo-Method / H. Niederreiter. - Pensylvania: SIAM Philadelphia, 1992. - 241 p.

158. Parzen, E. On estimation a probability density function and mode / E. Parzen // Ann. Math. Statist. - 1962. - Vol.33, №3. - P. 1065-1076.

159. Plachky, D. On a theorem of G.L. Sievers / D. Plachky // Ann. Math. Statist. -1971. - Vol.42, №4. - P. 1442-1443.

160. Plachky, D. Theorem about Probabilities of Large Deviations with an Application to Queueing Theory / D. Plachky, J. Steinebach // Period. Mathem. Hungar. -1975. - Vol.6, №4. - P. 343-345.

161. Rao, R.C. Linear Models: Least Squares and Alternatives, Second Edition / R.C. Rao, H. Toutenburg. - New York: Springer, 1999. - 427 p.

162. Reiss, R.-D. Nonparametric Estimation of Smooth Distribution Functions / R.-D. Reiss // Scand. J. Statist. - 1981. - Vol.8. - P. 116-119.

163. Rice, J. Bandwidth choice for nonparametric regression. / Rice J. // Annals of Statistics. - 1984. - Vol.12, №4. - P. 1215-1230.

164. Robbins, H. Stochastic Approximation Method / H. Robbins, S. Monro // Ann. Math. Statist. - 1951. -Vol. 22, №3. - P. 400-407.

165. Rozenblatt, V. Remarks on some nonparametric estimates of a density function / V. Rozenblatt // Ann. Math. Statist. - 1956. - Vol.27, №3. - P. 832-837.

166. Ruppert, D. Multivariate locally weighted leastsquares regression / D. Ruppert, M.P. Wand // The Annals of Statistics. - 1994. - Vol.22, №3. - P. 1346-1370.

167. Schucany, W.R. On nonparametric regression with higher-order kernels / W.R. Schucany // Journal of Statistical Planning and Inference. - 1989. - №23. - P. 145-151.

168. Seneta, E. Variants Karamata's Iteration Theorem / E. Seneta // Publ. Inst. Math. - 2006. - Vol. 80(94). - P. 241-251.

169. Shikimi, T. Large deviations for kernel-type empirical distributions / T. Shiki-mi // Statistics & Probability Letters. - 2002. - Vol.59. - P. 23-28.

170. Shirahata, S. Integrated squared error of kernel-type estimator of didtribution function / S. Shirahata, I.S. Chu // Ann. Inst. Statist. Math. - 1992. - Vol.44. - P. 579-591.

171. Sun, S. Central limit theorem of the perturbed sample quantile for a sequence of ^-dependent nonstationary random process / S. Sun // Теор. вероятн. и ее примен. - 1995. - Т.40. - Вып. 1. - С. 143-158.

172. Tikhov, M.S. Statistical Estimation on the Basis of Interval-Censored Data / M.S. Tikhov // J. Math. Sciences. - 2004. - Vol.119, №3. - P. 321-335.

173. Tikhov, M.S. Asymptotic Unbiased Distribution Function Estimators on the Basis of Interval-Censored Data / M.S. Tikhov, I.S. Efimenko // Applied Statistics: Progr. and Abstr. - Lubljana, Slovenia. - 2004. - P. 48-52. - URL: http://www.ablejec.nib.si/as2004/AS2004-abstracts.pdf, свободный. - Загл. с экрана

174. Tikhov, M.S. Asymptotically unbiased estimates of a distribution function in dose-effect relationships / M.S. Tikhov, I.S. Dolgih // J. Math. Sciences. - 2015. - Vol.205, №1. - P.113-120.

175. Watson, G.S. Smooth regression analysis / G.S. Watson // Sankhya. - 1964. -Vol.26. - P. 359-372.

176. Weil, A. On some exponential sums / A. Weil // Proc. Nat. Acad Sci. USA. -1948. - Vol.34. - P. 204-207.

177. Weyl, H. Über die Gleichverteilung von Zahlen mod / H. Weyl // Eins, Math. Ann. - 1916. - Bd.77, №3. - P. 313-352.

178. Williams, D.A. Interval Estimation of the Median Lethal Dose / D.A. Williams // Biometrics. - 1986. - Vol.42, №3. - P. 641-645.

179. Yang, S.-S. Linear functions of concomitants of order statistics with application to nonparametric estimation of a regression function / S.-S. Yang // J. American Statist. Assoc. - 1981. - Vol.76, №375. - P. 658-662.

180. Yang, S.-S. A Smooth Nonparametric Estimator of a Quantile Function / S.-S. Yang // J. American Statist. Assoc. - 1985. - Vol.80, №392. - P. 1004-1011.

181. Yang, S.-S. A central limit theorem for the integrated square error of the kernel density estimators with randomly censored data / S.-S. Yang // Journal of Statistical Planning and Inference. - 1993. - Vol.37, №2. - P. 127-143.

Приложение 1. Доказательства теорем

Доказательство леммы 1.3.3. Пусть 0 < щ <... < щ < 1 есть произвольное упорядоченное разбиение отрезка [0,1]. Тогда

г 1 г

XI ч (и;) - ч (и;-1)1= ~т Е

;=1 па ; =1

К.

р(щ) -X

п

К

р (uJ -1) -X п,

1

п

+-

п

гх г 2 г

Е + Е + Е

V j=1 j=11+2 ^+2 у

К,

р (щ ) -X /ь

- К

К

р Щ+1) -Х

п

- К

р (иг) -Х

п

+

п

К

К

а

р (иг2+1) -Х

п,

+

- К

р (иг) -х 2

где ^ и 12 таковы, что р (щ ) < X - пл, р (щ^ > X - пл, р (иг2 ) <Х + па, р (и12+1) >X + па.

Поскольку К а (х) = 0 для | х | > 1, то сумма + Ег;=г +2 будет равна нулю, а

К.

Щ+1) -X Л

п,

р (иг +1) -X Р (иг +1) -X = Ка(-1) + К'а(<т)-Ц^--> 0, где -1 ' ^

п и^да

па

поскольку

р (Щ+1) -X

п

<М, где |/(х)|<М, и п,

К,

р (щг1+1) -X'

п

М

< —, где ип

М = М • М2, IК (и) | < М2.

г

Аналогично, К,

р Щ) -X пь

^ 0.

В оставшейся сумме все точки принадлежат отрезку [-1,1] и поэтому

- Е

па ;=г 1+2

К,

р(и ) -X

п

- К.

1 г2 — ЕЕ

п ^

па ;=11+2

к: &)

а у V

Л

р (Щ;-1) - X nJ

р(и ; ) - р(и;-1)

п

у

М ч ^ 22 Г , „

< —(р(щ2)-р(М1+2))< —, где ^ е [-1,1]. па па

2М

Таким образом, VI (д) <-, откуда следует результат леммы.

к

Доказательство теоремы 1.3.5. Имеем неравенство

ф (х) <(х) (х)((и}) -<(х)<з(и} )

ф(и)) ((и)) (и} )( (и] )

(р(и]) (ф (х) - <( X)) + <( X) (< (ы]) - ф (и))

Ф(и ] ((и ])

<

<

1

Ф(иу )

Из [140] следует, что А пЛ = Бир| ф (х) -<( х )| = О

I ф( х) (х)|

<( х)

Ф(иу >0/ )

\<Р(Ч ) (и )

(1п п)

п I И

I--р I--р

и, значит, Ап | И I ■ А1 ^ 0, -ип | И I' А 2 ^ 0, если а <

, Ап,2 = ^ир | Ф(иу ) -((иу )

а

1< ] <п

О

(1п п)а

п I И

а + 4

В связи с этим мы будем изучать асимптотическое поведение сумм

^(х) =1 I И11-1 К(И-\иу - х))Щ. п } =1 (()

Рассмотрим сначала математическое ожидание £3и (х).

Имеем:

Е(^(х)) =1 ¿Д(и,)(и, - х)= |Д(и)(и, - х)*!с!и ■ (1 + о(1)) =

п^1

= | к (г) д (х + и^ )_ (х) а ■ (1 + о(1)).

<( х + И *)

Разложим 1/ <( х + И *) и <( х) в ряд по И * и умножая затем полученное выражение на F (х + И *), получим

х + н *)

* ТИТ (жР (х))и * *1 ИТ х)(н^ (х + и г ))И0 г

ЛттТ

<( * ) —

<(х + И*)

*) +

2 ■ Д (х + И*)

+ о

(| ИоГ).

х

(ж„ (х + И,г)) ^ ч

Разлагая затем отношение —р-1— в ряд по И, г и умножая на р (х),

р (х + и г)

получим

р(= (Жр(х)) + ^^2 ® И,)т

Значит, учитывая условия теоремы, выводим, что

Ж

уес-

V V

(жр

р( х)

И г + о(| ИI2).

уу

Е( ^ (х)) = р (х) + 0(п

-2/( а+4)-2а

)

и ^п| И I • (Е((х)) - р(х)) ^ 0 при п ^да, если а >

а -1

4(а + 4)

Далее,

Уаг^(х)) =ЕТр(И;)(1 - р(и;))К2(И-1(х - и;))^2(х)

п | и |2

Ф (и ; )

п I И

Iр(и)(1 - р(и))К2(И-1(х - и)) X аи • (1 + о(1)) = И 1 ф (и)

Iр(х + и 1 г)(1 - р(х + и 1 г))К2(г) ф2(х1л а г • (1 + о(1)) =

n|H 1

Ф2( х + И)

п I И

■р(х)(1 - р(х)) II КII2 • (1 + о(1)),

поскольку 1 / ф2( х + И г) ^ 1 / Ф( х) равномерно по II г II < ^

Ввиду ограниченности функций р (х) и К (х) будет выполнено условие Лин-деберга (см. [62], ^304-305) и, значит, имеет место результат теоремы 1.3.5.

1

1

Доказательство теоремы 1.3.6. Рассмотрим суммы

^3п (х) = 1 Е^; I И I-1 К (И--1(^; - х)) ^ ; ; у/ (и ; )

п

;=1

Имеем неравенство

у (х) у( х) у/ (х)у(и) - у( х)у/ (и)

у (и) У(и) у (и)у(и)

у (и) (У (x) - y(x)) + у( x) (у(и) -у(и)) у(и) у(и)

<

< I y( x) - y( x) I + y( X\ x I и (и) - у (и) |. у(и) у/(и) y (и)

Из [140] следует, что А = sup| У (x) - у( x) | = O

x

d

[(ln n)d

n | HA

и,

значит, ^п | Н I ■ А ^ 0, если а <

d + 4

В связи с этим мы будем изучать асимптотическое поведение сумм уъп(х) =1I Н11-1 К(Н-^ - х))

n

У=1

У(и,)

Рассмотрим сначала математическое ожидание У3п(х) . Имеем: ЕV(х)) = |Г(и)Кн (и - х)|(Х)?(")^ =

= [К(/)Г(х + Н*) я(X + Н*) _ х)— Ж.

х + Н *)

Разложим 1/^(х + Н*) и х) в ряд по Н0* и умножая затем полученное выражение на Г (х + Н11 )д (х + Н11), получим

х)р(х + Н1 г(х + Н1 г) = р(х (х) + <Ж(х))Н0<

y(x + H t)

2

11H^ F (x)q (x)( HFq (x + Hit ))H,t 2,

2 • F (x + H t )q (x + H t)

Разлагая затем отношение

F (x )q(x), получим

MFq (x + Hit)

Hq (x + Hit)

F (x + H t )q (x + H t)

в ряд по Ht и умножая на

F ( x )q ( x )

F (x + H t )q (x + H t)

= (x) +

F (x )q(x) 2

(I ® Hit)T