Оценщик Тейла – Сена - Theil–Sen estimator
В непараметрических статистических данных , то оценка Тейлей-Сен представляет собой способ робастно аппроксимации линии с точками выборки в плоскости ( простая линейная регрессия ), выбирая медиану из трасс всех линий через пару точек. Он также называется крутизна оценщиком Сена , выбор склона , то единственный медианный метод , то линейный метод подходит Kendall прочного и надежная линия Kendall-Тейл . Он назван в честь Анри Тейла и Пранаба К. Сена , опубликовавших статьи по этому методу в 1950 и 1968 годах соответственно, и в честь Мориса Кендалла из-за его связи с коэффициентом ранговой корреляции Кендалла тау .
Эта оценка может быть вычислена эффективно и нечувствительна к выбросам . Он может быть значительно более точным, чем ненадежная простая линейная регрессия (наименьшие квадраты) для искаженных и гетероскедастичных данных, и хорошо конкурирует с методом наименьших квадратов даже для нормально распределенных данных с точки зрения статистической мощности . Его назвали «самым популярным непараметрическим методом оценки линейного тренда».
Определение
Как определено Тейлом (1950) , оценка Тейла – Сена для набора двумерных точек ( x i , y i ) - это медиана m наклонов ( y j - y i ) / ( x j - x i ) определяется по всем парам точек выборки. Сен (1968) расширил это определение на случай, когда две точки данных имеют одинаковую координату x . В определении Сена берется медиана уклонов, определенных только для пар точек, имеющих различные координаты x .
Как только наклон m был определен, можно определить линию из точек выборки, установив y- интервал b как медиану значений y i - mx i . Тогда аппроксимирующей линией будет линия y = mx + b с коэффициентами m и b в форме наклон-пересечение . Как заметил Сен, этот выбор наклона приводит к тому, что коэффициент ранговой корреляции тау Кендалла становится приблизительно нулевым, когда он используется для сравнения значений x i с соответствующими остатками y i - mx i - b . Интуитивно это предполагает, что расстояние, на которое линия соответствия проходит выше или ниже точки данных, не коррелирует с тем, находится эта точка слева или справа от набора данных. Выбор b не влияет на коэффициент Кендалла, но приводит к тому, что медианная невязка становится приблизительно равной нулю; то есть линия соответствия проходит выше и ниже равного количества точек.
Доверительный интервал для оценки наклона может быть определен как интервал , содержащего средний 95% склонов линий , определяемых парами точек и может быть быстро оценен путем отбора проб пары точек и определения 95% интервала выборки трасс. Согласно моделированию, приблизительно 600 пар образцов достаточно для определения точного доверительного интервала.
Вариации
Разновидность оценки Тейль-Sen, то повторяется медианные регрессии из Siegel (1982) , определяет для каждой точки образца ( х я , у я ) , медиана м я склоны ( у J - у я ) / ( х J - x i ) линий, проходящих через эту точку, а затем определяет общую оценку как медиану этих медиан. Он может допускать большее количество выбросов, чем оценка Тейла – Сена, но известные алгоритмы для его эффективного вычисления более сложны и менее практичны.
Другой вариант объединяет точки выборки по рангу их координат x : точка с наименьшей координатой соединяется с первой точкой над медианной координатой, вторая наименьшая точка соединяется со следующей точкой выше медианы, и поэтому на. Затем он вычисляет медиану наклонов линий, определенных этими парами точек, набирая скорость, исследуя значительно меньшее количество пар, чем оценка Тейла – Сена.
Варианты оценки Тейла – Сена, основанные на взвешенных медианах , также были изучены на основе принципа, согласно которому пары выборок, координаты x которых отличаются более сильно, с большей вероятностью будут иметь точный наклон и, следовательно, должны получить более высокий вес.
Для сезонных данных может быть целесообразно сгладить сезонные колебания данных, рассматривая только пары точек выборки, которые принадлежат одному и тому же месяцу или одному сезону года, и находя медианное значение наклонов линий, определяемых это более ограниченный набор пар.
Статистические свойства
Оценка Тейла – Сена - это несмещенная оценка истинного наклона в простой линейной регрессии . Для многих распределений ошибки ответа эта оценка имеет высокую асимптотическую эффективность по сравнению с оценкой методом наименьших квадратов . Оценщикам с низкой эффективностью требуется больше независимых наблюдений, чтобы получить такую же выборочную дисперсию эффективных несмещенных оценщиков.
Оценка Тейла – Сена более надежна, чем оценка методом наименьших квадратов, поскольку она гораздо менее чувствительна к выбросам . Он имеет точку пробоя по
Это означает, что он может допускать произвольное искажение до 29,3% точек входных данных без ухудшения его точности. Однако точка срыва уменьшается для многомерных обобщений метода. Более высокая точка разбивки, 50%, имеет место для другого надежного алгоритма подбора линий, повторной медианной оценки Зигеля.
Оценщик Тейла – Сена эквивариантен при каждом линейном преобразовании его переменной отклика, что означает, что сначала преобразование данных, а затем подгонка к линии или сперва подгонка к линии, а затем ее преобразование таким же образом, дают один и тот же результат. Однако он не эквивариантен при аффинных преобразованиях переменных предиктора и отклика.
Алгоритмы и реализация
Медианный наклон набора из n точек выборки может быть точно вычислен путем вычисления всех O ( n 2 ) линий через пары точек и последующего применения алгоритма поиска медианы с линейным временем . Альтернативно, это может быть оценено путем выборки пар точек. При проективной двойственности эта проблема эквивалентна проблеме поиска точки пересечения в расположении прямых , у которых есть медианная координата x среди всех таких точек пересечения.
Проблема выполнения выбора уклона точно, но более эффективно, чем алгоритм квадратичного времени методом грубой силы, широко изучалась в вычислительной геометрии . Известно несколько различных методов вычисления оценки Тейла – Сена точно за время O ( n log n ) либо детерминированно, либо с использованием рандомизированных алгоритмов . Повторная медианная оценка Зигеля также может быть построена с той же временной границей. В моделях вычислений, в которых входные координаты являются целыми числами и в которых побитовые операции с целыми числами занимают постоянное время, оценка Тейла – Сена может быть построена еще быстрее за рандомизированное ожидаемое время .
Оценщик наклона с приблизительно средним рангом, имеющий ту же точку разбивки, что и оценщик Тейла – Сена, может поддерживаться в модели потока данных (в которой точки выборки обрабатываются одна за другой с помощью алгоритма, который не имеет достаточно постоянного хранилище для представления всего набора данных) с использованием алгоритма, основанного на ε-сетях .
В статистическом пакете R как оценка Тейла – Сена, так и повторная медианная оценка Зигеля доступны через mblmбиблиотеку. Бесплатное автономное приложение Visual Basic для оценки Тейла – Сена KTRLineбыло предоставлено Геологической службой США . Оценщик Тейла – Сена также был реализован в Python как часть библиотек SciPy и scikit-learn .
Приложения
Оценка Тейла – Сена применялась в астрономии из-за ее способности работать с цензурированными моделями регрессии . В биофизиках , Fernandes & Леблано (2005) предполагает его использование для применения дистанционного зондирования , такие , как оценка листовой поверхности по данным отражательных благодаря своей «простоте вычислений, аналитическим оценки доверительных интервалов, устойчивость к выбросам, проверяемых предположений относительно остатков и. .. ограниченная априорная информация об ошибках измерения ». Для измерения сезонных данных об окружающей среде, таких как качество воды , вариант оценки Тейла – Сена с поправкой на сезонность был предложен как предпочтительный по сравнению с оценкой методом наименьших квадратов из-за его высокой точности при наличии искаженных данных. В информатике метод Тейла – Сена используется для оценки тенденций старения программного обеспечения . В метеорологии и климатологии он используется для оценки долгосрочных тенденций возникновения и скорости ветра.
Смотрите также
- Разбавление регрессии для другой проблемы, влияющей на предполагаемые наклоны тренда
Заметки
Рекомендации
- Акритас, Майкл Дж .; Мерфи, Сьюзен А .; Lavalley, Майкл П. (1995), "О Тейла-Sen оценщик с двойной цензурой данных и приложениями к астрономии", журнал Американской ассоциации по статистике , 90 (429): 170-177, DOI : 10,1080 / 01621459.1995.10476499 , JSTOR 2291140 , Руководство 1325124.
- Багчи, Амитабха; Чаудхари, Амитабх; Эпштейн, Дэвид ; Гудрич, Майкл Т. (2007), «Детерминированная выборка и подсчет диапазонов в потоках геометрических данных», ACM Transactions on Algorithms , 3 (2): Art. № 16, Arxiv : CS / 0307027 , DOI : 10,1145 / 1240233,1240239 , МР 2335299 , S2CID 123315817.
- Биркес, Дэвид; Додж, Ядола (1993), «6.3 Оценка линии регрессии», Альтернативные методы регрессии , ряды Уайли в вероятности и статистике, 282 , Wiley-Interscience, стр. 113–118, ISBN 978-0-471-56881-0.
- Бланк, Хенрик; Варенхольд, Ян (2006), «Рандомизированный выбор наклона на месте», Международный симпозиум по алгоритмам и сложности , конспект лекций по информатике, 3998 , Берлин: Springer-Verlag, стр. 30–41, doi : 10.1007 / 11758471_6 , ISBN 978-3-540-34375-2, Руководство по ремонту 2263136.
- Брённиманн, Эрве; Chazelle, Bernard (1998), «Выбор оптимального откоса с помощью выемок», Computational Geometry Theory and Applications , 10 (1): 23–29, DOI : 10.1016 / S0925-7721 (97) 00025-4 , MR 1614381.
- Чан, Тимоти М .; Патрашку, Михай (2010), «Подсчет инверсий, автономный подсчет ортогональных диапазонов и связанные проблемы», Труды Двадцать первого ежегодного симпозиума ACM-SIAM по дискретным алгоритмам (SODA '10) (PDF) , стр. 161–173.
- Коул, Ричард; Salowe, Jeffrey S .; Steiger, WL; Семереди, Эндре (1989), "Оптимальное время алгоритм для выбора наклона", SIAM журнал по вычислениям , 18 (4): 792-810, DOI : 10,1137 / 0218055 , МР 1004799.
- Де Мут, Э. Джеймс (2006), Основная статистика и приложения для фармацевтической статистики , Биостатистика, 16 (2-е изд.), CRC Press, стр. 577, ISBN 978-0-8493-3799-4.
- Дилленкур, Майкл Б.; Mount, Дэвид М .; Нетаньяху, Натан С. (1992), "Рандомизированное алгоритм для выбора наклона", Международный журнал вычислительной геометрии и приложений , 2 (1): 1-27, DOI : 10,1142 / S0218195992000020 , MR 1159839.
- Дайтэм, Кальвин (2011), Выбор и использование статистики: Руководство биолога (3-е изд.), Джон Уайли и сыновья, стр. 230, ISBN 978-1-4051-9839-4.
- Эль-Шаарави, Абдель Х .; Пигорш, Уолтер В. (2001), Энциклопедия окружающей среды, том 1 , John Wiley and Sons, стр. 19, ISBN 978-0-471-89997-6.
- Фернандес, Ричард; Леблан, Сильвен Г. (2005), «Параметрические (модифицированные методом наименьших квадратов) и непараметрические (Тейла – Сена) линейные регрессии для прогнозирования биофизических параметров при наличии ошибок измерения», Remote Sensing of Environment , 95 (3): 303 -316, Bibcode : 2005RSEnv..95..303F , DOI : 10.1016 / j.rse.2005.01.005.
- Гилберт, Ричард О. (1987), «Непараметрическая оценка наклона 6.5 Сена», Статистические методы мониторинга загрязнения окружающей среды , John Wiley and Sons, стр. 217–219, ISBN 978-0-471-28878-7.
- Гранато, Грегори Э. (2006), «Глава A7: Устойчивая линия Кендалла – Тейла (KTRLine - версия 1.0) - визуальная базовая программа для расчета и построения графиков надежных непараметрических оценок коэффициентов линейной регрессии между двумя непрерывными переменными» , Гидрологический анализ и Интерпретация , Методы и методы геологической разведки США , 4 , Геологическая служба США.
- Хирш, Роберт М .; Slack, Джеймс Р .; Смит, Ричард А. (1982), «Методы анализа тенденций для ежемесячных данных о качестве воды», Исследование водных ресурсов , 18 (1): 107–121, Bibcode : 1982WRR .... 18..107H , doi : 10.1029 / WR018i001p00107.
- Jaeckel, Луи А. (1972), «Оценка коэффициентов регрессии путем минимизации дисперсии остатков», Annals of Mathematical Statistics , 43 (5): 1449–1458, DOI : 10.1214 / aoms / 1177692377 , MR 0348930.
- Кац, Мэтью Дж .; Шарир, Миха (1993), "Оптимальный выбор наклона с помощью расширителей", Information Processing Letters , 47 (3): 115-122, DOI : 10.1016 / 0020-0190 (93) 90234-Z , МР 1237287.
- Логан, Мюррей (2010), Биостатистический дизайн и анализ с использованием R: Практическое руководство , ISBN 9781444362473
- Massart, DL; Vandeginste, BGM; Buydens, LMC; Де Йонг, S .; Леви, П.Дж.; Смейерс-Вербеке, Дж. (1997), «12.1.5.1 Метод единой медианы», Справочник по хемометрике и квалиметрии: Часть A , Обработка данных в науке и технологиях, 20A , Elsevier, стр. 355–356, ISBN 978-0-444-89724-4.
- Матушек, Иржи (1991), «Рандомизированный оптимальный алгоритм для выбора уклона», Письма об обработке информации , 39 (4): 183–187, DOI : 10.1016 / 0020-0190 (91) 90177-J , MR 1130747.
- Матушек, Иржи ; Mount, Дэвид М .; Нетаньяху, Натан С. (1998), "Эффективные рандомизированные алгоритмы для повторной оценки средней линии", Algorithmica , 20 (2): 136-150, DOI : 10.1007 / PL00009190 , МР 1484533 , S2CID 17362967.
- Осборн, Джейсон В. (2008), Лучшие практики количественных методов , Sage Publications, Inc., стр. 273, ISBN 9781412940658.
- Перссон, Магнус Вильхельм; Мартинс, Луис Фелипе (2016), Освоение анализа данных Python , Packt Publishing, стр. 177, ISBN 9781783553303
- Романич, Джордже; Джурич, Младжен; Йовичич, Илия; Ломпар, Милош (2014), «Долгосрочные тренды ветра Кошава в период 1949–2010 гг.», Международный журнал климатологии , 35 (2): 288–302, Bibcode : 2015IJCli..35..288R , DOI : 10.1002 / joc.3981.
- Rousseeuw, Peter J .; Лерой, Анник М. (2003), Робастная регрессия и обнаружение выбросов , Ряд Уайли в вероятности и математической статистике, 516 , Уайли, стр. 67 , ISBN 978-0-471-48855-2.
- Шольц, Фридрих-Вильгельм (1978), "Весовые оценки Медиана регрессии", Летопись статистики , 6 (3): 603-609, DOI : 10,1214 / AOS / 1176344204 , JSTOR 2958563 , MR 0468054.
- Сообщество SciPy (2015 г.), "scipy.stats.mstats.theilslopes" , Справочное руководство SciPy v0.15.1
- Сена, Пранаб Кумар (1968), "Оценка коэффициентов регрессии на основе тау Кендалла", журнал Американской ассоциации по статистике , 63 (324): 1379-1389, DOI : 10.2307 / 2285891 , JSTOR 2285891 , MR 0258201.
- Сигел, Эндрю Ф. (1982), «Надежная регрессия с использованием повторяющихся медиан», Biometrika , 69 (1): 242–244, DOI : 10.1093 / biomet / 69.1.242.
- Сиверс, Gerald L. (1978), "Весовые ранговые статистики для простой линейной регрессии", журнал Американской ассоциации по статистике , 73 (363): 628-631, DOI : 10,1080 / 01621459.1978.10480067 , JSTOR 2286613.
- Сокал, Роберт Р .; Рольф, Ф. Джеймс (1995), Биометрия: принципы и практика статистики в биологических исследованиях (3-е изд.), Macmillan, p. 539, ISBN 978-0-7167-2411-7.
- Тейл, Х. (1950), " Рангово -инвариантный метод линейного и полиномиального регрессионного анализа. I, II, III", Nederl. Акад. Wetensch., Proc. , 53 : 386–392 , 521–525 , 1397–1412 , MR 0036489.
- Вайдьянатхан, Кальянараман; Trivedi, Кишор S. (2005), "Всесторонняя модель программного обеспечения Омоложение", IEEE Transactions на НАДЕЖНЫЙ и Secure Computing , 2 (2): 124-137, DOI : 10,1109 / TDSC.2005.15 , S2CID 15105513.
- Vannest, Kimberly J .; Дэвис, Джон Л .; Паркер, Ричард И. (2013), Исследование отдельных случаев в школах: практические рекомендации для школьных специалистов , Routledge, стр. 55, ISBN 9781136173622
- Ван, Сюэцинь; Ю., Qiqing (2005), "Несмещенность оценки Тейла-Sen", журнал непараметрической статистики , 17 (6): 685-695, DOI : 10,1080 / 10485250500039452 , MR 2165096 , S2CID 121061001.
- Wilcox, Rand R. (1998), "Примечание об оценке регрессии Тейла – Сена, когда регрессор является случайным, а член ошибки является гетероскедастическим", Biometrical Journal , 40 (3): 261–268, doi : 10.1002 / (SICI ) 1521-4036 (199807) 40: 3 <261 :: AID-BIMJ261> 3.0.CO; 2-V.
- Wilcox, Rand R. (2001), " Оценка Тейла – Сена", Основы современных статистических методов: значительное повышение мощности и точности , Springer-Verlag, стр. 207–210, ISBN 978-0-387-95157-7.
- Уилкокс, Рэнд Р. (2005), « Оценка 10.2 Тейла – Сена», Введение в робастную оценку и проверку гипотез , Academic Press, стр. 423–427, ISBN 978-0-12-751542-7.