Amazon Rekognition - Amazon Rekognition

Amazon Rekognition
Разработчики) Amazon , Amazon Web Services
Первый выпуск 30 ноября 2016 г . ; 4 года назад  ( 30.11.2016 )
Тип Программное обеспечение как услуга
Веб-сайт aws .amazon .com / rekognition

Amazon Rekognition это облако -На программное обеспечение как услуга (SaaS) компьютерного зрения платформы , которая была запущена в 2016 году было продано и используется в ряде государственных учреждений Соединенных Штатов, в том числе США иммиграции и таможенного контроля (ICE) и Орландо, Полиция Флориды , а также частные лица.

Возможности

Rekognition предоставляет ряд возможностей компьютерного зрения, которые можно разделить на две категории: алгоритмы, предварительно обученные на данных, собранных Amazon или его партнерами, и алгоритмы, которые пользователь может обучить на настраиваемом наборе данных.

По состоянию на июль 2019 года Rekognition предоставляет следующие возможности компьютерного зрения.

Предварительно обученные алгоритмы

  • Узнаваемость знаменитостей в образах
  • Обнаружение атрибутов лица на изображениях, включая пол, возрастной диапазон, эмоции (например, счастье, спокойствие, отвращение), есть ли на лице борода или усы, есть ли на лице очки или солнцезащитные очки, открыты ли глаза, открыт ли рот , улыбается ли человек, и расположение нескольких маркеров, таких как зрачки и линия подбородка.
  • People Pathing позволяет отслеживать людей через видео. Рекламируемый вариант использования этой возможности - отслеживать спортсменов для анализа после игры.
  • Обнаружение и классификация текста в изображениях
  • Обнаружение небезопасного визуального контента

Алгоритмы, которые пользователь может обучить на настраиваемом наборе данных

  • SearchFaces позволяет пользователям импортировать базу данных изображений с предварительно помеченными лицами, обучать модель машинного обучения в этой базе данных и предоставлять модель как облачную службу с API . Затем пользователь может публиковать новые изображения в API и получать информацию о лицах на изображении. API может использоваться для предоставления ряда возможностей, включая идентификацию лиц известных людей, сравнение лиц и поиск похожих лиц в базе данных.
  • Подтверждение пользователя по лицу

История и использование

2017 г.

В конце 2017 года офис шерифа округа Вашингтон, штат Орегон , начал использовать Rekognition для идентификации лиц подозреваемых . Rekognition позиционировалась как универсальный инструмент компьютерного зрения, и инженер, работающий в округе Вашингтон, решил использовать этот инструмент для анализа лиц подозреваемых. Rekognition было предложено департаменту бесплатно, и округ Вашингтон стал первым правоохранительным агентством США, которое, как известно, использовало Rekognition. В 2018 году агентство провело более 1000 поисков по лицам. Округ, по данным Washington Post, к 2019 году платил около 7 долларов в месяц за все поиски. До мая 2018 года об их отношениях не было известно. В 2018 году Rekognition также использовалась для идентификации знаменитостей во время телетрансляции о королевской свадьбе.

2018 г.

В апреле 2018 года сообщалось, что FamilySearch использует Rekognition, чтобы позволить своим пользователям «увидеть, на кого из своих предков они больше всего похожи по семейным фотографиям». В начале 2018 года ФБР также начало использовать его в качестве пилотной программы для анализа видеонаблюдения.

В мае 2018 года ACLU сообщил, что Орландо, штат Флорида, запустил пилотный проект с использованием Rekognition для анализа лица в правоохранительных органах, причем этот пилотный проект завершился в июле 2019 года. После отчета 22 июня 2018 года Gizmodo сообщил, что сотрудники Amazon написал письмо генеральному директору Джеффу Безосу с просьбой прекратить продажу Rekognition правоохранительным органам США, особенно ICE и Homeland Security . Письмо также было отправлено Безосу от ACLU. 26 июня 2018 года стало известно, что полиция Орландо прекратила использование Rekognition после истечения срока их пробного контракта, сохранив за собой право использовать его в будущем. Полицейское управление Орландо заявило, что они «никогда не доходили до тестовых изображений» из-за старой инфраструктуры и низкой пропускной способности.

В июле 2018 года ACLU выпустил тест, показывающий, что Rekognition ошибочно сопоставила фотографии 28 членов Конгресса с фотографиями, особенно цветных конгрессменов. После этого 25 членов Палаты представителей послали Безосу письмо, в котором выразили обеспокоенность по поводу Rekognition. Amazon ответил, что тест Rekognition дал 80-процентную уверенность, в то время как правоохранительные органы рекомендовали использовать только совпадения с 99-процентной достоверностью. The Washington Post сообщает, что вместо того, чтобы придерживаться рекомендации, офицеры штата Орегон выбирают результат «до пяти».

В сентябре 2018 года сообщалось, что Mapillary использовал Rekognition для чтения текста на знаках парковки (например, запрет на остановку, запрет на парковку или определенные часы парковки) в городах.

В октябре 2018 года сообщалось, что ранее в том же году Amazon представила Rekognition Агентству по иммиграции и таможенному контролю США. Amazon защитила использование Rekognition правительством.

1 декабря 2018 года сообщалось, что 8 законодателей-демократов заявили в письме, что Amazon «не предоставила достаточных ответов» о Rekognition, написав, что у них «серьезные опасения, что этот тип продукта имеет значительные проблемы с точностью, места непропорционально обременительным бременем для цветных сообществ и может подавить желание американцев публично пользоваться своими правами Первой поправки ».

2019 г.

В январе 2019 года исследователи Массачусетского технологического института опубликовали рецензируемое исследование, в котором утверждалось, что Rekognition труднее идентифицировать темнокожих женщин, чем конкуренты, такие как IBM и Microsoft . В исследовании Rekognition ошибочно определяла темнокожих женщин как мужчин в 31% случаев, но не делала ошибок со светлокожими мужчинами. Amazon назвал отчет «неверно истолкованными результатами» исследования с ненадлежащим «порогом достоверности по умолчанию».

В январе 2019 года акционеры Amazon «призвали Amazon прекратить продажу программного обеспечения Rekognition правоохранительным органам». Amazon в ответ защитила свое использование Rekognition, но поддержала новый федеральный надзор и руководящие принципы, чтобы «убедиться, что технология распознавания лиц не может использоваться для различения». В феврале 2019 года сообщалось, что Amazon сотрудничает с Национальным институтом стандартов и технологий (NIST) в разработке стандартизированных тестов для повышения точности и устранения предвзятости при распознавании лиц.

В марте 2019 года группа видных исследователей искусственного интеллекта направила Amazon открытое письмо, касающееся Rekognition, с критикой его продажи правоохранительным органам и собрало около 50 подписей.

В апреле 2019 года Комиссия по ценным бумагам и биржам сообщила Amazon, что они должны проголосовать по двум предложениям акционеров, стремящимся ограничить Rekognition. Amazon утверждала, что эти предложения были «незначительным вопросом государственной политики для компании», не связанным с обычным бизнесом Amazon, но их апелляция была отклонена. Голосование назначено на май. Первое предложение было внесено акционерами. 24 мая 2019 года 2,4% акционеров проголосовали за прекращение продажи Rekognition государственным органам, в то время как второе предложение о проведении исследования Rekognition и гражданских прав было поддержано 27,5%.

В августе 2019 года ACLU снова применил Rekognition к членам правительства, и 26 из 120 законодателей в Калифорнии были отмечены как совпадающие с фотографиями. Amazon заявила, что ACLU «неправильно использовал» программное обеспечение в тестах, не отклоняя результаты, которые не соответствовали рекомендованному Amazon порогу точности в 99%. К августу 2019 года прошли протесты против использования ICE Rekognition для наблюдения за иммигрантами.

В марте 2019 года Amazon анонсировала обновление Rekognition, которое улучшит обнаружение эмоций, а в августе 2019 года к эмоциям, которые может обнаруживать Rekognition, был добавлен «страх».

2020 г.

В июне 2020 года Amazon объявила о введении одногодичного моратория на использование Rekognition полицией в ответ на протесты Джорджа Флойда .

Споры относительно анализа лица

Расовые и гендерные предубеждения

В 2018 году исследователи Массачусетского технологического института Джой Буоламвини и Тимнит Гебру опубликовали исследование под названием Gender Shades. В этом исследовании был собран набор изображений, и лица на изображениях были помечены информацией о положении лица, поле и оттенке кожи. Изображения обрабатывались через платформы распознавания лиц SaaS от Face ++ , IBM и Microsoft . На всех трех платформах классификаторы лучше всего работали на мужских лицах (частота ошибок на женских лицах была на 8,1-20,6% выше, чем на мужских лицах), а хуже всего они работали на темных женских лицах (с частотой ошибок от 8,1% до 20,6%). От 20,8% до 30,4%). Авторы предположили, что это несоответствие в основном связано с тем, что Megvii, IBM и Microsoft имеют больше светлых мужчин, чем темных женщин в их обучающих данных, то есть смещение набора данных.

В январе 2019 года исследователи Иниолува Дебора Раджи и Джой Буоламвини опубликовали очередную статью, в которой эксперимент был проведен снова год спустя на последних версиях тех же трех платформ распознавания лиц SaaS, а также двух дополнительных платформ: Kairos и Amazon Rekognition. Несмотря на то, что общий уровень ошибок систем улучшился по сравнению с предыдущим годом, все пять систем снова работали лучше с мужскими лицами, чем с темными женскими лицами.

Смотрите также

Рекомендации

  1. ^ a b c d Лардинуа, Фредерик (30 ноября 2016 г.). «Amazon запускает Amazon AI, чтобы предоставить разработчикам возможности машинного обучения» . TechCrunch . Проверено 21 июля 2019 .
  2. ^ "Что такое Amazon Rekognition?" . Руководство разработчика Amazon Rekognition . Проверено 21 июля 2019 .
  3. ^ «Что такое API распознавания знаменитостей? Это то же самое или отличное от поиска по лицам?» . AWS . Проверено 21 июля 2019 .
  4. ^ Lardinois, Фредерик (2016-06-08). «Amazon Rekognition теперь может распознавать знаменитостей» . TechCrunch . Проверено 21 июля 2019 .
  5. ^ «Обнаружение лиц на изображении» . Руководство разработчика Amazon Rekognition . Проверено 21 июля 2019 .
  6. ^ «Amazon Rekognition запускает расширенный анализ лиц» . Биометрия планеты . 2019-03-19 . Проверено 21 июля 2019 .
  7. ^ "Путь людей" . Руководство разработчика Amazon Rekognition . Проверено 21 июля 2019 .
  8. ^ «Обнаружение текста» . Руководство разработчика Amazon Rekognition . Проверено 21 июля 2019 .
  9. ^ а б О'Брайен, Крис (2018-09-13). «Mapillary будет использовать Amazon Rekognition, чтобы облегчить проблемы с городской парковкой» . Венчурный бит . Проверено 21 июля 2019 .
  10. ^ «Обнаружение небезопасного содержимого» . Руководство разработчика Amazon Rekognition . Проверено 21 июля 2019 .
  11. ^ «Поиск лиц в коллекции» . Руководство разработчика Amazon Rekognition . Проверено 21 июля 2019 .
  12. ^ a b «Технология распознавания лиц Amazon перегрузила полицию округа Вашингтон» . Орегон Live . Проверено 21 июля 2019 .
  13. ^ «Клиенты Amazon Rekognition» . AWS . Проверено 21 июля 2019 .
  14. ^ a b c d Глейзер, апрель (19 июля 2019 г.). «Как не строить паноптикум» . Шифер . Проверено 27 августа 2019 года .
  15. ^ a b c d Харвелл, Дрю (30 апреля 2019 г.). «Орегон стал полигоном для проверки системы распознавания лиц Amazon. Но что, если Rekognition ошибается?» . Вашингтон Пост . Проверено 27 августа 2019 года .
  16. ^ a b c d e f Пастернак, Алекс (4 апреля 2019 г.). «Amazon заявляет, что опасения по поводу распознавания лиц« несущественны ». SEC с этим не согласен» . Быстрая компания . Проверено 27 августа 2019 года .
  17. ^ «Amazon Rekognition повышает точность распознавания и проверки лиц в реальном времени» . AWS . 2018-04-02 . Проверено 21 июля 2019 .
  18. ^ Брэндом, Рассел (2018-05-22). «Amazon продает полицейским управлениям систему распознавания лиц в реальном времени» . Грань . Проверено 21 июля 2019 .
  19. ^ Статт, Ник (18.07.2019). «Полиция Орландо снова отказалась от программного обеспечения для распознавания лиц Amazon» . Грань . Проверено 21 июля 2019 .
  20. ^ a b c Чжоу, Марриан (26 июня 2018 г.). «Орландо перестает использовать спорную технологию распознавания лиц Amazon» . CNET . Проверено 27 августа 2019 года .
  21. ^ a b Кин, Шон (22 июня 2018 г.). «Сотрудники Amazon протестуют против продажи ПО для распознавания лиц полиции» . CNET . Проверено 27 августа 2019 года .
  22. ^ a b Сингх Гулиани, Нима (24 октября 2018 г.). «Amazon встретилась с представителями ICE, чтобы продать свой продукт для распознавания лиц» . ACLU . Проверено 27 августа 2019 года .
  23. ^ a b Статт, Ник (8 ноября 2018 г.). «Amazon заявила сотрудникам, что продолжит продавать ПО для распознавания лиц правоохранительным органам» . Грань . Проверено 27 августа 2019 года .
  24. ^ Дэй, Мэтт (23 октября 2018 г.). «Официальные лица Amazon представили ICE свое программное обеспечение для распознавания лиц» . Сиэтл Таймс . Проверено 27 августа 2019 года .
  25. ↑ Бойс, Жасмин (1 декабря 2018 г.). «Законодатели требуют от Amazon ответов по поводу технологии распознавания лиц» . NBC News . Проверено 27 августа 2019 года .
  26. ^ a b Крист, Рай (19 марта 2019 г.). «Программное обеспечение Amazon Rekognition позволяет полицейским отслеживать лица: вот что вам нужно знать» . CNET . Проверено 27 августа 2019 года .
  27. ↑ Лейси, Лиза (19 февраля 2019 г.). «Наконец-то Amazon Rekognition может быть подвергнут аудиту и ранжированию наряду с другими поставщиками» . Adweek . Проверено 27 августа 2019 года .
  28. ↑ Хейл, Кори (12 марта 2019 г.). «Аудит искусственного интеллекта Amazon Rekognition может устранить предвзятость» . Forbes . Проверено 27 августа 2019 года .
  29. ↑ Певица, Наташа (5 мая 2019 г.). «Amazon сталкивается с давлением инвесторов из-за распознавания лиц» . Нью-Йорк Таймс . Проверено 27 августа 2019 года .
  30. ↑ Whittaker, Zack (20 мая 2019 г.). «Amazon испытывает все большее давление со стороны акционеров, чтобы ограничить продажу технологий распознавания лиц правительству» . TechCrunch . Проверено 27 августа 2019 года .
  31. ^ Дастин Джеффри (24 мая 2019). «Запрет на распознавание лиц Amazon получил всего 2% голосов акционеров» . Рейтер . Проверено 27 августа 2019 года .
  32. ^ Венер, Майк (14 августа 2019). «Система распознавания лиц Amazon выявляет десятки законодателей Калифорнии как преступников» . BGR . Проверено 27 августа 2019 года .
  33. ^ Protalinski, Эмиль (16 августа 2019). «ProBeat: прорыв или ерунда, Rekognition Amazon опасен» . VentureBeat . Проверено 27 августа 2019 года .
  34. ^ Menegus, Брайан (13 августа 2019). «Amazon Rekognition теперь может определять эмоции, которые оно вызывает у рациональных людей» . Gizmodo . Проверено 27 августа 2019 года .
  35. ↑ Кроу, Майкл (15 августа 2019 г.). «Amazon утверждает, что распознавание лиц может обнаруживать страх, что вызывает опасения у некоторых защитников конфиденциальности» . King5 . Проверено 27 августа 2019 года .
  36. ^ Mihalcik, Carrie (15 августа 2019). «Программное обеспечение Amazon Rekognition теперь может распознавать страх» . CNET . Проверено 27 августа 2019 года .
  37. ^ «Мы вводим годичный мораторий на использование Rekognition полицией» . 10 июня 2020 . Проверено 19 июня 2020 года .
  38. ^ Буоламвини, Радость; Гебру, Тимнит (2018). «Гендерные оттенки: различия в точности в коммерческой гендерной классификации» (PDF) . Труды исследований машинного обучения .
  39. ^ Quach, Katyanna (2018-02-13). «Программное обеспечение для распознавания лиц легко идентифицирует белых мужчин, но количество ошибок среди чернокожих женщин резко возрастает» . Реестр . Проверено 21 июля 2019 .
  40. ^ Раджи, Inioluwa Deborah; Буоламвини, Джой (27.01.2019). «Практический аудит: исследование влияния публичного объявления предвзятых результатов работы коммерческих продуктов ИИ» (PDF) . Конференция AAAI / ACM по искусственному интеллекту, этике и обществу .
  41. ^ Wiggers, Kyle (2019-01-24). «Исследователи Массачусетского технологического института: Amazon Rekognition демонстрирует гендерные и этнические предубеждения (обновлено)» . Венчурный бит . Проверено 21 июля 2019 .