Правительство по алгоритму - Government by algorithm
| Часть серии по |
| Альгократия |
|---|
 |
| Примеры |
| Часть серии по |
| Управление |
|---|
| Модели |
| По уровню |
| По полю |
| Меры |
| похожие темы |
Управление по алгоритму (также известное как алгоритмическое регулирование , регулирование с помощью алгоритмов , алгоритмическое управление , альгократическое управление , алгоритмический правовой порядок или альгократия ) - это альтернативная форма правления или социального заказа , при которой использование компьютерных алгоритмов , особенно искусственного интеллекта и блокчейна , применяется к нормативным актам, правоохранительным органам и вообще к любым аспектам повседневной жизни, таким как транспорт или земельная регистрация. Термин «управление по алгоритму» появился в академической литературе как альтернатива «алгоритмическому управлению» в 2013 году. Родственный термин, алгоритмическое регулирование, определяется как установление стандарта, мониторинг и изменение поведения с помощью вычислительных алгоритмов - автоматизация судебной системы - это в своем объеме.
Управление по алгоритму ставит новые задачи, которые не отражены в литературе по электронному правительству и в практике государственного управления. Некоторые источники приравнивают киберократию , которая представляет собой гипотетическую форму правления, которая правит путем эффективного использования информации, с алгоритмическим управлением, хотя алгоритмы - не единственное средство обработки информации. Нелло Кристианини и Тереза Скантамбурло утверждали, что сочетание человеческого общества и определенных алгоритмов регулирования (таких как оценка на основе репутации) формирует социальную машину .
История
В 1962 году директор Института проблем передачи информации РАН в Москве (впоследствии Институт Харкевича) Александр Харкевич опубликовал в журнале «Коммунист» статью о компьютерной сети для обработки информации и управления экономикой. . Фактически, он предложил создать сеть, подобную современной Интернету, для нужд алгоритмического управления. Это вызвало серьезную обеспокоенность аналитиков ЦРУ. В частности, Артур М. Шлезингер-младший предупредил, что «к 1970 году в СССР может появиться радикально новая технология производства, включающая все предприятия или комплексы отраслей, управляемых по замкнутому циклу, с обратной связью с использованием самообучающихся компьютеров » .
Между 1971 и 1973 годами правительство Чили осуществляло проект Cybersyn во время президентства Сальвадора Альенде . Этот проект был направлен на построение распределенной системы поддержки принятия решений для улучшения управления национальной экономикой.
Также в 1960-х и 1970-х годах Герберт А. Саймон отстаивал экспертные системы как инструменты для рационализации и оценки административного поведения. Автоматизация процессов, основанных на правилах, была целью налоговых органов на протяжении многих десятилетий, что приводило к переменному успеху. Ранние работы этого периода включают влиятельный проект TAXMAN Торна Маккарти в США и проект LEGOL Рональда Стампера в Великобритании. В 1993 году компьютерный ученый Пол Кокшотт из Университета Глазго и экономист Аллин Коттрелл из Университета Уэйк-Форест опубликовали книгу « На пути к новому социализму» , в которой они утверждают, что демонстрируют возможность демократически плановой экономики, построенной на современных компьютерных технологиях. Достопочтенный судья Майкл Кирби опубликовал в 1998 году документ, в котором выразил оптимизм по поводу того, что доступные в то время компьютерные технологии, такие как юридическая экспертная система, могут развиться в компьютерные системы, что сильно повлияет на судебную практику. В 2006 году адвокат Лоуренс Лессиг, известный под лозунгом «Кодекс есть закон», писал:
«[T] Невидимая рука киберпространства строит архитектуру, которая полностью противоположна архитектуре при ее рождении. Эта невидимая рука, подталкиваемая правительством и коммерцией, создает архитектуру, которая совершенствует контроль и делает возможным высокоэффективное регулирование. "
С 2000-х годов разрабатываются и используются алгоритмы для автоматического анализа видео наблюдения .
Социолог А. Аниш использовал идею алгоритмического управления в 2002 году в своей теории альгократии. Аниш отделил альгократические системы от бюрократических систем (правовое рациональное регулирование), а также рыночных систем (ценовое регулирование).
В 2013 году алгоритмическое регулирование было предложено Тимом О'Рейли , основателем и генеральным директором O'Reilly Media Inc.:
Иногда «правила» на самом деле даже не правила. Гордон Брюс, бывший ИТ-директор города Гонолулу, объяснил мне, что, когда он пришел в правительство из частного сектора и попытался внести изменения, ему сказали: «Это противозаконно». Его ответ был: «Хорошо. Покажи мне закон». «Ну, на самом деле это не закон. Это постановление». «Хорошо. Покажи мне правила». «Ну, на самом деле это не регламент. Это политика, введенная в действие мистером Кто-то двадцать лет назад». "Отлично. Мы можем это изменить!" "
[...] Законы должны определять цели, права, результаты, полномочия и ограничения. В широком смысле эти законы могут выдержать испытание временем. Правила, которые определяют, как выполнять эти законы гораздо более подробно, следует рассматривать во многом так же, как программисты рассматривают свой код и алгоритмы, то есть как постоянно обновляемый набор инструментов для достижения результатов, указанных в законах. [...] Правительству пора вступить в эпоху больших данных. Алгоритмическое регулирование - это идея, время которой пришло.
В 2017 году Министерство юстиции Украины провело экспериментальные государственные аукционы с использованием технологии блокчейн для обеспечения прозрачности и предотвращения коррупции в государственных транзакциях. "Управление по алгоритму?" была центральной темой конференции Data for Policy 2017, которая проходила 6-7 сентября 2017 года в Лондоне, Великобритания.
Примеры
Умные города
Умный город является городским районом, где собран данные наблюдений используются для улучшения различных операций в этой области. Увеличение вычислительной мощности позволяет более автоматизированно принимать решения и заменять государственные учреждения алгоритмическим управлением. В частности, совместное использование искусственного интеллекта и блокчейнов для Интернета вещей может привести к созданию устойчивых экосистем умных городов. Интеллектуальное уличное освещение в Глазго - это пример преимуществ применения алгоритмов искусственного интеллекта правительством.
Криптовалюта миллионер, Джеффри Бернса, предложил запустить местные органы власти от технологических фирм в штате Невада в 2021 году г - н Бернсом купил 67000 акров (271 км) в сельской местности в Неваде округе Стори за $ 170 млн (£ 121 млн) в 2018 году с целью разработки смарт - город с более чем 36 000 жителей, производящих годовой объем производства в 4 600 000 000 долларов США. Криптовалюта будет разрешена для платежей.
Системы репутации
Тим О'Рейли предположил, что источники данных и системы репутации, объединенные в алгоритмическое регулирование, могут превзойти традиционные правила. Например, после того, как водители такси будут оценены пассажирами, качество их услуг автоматически улучшится, а «водители, оказывающие некачественное обслуживание, будут устранены». Предложение О'Рейли основано на теоретико-контрольной концепции петли обратной связи - улучшения и ухудшения репутации приводят к желаемому поведению. Использование кормовых петель для управления социальных систем уже было предложено в кибернетике управления по Stafford Beer раньше.
Эти связи исследуются Нелло Кристианини и Терезой Скантамбурло, где система оценки репутации и кредита моделируется как стимул, предоставляемый гражданам и вычисляемый социальной машиной , так что рациональные агенты будут мотивированы повышать свой балл за счет адаптации своего поведения. Некоторые этические аспекты этой технологии все еще обсуждаются.
Китайская система социального кредитования тесно связана с китайскими системами массового наблюдения, такими как Skynet, которые включают в себя систему распознавания лиц , технологию анализа больших данных и искусственный интеллект. Эта система обеспечивает оценку благонадежности физических и юридических лиц. Среди поведения, которое система рассматривает как проступок, упоминаются переход в неположенном месте и неправильная сортировка личных отходов . Поведение, указанное в качестве положительных факторов кредитного рейтинга, включает сдачу крови , пожертвование на благотворительность , волонтерство для общественных работ и т. Д. Китайская система социального кредита позволяет наказывать «ненадежных» граждан, например отказывать в покупке билетов, и вознаграждать «надежных» граждан, например, сокращать время ожидания в больницах и государственных учреждениях.
Смарт-контракты
Смарт-контракты , криптовалюты и децентрализованная автономная организация упоминаются как средства замены традиционных способов управления. Криптовалюты - это валюты, которые активируются алгоритмами без государственного центрального банка . Цифровая валюта центрального банка часто использует аналогичную технологию, но отличается от того факта, что она использует центральный банк. Вскоре он будет использоваться крупными профсоюзами и правительствами, такими как Европейский Союз и Китай. Смарт-контракты - это самоисполняемые контракты , целью которых является сокращение потребности в надежных государственных посредниках, арбитражных разбирательствах и затратах на принудительное исполнение. Децентрализованная автономная организация - это организация, представленная смарт-контрактами, которая прозрачна, контролируется акционерами и не находится под влиянием центрального правительства. Смарт-контракты обсуждались для использования в таких приложениях, как использование в (временных) трудовых договорах и автоматическая передача денежных средств и имущества (например, наследование после регистрации свидетельства о смерти ). Некоторые страны, такие как Грузия и Швеция, уже запустили блокчейн-программы, ориентированные на собственность ( права собственности на землю и недвижимость ). Украина также рассматривает другие области, такие как государственные реестры .
Алгоритмы в госорганах
Согласно исследованию Стэнфордского университета , 45% изученных федеральных агентств США экспериментировали с ИИ и соответствующими инструментами машинного обучения (ML) до 2020 года. Федеральные агентства США насчитали следующее количество приложений искусственного интеллекта .
53% этих приложений были созданы штатными специалистами. Коммерческие поставщики остаточных приложений включают Palantir Technologies .
С 2012 года NOPD начал сотрудничество с Palantir Technologies в области прогнозной полицейской деятельности . Помимо программного обеспечения Gotham от Palantir, другие подобные программы ( программное обеспечение для численного анализа ), используемые полицейскими агентствами (такими как NCRIC), включают SAS .
В борьбе с отмыванием денег FinCEN использует систему искусственного интеллекта FinCEN (FAIS).
Национальные органы управления здравоохранением и организации, такие как AHIMA (Американская ассоциация управления медицинской информацией), хранят медицинские записи . Медицинские записи служат центральным хранилищем для планирования ухода за пациентами и документирования общения между пациентом и поставщиком медицинских услуг, а также профессионалами, участвующими в уходе за пациентом. В ЕС продолжается работа над Европейским пространством данных о здоровье, которое поддерживает использование данных о здоровье.
США Департамент внутренней безопасности использовал программный ATLAS, которые работают на Amazon Cloud . Он просканировал более 16,5 миллионов записей о натурализованных американцах и пометил около 124 000 из них для ручного анализа и проверки сотрудниками USCIS относительно денатурализации . Они были помечены из-за возможного мошенничества, вопросов общественной и национальной безопасности. Некоторые из отсканированных данных поступили из базы данных по выявлению террористов и Национального центра информации о преступности .
В Эстонии в электронном правительстве используется искусственный интеллект, чтобы сделать его более автоматизированным и бесперебойным. Виртуальный помощник проведет граждан через любые взаимодействия с правительством. Автоматизированные и проактивные сервисы «подталкивают» граждан к ключевым событиям их жизни (включая рождение ребенка, тяжелую утрату, безработицу и т. Д.). Одним из примеров является автоматическая регистрация младенцев при рождении. Эстонская система X-Road также будет перестроена, чтобы включить еще больший контроль конфиденциальности и подотчетность в то, как правительство использует данные граждан.
В Коста-Рике изучалась возможность оцифровки деятельности по государственным закупкам (например, тендеры на общественные работы, ...). В документе, в котором обсуждается эта возможность, упоминается, что использование ИКТ в закупках имеет несколько преимуществ, таких как повышение прозрачности, облегчение цифрового доступа к публичным тендерам, сокращение прямого взаимодействия между должностными лицами, занимающимися закупками, и компаниями в моменты высокого риска нарушения целостности, увеличение охвата и конкуренции, а также упрощение обнаружение неровностей.
Помимо использования электронных тендеров для регулярных общественных работ (строительство зданий, дорог и т. Д.), Электронные тендеры также могут использоваться для проектов лесовосстановления и других проектов восстановления поглотителей углерода . Проекты по восстановлению поглотителей углерода могут быть частью определяемых на национальном уровне планов взносов для достижения целей национального Парижского соглашения.
Также можно использовать программное обеспечение для аудита государственных закупок . В некоторых странах аудит проводится после получения субсидий .
Некоторые государственные учреждения предоставляют системы отслеживания и прослеживания для услуг, которые они предлагают. Примером может служить отслеживание заявлений граждан (например, получение водительских прав).
Некоторые государственные службы используют систему отслеживания проблем для отслеживания текущих проблем Системы отслеживания проблем могут отображать все задачи, которые еще предстоит выполнить правительству (в очереди ожидания), завершенные задачи, выполняемые задачи, последовательность заказов, ... Завершенные задачи также могут быть предвиденным с отчетом, показывающим, что именно было сделано по проблеме.
Правосудие по алгоритму
Программное обеспечение COMPAS используется в США для оценки риска рецидивизма в судах.
Согласно заявлению Пекинского Интернет-суда, Китай стал первой страной, создавшей Интернет-суд или киберсуд. Китайский судья AI - это виртуальное воссоздание реальной женщины-судьи. Она «поможет судьям суда выполнить повторяющуюся базовую работу, включая прием судебных заседаний, что позволит профессиональным практикующим специалистам лучше сосредоточиться на своей судебной работе».
Также Эстония планирует использовать искусственный интеллект для рассмотрения дел о мелких претензиях на сумму менее 7000 евро.
Юридические роботы могут выполнять задачи, которые обычно выполняются помощниками юристов или молодыми сотрудниками в юридических фирмах. Одна такая технология, используемая юридическими фирмами США для оказания помощи в юридических исследованиях, принадлежит ROSS Intelligence, а другие различаются по сложности и зависимости от скриптовых алгоритмов . Еще одно легальное приложение для чат- бота - DoNotPay .
ИИ в образовании
Из-за пандемии COVID-19 в 2020 году личные выпускные экзамены были невозможны для тысяч студентов. В государственной средней школе Westminster High использовались алгоритмы для выставления оценок. Министерство образования Великобритании также использовало статистический расчет для присвоения итоговых оценок на уровне A из- за пандемии.
Помимо использования при выставлении оценок, программные системы и искусственный интеллект также оптимизируют учебную работу и используются при подготовке к вступительным экзаменам в колледж.
Ассистенты преподавателя ИИ разрабатываются и используются для обучения (например, Джилл Уотсон из Технологического института Джорджии), и также продолжаются дискуссии о том, можно ли полностью заменить учителей системами ИИ (например, в домашнем обучении ).
ИИ-политики
В 2018 году активист по имени Мичихито Мацуда баллотировался на пост мэра в районе города Тама в Токио в качестве доверенного лица программы искусственного интеллекта . В то время как в предвыборных плакатах и материалах кампании использовался термин « робот» и отображались стоковые изображения женского андроида , «ИИ-мэр» на самом деле был алгоритмом машинного обучения, обученным с использованием наборов данных города Тама. Проект поддержали высокопоставленные руководители Тецузо Мацумото из Softbank и Норио Мураками из Google . Мичихито Мацуда занял третье место на выборах, проиграв Хироюки Абе . Организаторы заявили, что «мэр AI» был запрограммирован на анализ петиций граждан, поданных в городской совет, более «справедливым и сбалансированным» способом, чем политики-люди.
В 2019 году чат-бот SAM на базе искусственного интеллекта участвовал в обсуждениях в социальных сетях, связанных с предвыборной гонкой в Новой Зеландии. Создатель SAM Ник Герритсен считает, что SAM будет достаточно продвинутым, чтобы баллотироваться в качестве кандидата к концу 2020 года, когда в Новой Зеландии состоятся следующие всеобщие выборы.
Лечение инфекции
В феврале 2020 года Китай запустил мобильное приложение для борьбы со вспышкой коронавируса под названием «Детектор тесного контакта». Пользователей просят ввести свое имя и идентификационный номер. Приложение способно обнаруживать «тесный контакт» с использованием данных наблюдения (т. Е. С использованием записей общественного транспорта, включая поезда и рейсы) и, следовательно, потенциальный риск заражения. Каждый пользователь также может проверить статус трех других пользователей. Чтобы сделать этот запрос, пользователи сканируют код быстрого ответа (QR) на своих смартфонах с помощью таких приложений, как Alipay или WeChat . Доступ к детектору тесного контакта можно получить через популярные мобильные приложения, включая Alipay. При обнаружении потенциального риска приложение не только рекомендует карантин, но и предупреждает местных органов здравоохранения.
У Alipay также есть Кодекс здоровья Alipay, который используется для обеспечения безопасности граждан. Эта система генерирует QR-код одного из трех цветов (зеленый, желтый или красный) после того, как пользователи заполняют форму на Alipay с личными данными. Зеленый код позволяет владельцу беспрепятственно перемещаться. Желтый код требует, чтобы пользователь оставался дома в течение семи дней, а красный означает двухнедельный карантин. В некоторых городах, таких как Ханчжоу, стало практически невозможно передвигаться без показа кода Alipay.
В Каннах, Франция, программное обеспечение для мониторинга использовалось для видеоматериалов, снятых камерами видеонаблюдения , что позволяет отслеживать их соответствие местному социальному дистанцированию и ношению масок во время пандемии COVID-19. Система не хранит идентификационные данные, а позволяет предупреждать городские власти и полицию о нарушениях правил ношения масок (позволяя при необходимости наложить штрафы ). Алгоритмы, используемые программным обеспечением для мониторинга, могут быть включены в существующие системы наблюдения в общественных местах (больницы, вокзалы, аэропорты, торговые центры и т. Д.)
Данные мобильного телефона используются для поиска инфицированных пациентов в Южной Корее, Тайване, Сингапуре и других странах. В марте 2020 года правительство Израиля разрешило службам безопасности отслеживать данные мобильных телефонов людей, предположительно зараженных коронавирусом. Мера была принята для соблюдения карантина и защиты тех, кто может контактировать с зараженными гражданами. Также в марте 2020 года Deutsche Telekom поделился данными частных мобильных телефонов с федеральным правительственным агентством, Институтом Роберта Коха , с целью исследования и предотвращения распространения вируса. Россия внедрила технологию распознавания лиц для обнаружения нарушителей карантина. Комиссар регионального здравоохранения Италии Джулио Галлера заявил, что «40% людей все равно продолжают передвигаться», как ему сообщили операторы мобильной связи. В США, Европе и Великобритании Palantir Technologies берет на себя ответственность за предоставление услуг по отслеживанию COVID-19.
Предупреждение и управление экологическими катастрофами
Цунами можно обнаружить с помощью систем предупреждения о цунами . Они могут использовать ИИ. Наводнения также можно обнаружить с помощью систем искусственного интеллекта. Районы размножения саранчи можно приблизительно определить с помощью машинного обучения, которое может помочь остановить стаи саранчи на ранней стадии. Лесные пожары можно прогнозировать с помощью систем искусственного интеллекта. Кроме того, обнаружение лесных пожаров возможно с помощью систем искусственного интеллекта (например, с помощью спутниковых данных, аэрофотоснимков и местоположения персонала). и они также могут помочь в эвакуации людей во время лесных пожаров.
Прием
Преимущества
Предполагается, что алгоритмическое регулирование представляет собой систему управления, в которой более точные данные, полученные от граждан с помощью их интеллектуальных устройств и компьютеров, используются для более эффективной организации человеческой жизни как коллектива. По оценке Deloitte в 2017 году, автоматизация работы правительства США может сэкономить 96,7 млн часов федерального бюджета в год с потенциальной экономией в размере 3,3 млрд долларов; в верхней части это возрастает до 1,2 миллиарда часов, а потенциальная годовая экономия составляет 41,1 миллиарда долларов.
Критика
Существуют потенциальные риски, связанные с использованием алгоритмов в правительстве. К ним относятся алгоритмы, подверженные предвзятости , отсутствие прозрачности в том, как алгоритм может принимать решения, и ответственность за любые такие решения.
Также существует серьезная обеспокоенность по поводу того , что могут возникнуть игры регулируемых сторон: как только алгоритмическое управление привнесет больше прозрачности в процесс принятия решений , регулируемые стороны могут попытаться манипулировать своим результатом в свою пользу и даже использовать состязательное машинное обучение . По словам Харари , конфликт между демократией и диктатурой рассматривается как конфликт двух разных систем обработки данных - ИИ и алгоритмы могут повернуть преимущество в сторону последней, обрабатывая огромные объемы информации централизованно.
В 2018 году в Нидерландах использовалась алгоритмическая система SyRI (Systeem Risico Indicatie) для выявления граждан, считающихся подверженными высокому риску совершения мошенничества в сфере социального обеспечения , которая незаметно привлекла к следователям тысячи людей. Это вызвало общественный протест. Окружной суд Гааги закрыл СИРИ, сославшись на статью 8 Европейской конвенции о правах человека (ЕКПЧ).
Авторы документального фильма iHuman 2019 года выразили опасения по поводу «бесконечно стабильных диктатур», созданных правительственным ИИ.
В 2020 году алгоритмы выставления оценок за экзамены студентам в Великобритании вызвали открытый протест под лозунгом «К черту алгоритм». Этот протест был успешным, и оценки были отменены.
В 2020 году программное обеспечение правительства США ATLAS , работающее в облаке Amazon , вызвало бурю негодования со стороны активистов и собственных сотрудников Amazon.
В 2021 году Eticas Foundation запустил базу данных государственных алгоритмов под названием Observatory of Algorithms with Social Impact (OASI).
Алгоритмическая предвзятость и прозрачность
Первоначальный подход к прозрачности включал использование алгоритмов с открытым исходным кодом . Программный код может быть изучен, а улучшения могут быть предложены с помощью средств размещения исходного кода .
Общественное признание
Опрос 2019 года, проведенный Центром управления изменениями Университета IE в Испании, показал, что 25% граждан из выбранных европейских стран в той или иной степени или полностью выступают за то, чтобы позволить искусственному интеллекту принимать важные решения о том, как управлять своей страной. В следующей таблице перечислены результаты по странам:
| Страна | Процент |
|---|---|
| Франция | 25% |
| Германия | 31% |
| Ирландия | 29% |
| Италия | 28% |
| Нидерланды | 43% |
| Португалия | 19% |
| Испания | 26% |
| Соединенное Королевство | 31% |
Исследователи обнаружили некоторые свидетельства того, что, когда граждане считают своих политических лидеров или лиц, обеспечивающих безопасность, ненадежными, разочаровывающими или аморальными, они предпочитают заменять их искусственными агентами, которых они считают более надежными. Доказательства установлены в ходе опросов студентов всех полов.
В популярной культуре
В романах Дэниела Суареса « Демон и свобода » описывается вымышленный сценарий глобального алгоритмического регулирования.
Смотрите также
использованная литература
внешние ссылки
- Правительство по алгоритму? по конференции Data for Policy 2017
- Правительство алгоритмом по Стэнфордского университета
- Структура управления для алгоритмической подотчетности и прозрачности со стороны Европейского парламента
- Алгоритмическое управление Зейнеп Энгин и Филип Треливен, Университетский колледж Лондона
- Алгоритмическое управление , профессор Филип К. Треливен из Университетского колледжа Лондона
- Искусственный интеллект для обслуживания граждан и правительства , Хила Мехр из Гарвардского университета
- Реестр OASI , алгоритмы с социальным воздействием
- iHuman (документальный, 2019) Тонье Хессен Шей
- Как блокчейн может изменить Индию: Джасприт Биндра
- Может ли ИИ разработать нашу налоговую политику?
Библиография
Код: Версия 2.0 (Основные книги, 2006) ISBN 978-0-465-03914-2
Юнг, Карен; Лодж, Мартин (2019). Алгоритмическое регулирование . Издательство Оксфордского университета. ISBN 9780198838494.