Почему мы не нужны будущему - Why The Future Doesn't Need Us

« Почему мы не нужны будущему » - это статья Билла Джоя (тогдашнего главного научного сотрудника Sun Microsystems ) в апрельском номере журнала Wired за 2000 год . В статье он утверждает, что «наши самые мощные технологии 21-го века - робототехника , генная инженерия и нанотехнологии - угрожают превратить людей в исчезающий вид ». Радость предупреждает:

Опыт ученых-атомщиков ясно показывает необходимость брать на себя личную ответственность, опасность того, что все будет идти слишком быстро, и то, как процесс может жить своей собственной жизнью. Мы можем, как и они, создать непреодолимые проблемы в кратчайшие сроки. Мы должны больше думать заранее, чтобы не удивляться и шокировать последствия наших изобретений.

В то время как некоторые критики охарактеризовали позицию Джоя как обскурантизм или неолуддизм , другие разделяют его опасения по поводу последствий быстрого распространения технологий.

Резюме

Джой утверждает, что развивающиеся технологии представляют гораздо большую опасность для человечества, чем какая-либо из ранее представленных технологий. В частности, он специализируется на инженерии , нанотехнологиях и робототехнике . Он утверждает, что технологии разрушения 20-го века, такие как ядерная бомба, были доступны только крупным правительствам из-за сложности и стоимости таких устройств, а также сложности с получением необходимых материалов. Он использует роман «Белая чума» как сценарий потенциального кошмара, в котором безумный ученый создает вирус, способный уничтожить человечество.

Джой также выражает озабоченность по поводу увеличения мощности компьютеров. Его беспокоит то, что компьютеры со временем станут более умными, чем мы, что приведет к таким мрачным сценариям, как восстание роботов . Он особенно цитирует Теда Качиньского ( Унабомбера ) по этой теме.

Джой выражает озабоченность по поводу того, что в конечном итоге богатые будут единственными, кто сможет управлять будущими роботами, которые будут построены, и что эти люди также могут решить взять жизнь в свои руки и контролировать, как люди продолжают населять и воспроизводить. Он начал больше исследовать робототехнику и людей, специализирующихся на робототехнике , и помимо собственных мыслей пытался узнать мнение других по этой теме. Родни Брукс , специалист по робототехнике, считает, что в будущем произойдет слияние людей и роботов. Джой упомянул книгу Ганса Моравека «Робот: простая машина для трансцендентного разума», в которой он полагал, что в будущем произойдет сдвиг, когда роботы возьмут на себя нормальную человеческую деятельность, но со временем люди станут нормально жить таким образом.

Критика

В Сингулярность близко , Рэй Курцвейл сомнение регуляцию потенциально опасных технологий, спрашивая «Должны ли мы сказать , миллионы людей , страдающих раком и другими тяжелыми условиями , которые мы отменяем развитие всех биоинженерных методов лечения , поскольку существует риск того, что эти же технологии могут когда-нибудь быть использованы в злонамеренных целях? ». Однако Джон Зерзан и Челлис Глендиннинг считают, что современные технологии вредны как для свободы, так и для проблемы рака, и что эти две проблемы связаны между собой.

В статье AAAS Science and Technology Policy Yearbook 2001 «Ответ Биллу Джою и мрачным технофутуристам» Джон Сили Браун и Пол Дугид критиковали Джоя за то, что он имел технологическое видение туннеля в своем прогнозе, не принимая во внимание социальные факторы.

Джон МакГиннис утверждает, что предложение Джоя об «отказе» от технологий, которые могут привести к созданию общего искусственного интеллекта (AGI), потерпит неудачу, потому что «запреты, по крайней мере, при нынешних технологиях и текущей геополитике, несомненно, будут неэффективными». Проверка соглашений об ограничении AGI будет затруднена из-за двойного использования AGI и простоты сокрытия. Точно так же он считает, что предложение Джоя о «клятве Гиппократа» о добровольном воздержании ученых от вредных исследований также не будет эффективным, потому что на ученых могут оказывать давление правительства, соблазненные прибылью, неуверенные в том, какие технологии приведут к вреду в будущем, или противодействие в первую очередь к предположению Джой. Вместо того, чтобы отказываться от ОИИ, МакГиннис приводит доводы в пользу своего рода дифференцированного технологического развития, при котором дружественный искусственный интеллект развивается быстрее, чем другие виды.

Экстропийский футурист Макс Мор разделяет точку зрения Курцвейла по вопросам непрактичной и неэффективной природы «отказа от технологий», но добавляет более крупный моральный и философский компонент к аргументу, утверждая, что совершенство и эволюция человечества не означает «потерю человечности» и что добровольно желаемое увеличение емкости в любой области даже не представляет собой «потерю» любого рода.

В статье Зака Голдсмита об интервью Билла Джоя он цитирует его о том, что некоторые опасения по поводу новых развивающихся технологий на самом деле более опасны, чем он выразился в статье, потому что Голдсмит утверждает, что разработчики этих машин наделяют их слишком большой властью. Голдсмит заявляет, что считает, что ученые не думают о многих вещах, которые могут пойти не так, когда они начнут делать изобретения, потому что это приведет к сокращению финансирования.

В обзоре Софи Тайсом на статью Билла Джоя она говорит, что Джой не должен относиться к новым технологиям и должен также понимать, что между ним и этими новыми технологиями может быть достигнут «компромисс». Она также согласна с тем, что у него есть основания беспокоиться о том, что произойдет в долгосрочной перспективе, но он не думает, что эти технологии будут пытаться контролировать нас в будущем. Джой ответил на это, заявив, что ему нравится, что люди начинают отвечать на его статью, потому что она дает им мнение по этому поводу.

Последствия

После публикации статьи Билл Джой предложил оценить технологии, чтобы оценить их скрытые опасности, а также запретить ученым работать над технологиями, которые потенциально могут причинить вред.

В выпуске журнала Wired , посвященном 15-й годовщине, в 2008 году, в статье Лукаса Грейвса сообщалось, что технологии генетики, нанотехнологий и робототехники еще не достигли того уровня, который позволил бы воплотить в жизнь сценарий Билла Джоя.

Известный консервативный комментатор Алекс Джонс процитировал статью во время дискуссии о последствиях трансгуманизма с комиками Джо Роганом и Тимом Диллоном в эпизоде шоу Джо Рогана от 27 октября 2020 года.

использованная литература

дальнейшее чтение

Мессерли, Джон Г. «Я рад, что мы не нужны будущему: критика пессимистического футуризма Джоя». ACM SIGCAS Computers and Society , Volume 33, Issue 2, (июнь 2003 г.) ISSN 0095-2737

Languages

In other projects