«Крестного отца» искусственного интеллекта завалили просьбами о помощи

Илон Маск и Белый дом хотят больше узнать о рисках ИИ

Человек, которого часто называют “крестным отцом” искусственного интеллекта, оказался, по его словам, завален просьбами о помощи от миллиардера Илона Маска, демократа Берни Сандерса и Белого дома всего через несколько дней после ухода из Google, чтобы предупредить мир об опасности цифрового интеллекта.

Доктор Джеффри Хинтон получил высшую награду в области компьютерных наук — премию Тьюринга — в 2018 году за свою работу над “глубоким обучением”. Как напоминает The Guardian, технология, которая сейчас лежит в основе революции искусственного интеллекта, появилась в результате усилий Хинтона по пониманию человеческого мозга – усилий, которые убедили его в том, что цифровой мозг, возможно, вот-вот вытеснит биологический.

Но родившийся в Лондоне 75-летний психолог и специалист по информатике может дать не тот совет, который хотят услышать сильные мира сего.

“У правительства США неизбежно возникает много опасений по поводу национальной безопасности. И я склонен с ними не соглашаться, — сказал доктор Хинтон The Guardian. – Например, я уверен, что министерство обороны считает, что единственным надежным источником этого материала является министерство обороны США – единственная группа людей, которая действительно применяет ядерное оружие”.

“Я социалист”, — добавил Хинтон. “Я думаю, что частная собственность на средства массовой информации и "вычислительные средства" — это нехорошо. Если вы посмотрите на то, что делает Google, в контексте капиталистической системы, то увидите, что она ведет себя настолько ответственно, насколько вы могли бы от нее ожидать. Но это не значит, что компания пытается максимизировать полезность для всех людей: по закону она обязана максимизировать полезность для своих акционеров, а это совсем другое дело”.

Хинтон высказал свои опасения по поводу того, что прогресс в области искусственного интеллекта может привести к концу цивилизации в течение 20 лет.

Но когда дело доходит до того, чтобы дать конкретный совет, у него не хватает слов. “Я не сторонник политики”, — говорит он. “Я просто человек, который внезапно осознал, что существует опасность того, что произойдет что-то действительно плохое. Хотел бы я, чтобы у меня было хорошее решение, например: ”Просто перестаньте сжигать углерод, и все будет в порядке". Но я не вижу такого простого решения".

В прошлом году быстрый прогресс в моделях искусственного интеллекта убедил Хинтона серьезно отнестись к угрозе того, что “цифровой интеллект” однажды может вытеснить человеческий.

“В течение последних 50 лет я пытался создать компьютерные модели, которые могли бы усваивать материал примерно так же, как это делает мозг, чтобы лучше понять, как мозг усваивает вещи. Но совсем недавно я решил, что, возможно, эти большие модели на самом деле намного лучше, чем мозг. Нам нужно хорошенько подумать об этом сейчас, и если есть что-то, что мы можем сделать. Причина, по которой я не столь оптимистичен, заключается в том, что я не знаю ни одного примера того, чтобы более разумные вещи контролировались менее разумными вещами. Вам нужно представить себе что-то, что умнее нас в той же степени, в какой мы умнее лягушки. Все это очень хорошо — говорить: ”Хорошо, не подключайте их к Интернету", но пока они разговаривают с нами, они могут заставить нас что-то делать".

Хинтон испытывает и другие опасения по поводу быстрого роста мощности моделей искусственного интеллекта, ссылаясь на влияние сторонника Cambridge Analytica Роберта Мерсера на политические кампании по обе стороны Атлантики: “Боб Мерсер и Питер Браун, когда они работали в IBM над переводом, понимали силу наличия большого количества данных. Без Боба Мерсера Трамп вполне мог бы еще не быть избран. И Боб, должно быть, понимал силу манипулирования, которую могут дать вам большие данные, и поэтому я думаю, что это уже привело к ужасным последствиям”.

Авторитарные правительства, по словам Хинтона, являются самым большим красным флагом, который говорит о том, что человечество не сможет осознать риски, связанные с искусственным интеллектом, пока не станет слишком поздно: “Этот материал помогает авторитарным правительствам уничтожать правду или манипулировать электоратом. И когда приходится иметь дело с этими угрозами, в ситуации, когда американцы не могут даже согласиться не давать штурмовые винтовки мальчикам-подросткам, об этом нетрудно подумать. В Увальде [массовое убийство 21 человека в начальной школе в Техасе в 2022 году] было 200 полицейских, которые не осмелились войти в дверь, потому что у парня с другой стороны была штурмовая винтовка, и он стрелял в детей. И все же они не могут решить не запрещать штурмовое оружие. Так что такая полностью дисфункциональная политическая система, как эта, просто не подходит для того, чтобы иметь дело с этими угрозами”.

Источник: www.mk.ru