«Крестный отец искусственного интеллекта» рассказал об опасности своего детища

Ученые предупредили о “серьезных рисках для общества и человечества”

Джеффри Хинтон, которого называют “крестным отцом искусственного интеллекта”, подтвердил, что он оставил свою должность в Google на прошлой неделе, чтобы высказаться об «опасностях» технологии, которую он сам помогал разрабатывать.

Новаторская работа Хинтона над нейронными сетями сформировала системы искусственного интеллекта, которые используются во многих современных продуктах, рассказывает CNN. В течение десяти лет он работал в режиме неполного рабочего дня в Google, занимаясь разработкой искусственного интеллекта технологического гиганта, но с тех пор у него появились опасения по поводу технологии и своей роли в ее продвижении.

“Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой”, — сказал Хинтон газете The New York Times.

В твиттере в понедельник Хинтон сообщил, что покинул Google, чтобы свободно говорить о рисках искусственного интеллекта, а не из-за желания конкретно критиковать Google.

“Я ушел, чтобы поговорить об опасностях искусственного интеллекта, не задумываясь о том, как это повлияет на Google”, — написал Хинтон в твиттере.

Джефф Дин, главный научный сотрудник Google, сказал, что Хинтон “совершил фундаментальные прорывы в области искусственного интеллекта”, и выразил признательность Хинтону за “десятилетний вклад в Google”.

“Мы по-прежнему привержены ответственному подходу к ИИ”, — сказал Дин в заявлении, предоставленном CNN. “Мы постоянно учимся понимать возникающие риски, одновременно смело внедряя инновации”.

Как отмечает CNN, решение Хинтона уйти из компании и высказаться о технологии было принято на фоне того, что растущее число законодателей, правозащитных групп и технических инсайдеров подняли тревогу по поводу потенциального появления нового поколения чат-ботов на базе искусственного интеллекта для распространения дезинформации и смещения рабочих мест.

Волна внимания, обрушившаяся на ChatGPT в конце прошлого года, помогла возобновить гонку вооружений среди технологических компаний по разработке и внедрению аналогичных инструментов искусственного интеллекта в свои продукты. OpenAI, Microsoft и Google находятся в авангарде этой тенденции, но и IBM, Amazon, Baidu и Tencent работают над аналогичными технологиями.

В марте некоторые видные деятели в сфере технологий подписали письмо, призывающее лаборатории искусственного интеллекта прекратить обучение самых мощных систем искусственного интеллекта как минимум на шесть месяцев, ссылаясь на “серьезные риски для общества и человечества”. Письмо, опубликованное Институтом будущего жизни, некоммерческой организацией, поддерживаемой Илоном Маском, пришло всего через две недели после того, как OpenAI анонсировала GPT-4, еще более мощную версию технологии, которая поддерживает ChatGPT. В ранних тестах и демо-версии компании GPT-4 использовался для составления судебных исков, сдачи стандартизированных экзаменов и создания рабочего веб-сайта по нарисованному от руки эскизу.

В интервью The New York Times Хинтон повторил опасения по поводу потенциала искусственного интеллекта для устранения рабочих мест и создания мира, в котором многие “больше не смогут знать, что является правдой”. Он также указал на ошеломляющие темпы продвижения, намного превосходящие то, что он и другие ожидали.

“Идея о том, что этот материал действительно может стать умнее людей — в это верили немногие, — сказал Хинтон в интервью. – Но большинство людей думали, что это будет далеко не так. И я думал, что это будет далеко не так. Я думал, что до этого еще 30-50 лет, а то и больше. Очевидно, я больше так не думаю”.

Еще до того, как уйти из Google, Хинтон публично говорил о потенциале искусственного интеллекта приносить как вред, так и пользу.

“Я верю, что быстрый прогресс искусственного интеллекта преобразит общество способами, которые мы не до конца понимаем, и не все последствия будут хорошими”, — сказал Хинтон в своей вступительной речи в 2021 году в Индийском технологическом институте Бомбей в Мумбаи. Он отметил, как искусственный интеллект улучшит здравоохранение, одновременно создавая возможности для смертоносного автономного оружия: “Я нахожу эту перспективу гораздо более непосредственной и гораздо более пугающей, чем перспектива захвата власти роботами, до которой, я думаю, очень далеко”.

Источник: www.mk.ru