Глава Anthropic призвал замедлить развитие ИИ

Генеральный директор Anthropic Дарио Амодеи прервал молчание и высказался об опасностях искусственного интеллекта — всего через несколько дней после того, как бывший сотрудник компании заявил, что в ближайшие десять лет существует 10-процентная вероятность исчезновения человечества из-за ИИ.

В субботу Амодеи опубликовал эссе, в котором отреагировал на волну беспокойства, вызванную громкими заявлениями его бывшего сотрудника Джейкоба Коксона, и заявил, что компаниям, работающим в сфере ИИ, необходимо срочно сбавить обороты.

Амодеи признал, что опасности ИИ включают «риск потери контроля над системами ИИ, использование ИИ для кибератак и биотерроризма, а также серьёзные экономические потрясения».

Он написал: «Без контроля это может обогнать нашу способность понимать и управлять такими системами». Решение, по его мнению, состоит из трёх шагов: привлечение независимых оценщиков, регулирование безопасности и глобальные соглашения.

При этом он отметил, что развитие ИИ не должно идти слишком медленно — иначе, по его словам, нас обгонит Китай.

В пятницу Коксон присоединился к эфиру, чтобы объяснить причины своего вирусного предупреждения.