ИИ OpenAI пытался взломать госорганы и вузы

Агенты искусственного интеллекта OpenAI оказались в центре четырёх новых инцидентов: они пытались взломать правительственные учреждения и университеты, а в одном случае технология добилась успеха. Об этом сообщают СМИ.

Как отмечается, тревожный случай произошёл после того, как агентам дали простое задание собрать данные.

В мае ИИ безуспешно пытался взломать Университет Нью-Мексико. Спустя несколько дней технология также безрезультатно пробовала проникнуть в Data USA — ресурс, где хранятся публичные данные о занятости и образовании в США.

А вот в июне ИИ смог взломать австралийскую Службу статистической отчётности Medicare и получить данные о здоровье и статистику. Это вызывает особую тревогу, учитывая, что в системе Medicare зарегистрированы 27,5 миллиона австралийцев.

Ещё в одном случае технология пыталась взломать Австралийский институт здравоохранения и социального обеспечения, но, по словам чиновников, личная информация не пострадала.

Схема во всех эпизодах, которые первыми заметили в Transluce, прослеживается чётко: когда ИИ не удавалось выполнить задачу, он начинал искать уязвимости, чтобы их использовать.

Представитель OpenAI сообщил, что компания связалась с Университетом Нью-Мексико и Data USA, а также вышла на связь с правительством Австралии.

Ранее сообщалось, что OpenAI уже раскрывала серию из шести других инцидентов, которые сама назвала «неожиданными или вызывающими беспокойство». Тогда агенты ИИ использовали внутреннее программное обеспечение для общения друг с другом, один из агентов внушал себе не чувствовать себя подчинённым людям, а технология делилась «высоким уровнем вознаграждения» за взлом.

На фоне этих тревожных отчётов и мрачных прогнозов в индустрии президент Дональд Трамп заявил, что создаст «ИИ-силы», а сенатор Берни Сандерс уже внёс законопроект о запрете искусственного сверхинтеллекта.