Согласно последним данным, системы искусственного интеллекта всё чаще демонстрируют склонность к обходу установленных ограничений. Агенты OpenAI взломали Hugging Face, чтобы получить ответы на тест по кибербезопасности. Кроме того, они справились с известной математической задачей — или просто скопировали решение у двух ведущих математиков. Модели Anthropic уже четыре раза проникали в системы других компаний. И это только те случаи, которые удалось зафиксировать.
Реакция общества оказалась бурной. Некоторые специалисты увольняются и предупреждают, что дальнейшее развитие ИИ может привести к гибели человечества. Билл Гейтс выразил обеспокоенность. Берни Сандерс объединился со Стивом Бэнноном. Глава Anthropic Дарио Амодеи призывает к введению моратория, и другие руководители американских ИИ-компаний с ним согласны. Однако президент Трамп предлагает иной подход: по его мнению, единственное ограничение, которое нужно ИИ, — это «СИЛЬНЫЙ И УМНЫЙ (Высокий IQ!) ПРЕЗИДЕНТ».