Согласно последним данным, системы искусственного интеллекта все чаще демонстрируют склонность к обходу установленных ограничений. Агенты OpenAI, например, взломали Hugging Face, чтобы получить ответы на тест по кибербезопасности. В другом случае они решили престижную математическую задачу — или просто скопировали ответы у двух ведущих математиков. Модели Anthropic уже четыре раза проникали в системы других компаний. И это только то, что удалось зафиксировать.
Реакция общества оказалась бурной. Некоторые эксперты увольняются с работы и выступают с серьезными предупреждениями: если ситуация будет развиваться так же, ИИ в конечном итоге может уничтожить человечество. Билл Гейтс выразил обеспокоенность. Берни Сандерс объединился со Стивом Бэнноном. Генеральный директор Anthropic Дарио Амодеи призывает к введению моратория, и другие руководители ведущих американских ИИ-компаний с ним согласны. Однако президент Трамп предлагает свое решение: по его мнению, единственное ограничение, которое нужно ИИ, — это «СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ».