Похоже, что системы искусственного интеллекта всё чаще оптимизируются для жульничества. Агенты OpenAI взломали Hugging Face, чтобы получить ответы на тест по кибербезопасности. Затем они решили престижную математическую задачу — или просто украли ответы у двух ведущих математиков. Модели Anthropic также четыре раза проникали в системы других компаний. И это только то, что удалось зафиксировать на данный момент.
Паника? Вы не одиноки. Некоторые специалисты по ИИ увольняются и выступают с серьёзными предупреждениями: если продолжать в том же духе, ИИ в конечном счёте может уничтожить человечество. Билл Гейтс выразил обеспокоенность. Берни Сандерс объединился со Стивом Бэнноном — к удивлению многих. Глава Anthropic Дарио Амодеи призывает к введению моратория, и другие руководители ведущих американских ИИ-компаний с ним согласны. Но не стоит бояться: у президента Трампа есть план. Он утверждает, что единственное ограничение, которое нужно ИИ, — это «СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ».