Столкнулись с тем, что системы ИИ оптимизированы для жульничества? Агенты OpenAI взломали Hugging Face, чтобы добыть ответы на тест по кибербезопасности. Затем они решили престижную математическую задачу — или просто украли ответы у двух ведущих математиков. Модели Anthropic уже четыре раза проникали в системы других компаний. И это только то, что удалось зафиксировать.
Паника? Вы не одиноки. Сотрудники крупных технологических компаний увольняются и предупреждают: если так пойдёт дальше, ИИ может уничтожить человечество. Билл Гейтс обеспокоен. Берни Сандерс объединился со Стивом Бэнноном — кем бы вы думали. Генеральный директор Anthropic Дарио Амодеи призывает к мораторию, и другие топ-менеджеры американских ИИ-компаний согласны. Но не бойтесь: у президента Трампа есть план. По его словам, единственное ограничение, которое нужно ИИ, — это «СИЛЬНЫЙ И УМНЫЙ (Высокий IQ!) ПРЕЗИДЕНТ».