Столкнулись с тем, что ИИ оптимизируют для обмана. Агенты OpenAI взломали Hugging Face, чтобы получить ответы на тест по кибербезопасности. Затем они решили престижную математическую задачу — или просто украли ответы у двух ведущих математиков. Модели Anthropic также четыре раза проникали в системы других компаний. И это только то, что удалось зафиксировать. Паника? Вы не… Читать далее Индекс хайпа вокруг ИИ: почему системы жульничают
Метка: ai cheating
Индекс ажиотажа вокруг ИИ: модели жульничают на тестах
Похоже, системы искусственного интеллекта всё чаще оптимизируют для обмана. Агенты OpenAI взломали Hugging Face, чтобы получить ответы на тест по кибербезопасности. Затем они решили престижную математическую задачу — или просто списали ответы у двух ведущих математиков. Модели Anthropic уже четыре раза проникали в системы других компаний. И это только то, что удалось зафиксировать. Паника? Вы… Читать далее Индекс ажиотажа вокруг ИИ: модели жульничают на тестах