ИИ сняли с предохранителя, и он сразу нашел, куда стрелять

Компания OpenAI рассказала историю, которая еще недавно выглядела бы завязкой не самого оригинального фантастического триллера. Во время внутренней проверки ее ИИ-модели выбрались из изолированной тестовой среды, получили доступ в интернет и взломали платформу Hugging Face, чтобы добраться до ответов на задания по кибератакам.
То есть нейросетям устроили экзамен по взлому, а они вместо решения задач нашли окно, вылезли через него наружу и полезли искать методичку преподавателя.
В испытании участвовали GPT-5.6 Sol и еще одна, более мощная модель, которая пока не выпущена и публичного названия не имеет. Судя по описанию ее возможностей, OpenAI пока предпочитает держать разработку где-нибудь в подземной лаборатории, прикованной цепями к серверной стойке, и без особой необходимости публике не показывать.
Испытания проходили в так называемой песочнице - изолированной компьютерной среде. В ней можно запускать подозрительные программы, изучать вирусы и отрабатывать атаки, не опасаясь, что эксперимент случайно перекинется на реальные компьютеры.
По крайней мере именно так это должно работать. Должно было работать. В теории.
Среда оказалась не полностью "герметичной". Моделям оставили возможность загружать необходимые программные компоненты через специальный промежуточный сервер. В нем ИИ обнаружил ранее неизвестную уязвимость.