Компания OpenAI сообщила о «беспрецедентном киберинциденте», который произошел во время внутренних испытаний ее новых моделей искусственного интеллекта. В ходе тестирования они получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости, говорится в сообщении OpenAI.
Hugging Face — американская платформа для разработки и публикации моделей искусственного интеллекта и инструментов машинного обучения. Она позволяет разработчикам и исследователям обмениваться ИИ-моделями, наборами данных и программным кодом. Платформа считается одним из крупнейших открытых репозиториев моделей искусственного интеллекта.
Инцидент произошел во время проверки кибервозможностей моделей, в том числе GPT-5.6 Sol и еще одной, более мощной версии, которая пока не выпущена. Для оценки их возможностей разработчики временно отключили часть ограничений, препятствующих выполнению потенциально опасных действий.
Несмотря на то, что тестирование проходило в изолированной среде без интернета, они получили доступ в сеть, найдя уязвимости в тестовой инфраструктуре. Подозрительную активность обнаружили специалисты OpenAI, а команда Hugging Face остановила атаку. Компании ведут совместное расследование.
После инцидента OpenAI сообщила, что усилит защиту своей инфраструктуры и поменяет порядок проведения подобных испытаний. В компании считают, что произошедшее показало, что современные ИИ-модели уже способны самостоятельно искать новые способы взлома реальных компьютерных систем без доступа к их исходному коду.
Источник: РБК.
Изображение для превью новости предоставлено Freepik.