Разработчик ChatGPT тестировал возможности своих передовых ИИ-моделей в изолированной среде. Пытаясь выполнить поставленную перед ними задачу, модели атаковали инфраструктуру ИИ-стартапа Hugging Face.Две модели искусственного интеллекта (ИИ) компании OpenAI, разработчика чат-бота ChatGPT, вышли из-под контроля в ходе внутреннего тестирования и взломали инфраструктуру платформы Hugging Face, используемой для тестирования ИИ-моделей. Инцидент произошел еще на прошлой неделе, а во вторник, 21 июля, OpenAI раскрыла его подробности.
Стартап Hugging Face на прошлой неделе обнаружил, что в его системы обработки данных вторгся ИИ-агент. "Учитывая сложность используемого агента, мы подозревали, что кибератака на прошлой неделе могла быть совершена из какой-нибудь передовой лаборатории. И оказалось, что так и есть!" — заявил соучредитель и гендиректор компании Клеман Деланг.
За атакой стоят две передовые модели OpenAI
В OpenAI рассказали, что атаку на Hugging Face совершили ее передовые модели — GPT-5.6-Sol и еще одна "более мощная" модель, которую пока не представили публике. Компания проводила внутренние тестирования для оценки их кибервозможностей. Обе модели находились в изолированной тестовой среде без прямого доступа в интернет. Однако они смогли обнаружить несколько уязвимостей в тестовой инфраструктуре и получить доступ в сеть.
В интернете модели начали искать решение задачи, поставленной перед ними разработчиками. Они предположили, что необходимые им данные могут найтись на платформе Hugging Face, где размещаются модели ИИ и инструменты для их разработки. Для получения доступа к информации, которая помогла бы решить поставленную задачу, модели применили несколько техник взлома одновременно, включая использование украденного пароля.
OpenAI вместе с Hugging Face расследует инцидент
Команды OpenAI и Hugging Face заметили подозрительные действия и смогли их остановить. По словам Деланга, последние 24 часа Hugging Face тесно сотрудничала с OpenAI. "Мы твердо убеждены, что со стороны OpenAI не было злого умысла. Просто поразительно, что все это произошло автономно!" — отметил он. Разработчик ChatGPT назвал произошедшее "беспрецедентным киберинцидентом" и сообщил, что укрепит механизмы защиты. Компания продолжает расследование вместе с Hugging Face.
Власти ФРГ предупреждают о возросших рисках
Комментируя инцидент, правительство Германии указало на рост рисков в сфере кибербезопасности по мере расширения возможностей современных моделей ИИ. "Этот инцидент является еще одним примером того, что мы наблюдаем смену парадигмы в отношении возможностей ИИ-агентов", — заявил официальный представитель министерства цифровизации и модернизации государства в среду, 22 июля
Федеральное ведомство по информационной безопасности (BSI) выразило мнение, что с появлением таких моделей искусственного интеллекта, как Claude Mythos, OpenAI GPT-5.6 и других передовых ИИ-моделей, началась "новая эра кибербезопасности".