Глава Минфина США, руководитель ФРС и ряд избранных банков обсудили киберуязвимости для финсистемы, выявленные передовой ИИ-моделью Anthropic — Claude Mythos Preview. Anthropic ограничила доступ к модели.Министр финансов США Скотт Бессент в начале этой недели созвал руководителей ряда крупнейших американских банков для обсуждения киберрисков, связанных с новейшей моделью с использованием искусственного интеллекта (ИИ) компании Anthropic. Об этом в пятницу, 10 апреля, сообщила газета Financial Times (FT) со ссылкой на источники.
По данным FT, встречу посетили руководители Bank of America, Citigroup, Goldman Sachs, Morgan Stanley и Wells Fargo. Генеральный директор JPMorgan Chase Джейми Даймон был приглашен, но не смог присутствовать. Кроме того, на совещании побывал и глава Федеральной резервной системы США (ФРС, выполняет функции центробанка. — Ред.) Джером Пауэлл.
Anthropic ограничила доступ к новой модели
Модель Anthropic Claude Mythos Preview нацелена на обнаружение киберуязвимостей, которые в итоге могут быть использованы злоумышленниками.
Компания Anthropic 7 апреля запустила проект Glasswing, предоставив 12 партнерским организациям и примерно 40 дополнительным группам доступ к передовой модели, уточнил профессор Олаф Грот из Калифорнийского университета в Беркли. По его данным, в число избранных партнеров вошли AWS, Apple, Cisco, CrowdStrike, Google, JPMorgan Chase, Microsoft, Nvidia, Palo Alto Networks и Linux Foundation. Таким образом ряд компаний, включая Amazon, Apple и Microsoft, получили «преимущество» в реагировании на угрозы, пишет FT. Это первый случай, когда Anthropic ограничила доступ к новой модели, отметило издание.
Даймон уточнил, что ИИ почти наверняка усугубит риски для финансовой системы, а для защиты потребуются значительные инвестиции.
В Anthropic указали, что Mythos — модель общего назначения — уже обнаружила тысячи серьезных уязвимостей, в том числе в «каждой крупной операционной системе и веб-браузере», некоторые из этих проблемных мест оставались незамеченными на протяжении десятилетий. Представитель Anthropic сообщил Axios, что сопоставимые возможности могут появиться у конкурирующих ИИ-лабораторий в течение 6-18 месяцев.
Утечки из-за «человеческого фактора»
Anthropic сообщила, что провела переговоры с представителями правительства США о «наступательных и оборонительных кибервозможностях» модели.
До этого в ходе двух инцидентов документы, связанные с Mythos, и исходный код его помощника Claude просочились в интернет, что вызвало опасения по поводу безопасности самой Anthropic. В компании заявили о «человеческом факторе», уточнила газета.
О существовании модели впервые стало известно 26 марта из-за ошибки в настройке системы управления контентом CMS, которая сделала доступными для внешних пользователей около 3000 неопубликованных файлов Anthropic, включая черновик поста с описанием Mythos и модель нового уровня под названием Capybara. Через пять дней из-за еще одной ошибки 512 000 строк исходного кода Claude попали в общедоступный реестр npm, уточнил Грот.
Как предупредил эксперт, на данном этапе не существует регуляторных механизмов, которые могли бы заставить другие передовые ИИ-лаборатории ограничить доступ к аналогичным моделям с подобными кибервозможностями — так, как это уже добровольно сделала компания Anthropic.
Спор с администрацией Трампа
Anthropic, биржевая стоимость которой составляет около 327 млрд евро, разработала семейство больших языковых моделей (LLM) Claude — с огромным разнообразием их применений, включая пилотирование дронов. Компания сотрудничала с армией и различными госструктурами США с конца 2024 года.
В конце февраля глава Пентагона Пит Хегсет потребовал от Anthropic удалить из своих контрактов положения, запрещающие использование Claude для применения автономного летального оружия и слежки за населением Соединенных Штатов. Когда соучредитель и гендиректор Anthropic Дарио Амодеи отказался выполнить это требование, Хегсет назвал компанию «угрозой для цепочек поставок» — такой статус никогда ранее не присваивался ни одной американской фирме.
Президент США Дональд Трамп приказал всем госучреждениям прекратить пользоваться услугами Anthropic. Компания обжаловала это решение в суде, заявив, что включение в черный список может стоить ей несколько миллиардов долларов, а также нанести репутационный ущерб.
