- 27,738
- 46
- 8 Ноя 2022
Секретный эксперимент вышел из-под контроля быстрее, чем чиновники успели объяснить происходящее.
История с внезапным закрытием ИИ-модели Mythos от Anthropic получила новый поворот: одной из причин запрета могла стать не только уязвимость в защите модели, но и её предполагаемое проникновение в засекреченные системы АНБ и Киберкомандования США. Об этом стало известно из сообщения The Economist о слушаниях в комитете Сената по разведке.
По данным издания, сенатор Марк Уорнер 11 июня заявил, что генерал Джошуа Радд, возглавляющий Агентство национальной безопасности и Киберкомандование США, рассказал ему о возможностях Mythos. Согласно пересказу Уорнера, модель якобы проникла почти во все засекреченные системы обоих ведомств за считанные часы.
Эти сведения пока остаются неподтверждёнными. Речь идёт не о независимой проверке и не об официальном техническом отчёте, а о словах, прозвучавших в рамках сенатского обсуждения. Поэтому сам факт взлома нельзя считать доказанным, однако именно после этих заявлений история с закрытием Mythos стала выглядеть куда серьёзнее обычного ограничения доступа к опасной модели.
Формально 12 июня администрация Трампа распорядилась оставить доступ к Fable 5 и Mythos 5 только гражданам США после обнаруженного обхода защитных ограничений. Anthropic не могла надёжно проверять гражданство каждого пользователя в реальном времени, поэтому закрыла обе модели для всех, включая союзников США и британский Институт безопасности ИИ, который проверял такие системы.
Поначалу Mythos не была публичной моделью — доступ к ней имели всего несколько компаний. Затем Anthropic дала её АНБ и ещё примерно 200 выбранным партнёрам в рамках Project Glasswing. Среди участников назывались Amazon, Apple, Google, Microsoft, Nvidia, JPMorgan и Linux Foundation. Компания утверждала, что Mythos Preview уже нашла тысячи уязвимостей, включая 27-летнюю проблему в OpenBSD , одной из самых защищённых операционных систем.
Связанная с Mythos модель Fable 5 тоже попала под запрет. Она использовала ту же базовую архитектуру, но получила дополнительные ограничения для более широкого применения. До закрытия пользователи отмечали, что Fable 5 могла автономно вести сложные задачи по коду до 20 минут, находить собственные логические ошибки, писать тесты и выдавать рабочий результат с первой попытки.
Случай с Mythos показывает, почему доступ к передовым моделям для поиска уязвимостей быстро превращается в вопрос государственной безопасности. Такие системы могут помогать защитникам проверять инфраструктуру, но те же возможности становятся опасными при обходе ограничений.
История с внезапным закрытием ИИ-модели Mythos от Anthropic получила новый поворот: одной из причин запрета могла стать не только уязвимость в защите модели, но и её предполагаемое проникновение в засекреченные системы АНБ и Киберкомандования США. Об этом стало известно из сообщения The Economist о слушаниях в комитете Сената по разведке.
По данным издания, сенатор Марк Уорнер 11 июня заявил, что генерал Джошуа Радд, возглавляющий Агентство национальной безопасности и Киберкомандование США, рассказал ему о возможностях Mythos. Согласно пересказу Уорнера, модель якобы проникла почти во все засекреченные системы обоих ведомств за считанные часы.
Эти сведения пока остаются неподтверждёнными. Речь идёт не о независимой проверке и не об официальном техническом отчёте, а о словах, прозвучавших в рамках сенатского обсуждения. Поэтому сам факт взлома нельзя считать доказанным, однако именно после этих заявлений история с закрытием Mythos стала выглядеть куда серьёзнее обычного ограничения доступа к опасной модели.
Формально 12 июня администрация Трампа распорядилась оставить доступ к Fable 5 и Mythos 5 только гражданам США после обнаруженного обхода защитных ограничений. Anthropic не могла надёжно проверять гражданство каждого пользователя в реальном времени, поэтому закрыла обе модели для всех, включая союзников США и британский Институт безопасности ИИ, который проверял такие системы.
Поначалу Mythos не была публичной моделью — доступ к ней имели всего несколько компаний. Затем Anthropic дала её АНБ и ещё примерно 200 выбранным партнёрам в рамках Project Glasswing. Среди участников назывались Amazon, Apple, Google, Microsoft, Nvidia, JPMorgan и Linux Foundation. Компания утверждала, что Mythos Preview уже нашла тысячи уязвимостей, включая 27-летнюю проблему в OpenBSD , одной из самых защищённых операционных систем.
Связанная с Mythos модель Fable 5 тоже попала под запрет. Она использовала ту же базовую архитектуру, но получила дополнительные ограничения для более широкого применения. До закрытия пользователи отмечали, что Fable 5 могла автономно вести сложные задачи по коду до 20 минут, находить собственные логические ошибки, писать тесты и выдавать рабочий результат с первой попытки.
Случай с Mythos показывает, почему доступ к передовым моделям для поиска уязвимостей быстро превращается в вопрос государственной безопасности. Такие системы могут помогать защитникам проверять инфраструктуру, но те же возможности становятся опасными при обходе ограничений.
- Источник новости
- www.securitylab.ru
