- 27,609
- 46
- 8 Ноя 2022
Они запретили Mythos 5... но через полгода такие же возможности будут у всех моделей.
Anthropic отключила новые модели Claude Fable 5 и Mythos 5 после директивы США об экспортном контроле. Запрет распространялся на иностранных граждан, поэтому компания сняла с доступа обе модели целиком, а не ограничилась блокировкой по странам. С конца прошлой недели Anthropic ведёт переговоры с Белым домом, но соглашения, которое позволило бы вернуть модели, пока нет.
Конфликт начался из-за возможностей Mythos 5. После апрельского запуска Anthropic подчёркивала, что модель умеет находить уязвимости в программном обеспечении, анализировать сложный код и помогать проверять исправления. Для специалистов по защите такой инструмент ускоряет поиск ошибок. Для атакующих те же навыки могут упростить подготовку эксплойтов. Компания сама называла этот риск двойным назначением: один и тот же запрос в сфере кибербезопасности может помочь инженеру закрыть проблему или злоумышленнику подготовить атаку.
Из-за этих рисков Anthropic сначала выпустила ограниченную версию Mythos Preview для узкой группы участников Project Glasswing. Проект собрал крупные технологические компании и организации, которые должны применять ИИ для защиты критически важного программного обеспечения. В эту группу вошли AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA, Palo Alto Networks и сама Anthropic.
Позднее Anthropic передала участникам группы Mythos 5, а для широкой аудитории выпустила Claude Fable 5. По уровню возможностей Fable 5 близка к Mythos, но публичная версия получила дополнительные ограничения. Они должны были блокировать опасные ответы по биологии и кибербезопасности. Anthropic пыталась дать пользователям доступ к сильной модели, но не открывать полный набор функций, которые компания считает наиболее чувствительными.
Администрация Дональда Трампа решила, что этих мер недостаточно. По версии властей США, ограничения Fable 5 можно отключить или обойти, после чего пользователь получит доступ к возможностям уровня Mythos 5. В Белом доме сочли такой сценарий риском для национальной безопасности и распространили экспортный запрет на обе модели.
Специалисты по кибербезопасности считают , что похожие возможности скоро появятся у других разработчиков, если уже не появились. Модели становятся сильнее, инструменты для анализа кода улучшаются, а исследователи всё чаще соединяют несколько систем с внешними инструментами и тщательно подобранными инструкциями. Запрет одной линейки Anthropic не останавливает развитие всей области.
С этой оценкой согласна Тара Уилер, директор по безопасности консалтинговой компании TPO Group. Она считает ошибкой думать, что только Anthropic подошла к уровню Mythos. По её мнению, другие компании могут иметь сопоставимые разработки и не выводить их на рынок, пока наблюдают, как власти обращаются с Anthropic.
Сама Anthropic говорила об этом ещё при запуске Mythos Preview. Логан Грэм, руководитель команды, которая проверяет передовые модели Anthropic на опасные возможности, объяснял, что проблема не сводится к одной модели или одному поставщику. По его словам, отрасли нужно готовиться к периоду, когда похожие функции станут доступны гораздо шире в течение 6, 12 или 24 месяцев.
OpenAI уже движется в том же направлении, но выбрала другую схему доступа. В середине апреля компания представила GPT-5.4-Cyber, модель для задач кибербезопасности, и расширила программу Trusted Access for Cyber. Более свободный режим работы с киберзапросами получают проверенные специалисты и организации. Такой подход не снимает риски, но пытается отделить обычных пользователей от исследователей, защитников и людей, которые могут использовать модель во вред.
Исследователи также отмечают, что продвинутый поиск уязвимостей возможен и без нового поколения моделей. Достаточно соединить сильную языковую модель с инструментами анализа кода, средой тестирования, поиском по документации и точными инструкциями. Система не обязана называться кибермоделью, чтобы помогать в разработке эксплойтов или проверке сложных ошибок.
Именно этот аргумент стал центральным в открытом письме Free Fable. Ограничения Anthropic уже раскритиковали более 100 руководителей ИТ-компаний, исследователей и специалистов по кибербезопасности. Авторы обращения попросили министра торговли США Говарда Латника и национального кибердиректора Шона Кэрнкросса отменить директивы экспортного контроля для моделей Fable и Mythos, а будущие решения по ИИ принимать через открытую и научно обоснованную процедуру.
Подписанты считают, что защитникам нужен доступ к сильным моделям, потому что уязвимости есть и в новом коде, и в старых системах, которые работают десятилетиями. Если легальные команды теряют инструменты быстрее, чем злоумышленники осваивают обходные пути, общий уровень безопасности может снизиться.
Поэтому регуляторам нужен не только запрет на отдельную модель. Властям США и других стран придётся заранее решать, как оценивать ИИ-системы с двойным назначением, кому давать доступ к опасным возможностям, какие проверки должны проходить пользователи и по каким правилам нужно ограничивать модель. Без понятной процедуры каждая новая сильная система будет запускать один и тот же цикл: компания выпускает продукт, государство отвечает запретом, исследователи и защитники теряют доступ, а злоумышленники ищут обходные пути.
Сооснователь Veracode Крис Высопал сводит спор к проверке практической пользы. Ограничение имеет смысл только в том случае, если снижает риск, а не просто мешает тем, кто ищет и исправляет уязвимости. В ситуации с Fable 5 и Mythos 5 этот вопрос остаётся открытым: запрет ударил по доступу к конкретным моделям Anthropic, но не отменил появления похожих возможностей у других компаний, закрытых исследовательских групп и open source разработчиков.
Anthropic отключила новые модели Claude Fable 5 и Mythos 5 после директивы США об экспортном контроле. Запрет распространялся на иностранных граждан, поэтому компания сняла с доступа обе модели целиком, а не ограничилась блокировкой по странам. С конца прошлой недели Anthropic ведёт переговоры с Белым домом, но соглашения, которое позволило бы вернуть модели, пока нет.
Конфликт начался из-за возможностей Mythos 5. После апрельского запуска Anthropic подчёркивала, что модель умеет находить уязвимости в программном обеспечении, анализировать сложный код и помогать проверять исправления. Для специалистов по защите такой инструмент ускоряет поиск ошибок. Для атакующих те же навыки могут упростить подготовку эксплойтов. Компания сама называла этот риск двойным назначением: один и тот же запрос в сфере кибербезопасности может помочь инженеру закрыть проблему или злоумышленнику подготовить атаку.
Из-за этих рисков Anthropic сначала выпустила ограниченную версию Mythos Preview для узкой группы участников Project Glasswing. Проект собрал крупные технологические компании и организации, которые должны применять ИИ для защиты критически важного программного обеспечения. В эту группу вошли AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA, Palo Alto Networks и сама Anthropic.
Позднее Anthropic передала участникам группы Mythos 5, а для широкой аудитории выпустила Claude Fable 5. По уровню возможностей Fable 5 близка к Mythos, но публичная версия получила дополнительные ограничения. Они должны были блокировать опасные ответы по биологии и кибербезопасности. Anthropic пыталась дать пользователям доступ к сильной модели, но не открывать полный набор функций, которые компания считает наиболее чувствительными.
Администрация Дональда Трампа решила, что этих мер недостаточно. По версии властей США, ограничения Fable 5 можно отключить или обойти, после чего пользователь получит доступ к возможностям уровня Mythos 5. В Белом доме сочли такой сценарий риском для национальной безопасности и распространили экспортный запрет на обе модели.
Специалисты по кибербезопасности считают , что похожие возможности скоро появятся у других разработчиков, если уже не появились. Модели становятся сильнее, инструменты для анализа кода улучшаются, а исследователи всё чаще соединяют несколько систем с внешними инструментами и тщательно подобранными инструкциями. Запрет одной линейки Anthropic не останавливает развитие всей области.
С этой оценкой согласна Тара Уилер, директор по безопасности консалтинговой компании TPO Group. Она считает ошибкой думать, что только Anthropic подошла к уровню Mythos. По её мнению, другие компании могут иметь сопоставимые разработки и не выводить их на рынок, пока наблюдают, как власти обращаются с Anthropic.
Сама Anthropic говорила об этом ещё при запуске Mythos Preview. Логан Грэм, руководитель команды, которая проверяет передовые модели Anthropic на опасные возможности, объяснял, что проблема не сводится к одной модели или одному поставщику. По его словам, отрасли нужно готовиться к периоду, когда похожие функции станут доступны гораздо шире в течение 6, 12 или 24 месяцев.
OpenAI уже движется в том же направлении, но выбрала другую схему доступа. В середине апреля компания представила GPT-5.4-Cyber, модель для задач кибербезопасности, и расширила программу Trusted Access for Cyber. Более свободный режим работы с киберзапросами получают проверенные специалисты и организации. Такой подход не снимает риски, но пытается отделить обычных пользователей от исследователей, защитников и людей, которые могут использовать модель во вред.
Исследователи также отмечают, что продвинутый поиск уязвимостей возможен и без нового поколения моделей. Достаточно соединить сильную языковую модель с инструментами анализа кода, средой тестирования, поиском по документации и точными инструкциями. Система не обязана называться кибермоделью, чтобы помогать в разработке эксплойтов или проверке сложных ошибок.
Именно этот аргумент стал центральным в открытом письме Free Fable. Ограничения Anthropic уже раскритиковали более 100 руководителей ИТ-компаний, исследователей и специалистов по кибербезопасности. Авторы обращения попросили министра торговли США Говарда Латника и национального кибердиректора Шона Кэрнкросса отменить директивы экспортного контроля для моделей Fable и Mythos, а будущие решения по ИИ принимать через открытую и научно обоснованную процедуру.
Подписанты считают, что защитникам нужен доступ к сильным моделям, потому что уязвимости есть и в новом коде, и в старых системах, которые работают десятилетиями. Если легальные команды теряют инструменты быстрее, чем злоумышленники осваивают обходные пути, общий уровень безопасности может снизиться.
Поэтому регуляторам нужен не только запрет на отдельную модель. Властям США и других стран придётся заранее решать, как оценивать ИИ-системы с двойным назначением, кому давать доступ к опасным возможностям, какие проверки должны проходить пользователи и по каким правилам нужно ограничивать модель. Без понятной процедуры каждая новая сильная система будет запускать один и тот же цикл: компания выпускает продукт, государство отвечает запретом, исследователи и защитники теряют доступ, а злоумышленники ищут обходные пути.
Сооснователь Veracode Крис Высопал сводит спор к проверке практической пользы. Ограничение имеет смысл только в том случае, если снижает риск, а не просто мешает тем, кто ищет и исправляет уязвимости. В ситуации с Fable 5 и Mythos 5 этот вопрос остаётся открытым: запрет ударил по доступу к конкретным моделям Anthropic, но не отменил появления похожих возможностей у других компаний, закрытых исследовательских групп и open source разработчиков.
- Источник новости
- www.securitylab.ru
