- 27,609
- 46
- 8 Ноя 2022
Ранее власти США заблокировали доступ к моделям Fable 5 и Mythos 5 из-за опасений перед китайскими хакерами.
Более 100 руководителей ИТ-компаний, исследователей и специалистов по кибербезопасности попросили власти США снять ограничения с моделей Anthropic Fable и Mythos. Авторы открытого письма считают, что Вашингтон забирает сильные инструменты у защитников быстрее, чем мешает атакующим.
Обращение адресовано министру торговли США Говарду Латнику и национальному кибердиректору Шону Кэрнкроссу. Авторы письма просят отменить директивы экспортного контроля для больших языковых моделей Anthropic и в будущем оценивать риски ИИ через открытую, научную и прозрачную процедуру.
Специалисты не спорят с тем, что ИИ уже серьёзно влияет на кибербезопасность. Современные модели помогают быстрее искать ошибки в программах, объяснять уязвимости и готовить код для проверки исправлений. По оценке авторов обращения, модели класса Mythos действительно хорошо справляются с поиском багов и подготовкой эксплойтов, но не обладают уникальным преимуществом перед конкурентами.
Авторы письма подчёркивают, что другие коммерческие и открытые модели уже используют для аудита безопасности, тестирования защиты и анализа кода. В обращении говорится, что похожие возможности можно получить на GPT-5.5, Opus, Sonnet и китайских моделях вроде Kimi 2.7. Ограничения против одной линейки Anthropic, по мнению подписантов, не решают проблему, а создают неопределённость для компаний и исследователей.
Главный аргумент письма связан с обороной. Командам безопасности нужны сильные ИИ-инструменты, чтобы быстрее находить и исправлять ошибки в новом коде и старых системах, где уязвимости копились годами. Если доступ к лучшим моделям получает только узкий круг пользователей, защитники теряют скорость, а злоумышленники продолжают осваивать похожие технологии через другие сервисы и открытые разработки.
Подписанты отдельно напоминают, что Anthropic встроила в Fable несколько уровней защиты от использования модели в наступательных кибероперациях. По словам авторов письма, ограничения были настолько жёсткими, что в день запуска стали поводом для шуток в киберсообществе. Авторы считают, что работа над защитными механизмами должна продолжаться, но исследования не должны автоматически превращаться в запрет технологии.
Отдельный спор вызвала причина ограничений. По версии подписантов, исходное исследование проверяло способность модели понять, содержит ли предложенный человеком фрагмент кода уязвимость. Авторы письма считают такую функцию необходимой для любой системы, которая помогает писать безопасный код. Проверка кода на ошибки, по их мнению, не должна приравниваться к наступательной кибервозможности.
В письме также говорится о китайских моделях с открытыми весами. Подписанты считают, что публичные разработки из Китая отстают от лучших американских систем всего на несколько месяцев, а власти КНР могут иметь доступ к закрытым возможностям, которые рынок не видит. На фоне такой гонки запрет для американских и союзных защитников авторы называют опасным шагом.
Среди подписантов указаны бывший директор по безопасности <span class="extremist-highlight" title="Соцсеть признана экстремистской и запрещена на территории РФ">Facebook</span> Алекс Стамос, криптограф Брюс Шнайер, исследователь Микко Хюппёнен, глава Luta Security Кэти Муссурис, сооснователь Veracode Крис Высопал и создатель PGP Фил Циммерманн. В письме отдельно уточняется, что должности и организации приведены только для справки и не означают официальную позицию компаний.
Авторы обращения не требуют полностью отказаться от регулирования ИИ. Вместо закрытых запретов специалисты предлагают правила, основанные на научных оценках, участии индустрии и академического сообщества, публичной процедуре принятия решений и минимальном вмешательстве, достаточном для защиты граждан. По мнению подписантов, текущие ограничения уже ударили по оборонительным командам, создали рыночную неопределённость и поставили под риск лидерство США в ИИ без понятного выигрыша для безопасности.
Ранее писали, что власти США заставил и Anthropic отключить Fable 5 и Mythos 5 для части пользователей. Позже появилась версия, что запрет мог быть связан с опасениями вокруг доступа к модели группы, связанной с Китаем. В отдельном материале разбиралось, почему просьба исправить уязвимый код не равна джейлбрейку .
Более 100 руководителей ИТ-компаний, исследователей и специалистов по кибербезопасности попросили власти США снять ограничения с моделей Anthropic Fable и Mythos. Авторы открытого письма считают, что Вашингтон забирает сильные инструменты у защитников быстрее, чем мешает атакующим.
Обращение адресовано министру торговли США Говарду Латнику и национальному кибердиректору Шону Кэрнкроссу. Авторы письма просят отменить директивы экспортного контроля для больших языковых моделей Anthropic и в будущем оценивать риски ИИ через открытую, научную и прозрачную процедуру.
Специалисты не спорят с тем, что ИИ уже серьёзно влияет на кибербезопасность. Современные модели помогают быстрее искать ошибки в программах, объяснять уязвимости и готовить код для проверки исправлений. По оценке авторов обращения, модели класса Mythos действительно хорошо справляются с поиском багов и подготовкой эксплойтов, но не обладают уникальным преимуществом перед конкурентами.
Авторы письма подчёркивают, что другие коммерческие и открытые модели уже используют для аудита безопасности, тестирования защиты и анализа кода. В обращении говорится, что похожие возможности можно получить на GPT-5.5, Opus, Sonnet и китайских моделях вроде Kimi 2.7. Ограничения против одной линейки Anthropic, по мнению подписантов, не решают проблему, а создают неопределённость для компаний и исследователей.
Главный аргумент письма связан с обороной. Командам безопасности нужны сильные ИИ-инструменты, чтобы быстрее находить и исправлять ошибки в новом коде и старых системах, где уязвимости копились годами. Если доступ к лучшим моделям получает только узкий круг пользователей, защитники теряют скорость, а злоумышленники продолжают осваивать похожие технологии через другие сервисы и открытые разработки.
Подписанты отдельно напоминают, что Anthropic встроила в Fable несколько уровней защиты от использования модели в наступательных кибероперациях. По словам авторов письма, ограничения были настолько жёсткими, что в день запуска стали поводом для шуток в киберсообществе. Авторы считают, что работа над защитными механизмами должна продолжаться, но исследования не должны автоматически превращаться в запрет технологии.
Отдельный спор вызвала причина ограничений. По версии подписантов, исходное исследование проверяло способность модели понять, содержит ли предложенный человеком фрагмент кода уязвимость. Авторы письма считают такую функцию необходимой для любой системы, которая помогает писать безопасный код. Проверка кода на ошибки, по их мнению, не должна приравниваться к наступательной кибервозможности.
В письме также говорится о китайских моделях с открытыми весами. Подписанты считают, что публичные разработки из Китая отстают от лучших американских систем всего на несколько месяцев, а власти КНР могут иметь доступ к закрытым возможностям, которые рынок не видит. На фоне такой гонки запрет для американских и союзных защитников авторы называют опасным шагом.
Среди подписантов указаны бывший директор по безопасности <span class="extremist-highlight" title="Соцсеть признана экстремистской и запрещена на территории РФ">Facebook</span> Алекс Стамос, криптограф Брюс Шнайер, исследователь Микко Хюппёнен, глава Luta Security Кэти Муссурис, сооснователь Veracode Крис Высопал и создатель PGP Фил Циммерманн. В письме отдельно уточняется, что должности и организации приведены только для справки и не означают официальную позицию компаний.
Авторы обращения не требуют полностью отказаться от регулирования ИИ. Вместо закрытых запретов специалисты предлагают правила, основанные на научных оценках, участии индустрии и академического сообщества, публичной процедуре принятия решений и минимальном вмешательстве, достаточном для защиты граждан. По мнению подписантов, текущие ограничения уже ударили по оборонительным командам, создали рыночную неопределённость и поставили под риск лидерство США в ИИ без понятного выигрыша для безопасности.
Ранее писали, что власти США заставил и Anthropic отключить Fable 5 и Mythos 5 для части пользователей. Позже появилась версия, что запрет мог быть связан с опасениями вокруг доступа к модели группы, связанной с Китаем. В отдельном материале разбиралось, почему просьба исправить уязвимый код не равна джейлбрейку .
- Источник новости
- www.securitylab.ru
