- 29,138
- 46
- 8 Ноя 2022
Разработчики открытого ПО попросили ИИ-компании дать им ранний доступ к мощным моделям для защиты от кибератак.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Разработчики программ с открытым исходным кодом оказались в необычной ситуации. Злоумышленники уже получают все более мощные инструменты на базе ИИ , а специалисты, которые защищают финансовую инфраструктуру, нередко вынуждены работать с менее совершенными моделями.
На проблему указали представители сообщества цифровых активов, кибербезопасности и открытого программного обеспечения в открытом письме, подготовленном по инициативе Bitcoin Policy Institute. Авторы призвали ведущие компании в области искусственного интеллекта дать проверенным специалистам по безопасности ранний доступ к наиболее мощным моделям.
Авторы письма напоминают, что программы с открытым исходным кодом давно стали частью критически важной инфраструктуры. На них работают интернет-сервисы, системы связи, финансовые платформы и множество других технологий. В случае с цифровыми активами цена ошибки особенно высока. Один только Bitcoin хранит стоимость более чем на $1 трлн, а уязвимость в кошельке , криптографической библиотеке или программе для работы с узлом сети может привести к прямой потере средств.
Искусственный интеллект меняет баланс сил. Современные модели умеют анализировать большие массивы программного кода, искать потенциальные уязвимости и помогать выполнять сложные технические задачи. Такие возможности полезны защитникам, но одновременно ускоряют работу атакующих.
По словам авторов обращения, крупнейшие лаборатории искусственного интеллекта и их партнеры иногда получают доступ к новым возможностям моделей за несколько месяцев до широкого распространения. Разработчики Bitcoin Core и другие специалисты по безопасности открытого программного обеспечения часто такого доступа не имеют. Ограничения публичных систем также могут мешать законно анализировать защищенность, поэтому специалистам приходится использовать менее мощные модели с открытыми весами.
Bitcoin Policy Institute сообщает, что получил несколько независимых сообщений от разработчиков, сопровождающих открытые проекты. По их словам, сложные атаки с применением искусственного интеллекта уже создают нагрузку, с которой небольшим командам трудно справляться. Среди возможных источников такой активности авторы упоминают и иностранных противников.
Даже если атака не приводит к взлому, разработчикам приходится тратить время на то, чтобы постоянно разбирать подозрительную активность, вместо того чтобы развивать проекты и проводить обычные проверки безопасности. При этом специалисты уже применяют доступные открытые модели, чтобы анализировать кошельки, библиотеки, протоколы и другие компоненты инфраструктуры.
Авторы письма предлагают создать постоянные программы доверенного доступа для проверенных защитников. Такие программы должны давать ранний доступ к наиболее мощным моделям, достаточные вычислительные ресурсы, возможность проводить длительный автоматизированный анализ и безопасно работать с закрытым или еще не опубликованным кодом.
Доступ, по мнению авторов, должны получать не только крупные компании и государственные организации, но и небольшие некоммерческие проекты и независимые разработчики. Отдельный канал связи с командами безопасности ИИ-компаний позволил бы быстрее сообщать об обнаруженных уязвимостях и координировать исправления.
Участники инициативы считают, что преимущество даже в несколько месяцев может помочь разработчикам найти критические ошибки до того, как аналогичные возможности искусственного интеллекта попадут к более широкому кругу пользователей и начнут активно применяться в атаках.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Разработчики программ с открытым исходным кодом оказались в необычной ситуации. Злоумышленники уже получают все более мощные инструменты на базе ИИ , а специалисты, которые защищают финансовую инфраструктуру, нередко вынуждены работать с менее совершенными моделями.
На проблему указали представители сообщества цифровых активов, кибербезопасности и открытого программного обеспечения в открытом письме, подготовленном по инициативе Bitcoin Policy Institute. Авторы призвали ведущие компании в области искусственного интеллекта дать проверенным специалистам по безопасности ранний доступ к наиболее мощным моделям.
Авторы письма напоминают, что программы с открытым исходным кодом давно стали частью критически важной инфраструктуры. На них работают интернет-сервисы, системы связи, финансовые платформы и множество других технологий. В случае с цифровыми активами цена ошибки особенно высока. Один только Bitcoin хранит стоимость более чем на $1 трлн, а уязвимость в кошельке , криптографической библиотеке или программе для работы с узлом сети может привести к прямой потере средств.
Искусственный интеллект меняет баланс сил. Современные модели умеют анализировать большие массивы программного кода, искать потенциальные уязвимости и помогать выполнять сложные технические задачи. Такие возможности полезны защитникам, но одновременно ускоряют работу атакующих.
По словам авторов обращения, крупнейшие лаборатории искусственного интеллекта и их партнеры иногда получают доступ к новым возможностям моделей за несколько месяцев до широкого распространения. Разработчики Bitcoin Core и другие специалисты по безопасности открытого программного обеспечения часто такого доступа не имеют. Ограничения публичных систем также могут мешать законно анализировать защищенность, поэтому специалистам приходится использовать менее мощные модели с открытыми весами.
Bitcoin Policy Institute сообщает, что получил несколько независимых сообщений от разработчиков, сопровождающих открытые проекты. По их словам, сложные атаки с применением искусственного интеллекта уже создают нагрузку, с которой небольшим командам трудно справляться. Среди возможных источников такой активности авторы упоминают и иностранных противников.
Даже если атака не приводит к взлому, разработчикам приходится тратить время на то, чтобы постоянно разбирать подозрительную активность, вместо того чтобы развивать проекты и проводить обычные проверки безопасности. При этом специалисты уже применяют доступные открытые модели, чтобы анализировать кошельки, библиотеки, протоколы и другие компоненты инфраструктуры.
Авторы письма предлагают создать постоянные программы доверенного доступа для проверенных защитников. Такие программы должны давать ранний доступ к наиболее мощным моделям, достаточные вычислительные ресурсы, возможность проводить длительный автоматизированный анализ и безопасно работать с закрытым или еще не опубликованным кодом.
Доступ, по мнению авторов, должны получать не только крупные компании и государственные организации, но и небольшие некоммерческие проекты и независимые разработчики. Отдельный канал связи с командами безопасности ИИ-компаний позволил бы быстрее сообщать об обнаруженных уязвимостях и координировать исправления.
Участники инициативы считают, что преимущество даже в несколько месяцев может помочь разработчикам найти критические ошибки до того, как аналогичные возможности искусственного интеллекта попадут к более широкому кругу пользователей и начнут активно применяться в атаках.
- Источник новости
- www.securitylab.ru
