- 28,211
- 46
- 8 Ноя 2022
Британский институт безопасности ИИ зафиксировал резкий рост возможностей модели Claude Mythos Preview в кибератаках.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:800/450;margin-bottom:2rem;overflow:hidden">
Искусственный интеллект научился находить слабые места в программах быстрее, чем банки успевают их закрывать. Европейский центральный банк потребовал от крупнейших кредитных организаций Евросоюза до конца октября подготовить планы, которые помогут защититься от угроз, связанных с наиболее мощными моделями ИИ.
Председатель наблюдательного совета ЕЦБ Клаудия Бух направила руководителям банков письма, потребовав укрепить внутренние системы, обновить техническую инфраструктуру и проверить надёжность сторонних поставщиков технологий. Банки также должны научиться быстрее восстанавливаться после сбоев, чётче действовать при атаках и лучше управлять кризисами.
Регулятора беспокоят модели нового поколения, способные самостоятельно искать уязвимости и создавать работающий код для атак. Подобные системы резко сокращают время между тем, когда ошибку обнаруживают, и тем, когда злоумышленники начинают применять её на практике. В результате банки могут не успеть выпустить исправления или принять другие защитные меры.
Одним из примеров стала модель Claude Mythos Preview компании Anthropic. Проверка британского Института безопасности искусственного интеллекта показала, что модель заметно лучше стала решать задачи по кибербезопасности и проводить многоэтапные атаки.
ЕЦБ пока не планирует наказывать банки, которые не выполнят требование в установленный срок. Однако надзорный орган сможет сравнить подготовленные планы, оценить подход каждой организации и потребовать дополнительных мер от тех, кто защищён недостаточно.
Европейский совет по системным рискам также предупредил , что передовые модели ИИ могут стать источником угрозы для всей финансовой системы. Ведомство считает, что искусственный интеллект повышает скорость, масштаб и сложность кибератак, а связанные с ним риски уже требуют внимания финансовых регуляторов.
Особую опасность представляют атаки на общие узлы финансовой инфраструктуры, включая системы платежей, клиринга и расчётов. Сбой в одном таком звене способен затронуть сразу несколько банков и нарушить работу рынка. Если страны ЕС не согласуют действия, отдельные слабые места могут превратиться в постоянную уязвимость всей отрасли.
Европейская комиссия, в свою очередь, готовит план, чтобы бороться с угрозами, связанными с ИИ. Документ предусматривает, что государствам и компаниям Евросоюза окажут поддержку, а европейские органы будут участвовать в проверке безопасности наиболее мощных моделей.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:800/450;margin-bottom:2rem;overflow:hidden">
Искусственный интеллект научился находить слабые места в программах быстрее, чем банки успевают их закрывать. Европейский центральный банк потребовал от крупнейших кредитных организаций Евросоюза до конца октября подготовить планы, которые помогут защититься от угроз, связанных с наиболее мощными моделями ИИ.
Председатель наблюдательного совета ЕЦБ Клаудия Бух направила руководителям банков письма, потребовав укрепить внутренние системы, обновить техническую инфраструктуру и проверить надёжность сторонних поставщиков технологий. Банки также должны научиться быстрее восстанавливаться после сбоев, чётче действовать при атаках и лучше управлять кризисами.
Регулятора беспокоят модели нового поколения, способные самостоятельно искать уязвимости и создавать работающий код для атак. Подобные системы резко сокращают время между тем, когда ошибку обнаруживают, и тем, когда злоумышленники начинают применять её на практике. В результате банки могут не успеть выпустить исправления или принять другие защитные меры.
Одним из примеров стала модель Claude Mythos Preview компании Anthropic. Проверка британского Института безопасности искусственного интеллекта показала, что модель заметно лучше стала решать задачи по кибербезопасности и проводить многоэтапные атаки.
ЕЦБ пока не планирует наказывать банки, которые не выполнят требование в установленный срок. Однако надзорный орган сможет сравнить подготовленные планы, оценить подход каждой организации и потребовать дополнительных мер от тех, кто защищён недостаточно.
Европейский совет по системным рискам также предупредил , что передовые модели ИИ могут стать источником угрозы для всей финансовой системы. Ведомство считает, что искусственный интеллект повышает скорость, масштаб и сложность кибератак, а связанные с ним риски уже требуют внимания финансовых регуляторов.
Особую опасность представляют атаки на общие узлы финансовой инфраструктуры, включая системы платежей, клиринга и расчётов. Сбой в одном таком звене способен затронуть сразу несколько банков и нарушить работу рынка. Если страны ЕС не согласуют действия, отдельные слабые места могут превратиться в постоянную уязвимость всей отрасли.
Европейская комиссия, в свою очередь, готовит план, чтобы бороться с угрозами, связанными с ИИ. Документ предусматривает, что государствам и компаниям Евросоюза окажут поддержку, а европейские органы будут участвовать в проверке безопасности наиболее мощных моделей.
- Источник новости
- www.securitylab.ru
