- 27,748
- 46
- 8 Ноя 2022
Новые ИИ-модели успешно создают программы для взлома компьютерных систем.
Разведывательные ведомства Австралии, США, Великобритании, Новой Зеландии и Канады предупредили: передовые ИИ-модели уже в ближайшие месяцы могут резко повысить масштаб и сложность кибератак на государственные органы и компании. Участники разведывательного альянса Пять глаз призвали руководителей организаций срочно укреплять защиту.
Авторы совместного заявления считают, что ИИ со временем поможет защищать компьютерные сети, но одновременно ускорит поиск уязвимостей и подготовку атак. Передовые модели, по оценке ведомств, могут превзойти ожидания отрасли и заметно изменить возможности атакующих и защитников.
Генеративные модели уже умеют искать слабые места в программном обеспечении, предлагать способы проникновения в системы и помогать специалистам закрывать обнаруженные ошибки. ИИ уже помогает злоумышленникам писать фишинговые письма, искать уязвимости и собирать вредоносный код. Новые модели также успешно создают эксплойты, то есть программы или фрагменты кода для использования уязвимостей, рассказала эксперт Центра изучения США при Сиднейском университете Оливия Шен.
Разведслужбы предупредили, что развитие ИИ снизит порог входа для преступных групп и увеличит скорость атак. Киберриски больше нельзя считать задачей только для ИТ-отдела: руководство компаний должно учитывать угрозы при планировании работы, защите данных и оценке финансовых рисков. Ведомства призвали подключить к защите не только специалистов по безопасности, но и менеджеров, государственные структуры и общественные организации.
Публичное заявление прозвучало вскоре после решения администрации Дональда Трампа ограничить иностранным гражданам доступ к моделям Anthropic Fable 5 и Mythos 5. Компания подтвердила , что получила директиву экспортного контроля, после чего отключила обе модели для всех клиентов.
Anthropic представляла Fable 5 и Mythos 5 как модели для сложной работы с кодом и поиска ошибок в программном обеспечении. Mythos Preview показала высокие результаты в тестах на поиск и эксплуатацию уязвимостей. Шен отметила, что сравнимые по возможностям системы могут создавать китайские компании, другие государства и частные разработчики.
В марте правительство Австралии включило Anthropic в национальный план развития ИИ. Компания первой подписала с властями необязывающий меморандум о сотрудничестве в развитии рынка и безопасном внедрении технологии. Правительство Энтони Албаниза при этом придерживается мягкого подхода к регулированию отрасли, рассчитывая получить экономический эффект и рост производительности.
Разведывательные ведомства Австралии, США, Великобритании, Новой Зеландии и Канады предупредили: передовые ИИ-модели уже в ближайшие месяцы могут резко повысить масштаб и сложность кибератак на государственные органы и компании. Участники разведывательного альянса Пять глаз призвали руководителей организаций срочно укреплять защиту.
Авторы совместного заявления считают, что ИИ со временем поможет защищать компьютерные сети, но одновременно ускорит поиск уязвимостей и подготовку атак. Передовые модели, по оценке ведомств, могут превзойти ожидания отрасли и заметно изменить возможности атакующих и защитников.
Генеративные модели уже умеют искать слабые места в программном обеспечении, предлагать способы проникновения в системы и помогать специалистам закрывать обнаруженные ошибки. ИИ уже помогает злоумышленникам писать фишинговые письма, искать уязвимости и собирать вредоносный код. Новые модели также успешно создают эксплойты, то есть программы или фрагменты кода для использования уязвимостей, рассказала эксперт Центра изучения США при Сиднейском университете Оливия Шен.
Разведслужбы предупредили, что развитие ИИ снизит порог входа для преступных групп и увеличит скорость атак. Киберриски больше нельзя считать задачей только для ИТ-отдела: руководство компаний должно учитывать угрозы при планировании работы, защите данных и оценке финансовых рисков. Ведомства призвали подключить к защите не только специалистов по безопасности, но и менеджеров, государственные структуры и общественные организации.
Публичное заявление прозвучало вскоре после решения администрации Дональда Трампа ограничить иностранным гражданам доступ к моделям Anthropic Fable 5 и Mythos 5. Компания подтвердила , что получила директиву экспортного контроля, после чего отключила обе модели для всех клиентов.
Anthropic представляла Fable 5 и Mythos 5 как модели для сложной работы с кодом и поиска ошибок в программном обеспечении. Mythos Preview показала высокие результаты в тестах на поиск и эксплуатацию уязвимостей. Шен отметила, что сравнимые по возможностям системы могут создавать китайские компании, другие государства и частные разработчики.
В марте правительство Австралии включило Anthropic в национальный план развития ИИ. Компания первой подписала с властями необязывающий меморандум о сотрудничестве в развитии рынка и безопасном внедрении технологии. Правительство Энтони Албаниза при этом придерживается мягкого подхода к регулированию отрасли, рассчитывая получить экономический эффект и рост производительности.
- Источник новости
- www.securitylab.ru
