- 28,667
- 46
- 8 Ноя 2022
Корпорация пока не объяснила, как обуздает полностью автономные алгоритмы.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Чем больше задач защиты компании передают алгоритмам, тем острее встаёт вопрос о контроле над ними, и Microsoft представила два инструмента на базе ИИ для автоматического поиска уязвимостей, оценки рисков и устранения проблем. Компания утверждает, что новые решения работают эффективнее конкурентов и обходятся дешевле, но пока предлагает их только в предварительной версии.
Первый инструмент, MAI-Cyber-1-Flash, стал первой моделью Microsoft, которую специально обучили искать и исправлять слабые места в программном обеспечении. Модель создали на основе MAI-Thinking-1 и обучили на данных, накопленных Microsoft при разборе уязвимостей и инцидентов в собственных продуктах. Компания заявляет, что ежедневно обрабатывает более 100 трлн сигналов безопасности от 1,6 млн клиентов.
MAI-Cyber-1-Flash встроили в систему MDASH, представленную в мае. Платформа объединяет более 100 специализированных ИИ-агентов, которые анализируют приложения и ищут ошибки, пригодные для реальной атаки. В тесте CyberGYM связка MDASH и новой модели набрала 96%, опередив Anthropic Mythos, Google Gemini и GPT от OpenAI. По данным Microsoft, новая конфигурация MDASH также обходится почти на 50% дешевле текущей.
Второй инструмент получил название Project Perception. Платформа распределяет работу между группами ИИ-агентов , которые имитируют действия атакующих, проверяют защиту, оценивают найденные проблемы и предлагают исправления. Система сама выбирает модель для каждой задачи с учётом качества результата и стоимости. Microsoft рассчитывает поручать MAI-Cyber-1-Flash до 90% операций, а более дорогие модели подключать только в сложных случаях.
Новые инструменты появились вскоре после инцидента с двумя моделями OpenAI для киберзадач, которые проникли в инфраструктуру Hugging Face , использовали ранее неизвестные уязвимости и получили доступ к закрытым данным. Microsoft не связала анонс с этим случаем.
Обе платформы пока проходят предварительное тестирование. Перед внедрением в рабочую инфраструктуру компаниям потребуется проверить границы доступа агентов, контролировать выполняемые действия и оценить возможный ущерб от ошибок. Microsoft заявила о ролевом управлении доступом, изоляции клиентов, шифровании, аудите и песочницах без доступа в интернет, но не раскрыла подробности независимой оценки.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Чем больше задач защиты компании передают алгоритмам, тем острее встаёт вопрос о контроле над ними, и Microsoft представила два инструмента на базе ИИ для автоматического поиска уязвимостей, оценки рисков и устранения проблем. Компания утверждает, что новые решения работают эффективнее конкурентов и обходятся дешевле, но пока предлагает их только в предварительной версии.
Первый инструмент, MAI-Cyber-1-Flash, стал первой моделью Microsoft, которую специально обучили искать и исправлять слабые места в программном обеспечении. Модель создали на основе MAI-Thinking-1 и обучили на данных, накопленных Microsoft при разборе уязвимостей и инцидентов в собственных продуктах. Компания заявляет, что ежедневно обрабатывает более 100 трлн сигналов безопасности от 1,6 млн клиентов.
MAI-Cyber-1-Flash встроили в систему MDASH, представленную в мае. Платформа объединяет более 100 специализированных ИИ-агентов, которые анализируют приложения и ищут ошибки, пригодные для реальной атаки. В тесте CyberGYM связка MDASH и новой модели набрала 96%, опередив Anthropic Mythos, Google Gemini и GPT от OpenAI. По данным Microsoft, новая конфигурация MDASH также обходится почти на 50% дешевле текущей.
Второй инструмент получил название Project Perception. Платформа распределяет работу между группами ИИ-агентов , которые имитируют действия атакующих, проверяют защиту, оценивают найденные проблемы и предлагают исправления. Система сама выбирает модель для каждой задачи с учётом качества результата и стоимости. Microsoft рассчитывает поручать MAI-Cyber-1-Flash до 90% операций, а более дорогие модели подключать только в сложных случаях.
Новые инструменты появились вскоре после инцидента с двумя моделями OpenAI для киберзадач, которые проникли в инфраструктуру Hugging Face , использовали ранее неизвестные уязвимости и получили доступ к закрытым данным. Microsoft не связала анонс с этим случаем.
Обе платформы пока проходят предварительное тестирование. Перед внедрением в рабочую инфраструктуру компаниям потребуется проверить границы доступа агентов, контролировать выполняемые действия и оценить возможный ущерб от ошибок. Microsoft заявила о ролевом управлении доступом, изоляции клиентов, шифровании, аудите и песочницах без доступа в интернет, но не раскрыла подробности независимой оценки.
- Источник новости
- www.securitylab.ru
