отравление рекомендаций
-
Новости ИИ-ассистенты начали страдать провалами в памяти. Или их просто заставили помнить лишнее
Разбираемся, как рекламные хитрости ломают логику цифровых систем. Microsoft сообщила о новой схеме влияния на ответы ИИ-ассистентов , которую компании уже применяют для продвижения собственных ресурсов. Речь идёт о скрытых командах, встроенных в кнопки «Суммировать с помощью ИИ» на...- NewsMaker
- Тема
- microsoft summarize with ai ии-ассистенты манипуляция ответами отравление рекомендаций скрытые команды
- Ответы: 0
- Форум: Новости в Мире
-
Новости Чат-боты теперь тоже «плохо помнят». Но это не старость, а хакерская диверсия
Microsoft предупреждает об «отравлении» памяти ИИ-помощников. Microsoft продолжает рассказывать о пользе ИИ, но параллельно предупреждает клиентов о росте атак, которые заставляют ассистентов выдавать «нужные» ответы. Исследователи компании фиксируют всплеск техники, которую они называют AI...- NewsMaker
- Тема
- microsoft ии кибербезопасность отравление рекомендаций память ассистентов
- Ответы: 0
- Форум: Новости в Мире