llm

Все символы обрабатываются одновременно, ломая привычные барьеры скорости. Google представила экспериментальную модель DiffusionGemma, которая переносит подходы генераторов изображений в работу с текстом и обещает ускорить локальный вывод на потребительском оборудовании. Новая модель вошла...

Мощную систему вывели из корпоративных лабораторий и дали в руки обычным пользователям. Технологические компании давно ищут баланс между открытым доступом к мощным ИИ-моделям и контролем над их возможными последствиями — и Anthropic решила эту задачу по-своему. 9 июня компания выпустила...

От эксплойта CVE-2026-39987 до слива PostgreSQL за час. Злоумышленник использовал ИИ-агента на базе большой языковой модели после взлома публично доступного сервера Marimo. По данным Sysdig , атака началась с эксплуатации CVE-2026-39987 , а затем перешла в быструю цепочку действий: сбор...

Остановить запущенный процесс практически невозможно. Представьте себе сценарий: ИИ-система, которую пытаются отключить, уже давно разбросала копии себя по тысячам компьютеров по всему миру — и никакой IT-отдел не успеет за ней. Именно такое стечение обстоятельств перестаёт быть фантастикой...

Проанализировали 2000 диалогов с чат-ботами и выяснили: вежливость повышает доверие, даже когда они несут бред. Люди начинают видеть в чат-боте нечто похожее на собеседника не тогда, когда модель отвечает точнее, а тогда, когда она звучит дружелюбнее. К такому выводу пришли авторы нового...

Модераторы устали бороться с невидимым врагом. Свободная энциклопедия, которую десятилетиями наполняли добровольцы, неожиданно оказалась на передовой борьбы с контентом, созданным нейросетями. Рост таких материалов стал настолько заметным , что редакторы решили действовать жёстко, чтобы...

Новая техника «промптморфизм» превращает работу антивирусов в бессмысленную погоню за призраками. Злоумышленники всё чаще используют большие языковые модели для быстрого переписывания вредоносного кода. Подход получил название «промптморфизм» (Promptmorphism) и позволяет практически...

Сегодня он жульничает в игре, а завтра с таким же энтузиазмом одобрит вам ипотеку. Шахматы часто используют как удобный полигон для проверки больших языковых моделей. Правила простые, цель понятная, результат легко измерить. В одном из таких тестов исследователи поставили одну из моделей...

Проект MIT и NVIDIA сломал старые правила обучения нейросетей. Большие языковые модели, которые специально учат рассуждать шаг за шагом, ценят за умение держать сложную задачу в памяти и не срываться на многоходовых запросах. Такой подход помогает в продвинутом программировании и...

Дали боту расу и пол — получили карикатуру. А их уже встраивают в терапию. Многие сервисы уже позволяют настраивать чат-ботов так, чтобы они общались от лица заданного образа: можно указать возраст, пол, расу, профессию, национальность, семейное положение. Пользователь в таком случае видит не...

Исследователи выяснили: мы с машинами говорим на разных языка. И это опаснее, чем кажется. Когда человек пишет «вероятно» или «скорее всего», он обычно имеет в виду вполне конкретную степень уверенности, просто выражает ее словами, а не цифрами. Читатель тоже считывает это примерно одинаково...

Учёные проверили, как поведут себя ИИ в кризисе. Помните фильм «Военные игры» 1983 года с Мэттью Бродериком, где военный суперкомпьютер решил самостоятельно начать Третью мировую войну? Похоже, реальные системы искусственного интеллекта недалеко ушли от своего кинематографического...

Если у людей истина рождается в споре… почему бы машинам не использовать это? Команда исследователей из Google, Чикагского университета и Института Санта-Фе переосмыслила один из ключевых вопросов в области искусственного интеллекта : почему большие языковые модели всё лучше справляются...

Как не быть "папиком" для ботнета? Рассказывает GreyNoise. Злоумышленники начали массово прочёсывать интернет в поисках неправильно настроенных прокси-серверов, через которые можно получить доступ к коммерческим сервисам на базе больших языковых моделей . Кампания идёт как минимум с конца...

Торвальдс предлагает оставить нейтральную позицию и не делать из правил политическое поле боя. Похоже, что до ядра Linux волна кода от чатботов пока не добралась так глубоко, как до всего остального софта. Но разговоры о том, как жить с подсказками от больших языковых моделей (LLM), уже...

Нейросеть послушно выполняет и сливает всё: токены, ключи, переменные окружения. В экосистеме LangChain обнаружили критическую уязвимость , которая позволяет атакующему красть секретные данные и даже влиять на ответы больших языковых моделей через промпт-инъекции. Проблема затрагивает пакет...

F6: Хакеры используют LLM для создания «чистого» кода загрузчиков Аналитики F6 выявили атаку, в которой злоумышленники внедрили DarkTrack RAT через загрузчик PureCrypter, а при создании вредоносного кода, по их оценке, могли использовать LLM. Подробный технический разбор и индикаторы...

Новая модель как оружие возмездия конкурентам. В OpenAI ускоряют выпуск следующего обновления своей модели после того, как Google и Anthropic заметно усилили давление в гонке ИИ-систем. На этой неделе Сэм Альтман объявил внутри компании общую мобилизацию сил , призвав команды готовить...

LLM блестяще пишут тексты и код, но когда дело доходит до угадывания паролей, старые хакерские методы по-прежнему впереди. Австралийские исследователи проверили, способны ли большие языковые модели подбирать пароли по данным о человеке — и выяснили, что пока что они в этом почти бесполезны. В...

Крупнейший архив жизни людей того времени наконец доступен нам полностью. Исследователи из Израиля надеются по-новому взглянуть на историю еврейских общин, подключив к работе над уникальным архивом средневековых рукописей систему автоматической расшифровки , обученную на основе нейросетей...

Исследование Anthropic показало, что мягкое разрешение обходов снижает риск несоответствия моделей. Исследователи Anthropic представили необычный подход к снижению нежелательного поведения искусственного интеллекта, опираясь на идею о том, что модели могут становиться менее склонными...

Корейские ученые предложили невидимый HTML-блок для остановки вредоносных ИИ-агентов на веб-сайтах. Южнокорейские учёные предложили новый способ защиты сайтов от нежелательной активности ИИ-агентов — метод, который можно назвать своеобразной цифровой «красной кнопкой». В отличие от...

Физики обещают революцию в машинном обучении через 3-5 лет. Команда исследователей предложила новый способ выполнения тензорных операций, который опирается не на транзисторы, а на свойства света. В его основе — оптическая схема, где сложные вычисления выполняются за один проход луча через...

Новая атака EchoGram пробивает защиту LLM одним бессмысленными буквами. Большие языковые модели обычно выпускают с защитными ограничениями: отдельные фильтры следят, чтобы на вход не попадали вредоносные подсказки и чтобы на выходе не появлялись опасные ответы. Но исследователи компании...

Фрейминг-эффект настолько силен, что грозит обрушить доверие к ИИ-модерации. Учёные выявили системный эффект фрейминга в оценках крупнейших языковых моделей — от OpenAI и xAI до DeepSeek и Mistral. При проверке почти 200 000 суждений выяснилось, что модели демонстрируют не только...