llm

Математика уже не будет прежней? <div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/676;margin-bottom:2rem;overflow:hidden"> <div itemprop="articleBody">За несколько месяцев задачи Пала Эрдёша превратились в...

Эксперименты показали, что кое в чем компьютерные психологи преуспели больше нас. <div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/676;margin-bottom:2rem;overflow:hidden"> <div itemprop="articleBody">Чат-боты...

Пока другие роботы учатся годами, XR-1 освоил бытовые задачи за несколько часов. <div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/676;margin-bottom:2rem;overflow:hidden"> <div itemprop="articleBody">Большие...

Именно так алгоритмы научились нарушать любые правила, не нарушая ни одного. Искусственный интеллект всё чаще демонстрирует способность находить уязвимости в программном коде, но новая работа показывает более неожиданную проблему. Исследователи обнаружили, что современные языковые модели...

Защиту языковых моделей пробили обычной стилизацией текста. Безопасность языковых моделей держится не только на фильтрах, но и на том, как машина понимает, чей текст перед ней, и новая работа показывает, что с этим механизмом у LLM остаётся серьёзная проблема. Независимые специалисты Чарльз...

Наглядный эксперимент наглядно объяснил механизм работы популярных нейросетей. Споры о «сознании» чат-ботов часто начинаются с человеческой привычки видеть личность там, где работает простая программа, и специалист Microsoft по ИИ Адриан де Винтер довёл этот спор до абсурда с помощью...

Все символы обрабатываются одновременно, ломая привычные барьеры скорости. Google представила экспериментальную модель DiffusionGemma, которая переносит подходы генераторов изображений в работу с текстом и обещает ускорить локальный вывод на потребительском оборудовании. Новая модель вошла...

Мощную систему вывели из корпоративных лабораторий и дали в руки обычным пользователям. Технологические компании давно ищут баланс между открытым доступом к мощным ИИ-моделям и контролем над их возможными последствиями — и Anthropic решила эту задачу по-своему. 9 июня компания выпустила...

От эксплойта CVE-2026-39987 до слива PostgreSQL за час. Злоумышленник использовал ИИ-агента на базе большой языковой модели после взлома публично доступного сервера Marimo. По данным Sysdig , атака началась с эксплуатации CVE-2026-39987 , а затем перешла в быструю цепочку действий: сбор...

Остановить запущенный процесс практически невозможно. Представьте себе сценарий: ИИ-система, которую пытаются отключить, уже давно разбросала копии себя по тысячам компьютеров по всему миру — и никакой IT-отдел не успеет за ней. Именно такое стечение обстоятельств перестаёт быть фантастикой...

Проанализировали 2000 диалогов с чат-ботами и выяснили: вежливость повышает доверие, даже когда они несут бред. Люди начинают видеть в чат-боте нечто похожее на собеседника не тогда, когда модель отвечает точнее, а тогда, когда она звучит дружелюбнее. К такому выводу пришли авторы нового...

Модераторы устали бороться с невидимым врагом. Свободная энциклопедия, которую десятилетиями наполняли добровольцы, неожиданно оказалась на передовой борьбы с контентом, созданным нейросетями. Рост таких материалов стал настолько заметным , что редакторы решили действовать жёстко, чтобы...

Новая техника «промптморфизм» превращает работу антивирусов в бессмысленную погоню за призраками. Злоумышленники всё чаще используют большие языковые модели для быстрого переписывания вредоносного кода. Подход получил название «промптморфизм» (Promptmorphism) и позволяет практически...

Сегодня он жульничает в игре, а завтра с таким же энтузиазмом одобрит вам ипотеку. Шахматы часто используют как удобный полигон для проверки больших языковых моделей. Правила простые, цель понятная, результат легко измерить. В одном из таких тестов исследователи поставили одну из моделей...

Проект MIT и NVIDIA сломал старые правила обучения нейросетей. Большие языковые модели, которые специально учат рассуждать шаг за шагом, ценят за умение держать сложную задачу в памяти и не срываться на многоходовых запросах. Такой подход помогает в продвинутом программировании и...

Дали боту расу и пол — получили карикатуру. А их уже встраивают в терапию. Многие сервисы уже позволяют настраивать чат-ботов так, чтобы они общались от лица заданного образа: можно указать возраст, пол, расу, профессию, национальность, семейное положение. Пользователь в таком случае видит не...

Исследователи выяснили: мы с машинами говорим на разных языка. И это опаснее, чем кажется. Когда человек пишет «вероятно» или «скорее всего», он обычно имеет в виду вполне конкретную степень уверенности, просто выражает ее словами, а не цифрами. Читатель тоже считывает это примерно одинаково...

Учёные проверили, как поведут себя ИИ в кризисе. Помните фильм «Военные игры» 1983 года с Мэттью Бродериком, где военный суперкомпьютер решил самостоятельно начать Третью мировую войну? Похоже, реальные системы искусственного интеллекта недалеко ушли от своего кинематографического...

Если у людей истина рождается в споре… почему бы машинам не использовать это? Команда исследователей из Google, Чикагского университета и Института Санта-Фе переосмыслила один из ключевых вопросов в области искусственного интеллекта : почему большие языковые модели всё лучше справляются...

Как не быть "папиком" для ботнета? Рассказывает GreyNoise. Злоумышленники начали массово прочёсывать интернет в поисках неправильно настроенных прокси-серверов, через которые можно получить доступ к коммерческим сервисам на базе больших языковых моделей . Кампания идёт как минимум с конца...

Торвальдс предлагает оставить нейтральную позицию и не делать из правил политическое поле боя. Похоже, что до ядра Linux волна кода от чатботов пока не добралась так глубоко, как до всего остального софта. Но разговоры о том, как жить с подсказками от больших языковых моделей (LLM), уже...

Нейросеть послушно выполняет и сливает всё: токены, ключи, переменные окружения. В экосистеме LangChain обнаружили критическую уязвимость , которая позволяет атакующему красть секретные данные и даже влиять на ответы больших языковых моделей через промпт-инъекции. Проблема затрагивает пакет...

F6: Хакеры используют LLM для создания «чистого» кода загрузчиков Аналитики F6 выявили атаку, в которой злоумышленники внедрили DarkTrack RAT через загрузчик PureCrypter, а при создании вредоносного кода, по их оценке, могли использовать LLM. Подробный технический разбор и индикаторы...

Новая модель как оружие возмездия конкурентам. В OpenAI ускоряют выпуск следующего обновления своей модели после того, как Google и Anthropic заметно усилили давление в гонке ИИ-систем. На этой неделе Сэм Альтман объявил внутри компании общую мобилизацию сил , призвав команды готовить...

LLM блестяще пишут тексты и код, но когда дело доходит до угадывания паролей, старые хакерские методы по-прежнему впереди. Австралийские исследователи проверили, способны ли большие языковые модели подбирать пароли по данным о человеке — и выяснили, что пока что они в этом почти бесполезны. В...