llm

Физики обещают революцию в машинном обучении через 3-5 лет. Команда исследователей предложила новый способ выполнения тензорных операций, который опирается не на транзисторы, а на свойства света. В его основе — оптическая схема, где сложные вычисления выполняются за один проход луча через...

Новая атака EchoGram пробивает защиту LLM одним бессмысленными буквами. Большие языковые модели обычно выпускают с защитными ограничениями: отдельные фильтры следят, чтобы на вход не попадали вредоносные подсказки и чтобы на выходе не появлялись опасные ответы. Но исследователи компании...

Фрейминг-эффект настолько силен, что грозит обрушить доверие к ИИ-модерации. Учёные выявили системный эффект фрейминга в оценках крупнейших языковых моделей — от OpenAI и xAI до DeepSeek и Mistral. При проверке почти 200 000 суждений выяснилось, что модели демонстрируют не только...

Встроенные ограничения ChatGPT и Gemini обходятся даже без технических знаний — обычные вопросы вызывают предвзятость. Специалисты Пенсильванского университета выяснили, что для обхода встроенных ограничений в чат-ботах на основе искусственного интеллекта, таких как ChatGPT и Gemini ...

Что важнее при поиске информации, и как ИИ меняет наш подход к знаниям? Согласно новому исследованию , обучение с помощью диалогов с ИИ вроде ChatGPT может формировать более поверхностное понимание темы, чем традиционный поиск информации через веб-ссылки. В семи экспериментах с участием...

Кэтфишинг устарел. Встречайте чатфишинг. Онлайн-знакомства быстро перестраиваются под новую реальность: на смену классическому кэтфишингу (когда человек выдаёт себя за другого) приходит чатфишинг — ситуации, в которых переписку за пользователя частично или полностью ведёт нейросеть. Цель...

Одна лишняя буква — и искусственный интеллект становится шпионом. Специалисты FireTail обнаружили , что уязвимость старого класса — ASCII Smuggling — вернулась в новом виде и способна влиять на современные системы искусственного интеллекта . В сентябре 2025 года исследователи проверили...

Ты должна была бороться со злом, а не примкнуть к нему… Американская певица Тейлор Свифт оказалась в центре новой волны споров — фанаты заподозрили её в использовании искусственного интеллекта при продвижении альбома The Life of a Showgirl. Поводом стала масштабная маркетинговая игра...

Можем ли мы верить тому, что читаем? В течение всего лишь двух лет после выхода ChatGPT искусственный интеллект успел стать незаметным соавтором миллионов текстов — от жалоб в финансовые организации до пресс-релизов корпораций и сообщений ООН. Исследование учёных из Стэнфордского университета...

Экономика больших языковых моделей отныне изменится навсегда. Китайская компания DeepSeek представила экспериментальную версию своей языковой модели DeepSeek-V3.2-Exp, в которой впервые реализовала собственный вариант разреженного внимания — техники, позволяющей значительно сократить...

Как LQM-модели изменят мир в ближайшие годы. Учёные и инженеры всё чаще говорят не только о больших языковых моделях, но и о новой категории искусственного интеллекта — LQM (Large Quantitative Models). В отличие от привычных LLM, которые обучаются на текстах из интернета, LQM строятся на...

Хакеры научили нейросеть создавать вредоносный код на лету. Специалисты SentinelLABS обнаружили то, что они называют самым ранним из известных на сегодня образцов вредоносного ПО со встроенными возможностями LLM-моделей — образец получил кодовое имя MalTerminal. В докладе, представленном на...

Раскрыта новая схема атаки через ИИ-ассистентов. Специалисты Unit 42 представили анализ уязвимостей, связанных с использованием помощников для написания кода на основе больших языковых моделей. Эти инструменты встраиваются в IDE наподобие GitHub Copilot и способны выполнять широкий спектр...

Сэм Альтман тонет в ботах, которых сам и породил. Глава OpenAI и акционер Reddit Сэм Альтман заявил, что лента «ИИ-твиттера» и «ИИ-Реддита» стала ощущаться нарочито неестественной — и это стало для него личным сигналом тревоги. Поводом послужили публикации в сабреддите r/Claudecode, где в...

Ваши LLM открыты для любого, кто знает IP-адрес. Специалисты Cisco Talos обнаружили свыше 1100 экземпляров Ollama — фреймворка для локального запуска LLM-моделей — доступных из интернета. Около 20% из них активны и обслуживают модели, уязвимые для несанкционированного доступа, а значит, могут...

ChatGPT нарушает запреты под действием поведенческих триггеров. Предприниматель Дэн Шапиро столкнулся с неожиданной проблемой: популярный ИИ-чатбот отказался расшифровывать деловые документы, сославшись на авторские права. Но вместо того чтобы сдаться, Шапиро решил попробовать один старый...

В голове — Гегель и рассуждения о душе. В руках — тремор и 404. Учёные из Калифорнийского университета в Беркли опубликовали сразу два материала в Science Robotics, где поставили под сомнение самые смелые прогнозы о скором появлении универсальных гуманоидов . Руководитель исследований...

Пока модели учатся писать рекомендации для ядра, комьюнити спорит, можно ли ему верить. Генеративный ИИ теперь помогает отбирать исправления для обратного портирования (бэкпорта) в актуальные стабильные ветки Linux, включая долгосрочные ветви LTS. Сопровождающий LTS Саша Левин недавно...

Контекстное окно удвоилось, но главная битва только начинается. Компания DeepSeek представила обновлённую версию своей флагманской языковой модели — V3.1, которая, по заявлениям разработчиков, адаптирована под использование с грядущими китайскими чипами. В основе новой версии лежит...

Брешь в Ollama позволяет читать ваши чаты с ИИ и подсовывать "отравленные" модели. Уязвимость в популярном инструменте для запуска ИИ-моделей Ollama открывала путь для «drive-by» атак , позволяя злоумышленникам через специально подготовленный сайт незаметно вмешиваться в работу локального...

Ошибки, таймауты и сбои — теперь под вашим контролем. Компания Zipstack представила Rubberduck — локальный обратный прокси-сервер с кэшированием, который позволяет эмулировать работу популярных поставщиков LLM вроде OpenAI, Anthropic, Azure OpenAI, AWS Bedrock и Google Vertex AI. Инструмент...

OpenAI вышла на ринг с 4 битами — и вышла без оппонентов. OpenAI представила новые модели с открытым весом — gpt-oss, — но внимание специалистов сосредоточилось не столько на самих моделях, сколько на формате MXFP4, который компания использовала при их квантовании. Этот малознакомый тип...

Anthropic нашла, где у нейросети рождаются «пороки». За последние годы крупные языковые модели стали частью цифрового фона — они пишут тексты, код, консультируют, подсказывают, обрабатывают данные и даже рассуждают вслух. Однако всё чаще возникает вопрос: откуда берутся у них «черты...

Википедия официально вступила в бой с ИИ. Wikipedia официально утвердила новую политику, направленную на борьбу с наплывом текстов, созданных нейросетями. Это решение призвано защитить качество энциклопедии от быстро размножающегося низкосортного контента, появление которого стало возможным...

Популярный редактор кода отключает ИИ-помощника по просьбам пользователей. Текстовый редактор Zed, ориентированный на программистов и написанный на языке Rust, получил возможность полностью отключать функции, связанные с генеративным искусственным интеллектом. Это решение разработчики назвали...