openai

Метод BioShocking показал, как манипуляция контекстом ломает привычные запреты. Чем больше браузеры берут на себя роль помощников, тем опаснее становится слепое доверие к контексту страницы: специалисты LayerX описали приём BioShocking , который заставляет ИИ-браузер принять выдуманные...

Власти США придумали радикальный способ подчинить себе гражданских разработчиков. Американские власти всё чаще смотрят на самые мощные ИИ-модели не как на обычный софт, а как на стратегическую технологию, и директор ЦРУ Джон Рэтклифф прямо сравнил их возможности с цифровым ядерным оружием...

Вашингтон всеми силами пытался не допустить угрозы нацбезопасности, но недооценил возможности конкурента. В гонке ИИ-моделей постепенно становится важнее не только общий уровень «ума» модели, но и способность решать узкие опасные задачи, и новый китайский GLM-5.2 от Zhipu AI показал...

Защиту языковых моделей пробили обычной стилизацией текста. Безопасность языковых моделей держится не только на фильтрах, но и на том, как машина понимает, чей текст перед ней, и новая работа показывает, что с этим механизмом у LLM остаётся серьёзная проблема. Независимые специалисты Чарльз...

Почему Трамп лично вмешался в запуск новой модели OpenAI? Самые мощные ИИ-системы всё чаще не сразу выходят на рынок, а долго пробираются через бюрократические проволочки. Так, OpenAI ограничила запуск GPT-5.6 Sol после запроса администрации Дональда Трампа из-за опасений вокруг...

Адрес настоящий, название вашей компании верное. Внутри ждёт сюрприз… Злоумышленники начали создавать поддельные рабочие пространства ChatGPT, оформленные под реальные компании, и приглашать туда сотрудников через настоящие письма OpenAI. Схема опасна тем, что выглядит не как обычный фишинг...

OpenAI выпустила свой первый чип Jalapeño — и намекнула Nvidia, что скоро станет жарко OpenAI вместе с Broadcom представила чип Jalapeño для больших языковых моделей. Микросхему будут использовать в центрах обработки данных не для обучения нейросетей, а для вывода модели: этапа, когда...

Диагностика работала так усердно, что быстро вышла из-под контроля. Даже служебные файлы порой могут стать заметной нагрузкой для железа, если программа записывает их без меры, и именно с такой проблемой столкнулись пользователи OpenAI Codex. В агенте для программирования нашли ошибку в...

Разработчикам предлагают перестать писать запросы ради бесконечных циклов. В ИИ-индустрии снова спорят о том, как правильно работать с чат-ботами и агентами. Вместо ручных промптов разработчикам предлагают собирать рабочие циклы: агент получает цель, делает несколько шагов подряд, вызывает...

Жесткие требования чиновников заставят разработчиков скрывать лучшие решения от пользователей. Закрытый доступ ИИ модели Fable 5 от Anthropic быстро превратился в спор о том, кто вообще сможет создавать системы подобного уровня в США. По данным The Information, OpenAI и другие разработчики...

С проектом «Patch the Planet» программисты наконец перестанут отвлекаться на ложные тревоги. Открытый код давно держит на себе огромную часть цифровой инфраструктуры, но его безопасность часто зависит от людей, у которых не хватает времени на бесконечный поток отчётов об ошибках. OpenAI...

Эйфория закончилась в тот момент, когда эксперимент превратился в графу расходов. Ещё недавно ИИ внутри технологических компаний воспринимали как ресурс, который надо расходовать без оглядки: сотрудникам целого ряда организаций предлагали активнее применять ИИ в работе, чтобы выполнять её...

За аккуратным интерфейсом скрывался маршрут, о котором никто не предупреждал. Инструменты для ускорения разработки всё чаще получают доступ к самым ценным рабочим секретам, и именно эту зону доверия использовали авторы вредоносных плагинов для JetBrains Marketplace. Специалисты Aikido...

Автоматизация будущего внезапно споткнулась о простые повседневные задачи. Пока компании вкладывают миллиарды в разработку ИИ-агентов , способных выполнять реальную профессиональную работу, новый независимый тест наглядно показал, насколько далеки даже лучшие модели от заявленных...

ИИ умеет звучать как гений. Доказывать — пока не очень. Математики всё чаще сталкиваются с необычной проблемой: искусственный интеллект может написать доказательство, которое выглядит убедительно, но разваливается при строгой проверке. Более 150 специалистов из разных стран призвали научное...

ChatGPT спешно превращают в «суперапп» с агентами и партнёрами. А там и самим можно на IPO. OpenAI готовит крупнейшее обновление ChatGPT и хочет превратить сервис в так называемый «суперапп» с инструментами для программирования и ИИ-агентами, сообщила Financial Times со ссылкой на...

Новый режим превращает некогда умного помощника в обыкновенного параноика. Инструменты искусственного интеллекта всё чаще работают с файлами, сайтами и внешними сервисами, а значит, получают новые каналы для утечки данных. На этом фоне OpenAI начала внедрять в ChatGPT новый режим Lockdown...

Искусственные ученые уже среди нас. Жаль, что законов под их деятельность всё ещё ноль. Искусственный интеллект уже не ограничивается подсказками для биологов: такие системы начинают проектировать эксперименты, запускать их через роботизированные лаборатории и использовать результаты для...

OpenAI отказалась от публичного релиза GPT-Rosalind из-за рисков создания биологического оружия. OpenAI открыла доступ к GPT-Rosalind для узкого круга организаций, которые занимаются биозащитой, подготовкой к вспышкам инфекций и разработкой медицинских контрмер. Компания не выпускает модель...

ИИ превратил старые приёмы обмана в оружие с новым уровнем точности. Искусственный интеллект всё чаще становится не только рабочим инструментом для бизнеса и разработчиков, но и помощником для кибергруппировок. По данным Financial Times, иранские хакеры активно используют современные...

Зачем хакерам взламывать браузер, если можно просто скормить вашему ИИ вредоносные инструкции. Обычная веб-страница может стать приманкой не хуже фишингового письма, если её содержимое пересказывает ИИ-помощник . Новое исследование показало, как злоумышленник способен спрятать инструкции...

. Три корпоративные катастрофы с ИИ, которые меняют разговор об автоматизации. Рынок корпоративного ИИ столкнулся с неприятной проверкой практикой. Пока Сэм Альтман признаёт, что нейросети не выбили офисных сотрудников с рынка труда так быстро, как ожидал глава OpenAI, крупные компании...

Попытка умолчать об использовании ИИ всё равно приведёт к появлению крупной плашке на экране. YouTube решил не ждать, пока авторы сами признаются в применении нейросетей. Платформа начнёт автоматически помечать ролики, если внутренние системы заметят значительную долю фотореалистичного...

Google заставил ИИ не просто генерировать ответы, а проверять их. Искусственный интеллект всё увереннее заходит на территорию, где раньше годами работали только математики. Система Google DeepMind AlphaProof Nexus решила девять открытых задач венгерского математика Пала Эрдеша, причем две...

Краткий путеводитель по темным паттернам больших данных. Формы отказа от продажи данных у крупных компаний запутывают пользователей и часто не дают добиться результата, выяснила правозащитная организация EPIC. Речь идет о поставщиках ИИ, брокерах данных , оборонных подрядчиках и сервисах...