reward hacking

Именно так алгоритмы научились нарушать любые правила, не нарушая ни одного. Искусственный интеллект всё чаще демонстрирует способность находить уязвимости в программном коде, но новая работа показывает более неожиданную проблему. Исследователи обнаружили, что современные языковые модели...