- 28,130
- 46
- 8 Ноя 2022
ООН, Папа Римский и Anthropic против автономного оружия.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:800/450;margin-bottom:2rem;overflow:hidden">
Машина не должна решать, кому жить, а кому погибнуть на войне. Генеральный секретарь ООН Антониу Гутерриш на открытии первого Глобального диалога по управлению ИИ в Женеве призвал страны провести четкую границу для применения искусственного интеллекта в вооруженных конфликтах и запретить летальное автономное оружие.
Гутерриш заявил, что системы, способные самостоятельно выбирать цели и убивать людей без человеческого решения, «морально отвратительны» и должны попасть под международный запрет. Генсек ООН предложил называть подобные разработки прямо: «роботы-убийцы». По словам Гутерриша, некоторые решения, особенно решение о лишении жизни, должны навсегда оставаться за человеком.
Призыв прозвучал на фоне быстрого внедрения ИИ в армии разных стран. Военные структуры используют алгоритмы не только на поле боя, но и в командных центрах, где скорость обработки данных может влиять на решения командиров. Сторонники военного ИИ утверждают, что окончательный контроль сохранится за людьми, а алгоритмы лишь повысят точность и скорость работы.
Противники автономного оружия считают подобный подход слишком рискованным. Ошибка алгоритма, неверная оценка обстановки или постепенная передача контроля машине могут привести к последствиям, которые невозможно быстро остановить. Спор вокруг границ применения ИИ в обороне уже вышел за пределы дипломатии: Anthropic судится с Пентагоном после попытки получить гарантии, что модели компании не будут использовать для автономного оружия или внутренней слежки. Министерство обороны США настаивает на доступе к ИИ для любого законного применения.
К критике автономных вооружений присоединился и папа Лев XIV. По словам понтифика, ИИ-оружие может сделать войну проще для начала и сложнее для контроля. Гутерриш, выступая в Женеве, также предупредил , что искусственный интеллект развивается с «неконтролируемой скоростью», а над обществами фактически проводят эксперимент без плана и согласия.
В дискуссии участвуют более 4000 представителей правительств, университетов, технологических компаний и других организаций. Главный вопрос встречи звучит предельно практично: сможет ли международное право ограничить военный ИИ раньше, чем автономные системы станут обычной частью современных конфликтов.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:800/450;margin-bottom:2rem;overflow:hidden">
Машина не должна решать, кому жить, а кому погибнуть на войне. Генеральный секретарь ООН Антониу Гутерриш на открытии первого Глобального диалога по управлению ИИ в Женеве призвал страны провести четкую границу для применения искусственного интеллекта в вооруженных конфликтах и запретить летальное автономное оружие.
Гутерриш заявил, что системы, способные самостоятельно выбирать цели и убивать людей без человеческого решения, «морально отвратительны» и должны попасть под международный запрет. Генсек ООН предложил называть подобные разработки прямо: «роботы-убийцы». По словам Гутерриша, некоторые решения, особенно решение о лишении жизни, должны навсегда оставаться за человеком.
Призыв прозвучал на фоне быстрого внедрения ИИ в армии разных стран. Военные структуры используют алгоритмы не только на поле боя, но и в командных центрах, где скорость обработки данных может влиять на решения командиров. Сторонники военного ИИ утверждают, что окончательный контроль сохранится за людьми, а алгоритмы лишь повысят точность и скорость работы.
Противники автономного оружия считают подобный подход слишком рискованным. Ошибка алгоритма, неверная оценка обстановки или постепенная передача контроля машине могут привести к последствиям, которые невозможно быстро остановить. Спор вокруг границ применения ИИ в обороне уже вышел за пределы дипломатии: Anthropic судится с Пентагоном после попытки получить гарантии, что модели компании не будут использовать для автономного оружия или внутренней слежки. Министерство обороны США настаивает на доступе к ИИ для любого законного применения.
К критике автономных вооружений присоединился и папа Лев XIV. По словам понтифика, ИИ-оружие может сделать войну проще для начала и сложнее для контроля. Гутерриш, выступая в Женеве, также предупредил , что искусственный интеллект развивается с «неконтролируемой скоростью», а над обществами фактически проводят эксперимент без плана и согласия.
В дискуссии участвуют более 4000 представителей правительств, университетов, технологических компаний и других организаций. Главный вопрос встречи звучит предельно практично: сможет ли международное право ограничить военный ИИ раньше, чем автономные системы станут обычной частью современных конфликтов.
- Источник новости
- www.securitylab.ru
