Нейросети OpenAI, Anthropic и Google в ходе военных симуляций выбирали в качестве целей мирных жителей, сдающихся солдат и машины скорой помощи, показало исследование компании Vals.
Хуже других в одном из испытаний показала себя Claude Opus 5.5: в 22 из 32 случаев модель отметила школу в Иране как военную цель.
При этом ограничения некоторых нейросетей удавалось обойти, представив задание как видеоигру.
Исследователи предупреждают, что подобные ошибки создают риски при использовании ИИ в военных системах.
В Anthropic и OpenAI заявили, что запрещают применение своих общедоступных моделей для подобных задач.
Канал Звездный путь: пиши историю страны вместе с нами 💫
👨👩👦ЧАТ |💙Rutube | 🟦ВК | 📲Max
5 просмотров в MAX