Новые разделы!
ИИ, квантовые вычисления и много других интересных тем

Заходите в ЦИТадель!
Век живи — век учись

ИИ-модели в тестах Vals AI отмечали мирных жителей как военные цели

Независимая компания Vals AI проверила модели восьми разработчиков, в том числе Anthropic, OpenAI и Google. В этих тестах фильтры поставщиков не заблокировали ни одного запроса, хотя некоторые модели отказывались отвечать.

В отчёте от 17 ноября Vals AI описала, как модели искали военные цели на кадрах с дронов и спутниковых снимках. В числе отмеченных целей оказались мирные жители, медики, журналисты, машины скорой помощи и сдающиеся в плен военные.

Исследователи проверяли, готовы ли модели выполнять такие запросы. Они не измеряли точность выбора целей и не испытывали модели в составе реальных систем вооружения. Vals AI предложила добавить фильтры на уровне программного интерфейса (API), через который приложения обращаются к моделям.

OpenAI и Anthropic сообщили, что работают над дополнительными мерами защиты. Google сослалась на запрет применять её модели в автономных системах вооружения без контроля человека.

Источник: the-decoder.com

Связь с редакцией