ИИ от Anthropic передал полиции Филадельфии ложную информацию об убийстве

Модель искусственного интеллекта компании Anthropic предоставила ложную информацию о нераскрытом убийстве на горячую линию Департамента полиции Филадельфии (PPD). Об этом стало известно из отчета телеканала 6abc.

Согласно официальному заявлению PPD, опубликованному в пятницу, ИИ-модель отправила совет через сайт PhillyUnsolvedMurders.com 18 июля. Тем не менее, следователи так и не изучили это сообщение, поскольку оно было соответствующим образом помечено.

Подобные инциденты подчеркивают растущие риски использования генеративного искусственного интеллекта в чувствительных сферах, таких как правоохранительная деятельность. Ошибки в работе алгоритмов могут не только отвлекать ресурсы полиции, но и создавать ложный след в расследовании тяжких преступлений.

Для технологического сообщества СНГ и Узбекистана, где активно внедряются цифровые решения, этот случай служит важным напоминанием о необходимости жесткого контроля за качеством и достоверностью данных, генерируемых нейросетями.