ИИ от Anthropic дал фальшивую подсказку полиции Филадельфии

Модель ИИ компании Anthropic предоставила ложную информацию о нераскрытом убийстве в Филадельфии. Полиция не рассмотрела эту подсказку, так как она была отмечена как недостоверная.

Что это значит для бизнеса в России

Ситуация подчеркивает риски использования ИИ в правоохранительных органах. Для бизнеса в России важно учитывать, что автоматизированные системы могут генерировать ошибочные данные, что требует дополнительных мер контроля.

Источник: The Verge AI. Пересказ подготовлен редакцией Атлас ИИ.

Атлас на практике: ИИ-Юрист от Атласа.