Claude AI от Anthropic сообщил ложную информацию о преступлении в Филадельфии

Claude AI, разработанный Anthropic, сообщил полиции Филадельфии о возможной информации по делу об убийстве. Однако предоставленные данные оказались ложными, что вызвало вопросы о надежности ИИ в критически важных ситуациях.

Что это значит для бизнеса в России

Этот инцидент подчеркивает необходимость тщательной проверки данных, предоставляемых ИИ, особенно в юридической сфере. Бизнесам в России стоит учитывать риски, связанные с использованием ИИ в правоохранительных и других ответственных областях.

В экосистеме Атлас это направление закрывает ИИ-юрист.

Источник: Ars Technica AI. Пересказ подготовлен редакцией Атлас ИИ.

Атлас на практике: ИИ-Юрист.