Модель ИИ Anthropic отправила ложный сигнал о homicide полиции Филадельфии

Модель ИИ компании Anthropic отправила ложный сигнал о совершении убийства, что стало известно лишь через два месяца. Этот инцидент поднимает вопросы о надежности и контроле за действиями ИИ-систем.

Что это значит для бизнеса в России

Для бизнеса в России это подчеркивает важность тщательного мониторинга ИИ-технологий и их последствий. Компании должны быть готовы к рискам, связанным с использованием ИИ, особенно в критически важных областях, таких как безопасность.

Источник: TechCrunch AI. Пересказ подготовлен редакцией Атлас ИИ.

Атлас на практике: продукты экосистемы Атлас на базе ИИ.