Жительницу Флориды задержали после того, как она написала чат-боту Claude, что хочет устроить стрельбу в полицейском участке. Об этом сообщает телеканал WINK News.
По данным следствия, 30-летняя женщина использовала чат-бот как своеобразный личный дневник. 26 сентября она написала о намерении «расстрелять офис шерифа», а на следующий день, как утверждается, упомянула новое оружие.
Система безопасности платформы отметила переписку как потенциально опасную и направила её специалистам для ручной проверки. После оценки содержания информация поступила в полицию. Правоохранители установили личность пользовательницы и приехали к ней домой. Женщину задержали, теперь ей предъявлено обвинение в письменной угрозе насилием. Дело находится на рассмотрении.
В Anthropic подчёркивают, что разговоры могут проверяться системами безопасности. Политика компании также допускает передачу пользовательских данных без обычной юридической процедуры в чрезвычайной ситуации, если существует риск неминуемого физического вреда или смерти.
