Claude сдал девушку полиции она использовала бота как личный дневник и записывала туда свои мысли
30-летняя Карли Мишель Хеллер из Бонита-Спрингс, Флорида, использовала Claude как личный дневник. 26 сентября она записала туда: Я собираюсь застрелить шерифа прямо сейчас. На следующий день добавила: Это последний шанс, у меня сегодня новая пушка .
Система безопасности Claude автоматически flagged эти сообщения и передала их на проверку человеку. Сотрудник Anthropic счёл угрозу реальной и сообщил в полицию. Девушку задержали без происшествий. Ей предъявили обвинение в письменных угрозах насилием это тяжкое преступление второй степени во Флориде .
По политике Anthropic, компания не раскрывает данные пользователей по запросу властей без ордера или повестки кроме случаев, когда речь идёт о неминуемой физической опасности или смерти. В этой ситуации именно компания первой вышла на полицию, а не наоборот .
Девушка позже сказала полиции, что просто вела дневник в Claude. Это останется между нами так себе вышло.