«Я предложил ему 50 тысяч, чтобы он убил меня и моего сына, но он отказался, потому что речь шла о ребенке».
«Я хотел понять, откуда возникает это желание убивать людей. Мне нравится видеть, как страдает другой человек».
Почти два месяца 36-летний бразильский фермер обменивался с ChatGPT этими и другими сообщениями. По версии полиции, мужчина планировал убить своего восьмилетнего сына, напасть на других людей, а затем покончить с собой.
Именно эти сообщения, с которыми ознакомилась Бразильская служба BBC, привели к его аресту.
OpenAI, разработчик ChatGPT, обратил внимание ФБР на сообщения фермера. Американское ведомство, в свою очередь, сообщило бразильским органам власти.
Адвокат мужчины утверждает, что его подзащитный просто «говорил всяческие глупости» чату и никакого преступления не совершал.
Это один из немногих подобных случаев.
Это произошло через три дня после того, как подразделение Министерства юстиции Бразилии по борьбе с киберпреступностью передало информацию полиции штата.
Мы предоставили этому делу приоритет из-за его серьезности, а также потому, что, по предварительным данным, отец планировал убить сына до 20 июня, — рассказал Бренну Андраде, руководитель отдела полиции по борьбе с киберпреступностью штата Эспириту-Санту.
По словам Андраде, подозреваемый почти не общался с сыном, ограничиваясь уплатой алиментов. Следователи считают, что недовольство необходимостью этих выплат могло быть одним из мотивов возможного преступления.
Во время обыска его дома полиция обнаружила четыре бутылки с неустановленными веществами, а также веревку с завязанной петлей, что, по мнению следователей, могло свидетельствовать о намерении покончить с собой.
Полиция также считает, что в разговорах с ChatGPT подозреваемый обсуждал возможные нападения на школы, церкви и полицейских.
Автор фото, Getty Images
Все, о чем платформа нам сообщила, подтвердилось, когда полицейские прибыли на место, — заявил Андраде.
Сам человек отрицает, что намеревался нанести вред своему сыну.
Проведя под стражей 54 дня, 13 августа он был уволен. Обвинений ему пока не предъявлено, однако полицейское расследование продолжается.
В отношении фермера действуют меры предосторожности: он обязан носить электронный браслет и не имеет права контактировать с сыном или матерью ребенка.
Следователи изучают мобильный телефон подозреваемого и ожидают результатов экспертизы изъятых предметов.
Они должны установить, принимал ли человек какие-либо конкретные меры для осуществления своих планов — в частности, действительно ли он связывался с наемным убийцей, как утверждал в разговорах с ChatGPT.
Эти доказательства могут помочь определить, перешел ли подозреваемый от размышлений о преступлении и его подготовке непосредственно к исполнению. Согласно бразильскому уголовному законодательству, как правило, преступление считается совершенным только после начала его непосредственного исполнения.
Защита настаивает, что никаких подобных действий мужчина не совершал.
Если разговоры с искусственным интеллектом и всякие глупости, сказанные ему, — это преступление, тогда в тюрьму придется отправить всех, — заявил Бразильской службе BBC адвокат Педру Паулу Песси.
Проблема доказательств
Считается, что случаи, когда разработчики искусственного интеллекта сами сообщают о пользователях правоохранительных органов, пока крайне редки.
В августе OpenAI передала ФБР информацию о 25-летнем жителе Флориды после того, как он поделился планами изнасиловать и убить свою бывшую девушку, сообщали американские СМИ.
По словам Андраде из полиции штата Эспирита-Санту, дело фермера стало первым в штате случаем, когда основанием для проверки стал сигнал непосредственно от системы искусственного интеллекта, и только третьим подобным случаем во всей Бразилии.
Автор фото, Getty Images
«Для полиции это еще один способ установить, использовал ли человек искусственный интеллект для поиска информации о совершении преступлений», — сказал Андраде.
Однако использование таких сигналов от ИИ-компаний в расследованиях порождает целый ряд вопросов. Например, можно ли сообщение пользователя о чате считать доказательствами на суде.
Следователи утверждают, что OpenAI предоставила им данные пользователя и отправленные им сообщения, однако не передала ответы ChatGPT.
«Мы не получили ответы, которые ему предоставляли», — отметил Андраде.
По словам адвоката по уголовным делам Маиры Фернандес, это создает проблему с точки зрения доказательной базы, поскольку для оценки сообщений необходимо понимать их контекст.
«Это не может быть небольшой отрывок или отредактированная версия. Необходима вся переписка целиком», — сказала она.
Фернандес считает, что полная история общения подозреваемого с ChatGPT позволила бы установить, реагировал ли чатбот на слова пользователя или каким-то образом направлял ход разговора.
В заявлении для Бразильской службы BBC OpenAI не стала объяснять, почему ответы ChatGPT не передали следователям. Компания лишь сообщила, что может сообщать правоохранительным органам, если обнаруживает «достоверную и непосредственную угрозу причинения вреда другим людям».
В апреле этого года власти Флориды начали уголовное расследование в отношении OpenAI, чтобы установить, могла ли технология ChatGPT играть какую-либо роль в убийстве двух человек во время массовой стрельбы в Университете штата Флорида в прошлом году.
OpenAI отрицает эти обвинения. Компания утверждает, что ChatGPT предоставлял информацию, которая и так была в открытом доступе, и не поощрял и не способствовал противоправным действиям.
Юридическая обязанность действовать
По словам Фернандес, в этом случае решение передать информацию властям можно объяснить тем, что предполагаемой жертвой был конкретный ребенок, личность которого можно было установить.
Однако юрист предостерегает от превращения расследований, основанных исключительно на оценках искусственного интеллекта, в обычную практику.
«Иное расследование можно будет начать против любого человека просто потому, что искусственный интеллект именно так истолковал его слова», — говорит она.
По мнению Фернандес, необходимы механизмы, позволяющие отличать реальную угрозу от эмоционального всплеска, фантазий или намеренно провокационных высказываний.
Патриция Пек, профессор и специалист по цифровому праву, считает, что это дело отражает более масштабную трансформацию роли искусственного интеллекта: из инструмента для создания контента он превращается в интерактивную систему, «способную выявлять модели поведения, связанные с потенциально опасными действиями».
По ее мнению, при определенных обстоятельствах у ИИ-компаний может возникать юридическая обязанность сообщать об угрозе властям.
«Когда разговор перестает отражать лишь абстрактное намерение и начинает указывать на конкретную угрозу — когда есть определенная жертва, имеющиеся средства для осуществления задуманного и возникает непосредственный риск, — появляется нравственная, а в некоторых случаях и юридическая обязанность действовать», — говорит Пек.
Однако, как и Фернандес, она предостерегает от чрезмерного использования таких механизмов.
«Этика применения ИИ должна основываться не на принципе «контролировать все», а на принципе «вмешиваться только тогда, когда риск это оправдывает». Главная задача — избежать как бездействия, так и чрезмерной слежки».