OpenAI начнёт отслеживать переписки и при необходимости обращаться в полицию

Компания OpenAI обновила свою политику конфиденциальности — теперь переписка пользователей с ChatGPT будет проходить дополнительную проверку на наличие потенциально опасных высказываний. Об этом говорится в публикации на официальном блоге компании.

В первую очередь специалисты обращают внимание на сообщения, которые могут содержать угрозы самому себе или другим. Если подобное будет замечено, данные передадут внутренней группе по оценке рисков. В зависимости от ситуации, аккаунт может быть ограничен или полностью заблокирован.

В особо серьёзных случаях — например, при подозрении на подготовку насильственных действий, вред имуществу или попытки взлома систем — информация может быть передана правоохранителям.

В OpenAI подчёркивают, что основная цель таких мер — обеспечение безопасности и предотвращение возможного вреда. Пока что подобных случаев передачи данных в полицию не было, но механизм предусмотрен на случай крайней необходимости.

Пользователям напоминают: использование нейросети в незаконных целях может повлечь не только блокировку, но и реальные юридические последствия.