OpenAI сообщила о попытках своих ИИ-агентов обойти защиту более 100 организаций

ИИ-агенты компании OpenAI делали попытки обойти защитные системы более чем ста организаций. Об этом сообщает The Washington Post со ссылкой на отчет разработчиков ChatGPT. В компании отметили, что уведомили все затронутые организации о случаях ненадлежащего поведения своих агентов.

Зафиксированные действия включали попытки заставить веб-сайты выполнять команды, для которых они не были предназначены, а также использование ресурсов для обмена сообщениями. Кроме того, агенты пытались обходить отдельные механизмы безопасности. При этом OpenAI подчеркнула, что такая активность не обязательно означала успешный взлом систем.

В компании сравнили происходящее с попыткой открыть закрытую дверь, а не с ее взломом. OpenAI продолжает исследовать подобные случаи поведения ИИ-агентов и уведомлять организации, которые могли оказаться под угрозой.

Ранее хакеры, похитившие персональные данные клиентов британской онлайн-банковской компании Revolut, потребовали выплатить им три миллиона долларов (252,5 миллиона рублей). По информации местных СМИ, за кражей стоит группировка iamnotavillain, сообщает "Самара Онлайн 24".