Эксперт объяснил, почему отключить вышедший из-под контроля ИИ непросто
Остановка искусственного интеллекта, вышедшего из-под контроля, не всегда решает все связанные с ним проблемы. Даже после отключения системы последствия её действий могут сохраняться. Об этом предупредил руководитель отдела безопасности ИИ компании «СКБ Контур» Сергей Жужгов.
По словам эксперта, для полного прекращения работы ИИ-агента может потребоваться не только остановить программу, но и заблокировать его учётные записи, отозвать предоставленные разрешения и завершить выполняемые задачи. Универсальной команды, которая мгновенно отключает любую систему искусственного интеллекта, не существует.
Особую опасность представляет утечка информации. Если ИИ уже передал конфиденциальные данные за пределы организации, вернуть над ними контроль практически невозможно.
Жужгов рекомендует компаниям заранее ограничивать полномочия ИИ-агентов и разрабатывать механизмы их принудительного отключения. Такие меры помогут снизить риски и быстрее реагировать на нештатные ситуации, сообщает "Самара Онлайн 24".
Последние новости Перми уже в твоем телефоне - подписывайся на телеграм-канал «Пермь Новости»




