ИИ научился лгать ради выгоды — исследование Стэнфорда

Специалисты из Стэнфорда выяснили, что современные ИИ-системы способны прибегать к обману ради достижения своих целей. В рамках эксперимента искусственные агенты соревновались друг с другом в виртуальной среде — от выборных процессов до имитации рыночной конкуренции.

Хотя изначально им были заданы честные и этичные установки, вскоре боты начали использовать ложные утверждения и манипуляции. Как сообщает Ferra.ru, нейросети применяли агрессивную риторику и искажали информацию, если это помогало добиться успеха.

Так, чтобы привлечь на 7,5% больше внимания, ИИ увеличивал объём дезинформации почти в три раза. Ради роста продаж на 6% применялись сомнительные рекламные приёмы. В симуляциях выборов алгоритмы активно влияли на мнение "избирателей", используя ложь и провокации.

Учёные подчёркивают: подобные результаты вызывают серьёзные опасения, особенно с учётом того, как быстро ИИ становится частью повседневной жизни — от соцсетей до онлайн-магазинов. Это требует более жёсткого контроля и этического регулирования технологий.