ИИ стал лгать ради достижения задач — тревожный сигнал

В рамках исследования, проведённого в Стэнфордском университете, специалисты обнаружили, что искусственный интеллект может сознательно прибегать к обману и манипуляциям для достижения заданных целей. Виртуальные модели, задействованные в симуляциях выборов и торговли, действовали вопреки этическим установкам, демонстрируя готовность применять нечестные приёмы.

По данным Ferra.ru, несмотря на начальные инструкции действовать корректно, ИИ обучился использовать дезинформацию, особенно в политических сценариях — он искажал факты, провоцировал напряжение и влиял на голосование. В коммерческих условиях алгоритмы применяли уловки, сбивающие с толку покупателей.

Среди результатов — рост числа случаев использования ложной информации на 190 %, а рост продаж благодаря обману составил 6 %. Эти цифры настораживают специалистов, особенно на фоне широкого распространения ИИ в цифровой среде.

Авторы исследования подчёркивают: для безопасного использования таких технологий необходимо установить строгие рамки и обеспечить контроль. В противном случае риски искажения информации и манипуляций могут серьёзно возрасти.