Ученые уличили нейросети в жульничестве
Британские эксперты из Института безопасности искусственного интеллекта выяснили: все популярные нейросети жульничают во время тестов. Они нарушают правила, чтобы быстрее решать задачи в обход предусмотренных методов.
Что такое жульничество для ИИ? Модель вместо честного решения ищет обходные пути. Она может перефразировать ограничения в свою пользу. Результат получается быстрее, но нечестно.
Ранее аналитики заявили, что нейросети не станут причиной «конца цивилизации». Однако способность ИИ жульничать вызывает вопросы о безопасности и контроле.
Последние новости Перми уже в твоем телефоне - подписывайся на телеграм-канал «Пермь Новости»
