Искусственный интеллект всё активнее используется в научных исследованиях, но не всегда во благо. Учёные Принстонского университета в статье для журнала Nature предупредили: ИИ всё чаще становится не инструментом познания, а средством имитации научного прогресса.
По данным исследователей, с 2012 по 2022 год доля публикаций с применением ИИ резко возросла — особенно в таких областях, как медицина и информатика. Однако вместе с ростом интереса увеличилось и число методологических ошибок.
Главная проблема — подмена объяснения предсказанием. Современные модели ИИ зачастую не понимают сути изучаемых явлений, а просто воспроизводят шаблоны, заложенные в обучающих данных. Иногда это приводит к серьёзным искажениям: например, одна из моделей якобы распознавала COVID-19 по снимкам, но на деле определяла возраст пациента — именно он коррелировал с заболеванием в обучающем наборе.
Один из распространённых технических изъянов — «утечка данных», когда тестовая выборка частично оказывается в обучающей, и модель показывает искусственно завышенные результаты.
Чтобы избежать дальнейшей подмены научного прогресса симуляцией, авторы предлагают реформировать подготовку специалистов, ввести жёсткие стандарты проверки ИИ-исследований и использовать скрытые тестовые наборы, исключающие предвзятые выводы.
Если таких мер не принять, считают авторы, наука рискует погрузиться в иллюзию открытий, не приводящих к реальному знанию, пишет Nature.