Российские ученые заявили, что ИИ теперь умеет признавать свои ошибки

Исследователи из Сколтеха и Института проблем передачи информации РАН разработали метод, который помогает нейросетям точнее оценивать уверенность в своих прогнозах. Этот метод улучшает надежность моделей, особенно в критичных областях, таких как медицина и промышленность.

Современные нейросети могут быть избыточно уверены, даже при неполных или шумных данных. Новый подход помогает моделям оценить, когда прогнозы требуют проверки человеком.

Метод был протестирован на реальных данных, включая медицинские задачи, такие как типирование крови, и показал улучшение точности в оценке неопределенности.

Отличие метода в использовании «мягких» меток (от 0 до 1) вместо бинарных, что позволяет нейросетям принимать более осторожные решения. Метод также учитывает эпистемическую и алеаторную неопределенности.

Этот подход может быть полезен в медицинской диагностике, промышленной автоматизации и автономных системах. Результаты были представлены на Международной конференции по компьютерному зрению (WACV-2025).

Алексей Зайцев из Сколтеха отметил, что метод помогает нейросетям выявлять высокие риски ошибок, что особенно важно в медицине, пишет kazanonline24.ru со ссылкой на Naked-Science.