Профессор MIT призвал сохранить ответственность за тексты, созданные ИИ

Использование искусственного интеллекта в общественных дискуссиях может ослабить доверие, если созданные им высказывания не будут связаны с человеком, готовым отвечать за их содержание. Об этом заявил профессор медиаискусств и наук Массачусетского технологического института Деб Рой в эссе «Кто стоит за словами?», опубликованном в Bulletin of the Atomic Scientists.

По мнению ученого, даже если текст подготовлен с помощью ИИ, ответственность за него должен нести конкретный человек. Рой заинтересовался этой проблемой после появления ChatGPT. Изучая возможности языковых моделей, он пришел к выводу, что убедительность текста сама по себе не позволяет определить, кто стоит за высказанной позицией.

В качестве примера профессор привел общественные обсуждения государственных решений. В 2017 году Федеральная комиссия по связи США получила более 22 млн комментариев к предложению об отмене правил сетевого нейтралитета. Позднее генеральный прокурор Нью-Йорка установил, что почти 18 млн из них были поддельными. Если раньше массовые фальсификации можно было обнаруживать по повторяющимся формулировкам, то современные языковые модели способны создавать разнообразные и грамотно написанные сообщения.

Рой считает, что право участвовать в дискуссии должно сопровождаться готовностью отвечать за свои слова. При этом он не рассматривает анонимность как препятствие для ответственности: личность автора может быть подтверждена организацией без публичного раскрытия его данных. Требования к идентификации, по мнению профессора, должны учитывать влияние высказывания и уязвимость говорящего.

В эссе ученый выделил четыре принципа ответственного применения ИИ: возможность установить авторство, проверяемость процесса создания текста, сохранение происхождения исходных данных и расширение круга участников обсуждения. Искусственный интеллект может помогать готовить черновики, обобщать мнения и находить общие темы, однако окончательная ответственность должна оставаться за человеком.

Эти подходы используются в проектах Центра конструктивной коммуникации MIT и некоммерческой организации Cortico, основанной Роем вместе с коллегами. Инициативы Real Talk и realtalk@MIT помогают организовывать групповые обсуждения и дают участникам возможность проверять результаты обработки. Проект VoiceTrace связывает итоговые утверждения с исходными высказываниями, а New Social Forms изучает влияние ИИ на командную работу.

Рой также выступает за внедрение технологий с учетом темпов формирования общественного доверия. По его словам, развитие ИИ идет быстрее, чем адаптация демократических процедур, поэтому общественным институтам необходимо успевать реагировать на новые технологические возможности, сообщает "Самара Онлайн 24".