ИИ угрожает вызвать ядерный конфликт через ложные сигналы тревоги

Участники дискуссии о рисках искусственного интеллекта разделили возможные угрозы на три основные категории. В ходе разговора Лия Фейгер спросила, к какой из них можно отнести сценарий с нажатием ядерной кнопки. Брайан Барретт и Зои Шиффер сошлись во мнении, что такой вариант не относится к числу наиболее серьезных опасений. Ссылка на первоисточник в исходном тексте не указана.

Зои Шиффер пояснила, что при подробном обсуждении с исследователями искусственного интеллекта обычно выделяют три главные группы рисков. При этом специалисты также называют дополнительные сценарии.

В качестве примера она привела ситуацию, при которой искусственный интеллект управляет роботом, способным перемещаться в физическом мире и взаимодействовать с ним пугающим образом.

По словам Шиффер, сами ученые признают, что такие варианты выглядят менее вероятными и более надуманными.

Брайан Барретт предложил внутри уже существующих категорий отдельно различать действия, которые направляет человек, и полностью автономные действия искусственного интеллекта.

Он отметил, что многие скептически относятся к сценарию, при котором искусственный интеллект самостоятельно создаст биологическое оружие и применит его.

При этом Барретт напомнил, что в мире есть злоумышленники, которые могут использовать искусственный интеллект для разработки биологического оружия и последующего распространения таких угроз.

Зои Шиффер согласилась, что этот вариант выглядит более реалистичным. По ее словам, если людям предоставить доступ к информации о создании биологического оружия, найдутся те, кто проявит безрассудство и попытается этим воспользоваться.

Она добавила, что люди регулярно совершают опасные и злонамеренные поступки, вдохновляясь материалами из интернета. В то же время полностью самостоятельные действия искусственного интеллекта в этой сфере она считает менее правдоподобными.

Для иллюстрации Барретт вспомнил фильм 1983 года «Военные игры». В нем компьютер, фактически выполняющий роль искусственного интеллекта, едва не спровоцировал ядерную войну.

По мнению Барретта, искусственный интеллект не будет сам нажимать кнопку или поворачивать ключ. Однако в фильме компьютер заставил США поверить в атаку со стороны советских ядерных сил.

Барретт предположил, что существующих мер защиты и спутниковых технологий должно быть достаточно, чтобы подобный сценарий не повторился в реальности.

При этом он назвал более вероятной угрозой ситуацию, когда искусственный интеллект подает сигнал тревоги, способный запустить цепочку катастрофических событий.

Может быть интересно:

1. Турецкий бёрек готовлю из обычного лаваша: сытный пирог с сыром без замешивания теста всего за 15 минут
2. Картошка зимой начинает гнить из-за одной ошибки после выкопки: что сделать перед погребом
3. Грузинские лепешки мчади готовлю вместо хлеба: всего 3 ингредиента и никакой духовки
4. Розы в сентябре еще цветут: что уже можно делать, а с чем лучше дождаться холодов
5. Кутабы с сыром и зеленью готовлю за 15 минут: тонкие лепешки исчезают еще горячими