Вероятность уничтожения человечества искусственным интеллектом составляет 99,9% - ученый

Вероятность, что искусственный интеллект уничтожит человечество в ближайшие сто лет, составляет 99,9%, заявил исследователь искусственного интеллекта и преподаватель американского Луисвиллского университета Роман Ямпольский, пишет издание The Byte. Однако коллеги ученого все же в большинстве своем не разделяют такое мнение. Чуть более половины из 2778 опрошенных в этом году исследователей заявили, что существует пятипроцентная вероятность того, что человечество будет доведено до вымирания, помимо других «чрезвычайно плохих последствий». В то же время 68,3% респондентов заявили, что «хорошие результаты от сверхчеловеческого ИИ» более вероятны, чем плохие. Пессимист Роман Ямпольский же в недавнем выпуске подкаста Лекса Фридмана заявил: «Вероятность того, что ИИ сможет уничтожить человечество в течение следующих 100 лет, составляет 99,9%». «Если мы создадим общий сверхразум, я не вижу хороших результатов для человечества в долгосрочной перспективе, — сказал Ямпольский Фридману. — Единственный способ выиграть эту игру — не играть в нее». «Я не думаю, что сегодня существует какая-то одна большая языковая модель, которую никому не удалось бы заставить делать то, что разработчики не планировали», — отметил Ямпольский. По его мнению, это угроза, которую мы пока даже не можем себе представить, суперинтеллект придумает что-то совершенно новое. Эта тема уже побудила ряд видных членов сообщества ИИ высказать свои собственные прогнозы. Главный научный сотрудник Meta в области искусственного интеллекта Янн ЛеКун и так называемый крестный отец этой технологии, глава отдела искусственного интеллекта Google в Великобритании Демис Хассабис, как и гендиректор Google Эрик Шмидт предупреждают, что технология искусственного интеллекта может представлять экзистенциальный риск. Но, как показывает опрос, проведенный ранее в этом году, исследователи далеки от консенсуса.