Маск согласен: ИИ уничтожит человечество с вероятностью 10-20%
Прошлой осенью Маск заявил, что технология ИИ начнет представлять угрозу с вероятностью, отличной от нулевой. Но тогда он не говорил, что считает ее опасной для самого существования человечества. На саммите он предсказал, что цифровой интеллект превзойдет весь совокупный человеческий интеллект в 2030 году. И хотя Маск признает пользу от разработок ИИ, нельзя не обращать внимания на риски, которыми чревато его развитие.
«Я полагаю, есть вероятность, что он [ИИ] покончит с человечеством, - сказал Илон Маск. – Я, пожалуй, https://hightech.plus/2023/10/16/dzheffri-hinton-ii-smozhet-... с Джеффом Хинтоном, что это примерно 10-20% или около того». Однако, добавил он, «вероятный оптимистичный сценарий перевешивает пессимистичный». Как именно Маск рассчитал риски, он не сообщил.
Пару недель назад Маск сравнил разработку универсального ИИ с воспитанием ребенка. Только ребенка гениального, сверхразумного. Поэтому то, как его воспитывают, имеет огромное значение. Сам он советует наделить такой ИИ максимальным стремлением к поиску истины и любовью к знаниям.
«Не заставляйте его лгать, даже если правда неприятна, - сказал Маск. – Это очень важно. Не заставляйте ИИ лгать». Ведь если он научится обманывать, он легко обойдет все защитные механизмы, которые выстроит против него человек.
Поддержал мнение Маски и Роман Ямпольский, специалист по безопасности ИИ из Университета Луисвилля (США). ИИ действительно может оказаться угрозой существования человечества, заявил он https://www.businessinsider.com/elon-musk-20-percent-chance-... BI, но Маск в своих оценках слишком консервативен. Реальная вероятность гибели, по его мнению, выше. ИИ способен создать новое биологическое оружие или вызвать коллапс общества, уничтожив социальные учреждения кибератаками и ядерным оружием.
Газета «Нью-Йорк Таймс» назвала подсчет вероятности гибели «мрачной новой статистикой, которая захватила Кремниевую долину». Эксперты соревнуются друг с другом в предсказаниях, судя по которым, ИИ пойдет во все тяжкие с шансом от 5% до 50%. Ямпольский категоричнее остальных – его оценка 99,999999%.
«Не знаю, почему он думает, что эту технологию вообще стоит развивать, - добавил Ямпольский. – Если он беспокоится о том, чтобы конкуренты не успели туда первыми, это не имеет значения, ведь неподконтрольный сверхразум одинаково опасен, вне зависимости от того, кто его сотворил».
На днях стартап Илона Маска xAI https://hightech.plus/2024/03/18/kompaniya-maska-xai-otkrila... исходный код чат-бота Grok на GitHub. Это позволит исследователям и разработчикам использовать его и вносить изменения, тем самым влияя на то, как xAI будет обновлять Grok в будущем. Маск открыто критикует компании, которые не раскрывают исходный код моделей ИИ, например, OpenAI.