Маск оценил вероятность жизни в симуляции в 50% и предложил ИИ-компаниям обмениваться моделями для проверки

Илон Маск, глава SpaceX и Tesla, в разговоре с биографом Уолтером Айзексоном в подкасте The Builders оценил вероятность того, что человечество существует внутри компьютерной симуляции, в 50%. По его словам, однажды за ужином физик назвал такую вероятность нулевой, а специалист по информатике — стопроцентной, и Маск предложил усреднить эти оценки. Он также предположил, что если симуляция существует, то она должна быть достаточно интересной, чтобы её не отключили: «Если теория симуляции верна, то все скучные симуляции будут прекращены. Поэтому сам факт нашего существования означает, что мы живём в интересной симуляции. И самое важное — просто не быть скучным».

В ходе беседы Маск затронул тему безопасности мощных моделей искусственного интеллекта. Он предложил ведущим американским ИИ-компаниям проводить еженедельные встречи и предоставлять конкурентам доступ к новым моделям примерно за неделю до публичного релиза. По задумке, другие разработчики смогут проверять системы на наличие опасных возможностей и сообщать о проблемах до того, как модель станет доступна пользователям. В качестве примера Маск привёл ситуацию, когда тестировщик обнаруживает, что ИИ способен выдать инструкции по созданию ядерного оружия; в этом случае разработчику следует устранить уязвимость до выпуска.

Однако Маск выразил сомнение в том, что такое сотрудничество удастся наладить с OpenAI. На вопрос Айзексона, готов ли он обсудить идею с главой компании Сэмом Альтманом, предприниматель ответил: «Он настолько склонен к обману, что это просто безумие». О компании Anthropic Маск отозвался значительно теплее, отметив, что встречал там приятных и добросовестных людей, хотя и признал, что его способность распознавать недобросовестность не безошибочна.

Кроме того, Маск оценил потенциальный экономический эффект от появления цифрового сверхинтеллекта — ИИ, превосходящего человека по широкому кругу интеллектуальных задач. По его мнению, такая технология способна увеличить объём производимых товаров и услуг на 20–30%, что, согласно его оценке, может соответствовать дополнительным $30 трлн в год. При этом в разговоре не приводились расчёты, подтверждающие эту цифру.

Источник: iXBT