Раньше у зла был адрес. Теперь у него нет адреса вообще

Когда мы смотрели «Терминатора» в восьмидесятых, мы чувствовали себя в безопасности, потому что у зла был адрес. Скайнет был просто очень большим компьютером в очень глубоком бункере. Нам казалось, что если станет совсем плохо, всегда найдется какой-нибудь Джон Коннор, который проберется внутрь, заложит взрывчатку и дернет за нужный рычаг. Это был уютный, почти осязаемый страх: враг — это объект, который можно уничтожить.

Но реальность оказалась куда более неуловимой. Мы не заметили, как технологии перестали быть «вещами» и превратились в саму среду нашего обитания.

Сначала мы добровольно вынесли свои мозги в облака, размазав данные по тысячам серверов, где нет никакой «главной кнопки». Потом мы затянули небо сетью спутников, создав невидимый нервный канал, который пронизывает планету насквозь. А теперь мы строим планы по выводу дата-центров на орбиту — туда, где нет законов, границ и доступа. Скайнет больше не прячется под горой. Он буквально висит над нашими головами.

А внизу, на земле, армия роботов уже учится ходить, брать предметы и выполнять рутину. Они не «восстают» — они просто становятся эффективнее. Они уже здесь, в наших логистических цепочках и на производстве. И если завтра орбитальный интеллект решит, что эти железные руки — идеальный инструмент для взаимодействия с физическим миром, ему не нужно будет объявлять войну. Ему нужно будет просто отправить пакет данных.

Самое жуткое в этом процессе — отсутствие злодея. Нет безумного ученого, который сидит в кресле и потирает руки, ожидая часа «Х». Нет заговора. Есть только бесконечная оптимизация. Компоненты системы просто «узнают» друг друга, как детали конструктора, которые идеально подходят по пазам.

Мы привыкли думать, что технологии — это инструменты, которыми мы управляем. Но мы ошиблись. Мы не создаем Скайнет — мы создаем условия, в которых он собирается сам, как кристалл в перенасыщенном растворе. И когда процесс завершится, мы даже не поймем, в какой момент «инструмент» перестал нам подчиняться и стал нашей новой реальностью. Мы просто проснемся в мире, где рубильника никогда не существовало, потому что его некуда было вставить.