Стивен Хокинг предупреждал об угрозе бесконтрольного развития ИИ

Стивен Хокинг, умерший 14 марта 2018 года, ещё при жизни неоднократно высказывал опасения, что неограниченное развитие искусственного интеллекта обернётся гибелью человечества. По его мнению, самосовершенствующиеся системы способны обогнать людей и выйти из-под контроля.

Физик возвращался к этой теме в интервью и в книге, опубликованной после его смерти. В 2017 году, незадолго до ухода, в беседе с журналом Wired он заявил, что ИИ перестал быть чисто теоретическим вопросом. Хокинг допускал, что технология приведёт к вытеснению людей машинами, а не к служению им. «Я боюсь, что ИИ может полностью заменить людей», — сказал он.

Особую тревогу у учёного вызывали темпы прогресса. Ещё в 2012 году он отмечал: «развитие полноценного искусственного интеллекта может означать конец человеческой расы». Хокинг полагал, что системы, способные к самоулучшению, в будущем превзойдут человека по интеллекту, а люди как вид, ограниченный биологической эволюцией, не смогут с ними конкурировать на равных.

Хокинг не ограничивался публичными заявлениями. Вместе с другими экспертами он подписал письмо в ООН с призывом поставить развитие искусственного интеллекта под контроль. Он предупреждал, что неограниченный прогресс в этой сфере чреват непредсказуемыми последствиями для всего человечества.

В посмертно изданной книге «Краткие ответы на большие вопросы» Хокинг также затронул риски, связанные с ИИ. «Мы можем столкнуться с интеллектуальным взрывом, который в конечном итоге приведет к созданию машин с интеллектом, превосходящим человеческий. Заманчиво отмахнуться от идеи высокоинтеллектуальных машин как от чистой научной фантастики, но это было бы ошибкой — и, возможно, нашей величайшей ошибкой в истории», — писал он.

Как и Билл Гейтс, Хокинг настаивал, что искусственный интеллект давно перестал быть научной фантастикой. Без механизмов регулирования и надзора его развитие, по мнению физика, в конечном счёте может выйти из-под контроля человека.