Четвертая мировая война. Будущее уже рядом - Курпатов Андрей - Страница 11

«Успешный зародыш искусственного интеллекта должен быть способен к постоянному саморазвитию: первая версия создаёт улучшенную версию самой себя, которая намного умнее оригинальной; улучшенная версия, в свою очередь», трудится над ещё более улучшенной версией и так далее.

При некоторых условиях процесс рекурсивного самосовершенствования может продолжаться довольно долго и в конце концов привести к взрывному развитию искусственного интеллекта».

«Я пришёл к выводу, что мы уже поддерживаем эволюцию мощного искусственного интеллекта, а он, в свою очередь, повлияет на развитие привычных нам могущественных сил: бизнеса, индустрии развлечений, медицины, государственной безопасности, производства оружия, власти на всех уровнях, преступности, транспорта, горнодобывающей промышленности, производства, торговли, секса – да чего угодно!

Я думаю, что результаты нам не понравятся. […] Я не знаю, окажется ли кто-нибудь достаточно умным и одарённым для того, чтобы сохранить власть над этим джинном, потому что контролировать, возможно, придётся не только машины, но и людей, дорвавшихся до новых технологий и имеющих злые намерения».

«ВАШИ ВОЗРАЖЕНИЯ, ГОСПОДА!»

Дискуссии о возможности или невозможности сингулярного сценария не утихают – об этом пишут не только в научных журналах, но и в популярных СМИ, в личных блогах. Скоро, мне кажется, и на заборах начнут писать. Ну и правильно – надо же разобраться, в конце-то концов!

Род Брукс, например, этот величайший из великих создателей искусственного интеллекта, любит шутить, общаясь со своим старым другом и коллегой по Массачусетскому технологическому институту Курцвейлом: «Рэй, мы оба умрём!» И добавляет, что было бы неплохо, если бы его – бруксовский – антропоморфный робот Baxter оказался достаточно совершенным, чтобы обеспечить обоим старикам достойный уход.

Впрочем, кто-то настроен и по-другому, предлагая при этом весьма внятные и интересные аргументы. В частности, профессор того же самого Массачусетского технологического института, директор по научным исследованиям Института основополагающих вопросов Макс Тегмарку разбивает позиции скептиков следующим образом…

Прежде всего он предлагает унять разнузданное паникёрство. В значительной части оно вызвано желанием журналистов сделать свои материалы про искусственный интеллект пострашнее и позабористее. «Страх увеличивает доходы от рекламы и рейтинг Нильсена[9]», – говорит Тегмарк.

На возражение, что столь впечатляющее развитие событий в принципе невозможно, он отвечает: «Будучи физиком, я знаю, что мой мозг состоит из кварков и электронов, организованных и действующих подобно мощному компьютеру, и что нет такого закона физики, который препятствовал бы тому, чтобы мы построили ещё более разумные сгустки кварков».

Многие считают, что даже если такое развитие событий возможно, то «это произойдёт не при нашей жизни». Тегмарк признаёт, что мы не можем сказать с уверенностью, каковы шансы, что машины достигнут человеческого уровня во всех когнитивных задачах при нашей жизни.

Но добавляет: «Однако большинство исследователей, работающих в области искусственного интеллекта, на прошедшей недавно конференции высказывались в пользу того, что вероятность этого выше 50 процентов, – таким образом, было бы глупо с нашей стороны отбрасывать такую возможность, считая её просто научной фантастикой».

На наивную убеждённость, что «машины не могут контролировать людей», Тегмарк вполне резонно замечает: «Мы способны управлять тиграми не потому, что мы сильнее, а потому, что умнее, так что если мы сдадим позиции самых умных на планете, то рискуем утратить свободу».

Многие критики технологической сигнулярности утверждают, что она невозможна, потому что машины – это просто машины, и у них нет целей. Но правда состоит в том, и Тегмарк это особо подчёркивает, что большинство систем искусственного интеллекта запрограммированы именно таким образом, чтобы иметь цели, и не только иметь, но и максимально эффективно их достигать.

Есть среди нас и добрые души, которые считают, что поскольку искусственный интеллект – это просто программа, то он не может демонстрировать злонамеренности в отношении человека. Тегмарк не возражает. Но проблема в другом – цели искусственного интеллекта могут в какой-то момент столкнуться с нашими. «Люди обычно не питают ненависти к муравьям, – говорит он, – но если б мы захотели построить плотину ГЭС, а на её месте оказался бы муравейник, то муравьи столкнулись бы с проблемами».

Ну и завершу этот обзор шуткой… Мне и самому часто приходилось сталкиваться с такого рода критикой – мол, те, кто беспокоится по поводу искусственного интеллекта, не понимают, как работают компьютеры. На что Макс Тегмарк саркастично замечает следующее: «Это утверждение прозвучало на вышеупомянутой конференции, и собравшиеся там специалисты по искусственному интеллекту сильно смеялись».