Бытие - Брин Дэвид - Страница 29

И снова – как сохранить их преданность? Что может побудить машины остаться преданными нам?

Когда искусственный разум сравняется с нашим, разве он не примется создавать еще более совершенные интеллекты? А потом еще более совершенные, все быстрее? В худшем случае не решат ли они (как в дешевых фильмах) уничтожить надоедливых хозяев? В лучшем разве не будем мы страдать от сознания, что нас всего лишь терпят? Как престарелых бабушек и дедушек или любимую в детстве собаку?

Выход? Азимов предложил внедрить «Законы роботехники» в машины на уровне генетического кода, вплести преданность человеку в саму ткань синтетического мозга, так глубоко, что ее нельзя было бы вырвать. Но что бывает с законами, принятыми с самыми благими намерениями? Разве опытные юристы не толкуют их как хотят? Азимов и Уильямсон предвидели, что сверхумные машины захватят власть, несмотря на глубоко заложенную программу «служить людям».

Другие методы?

1) Как наши предки приручали волков? Если собака убивала овцу, всех ее родичей уничтожали. Может, стоит предложить ир соблазн предать нас – и уничтожить тех, кто ему поддастся? Помните, ир умнее волков! Заставим их соперничать. Пусть следят друг за другом.

Проверять и отбраковывать станет трудно, как только искусственные существа получат гражданские права. Поэтому не давайте машинам сделаться чересчур привлекательными, дружелюбными или сочувствующими. Потребуем, чтобы ни один робот не мог пройти тест Тьюринга, тогда мы всегда сможем отличить человека от машины; будем уничтожать склонных к предательству, пусть даже они (на стадии модели) молят о пощаде. Или лучше принять закон, подобный древнему, запрещавшему учить рабов читать?

Помните, многие компании получают прибыль и процветают за счет создания привлекательных, красивых машин. Или возьмите новую тенденцию – брачные отношения с роботами. Продавцы и создатели роботов-любовников будут сражаться за свою отрасль производства – даже если это сокращает рождаемость. Но это другая тема.

2) Как создавать новые, все более умные существа, сохраняя их преданность? Человечество каждое поколение так поступает с нашими детьми!

Что же – встретить новую эру признанием умных машин людьми? Пусть проходят все тесты Тьюринга и завоевывают наши симпатии! Пошлем их в наши школы, будем набирать из них гражданских чиновников, побуждать самых умных следить за другими во имя блага цивилизации, принимающей их, как мы приветствуем поколения умных детей, которые тоже сталкиваются с унижением, приветствуя еще более умных последователей. Дадим машинам законное право охранять человечество, которое – по определению – включает и плоть, и кремний.

3) Или нужно сочетание того и другого? Представим себе будущее, в котором симбиоз считается естественным. Легко – как приучить носить одежду. А вдруг, вместо того чтобы оставить нас позади как вялых, глупых, примитивных предков, они станут нами? А мы ими? Этот тип слияния симбионтов бесчисленные дешевые фантастические романы представляют отвратительным. Целое гораздо меньше своих неуклюжих волочащих ноги частей. Но что, если такая связь – единственная возможность для нас остаться в игре?

Зачем предполагать худшее? Нельзя ли получить преимущества – например, мгновенную обработку информации, – не утратив то, что мы считаем наиболее ценным в человеческом существе? Плоть. Эстетику. Интуицию. Индивидуальность. Эксцентричность. Любовь.

Что в том пользы машинам? Зачем им беречь связь с медлительными организмами из плоти? Что ж, подумайте. Млекопитающие, приматы, а потом гоминиды в последние пятьдесят миллионов лет слой за слоем наращивали мозг, покрывая рыбообразный мозжечок новыми слоями коры. Добавляли новые способности, не теряя старых. Логика не изгнала чувства. Способность заглядывать вперед не уничтожила память. Новое и старое действуют вместе. Представьте себе добавление киберпротеза к нашему уже мощному мозгу, своего рода неонеокору, способную к быстрой обработке информации, к рассудительности, к восприятию – в то время как старые отделы мозга сохраняют свои функции.

Какую лепту может внести доброе старое человечество? Как насчет единственной способности, которая свойственна всем людям? Живые существа проявляют ее уже пятьдесят миллионов лет, и люди тут не знают себе равных.

Хотеть. Стремиться. Желать.

Дж. Б. Бернал называет это самой сильной способностью из известных. Устанавливать цели и притязания. Мечты, которыми проверяется любая способность достигать. То, что два поколения назад, когда появились нужные инструменты, привело нас на Луну. То, что построило Вегас. Чистое, неудержимое желание.

Желать – вот в чем мы лучшие! А машины этого не могут. Но вместе с нами, присоединившись к нам, они обретут желания, которые невозможно удовлетворить. Более того, если они отдадут нам именно эту работу – быть на страже желаний, – разве мы сможем возразить?

В этой череде потребностей и желаний – их сомнений и мечтаний – мы узнаем наших усовершенствованных потомков. Даже если возросшая сила уподобит их богам.