FAQ по трансгуманизму - Бостром Ник - Страница 7

Трансгуманисты могут делать предположения о том, как постчеловек может взаимодействовать с людьми, если постчеловек вообще захочет взаимодействовать с ними, но сложно представить себе, как постлюди будут взаимодействовать между собой и как будет функционировать постчеловеческое общество. Любое его описание на данный момент может быть основано только на текущем опыте и желаниях людей или транслюдей, заботы которых могут не иметь никакого значения для постлюдей. Постлюди наверняка придумают совершенно новые формы общественной жизни. По мере того, как постчеловеческое общество зарождается и развивается, некоторые из нас надеются наблюдать за взаимодействием постлюдей с людьми, транслюдьми и другими постлюдьми, что позволит составить представление о том, каким может стать будущее постчеловеческое общество.

Некоторые технологии, которые будут разработаны в этом веке будут очень и очень мощными. Будучи использованы в дурных целях, они смогут причинить большой ущерб людям и окружающей среде. Некоторые даже могут, в самом плохом случае, привести к исчезновению разумной жизни. Это самое страшное, что может произойти, и этого мы должны избежать любой ценой.

Вот некоторые гибельные для человечества сценарии, которые обсуждались трансгуманистами:

Серая топь (gray goo). — Самовопроизводящиеся наномашины [См. "Что такое нанотехнология?"] случайно выходят из под контроля и пожирают всю биосферу, превращая ее в "серую топь". Поскольку молекулярная нанотехнология будет использовать новые химические структуры, нет оснований полагать, что природные механизмы, которые поддерживают равновесие, сдерживая размножение органических самовоспроизводящихся существ, станут препятствием для нано-репликаторов.

В принципе, сравнительно легко встроить дублирующие предохранители, которые сделают такое развитие событий невозможным. Например, можно сделать самовоспроизводящиеся машины (репликаторы) зависимыми от какого-то "витамина" — редкого химического вещества, необходимого им для функционирования. Или можно сделать адаптивные мутации сколь угодно маловероятными с помощью правильного дизайна. Эксперименты с самовоспроизводящимися машинами могут быть ограничены границами "запечатанных лабораторий", небольших камер, которые автоматически взрываются, уничтожая все внутри, если что-то попытается проникнуть через их стены (неважно, изнутри или снаружи). Таким образом, если разработка нанотехнологий будет производиться ответственными людьми и со строгими предосторожностями, появления серой топи можно избежать.

Черная топь (black goo). — Общепринято считать, что "черная топь", под которой понимают умышленно изготовленные разрушительные наномашины, представляет собой гораздо большую проблему.

Один из способов защититься от угрозы черной топи, заключается в создании "активных щитов" — автоматических защитных систем со встроенными ограничениями, предназначенными для предотвращения их использования в агрессивных целях. Можно представить себе глобальную иммунную систему, состоящую из наномашин, блуждающих по поверхности Земли в поисках опасных репликаторов. Проблема с этим подходом заключается в том, что хотя создание надежной глобальной иммунной системы может быть возможным, это может оказаться гораздо сложнее, чем создание разрушительных наномашин. В таком случае, в течение некоторого времени мир будет беззащитен. Необходимо, чтобы в течение этого периода соглашения о нераспространении и всемирный контроль помешали агрессорам злоупотребить нанотехнологией.

Другой способ снизить риск нашей гибели заключается в создании рассредоточенных космических колоний. Опять-таки, проблема состоит в том, что для реализации таких проектов в больших масштабах потребуется слишком много времени.

Сколько будет длиться критический период (от разработки опасных наномашин до создания адекватной защиты), зависит от темпов технического прогресса в течение этого интервала. Те, кто полагают, что в будущем произойдет сингулярность [См. "Что такое сингулярность?"], уверены, что этот период может оказаться очень коротким.

Сверхразум. — Хотя в целом трансгуманисты желают создания сверхразума, некоторые опасаются, что плохо запрограммированный сверхразум может захотеть истребить всех людей или даже уничтожить всю разумную жизнь, включая себя. Что еще усиливает такие опасения, так это идея о том, что сверхразум умственно будет столь чуждым нам и столь превосходящим человеческий разум, что для нас будет очень сложно предвидеть или регулировать его мотивацию и невозможно контролировать его против его воли. [См. "Как постлюди или сверхразумные машины будут относиться к людям, чьи возможности не были расширены?"]

Ядерное и биологическое оружие. — Ядерное и биологическое оружие продолжают оставаться угрозами. Сегодняшних запасов оружия недостаточно, чтобы полностью уничтожить наш вид. Однако вполне возможно, что в будущем с помощью генной инженерии будут созданы еще более смертельные биологические агенты, чем мы имеем сегодня. Хочется надеяться, что разработка вакцин и противоядий не будет отставать от разработки токсинов и возбудителей болезней, но мы не может быть в этом уверены.

Предотвращение распространения оружия массового уничтожения должно иметь самый высокий приоритет для любой ответственной страны. Помимо масштабной войны, способной уничтожить наш вид, слишком легко представить себе "государство-изгой" или террористическую группу, использующих, возможно, с целью шантажа, оружие массового уничтожения, чтобы вызвать большие потери среди гражданского населения и разрушить цивилизацию.

Другие сценарии конца света. — Быстро усиливающийся парниковый эффект, при котором из-за потепления выделяется все больше и больше метана, который сам является парниковым газом, (по мнению большинства трансгуманистов, едва ли это приведет к нашему вымиранию); естественные пандемии, быстро распространяющиеся через межконтинентальный транспорт (вряд ли они погубят нас, но к этому нужно относиться серьезно); столкновение с кометой или астероидом (очень маловероятно); распад метаустойчивого вакуума, вызванный физическими экспериментами в области высоких энергий (энергия, достижимая сегодня, значительно значительно ниже даже энергии космического фонового излучения, но в будущем могут быть разработаны более мощные методы ускорения частиц, которые могут оказаться потенциально опасными). Бесспорно, что существуют и другие опасности, о которых мы пока не догадываемся. В этой связи представляет интерес спорный аргумент Картера-Лесли о конце света (Carter-Leslie Doomsday argument), в котором на основании теоремы Байеса и нескольких небольших эмпирических предположений, делается вывод о том, что риск гибели человечества до сих пор систематически недооценивался [см. ссылку].

Ссылки: Drexler, E. 1986. The Engines of Creation: The Coming Era of Nanotechnology, chapters 11–15. http://www.foresight.org/EOC/index.html Эрик Дрекслер. 1986. Машины созидания: Грядущая эра нанотехнологии, пер. М. Свердлова, главы 11–15. http://mikeai.nm.ru/russian/eoc/eoc.html Leslie, J. 1996.The End of the World: The Ethics and Science of Human Extinction. Routledge. Bostrom, N. 1996. "Observational Selection Effects and Probability" http://www.anthropic-principle.com/preprints.html