«Сумма технологии». Послесловие к дискуссии (3)

Из этого видно, что мы не должны уже рассматривать следующую (третью) возможность.

C) Машина может преодолеть интеллектуальный предел человека как в диапазоне того, что человек еще может, так и в диапазоне того, чего человек уже постичь не может. Потому что эта возможность следует как вывод при опровержении второй.

Вероятно, для того, до чего человек сможет разумом дойти сам, машина будет нужна человеку не иначе, как в качестве раба, который выполнял бы за него трудоемкие вспомогательные операции (счет, доставка нужной информации, а значит – «вспомогательная память» и «ассистент в последовательных операциях»). Там, где разумом он сам не дойдет, машина предоставит ему готовые модели явлений, готовые теории. Тогда вопрос – антиномический – о том, «как можно контролировать то, чего нельзя контролировать?». Может, следовало бы создать «машины антагонистические», которые бы взаимно (по результатам деятельности) контролировались? Но что делать, если они представят на выходах противоречивые результаты? Поскольку в конце концов от нас зависит, что мы сделаем с теориями, рожденными машинами, в столь конфликтной ситуации можно бы эти плоды автоматического воплощения и в печь бросить. Другое дело с машинами управляющими, то есть с теми, которые являются самым вероятным, по сути дела, воплощением усилителя интеллекта Эшби. Г-жа Эйлштейн подвергла сомнению строительство «электронного бога». Действительно, я думаю, что ее сомнения справедливы, и, пожалуй, никто никогда не станет строить «синтетического бога» (который как не-всезнающий и не-всесильный, был бы «богом убогим»).

Science Fiction много нагрешила, а одно из ее наибольших прегрешений – это тотальное, как норма, фальсифицирование реальных обстоятельств, в которых и из которых рождаются открытия или изобретения. В Science Fiction сначала нет ничего, затем неожиданно появляется какой-то большой разум и строит «сам» ракету, на которой полетит, да еще сразу же на Луну; или опять группа каких-то людей строит машину, которая «сразу» принимается за то, чтобы покорить человечество. Сам я тоже здесь не без греха. Все же я думаю, что такие вещи можно писать, потому что это между прочим также и наукоподобная сказка, развлечение; однако же с реальностью такие образы не имеют ничего общего. Роботов, одаренных человеческой индивидуальностью, не будут строить, только разве что в таких целях, какие Фриц Лейбер представил в своем романе «The Silver Eggheads»[201], в котором присутствуют даже развлечения с электронными дамами, которые во время «этого» органным голосом напевают Баха или имеют хвост как химеры. Зато появятся и будут разрастаться машинные центры, управляющие производством, товарным оборотом, распределением, услугами, как и управляющие исследованиями (координация усилий ученых, поддерживаемых в фазе ранней «симбиотически» вспомогательными машинами). Следовательно, такие локальные координаторы нуждаются в вышестоящих в масштабе, скажем, страны или континента. Возможны ли между ними конфликтные ситуации? Конечно, возможны. Происходить будут конфликты в плоскости инвестиционных, исследовательских, энергетических решений, ибо надо ведь будет определять приоритеты различных действий и шагов, принимая во внимание множество взаимно связанных факторов. Надо будет такие конфликты разрешать. Разумеется, поэтому скажем быстро: это будут делать люди. Очень хорошо. Следовательно, решения будут касаться проблем огромной сложности и люди – контролеры Координаторов – должны будут, чтобы разобраться в представленном им математическом море, прибегнуть к помощи других машин, а именно – оптимизирующих решения. Над всем этим существует глобальный аспект экономики; ее также следует координировать. Планетарный Координатор – это машина с «личным советом», состоящим из людей, которые проверяют локальные решения систем «контролеры – машины» отдельных континентов. Как это делают? Они имеют собственные машины для оптимизации решения. И так: возможно ли, что их машины, дублируя, в целях контроля, работу континентальных машин, дадут разные результаты?

И это абсолютно возможно, поскольку каждая машина, во время выполнения определенной секвенции шагов, из которых складывается решение задачи (методом, допустим, очередных приближений, ибо материал переменных огромен), становится каким-то образом пристрастна. Известно, что ни один человек в принципе не может быть беспристрастным; почему должна быть беспристрастна машина? Пристрастность не должна представлять результат эмоциональных предпочтений – она следует уже из придания различного веса конфликтующим друг с другом участникам альтернативы. Возможны ли такие «оценки» этих участников несколькими машинами, работающими независимо, которые бы между собой отличались? Ну да, поскольку эти машины, будучи в силу обстоятельств вероятностными системами, не действуют тождественно. Не всегда разброс результатов будет большим, ибо это зависит от характера решаемых задач; если задача звучит: «Можно ли выслать на Марс последующие сто миллионов тонн воды?», ответ можно будет дать легко; другое дело, когда надо принять во внимание ситуацию, составляющую настоящую пирамиду конфликтующих между собой интересов, менее и более локальных. Что делать с противоречивыми оценками машин, которые должны были поддержать человека, который должен был разрешить спор Координаторов? Regressus ad infinitum невозможен, следует что-то начать. Но что? Выглядит это так: или электронные Координаторы не умеют учитывать одновременно больше переменных, чем человек, и тогда не надо их вообще строить, или умеют – и тогда человек не может сам в результате «разобраться», т.е. не сумеет принять независимого от машины решения, опираясь на «собственное мнение» о ситуации; Координатор справляется с заданием, но человек-«контролер» ничего не контролирует, а только так ему кажется. Разве это не ясно? Машина, к помощи которой обращается человек-контролер, в полном смысле является дублером Координатора, и человек в этом месте является гонцом по мелким поручениям, который переносит с места на место информационную ленту. Если же две машины дают неодинаковые результаты, человек не может сделать ничего другого, как только бросить монету, чтобы выбрать: он превращается из «высшего надзирателя» в механизм случайного выбора! И ведь опять, сейчас имея машины только управляющие, сложилась ситуация, когда они становятся «быстрее» человека. Prima facie следовало бы это сделать для них невозможным, в силу такого вот, например, закона: «Запрещается строительство и использования координирующих машин, потенциал переработки информации которых не обеспечивает человеку-контролеру полный доступ к результатам их деятельности». Однако это чистая фикция, потому что когда объективная динамика процессов для регулирования будет требовать дальнейшего разрастания Координаторов, «барьер человеческих возможностей» следует преодолеть; и вот опять антиномия.

Можно спросить, не мистифицировал ли я проблему? Ведь мы справляемся сегодня вообще без всяких машин! Да, но мы еще живем в обществе, в таком понимании, простом. Между цивилизацией, такой как наша – относительно примитивной, и в высшей степени сложной – как будущая, есть по меньшей мере такая разница, как между машиной в классическом смысле и в смысле живого организма. Машины в классическом смысле и «простые» цивилизации имеют различные разновидности самовозбуждающегося колебания, неконтролируемые колебания параметров, которые вызывают здесь кризис экономический, там – голод, где-то отравление фалидомидом или неожиданное открытие, через двадцать лет после первого атомного взрыва, что вовсе не радиоактивный стронций является наиболее вредным, а изотоп йода, о чем те, которые уверяли население, что опыты абсолютно безвредны, сами тогда не знали. Чтобы осознать, как функционирует сложная машина, прошу принять во внимание, что мы двигаемся, ходим, говорим, одним словом – живем, благодаря тому, что в каждом мгновении в биллионах мест нашего тела одновременно ряды кровяных шариков должны бежать «гуськом» с частицами кислорода, что во всех биллионах клеток тела происходят очередные биллионы процессов, и что таких процессов, которые должны удерживаться в необычно узком диапазоне параметров, тьма – иначе тотчас начался бы распад, их рассогласование. Чем система сложнее, тем более тотальная должна быть регуляция, в тем меньшей степени можно позволить параметрам локальные колебания. Господствует ли наш мозг над телом как регулятор? Несомненно, да. Господствует ли каждый из нас над своим телом? Ясно, что только в узком диапазоне параметров – остальное нам «дано» осмотрительной Природой. Но никто не может нам обеспечить, то есть принять за нас решение, управление очень сложной общественной системой. Опасность, о которой говорил Винер, в том, что к ситуациям, в которых мы должны уже требовать «интеллектронной пищи», прогресс приводит нас постепенно, потому что в момент, когда мы начинаем терять комплексный «обзор», а из-за этого – контроль, нельзя будет задержать цивилизацию как часы – она должна идти дальше.

Но будет вероятно идти «сама» так, как до сих пор? Необязательно. Это так сказать негативные аспекты прогресса в гомеостатическом смысле. Амеба намного меньше чувствительна к минутным потерям подачи кислорода к мозгу. Средневековый город требовал только воды и пищи; современный, если прекратится подача электричества, становится адом, каким был Манхэттен пару лет назад, когда остановились лифты в небоскребах и поезда под землей. Потому что гомеостаз имеет два обличия, он является ростом невосприимчивости к «внешним пертурбациям», то есть вызванным «естественными» нарушениями, и одновременно ростом чувствительности к «внутренним пертурбациям», т.е. вызванным нарушениями внутренних связей системы. Поэтому чем больше «искусственность» окружения, тем в большей степени мы обречены на зависимость технологии от ее надежности – и от ненадежности, если она ненадежна. Она ведь может быть ненадежна. Антипертурбационную устойчивость индивидуума можно рассматривать также двояко: как изолированный элемент и как элемент социальной структуры. Вся «антипертурбационная сопротивляемость», которую проявил Робинзон Крузо, была результатом чисто информационного «допрограммирования» его цивилизацией, прежде чем он стал «изолированным элементом» на безлюдном острове. Подобным образом укол, который получает новорожденный, дающий ему определенную сопротивляемость на всю жизнь, вызывает рост его «антипертурбационной сопротивляемости» чисто индивидуальный, как изолированного элемента. Зато везде, где вмешательство будет повторяться, социальные связи должны функционировать безупречно; и значит, если больного с блокадой сердца спасает от смерти имплантированный под кожу электрический аппарат, имитирующий нервные импульсы, он должен регулярно получать энергетические заряды (в конкретном случае – батарейки) для этого аппарата. Итак, с одной стороны, цивилизация спасает человека от смерти, но с другой, дополнительно делает его зависимым от своего четкого функционирования. На Земле человеческий организм регулирует соотношение кальция в костях к кальцию в крови, но в Космосе, когда в безгравитационных условиях кальций вымывается из костей в кровь, уже не Природа, а МЫ должны регулирующе вмешаться. В известных в истории общественных формациях не раз проявлялись неожиданные нарушения гомеостаза, вызванные как пертурбациями внешне-производными (эпидемии, естественные бедствия), так и внутренне-производными, чисто идиографическим каталогом которых являются как раз исторические хроники. Структуры государственного строя имели разную сопротивляемость к таким нарушениям и некоторые из них, выводя систему как целое за территорию стабильности в сферу неотвратимых испытаний, приводили через революцию к сменам одной структуры на другую; однако люди всегда вступали в общественные связи с людьми, руководили ими или были руководимы, эксплуатируемы; таким образом, что бы не происходило, это было результатом человеческих действий. Правда, были они объективно структурированы в определенные надличностные и надколлективные силы; в сменных формах действовали похожие материально-информационные связи; действовали также побочные опоры структурной стабилизации – с семьей, одной из старейших из них, во главе. По мере развития технологии сложность процессов для регулирования нарастает, так что в конце концов для овладения ими становится необходимо использование регуляторов, располагающих большим разнообразием, чем человеческий мозг. Это, по сути дела, проблема метагосударственная, поскольку такую необходимость начинают ощущать страны с разными государственными устройствами, лишь бы только они были на достаточно высокой ступени техноэволюции. Итак, регуляторы «нечеловеческие», т.е. не являющиеся людьми, по всей вероятности смогут справиться с задачами лучше людей и, следовательно, мелиоризирующий эффект технологического развития в этой области будет положителен. Тем не менее, ситуация полностью изменится в психологическом смысле, поскольку одно – это знать, что из отношений, в которые люди должны друг с другом вступать, образуя общество, родятся статистическо-динамические закономерности, которые могут порой быть направлены на интересы индивидуумов, групп, целых классов – и совсем другое знать, что судьба наша ускользает из наших рук, явно передаваемая электронным опекунам. Потому что тогда возникает особое состояние, сингулярным эквивалентом которого была бы ситуация человека, знающего, что всеми жизненными процессами его тела руководит не он, не его мозг, не внутренние закономерности организма, а некий центр вне его, который всем клеткам, энзимам, нервным волокнам, всем молекулам его тела предписывает характернейшее, наиболее оптимальное поведение; и хотя регуляция такая могла бы быть даже (предположим) более совершенная, чем естественно реализованная «соматической мудростью тела», и в перспективе несла бы с собой здоровье, силы, долгожительство, но любой, наверное, согласится с тем, что мы чувствуем ее именно как что-то «противное природе», в понимании «нашей, человеческой природы» – и, наверное, это самое можно сказать о соотношении «общество – его „интеллектронные координаторы“». Чем более будет расти сложность внутреннего строения цивилизации, в тем большей степени надо будет (в тем более многочисленных областях) позволить таким регуляторам бдительный контроль и вмешательство – для удержания гомеостаза, – но субъективно этот процесс сможет показаться проявлением «жадности» этих машин, покоряющих одну за другой области до сих пор чисто человеческого существования. И потому мы имеем перед собой не «электронного бога» и не такого же властелина, а только системы, которые вначале призваны для наблюдения за обособленными процессами, исключительной важности или сложности, постепенно – в ходе своеобразной эволюции – охватывают заботой всю общественную динамику. Эти системы не будут пытаться «овладеть человеком» в каком-либо антропоморфическом значении этого слова, так как не будучи «личностями» не проявляют и черт какого-либо эгоизма или жажды власти, которые можно приписать только «личностям». Другое дело, что люди могли бы эти машины персонифицировать, приписывая им – отсутствующие в них – намерения и познания на правах новой, но уже интеллектронной эпохи, мифологии. Я вовсе не демонизирую эти безличные регуляторы; представляю только поразительную ситуацию, в которой, как в пещере Полифема, добирается до нас Никто – но в этот раз для нашего блага. Принятие окончательных решений может остаться навсегда в руках человека; так что же из того, если попытки использования такой свободы показывают, что иные – если бы такие были – решения машины были более выгодны, ибо они более всесторонни. После нескольких болезненных уроков человечество могло бы превратиться в послушных детей, слушая всегда добрые советы Никого; в этой версии Регулятор немного слабее, чем в варианте «властителя», потому что никогда ничего не требует, только советует – но становится ли нашей силой эта его слабость?
[1] [2] [3] [4]