«Сумма технологии». Послесловие к дискуссии (3)

6. Дальнейшая проблема – это «информационная инкапсуляция», которая г-же Эйлштейн кажется абсолютно невероятной. В ее «тотальном» виде – мне, собственно говоря, тоже, но все же цивилизация может оказаться в ситуации некоего человека, который, отходя ко сну, говорит слуге: «Буди меня, только если начнется пожар!». Этим слугой была бы кибернетическая оболочка, вмешивающаяся в «сладкий сон» только если бы, например, грозил взрыв какой-нибудь близкой звезды (в качестве Новой). Не является ли, однако, отсечение мнимым, спрашивает г-жа Эйлштейн, если по сути дела и этот «кусок Космоса», который заселяет цивилизация, как источник знания в информационном смысле неисчерпаем? Все же, несомненно, ведущей силой современной науки есть физика, поставщик энергетических источников. При этом теоретическая физика невозможна без экспериментальной, а в этой последней ситуация сформировалась так: более менее четверть века, или дольше, продолжается «ортоэволюция» все более крупных и более ценных инструментов для ускорения элементарных частиц, вызванная тем, что горизонт прогнозов, опирающихся на материал теоретических обобщений, который на сегодняшний день получен, очень мал. Физики уже сейчас добиваются построения оборудования мощностью в триллион (!) ватт; это потребовало бы инвестиционных капиталов, сравнимых с размерами капиталов, необходимых для развития целых новых отраслей промышленности. Поэтому физика становится не только все более глобальной, интернациональной, но и все более дорогостоящей. Пока нет никаких предпосылок, что этот рост цен в логарифмической пропорции вдруг прекратится. Это значит, что в высоко развитой цивилизации наука может стать главным пожирателем национального дохода, и достаточно было бы даже не урезания дотаций, а только их удержания на определенном неизменном уровне, чтобы исследования относительно быстро прекратились; за великие будущие открытия надо, как оказывается, платить цену уже даже не большую, а просто гигантскую. Уже сейчас ускорители покрывают сотни гектаров поверхности; будущие, возможно, будут величиной с целые города. Как видно, здесь кроются серьезные дилеммы и отказ от продолжения столь необычайно прожорливых исследований вовсе не должен стать результатом безрассудности властей. Такой отказ стал бы уже первым шагом на пути «информационной инкапсуляции». Можно ли себе представить какой-нибудь процесс в форме технологической революции, сравниваемой с атомно-кибернетической, или в форме целой серии медленных изменений, который мог бы оказаться следующим шагом в том же направлении – тотального «обособления» человека от Природы (ибо и в этом случае речь идет об «инкапсуляции»)?

Думаю, что это зависит от ответа на один правильный вопрос о принципиальном характере будущих судеб цивилизации, а именно: могут ли плоды «машинного мышления» превзойти предел интеллектуальных человеческих возможностей?

Следует, наверное, перечислить варианты ответа, делая оговорку, что мы не знаем, все ли это варианты и который из них правильный.

A) Машинное мышление не может преодолеть «человеческий интеллектуальный предел» по определенным принципиальным обстоятельствам. Например потому, что ни одна система не может быть «разумнее», чем человек: мы уже сами достигли этого предела в космическом масштабе, только этого не знаем. Или, поскольку к мыслительным системам типа «человек» ведет только одна дорога, естественной эволюции, и самое большее – ее можно «повторить», имея в качестве экспериментального полигона планету, или в конце концов – поскольку небелковые системы «почему-то» всегда интеллектуально «хуже» белковых и т.п.

Все это звучит слишком невероятно, хотя исключить это пока не удается. Говоря так, я пользуюсь указаниями эвристики, которые подсказывают мне, что человек – это разумное существо достаточно обычное, что могут быть «более разумные», чем он, что процессам Природы можно подражать и разными путями доходить до определенных состояний, до которых Природа дошла секвенцией других состояний. Это как раз та позиция, которую я занимал в «Сумме». Если с ней не согласиться, проблема отпадает, зато возникают опасные видения информационного кризиса и других проблем (о которых ниже).

B) Машинное мышление может превзойти человеческий «интеллектуальный предел » в том смысле, в каком учитель математики «более разумен», чем его воспитанники. Но поскольку человек может понимать то, до чего не может дойти сам (дети понимают эвклидову геометрию, хотя сами ее не придумали), человеку не грозит потеря контроля над «познавательной стратегией машин», поскольку он всегда будет понимать, что они делают и почему.

В свою очередь, эта позиция кажется мне неприемлемой.

Что это вообще значит, что «машинное мышление может превзойти интеллектуальный предел человека»? Если может так, как учитель относительно детей, то пример плохой, потому что учитель тоже геометрию «не придумал». Речь идет об отношении творцов науки к другим людям – оно является здесь аналогом связи «машина – человек». И потому машина может создавать теорию, т.е. раскрывать инварианты классов явлений в большем диапазоне, чем человек.
[1] [2] [3] [4]