14 (1)

И вот в такой культурной среде формировались Три Закона роботехники. Расхожие байки о кошмарных бездушных чудовищах, слепленных из мертвой плоти; нависшая над миром смертельная опасность, готовая в любой момент выйти из-под контроля; глубокая неприязнь к разумным машинам, отнимающим у бедняков кусок хлеба; недостаток в роботах, из-за которого их воспринимали как дорогостоящую редкость. Заметьте, я говорю сейчас о том, как люди воспринимали роботов, а не о том, каковы были роботы на самом деле. Так вот, эти люди считали роботов жадными до чужого добра чудовищами!

Фреда перевела дыхание и окинула взглядом притихший зал. Ее слушатели потрясенно внимали невероятному рассказу. Фреда продолжила:

– Вот, говорят, что мы, колонисты, – слабые, никчемные людишки, порабощенные собственными роботами. Точно так же много чего поговаривают и о наших друзьях поселенцах, которые зарылись под землю и прячутся там, уверяя самих себя, что жить в пещерах куда лучше, чем под открытым небом, на вольном воздухе. Это их культурное наследие со времен подземных городов-убежищ Земли. Эти два взгляда на жизнь зачастую предстают как взаимоисключающие. Одна культура – слабая и ущербная, в то время как другая – здравая и разумная. Но мне кажется более разумным рассматривать сильные и слабые стороны каждой из них по отдельности. И, по-моему, обе они весьма далеки от совершенства.

Так или иначе, никто не станет возражать, что общество, временной период, в котором создавались Три Закона, гораздо ущербнее нашего. Маниакальная подозрительность, страх, ужасные войны – Земля была тогда кошмарным местом! И наши предки, улетевшие колонизировать новые миры, оставили все это позади. Именно из-за того, что наши предки колонисты не хотели признавать такого наследия, они долго избегали любых контактов с материнской планетой. Тысячелетия мы не желали признаться самим себе в том, что у нас с поселенцами на Земле – общие корни. Мы не допускали их в свои пятьдесят миров, считали неполноценными людьми, и отношения между двумя народами никак не могли наладиться. Другими словами, нас разделяла вражда давно забытых веков. Истоки подозрительности и недоверия между поселенцами и колонистами таятся в страхе и ненависти, доставшихся нам с тех незапамятных времен. Недостатки пережили общество, которое их породило.

Должна сказать еще раз, что все изобретения человечества – отражение своей эпохи. Если это так, то Три Закона – наследие довольно мрачных времен. Тех времен, когда машин боялись и ненавидели, когда новые технологии были направлены во зло, когда винтовка, сделанная роботом, ценилась только потому, что стоила дешевле сделанной человеком, тех времен, когда даже самые богатые люди жили, по нашим меркам, как нищие, а бедняки, по вполне понятным причинам, ненавидели богатых. Я могу сказать много нелицеприятного о нашей с вами культуре, основанной на труде роботов, но есть в ней и много светлых сторон, много непреложных достоинств. В нашем с вами мире сохранилось такое понятие, как «бедность». Но, по крайней мере, никто сейчас не может себе даже представить, что такое настоящая нищета на самом деле. Мы не боимся друг друга, и наши машины обслуживают нас, а не наоборот. Мы создали много прекрасного и величественного.

Но вся наша культура, весь наш мир построен на Трех Законах, созданных в мрачные времена всеобщей ненависти и жестокости. Формулировка Законов построена так, что они предназначены для умиротворения злобных, полудиких людей той эпохи. И, осмелюсь предположить, эти Законы даже в те времена, когда были созданы, предусматривали некий «запас прочности», излишнюю предосторожность. А уж сейчас они безнадежно отстали от действительности.

Итак: для чего нужны роботы? В самом начале ответ, конечно, был простым. Роботы нужны, чтобы выполнять всякую работу. Но сегодня из-за устаревших тысячелетия назад Трех Законов истинное назначение роботов почти забылось, превратилось во второстепенную задачу. Сейчас роботы заняты тем, что оберегают и защищают людей от буквально всего на свете.

Естественно, те, кто создал Три Закона, и подумать о таком не могли! Но для каждого Закона существует некий подтекст, который выработался за многие тысячелетия совместного существования людей и роботов. И этот подтекст очень непросто разглядеть с позиций общества, долго сосуществующего с роботами.

Давайте посмотрим с самого начала и начнем с Первого Закона роботехники: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». Это, конечно, имеет смысл – во всяком случае, так мы привыкли считать. Поскольку робот гораздо сильнее человека, нужно запретить применение этой силы против людей. Точно так же строятся наши собственные, человеческие законы против насилия. Они запрещают человеку использовать робота как оружие против других людей – например, приказывать роботу убить врага. Поэтому мы можем так доверять роботам.

Однако этот Закон ставит существование любого робота в зависимое положение по отношению к жизни любого человека. Это имело смысл, когда роботы были практически не способны говорить и рассуждать отвлеченно, но почти все современные роботы гораздо совершеннее и могут выносить самостоятельные суждения. Этот закон имеет смысл в обществе, где много бедных, а робот – редкое и дорогое удовольствие отдельных богачей. Тогда богачи вынуждены были защищаться от толпы недовольных – они могли приказать охранникам уничтожить своих недоброжелателей. Если бы этими охранниками оказались роботы – результат получился бы поистине ужасающий. Но по сей день всегда и везде существование самых высокоразвитых, умных, утонченных, сильных роботов ничто по сравнению с жизнью самого презренного, отвратительного, жестокого преступника-убийцы!

Второй пункт Первого Закона означает, что в присутствии роботов людям нет нужды защищать свою жизнь. Если я сейчас направлю винтовку на шерифа Крэша, который сидит передо мной, он знает, что ему не о чем беспокоиться.

Фреда на неуловимый, краткий миг представила, с каким удовольствием именно так бы и сделала! Крэш опасен. Сомневаться в этом не приходится.

– Его личный робот, Дональд, защитил бы его. Ариэль, что стоит позади меня на сцене, забрала бы у меня оружие. Собственно, у шерифа Крэша не было бы даже возможности как-то самому позаботиться о своей жизни. Например, если бы он решил взобраться на гору, не думаю, что Дональд отпустил бы его без еще пяти-шести роботов, которые карабкались бы впереди и сзади, все время готовые подхватить шерифа, если вдруг тот сорвется. Кроме того, робот непременно постарался бы в первую очередь отговорить господина от такой рискованной затеи. А то, что такая чрезмерная опека сводит на нет все удовольствие от скалолазания, отчасти объясняет, почему никто из нас не любит ходить в горы.

Кроме того, жизнь в окружении роботов приучила нас всякий риск считать дурным делом и любой риск воспринимать одинаково. Потому что роботы обязаны нас защитить от опасности, какой бы призрачной она ни оказалась, и не должны своим бездействием допустить, чтобы человеку угрожала какая-нибудь опасность – все равно какая! Потому что мы им так велели.

Не будет преувеличением сказать, что роботы с равным рвением бросаются защищать нас и от малейшего риска получить какую-нибудь царапину, и от реальной угрозы неминуемой смерти. Поэтому мы не привыкли различать малую и большую опасности – они для нас одинаковы, роботы защитят нас в равной мере от всего. Мы с вами утратили способность реально оценивать опасность. Я совершенно уверена, что каждый в этом зале знает, что роботы иногда поднимают шум из-за самых обычных, самых невинных на первый взгляд происшествий, которые и опасностью не назовешь. Из-за такой излишней предусмотрительности роботов мы привыкли бояться и избегать любого риска. В общем, боязнь риска у нас перешла с физического уровня на психологический. Отвага и риск кажутся нам непристойными, чем-то таким, что делать не принято. Наша культура учит нас не использовать никакие сомнительные возможности, действовать только наверняка.

Мы убеждены, что риск делает любое занятие недостойным, никчемным. Когда скалолаз взбирается на гору, чтобы насладиться прекрасными видами, все равно постоянно есть опасность сорваться, неважно, сколько роботов ползут за ним и подстраховывают. Когда ученый пытается изобрести что-то новое, он рискует напрасно потерять время, ресурсы, свою репутацию. Когда один человек признается другому в любви, всегда есть риск нарваться на отказ. Элементы риска можно найти буквально в любом занятии!

Но роботы приучили нас к тому, что всякий, любой риск – зло. Их обязанность – охранять нас от опасности, не причинять нам зла, а вовсе не творить для нас добро! Ни в одном Законе не сказано, что робот должен помогать человеку воплотить его или ее мечты, помогать достичь счастья! Их касается только охрана нас от разных неприятностей, но они нисколько не заботятся о наших удовольствиях. Преувеличенная опека со стороны роботов, постоянная забота о нашей безопасности с малых лет приучают людей к мысли, что мудрее не рисковать – не то что понапрасну, а вообще не рисковать! И никто из нас никогда не рискует! И упускает возможность достичь успеха – из опасения провала, неудачи.
[1] [2] [3] [4]