ль строил заново. В музее собралось 10000 машин - таково было число модификаций. В сумме это дает плавный переход от "бездушного автомата", вроде музыкального ящика, к "машине, которая мыслит". Какую машину мы должны считать уже сознательной - No7852 или только No9973? Они отличаются одна от другой тем, что первая не умела об®яснить, почему она смеется над анекдотом, и лишь повторяла, что он чертовски смешон, а вторая умеет. Но некоторые люди смеются, слыша анекдоты, хотя не могут об®яснить, что в них смешно. Известно, что теория юмора - трудный орешек. Лишены ли эти люди сознания? Конечно, нет; они, по-видимому, не слишком сообразительны, малоинтеллигентны, их ум не обладает сноровкой в аналитическом подходе к проблемам; но мы ведь не спрашиваем, умна машина или туповата, а только есть у нее сознание или нет. Следует, по-видимому, признать, что у модели No1 нулевое сознание, а модель No10000 обладает полным сознанием, тогда как сознание всех промежуточных моделей "все возрастает". Эта констатация показывает всю безнадежность затеи точно локализировать сознание. Отключение отдельных элементов ("нейронов") машины приведет лишь к едва заметным количественным изменениям ("ослаблению") сознания, как делает это в живом мозге болезнь или нож хирурга. Материал и размеры "мыслящего устройства" не имеют никакого значения для данной проблемы. Можно построить мыслящую машину из отдельных блоков, отвечающих, скажем, отдельным мозговым извилинам. Разделим теперь эти блоки и разместим их по всей Земле - в Москве, в Париже, в Мельбурне, в Иокогаме и т.д. Сами по себе эти блоки "психически мертвы", но соединенные друг с другом (телефонным кабелем, например) они составляли бы единое целое, "личность", единый "мыслящий гомеостат". Сознание такой машины, конечно, не находится ни в Москве, ни в Париже, ни в Иокогаме. В определенном смысле оно находится в каждом из этих городов, и вместе с тем - ни в одном из них. Ведь нельзя сказать о сознании, что оно, как Висла, протянулось от Татр до Балтики. Да и сам человеческий мозг тоже ставит перед нами, хотя и не столь резко, аналогичную проблему - кровеносные сосуды, белковые молекулы и соединительные ткани находятся внутри мозга, но не внутри сознания; нельзя также и сказать, что сознание находится под самым сводом черепа или что оно расположено немного ниже, возле ушей по обе стороны головы. Оно "рассеяно" по всему гомеостату, по всей его функциональной сети. И больше ничего о сем предмете сказать мы не можем, если хотим сочетать рассудок с осмотрительностью.


1  А. Тьюринг, Может ли машина мыслить?, Физматгиз, 1960.




[  Титульный лист  ]
[  Содержание ]
 <=  Глава четвертая (l) ]
[  Глава четвертая (n)  =>











Станислав ЛЕМ

СУММА ТЕХНОЛОГИИ





[  Титульный лист  ]
[  Содержание ]
 <=  Глава четвертая (m) ]
[  Глава четвертая (o)  =>



ГЛАВА ЧЕТВЕРТАЯ

ИНТЕЛЛЕКТРОНИКА


(n) ЗАТРУДНЕНИЯ С ИНФОРМАЦИЕЙ Мы подходим к концу этой части рассуждений, которая посвящена различным вопросам кибернетики, в основном далеким от ее главного ствола. В одном из наиболее революционных своих разделов кибернетика сформулировала законы, управляющие изменениями информации, и тем самым впервые в науке перебросила мост между ранее традиционно гуманитарными дисциплинами (такими, как логика) и термодинамикой - разделом физики. Мы уже говорили о различных применениях теории информации, к сожалению, в очень общей форме и довольно туманно, ибо в данной книге отсутствуют те уточнения, которые может дать лишь использование математики. Задумаемся теперь над тем, чем же, собственно, является информация и какое место в мире она занимает? Понятие информации делает сейчас карьеру в таких столь отдаленных от физики (его колыбели) областях, как живопись и поэзия, карьеру, скажем сразу, которая превышает нынешнюю значимость этого понятия (хотя никто не знает, превышает ли она его будущие возможности). Много говорят о количестве информации, но прежде чем измерять, полезно было бы рассмотреть более фундаментальную проблему: в чем состоит своеобразие информации, которая, будучи материальным явлением, не является ни материей, ни энергией. Не будь во всем Космосе ни единого живого существа, звезды и камни продолжали бы существовать. Существовала ли бы тогда информация? Существовал ли бы тогда "Гамлет"? В определенном смысле - да: как ряд предметов, покрытых пятнышками типографской краски и называемых книгами. Следует ли отсюда, что существует столько "Гамлетов", сколько экземпляров этих книг? Отнюдь нет. Большое количество звезд остается большим количеством звезд, независимо от того, наблюдает ли их кто-нибудь. О большом количестве звезд, даже если они идеально похожи одна на другую, нельзя сказать, что это одна и та же звезда, повторенная много раз. Миллион книг с заголовком "Гамлет" - это миллион физических предметов, представляющих собой, однако, только одного "Гамлета", повторенного миллион раз. В этом состоит разница между символом, то есть частицей информации, и ее материальным носителем. Существование "Гамлета" как ряда физических предметов, являющихся носителями информации, не зависит от существования разумных существ. Напротив, для того чтобы "Гамлет" существовал как информация, должен существовать некто, способный его прочесть и понять. Отсюда довольно шокирующий вывод: "Гамлет" не является частью материального мира. По крайней мере как информация. Однако информация существует и при отсутствии разумных существ. Содержит ли информацию оплодотворенное яйцо крокодила? Конечно, и даже большую, чем "Гамлет". Различие состоит в том, что книга "Гамлет" - это статическая структура, динамизирующаяся только при чтении, то есть благодаря процессам, происходящим в человеческом мозгу, а яйцо - это динамическая структура, которая "сама себя читает", то есть запускает соответствующие процессы развития, приводящие к образованию зрелого организма. "Гамлет" как книга - существенно статическая структура, но ее можно "динамизировать". Предположим, что некий астроинженер "подключил" текст "Гамлета" к мощной звезде через соответствующие кодирующие устройства. Затем этот инженер, а также все разумные существа в космосе умерли. Кодирующее устройство "читает" "Гамлета", то есть превращает его текст - буква за буквой - в импульсы, вызывающие строго определенные изменения в звезде. Звезда, выбрасывая протуберанцы, сокращаясь и расширяясь, передает "Гамлета" своими огненными пульсациями. "Гамлет" превратился в своеобразный "хромосомный аппарат" звезды, так как он управляет ее превращениями, подобно тому как хромосомы яйцеклетки управляют развитием плода. Скажем ли мы и теперь, что "Гамлет" не является частью материального мира? Да. Создан мощный передатчик информации (звезда) и передающий канал - весь Космос. По-прежнему, однако, нет адресата, получателя этой информации. Можно предположить, что излучение, посылаемое звездой при "передаче" сцены убийства Полония, вызывает взрывы соседних звезд. Пусть в результате взрывов вокруг этих звезд возникают планеты, и пусть к моменту смерти Гамлета на этих планетах появляются зачатки жизни: передаваемые звездой в виде очень жесткого излучения последние сцены трагедии увеличивают частоту мутаций в наследственной плазме этих живых существ, из которых со временем образуются первообезьяны. Очень интересная цепь явлений, несомненно. Однако что она имеет общего с содержанием "Гамлета"? Ничего. Может быть, это относится только к семантической информации? Теория информации ею не занимается. Она измеряет только количество информации. Пусть так. Сколько же информации содержится в "Гамлете"? Это количество пропорционально изменению неопределенности на приемном конце канала связи, там, где находится адресат. Кто же этот адресат? Где кончается канал передачи информации? В созвездии Андромеды? Или в Большой туманности Андромеды? Примем условно в качестве "адресата" некоторую звезду, находящуюся недалеко от передающей. Как в этом случае вычислять неопределенность? Через негэнтропию? Ничего подобного; энтропия является мерой информации только тогда, когда система, в которой она измеряется, находится в состоянии термодинамического равновесия. А если нет? Тогда она зависит от системы соотнесения. Где же эта система? Она была в мозгу Шекспира, обусловленная строением этого мозга и всей цивилизацией, воспитавшей и сформировавшей великого драматурга. Но теперь уже нет этой цивилизации, как нет и никакой другой, - есть только пульсирующая звезда, "подключенная" через "переводное" устройство к книге под названием "Гамлет". Впрочем, звезда - это только усилитель; информация находится в книге. Что же это все вместе означает? Язык - это система символов, относящихся к внеязыковым ситуациям. Можно говорить, что существует польский язык, точно так же как существует язык наследственности ("язык хромосом"). Язык людей - это искусственно созданный носитель информации. Язык хромосом - это информационный код, созданный биологической эволюцией. Оба имеют своих адресатов и свою значимость. Определенный ген в яйце крокодила означает определенную черту организма (он является символом этой черты и в то же время ее потенциальным строителем в процессе эмбриогенеза). Если яйцо крокодила "означает" его организм (содержит описание его конструкции), подобно тому как бумага с напечатанными на ней буквами означает "Гамлета" (содержит описание конструкции разыгрываемой пьесы), то, если уж на то пошло, сжимающаяся туманность "означает" (содержит в качестве описания набор необходимых конструкционных условий) звезду, которая впоследствии из нее возникнет. Но тогда падающая бомба - это символ взрыва, молния - символ грома, а боль в животе - символ поноса. Это неприемлемая точка зрения. Символ может быть предметом, но он относится не к самому этому предмету, а к чему-то другому. Когда носильщики выносят из склада слоновую кость, негр откладывает костяшки. Эти костяшки - предметы, но они относятся к другим предметам; в данном случае - это числовые символы, относящиеся к слоновым бивням. Символ в принципе не является ранним этапом развития самого явления, по крайней мере в области человеческой информационной техники. Сопоставление символа тому, что он обозначает, условно. Мы отнюдь не хотим сказать, что такое сопоставление вполне произвольно; мы хотим лишь сказать, что оно не устанавливает причинную связь между символом и его денотатом. На самом деле гены не являются символами, поскольку как раз они представляют собой тот особый случай, когда носитель информации одновременно является начальным этапом ее более позднего "значения". Можно условиться, что они являются символами, - это вопрос дефиниции, но не эмпирического исследования: никакое эмпирическое исследование не может обнаружить, является ли ген "символом" голубых глаз или только "носителем информации о голубых глазах". Такое определение непрактично: слово "ген" будет тогда символом символа; кроме того, в обычном понимании символы не способны к самопроизвольным изменениям (символы в химическом уравнении не вступают друг с другом в химическую реакцию). Поэтому лучше назвать ген информациеносным знаком (способным к самостоятельным превращениям). Следовательно, знак - это более общее понятие. Знак предполагает существование информации (он является элементом ее кода), информация же существует только тогда, когда имеется ее адресат. Известно, кто является адресатом "Гамлета", так же как известно, что туманность не имеет адресата. Но кто является адресатом хромосомной информации, содержащейся в яйце крокодила? Зрелый организм не является им, он представляет собой лишь некую позднейшую стадию передаваемого сообщения. Этот организм в свою очередь обладает адресатом; но где? Ни на Луне, ни на Сатурне крокодилы жить не могут; они могут жить только в реке с болотистыми берегами, воды которой дают им пищу; здесь же, найдя партнеров, они могут размножаться. Следовательно, адресатом генетической информации крокодила является именно данный район вместе со всей популяцией данного вида и другими организмами, поедаемыми им или поедающими его; короче: получателем генетической информации особи служит ее биогеоценотическое окружение. В этой среде крокодил будет плодить потомство, и тем самым будет продолжен кругооборот генетической информации, составляющий часть эволюционного процесса. Аналогично "средой", делающей возможным существование "Гамлета", является человеческий мозг. Почему бы в таком случае не сказать, что адресатом информации, заключенной в туманности, является вся Галактика? А если не Галактика, так, быть может, планеты, которые породит звезда, возникшая из туманности? На этих планетах возникнет жизнь и достигнет разумной стадии, - может быть, этот разум является "адресатом" небулярной 1 информации? Из термодинамики известно, что количество информации (или негэтропии) в замкнутой системе не может возрастать. Мы возникли из звездного вещества, а Космос является замкнутой системой, потому что, "кроме" него, ничего не существует. Отсюда однозначно следует, что и "Гамлет", и все, что человек создал, придумал или солгал, существовало как информация в той первичной туманности, из которой возникли галактики, звездные скопления, планеты, мы с вами и эта книга. Тем самым рассуждение благополучно доведено до абсурда. Дело в том, что "информации вообще" не существует. Не существует, даже если указать ее адресат. Информация существует только по отношению к определенной системе, в пределах которой производится выбор. Результатом этого выбора (естественного отбоpa) может быть вид крокодилов или (отбор в мозгу Шекспира) - драматургический "вид" трагедий. Если полиция намерена арестовать преступника и знает о нем лишь, что его фамилия Смит и что он живет в известном городке, то количество информации, полученное благодаря знанию фамилии, зависит от того, сколько жителей городка носят фамилию Смит. Если число Смитов равно единице, то выбор отсутствует и информация равна единице. Если все жители городка имеют фамилию Смит, то для данной системы известие о том, что фамилия преступника Смит, содержит нуль информации. Заметим, кстати, что некоторые допускают существование отрицательной информации; в нашем случае примером такой информации было бы сообщение в полицию, что фамилия преступника - Браун 2. Таким образом, мера информации относительна и зависит от предварительно принятого ансамбля возможностей (состояний). Данное явление может быть символом (носителем информации) по отношению к определенному ансамблю потенциальных, возможных разновидностей этого явления, и может не быть таким символом, если этот ансамбль (или соотнесенная с ним система) будет изменен. Природа крайне редко однозначно определяет ансамбль возможных состояний. Человек, более или менее отдавая себе в этом отчет, выбирает ансамбль, подходящий для поставленной цели, и поэтому полученная информация является не отражением подлинного состояния мира, а лишь функцией такого состояния, и значение ее зависит как от Природы (от исследуемой ее части), так и соотнесенного с ней ансамбля, автором которого является человек [VII].


1  Nebula - туманность (лат.). 2  А. А. Харкевич, О ценности информации, "Проблемы кибернетики", 1960, No 4.




[  Титульный лист  ]
[  Содержание ]
 <=  Глава четвертая (m) ]
[  Глава четвертая (o)  =>











Станислав ЛЕМ

СУММА ТЕХНОЛОГИИ





[  Титульный лист  ]
[  Содержание ]
 <=  Глава четвертая (n) ]
[  Глава пятая (a)  =>



ГЛАВА ЧЕТВЕРТАЯ

ИНТЕЛЛЕКТРОНИКА


(o) СОМНЕНИЯ И АНТИНОМИИ 1. Смелая "программа-максимум", намеченная уже создателями кибернетики, в последние годы неоднократно подвергалась критике, зачастую весьма резкой; последняя об®являла эту программу утопической или вообще мифической, как об этом свидетельствует хотя бы подзаголовок книги Мортимера Таубе - "Миф о думающих машинах". "Заметим... - пишет Таубе, - что гигантский искусственный мозг, машины-переводчики, обучающиеся машины, машины, играющие в шахматы, понимающие машины и т.п., заполнившие нашу литературу, обязаны своим "существованием" людям, пренебрегающим сослагательным наклонением. В эту игру играют так. Сначала заявляют, что, если не учитывать незначительные детали инженерного характера, машинную программу можно приравнять самой машине. Затем блок-схему программы приравнивают самой программе. И наконец, заявление, что можно составить блок-схему несуществующей программы для несуществующей машины, означает уже существование этой машины. Точно таким путем были "созданы" машины условной вероятности Аттли, "перцептрон" Розенблатта, анализатор общих проблем Симона, Шоу и Ньювела и многие другие несуществующие машины, на которые в литературе делаются ссылки как на существующие" 1. А несколько далее, в связи с вопросом об отношениях в системе "человек - машина", М. Таубе пишет: "...классический порочный круг: 1) предлагается конструкция машины, предназначенной для моделирования человеческого мозга, который не описан; 2) подробно описанные характеристики машины полагаются аналогичными характеристикам мозга; 3) затем делается "открытие", что машина ведет себя подобно мозгу; порочность состоит в "открытии" того, что было постулировано". В той мере, в какой технический прогресс опроверг некоторые выводы Таубе, полемика с его книгой, английское издание которой вышло в 1961 г., является сейчас излишней 2. Существует уже не только перцептрон, но и действующие реальные программы для машинной игры в шахматы, правда, пока только на уровне среднего шахматиста. Непонятно, однако, почему признание факта, что существуют машины, играющие в шахматы, следует отложить до той минуты, когда последний еще непобежденный чемпион мира получит мат от электронной машины, - ведь огромное большинство людей не умеет играть даже на упомянутом среднем уровне (к их числу, хотя это и не довод, увы, относится и автор этих строк). Однако Таубе в своей полемической, местами даже нигилистической книге, в манере, весьма характерной для определенного круга исследователей, высказал замечания, все еще достойные внимания. Он вновь поднял вполне классическую проблему "Может ли машина мыслить?", разбив ее на две части: на действия, связанные с семантикой, и на интуитивные действия. Создается впечатление, что формальные процедуры действительно имеют ограничения, вытекающие как следствия из теоремы Геделя о неполноте дедуктивных систем, и что чисто алгоритмическими методами невозможно с настоящей эффективностью переводить с одного естественного языка на другой, поскольку между ними не существует отношений взаимно однозначного соответствия. Этим вопросом мы займемся несколько позже. Прежде чем перейти к обсуждению довольно туманного понятия интуиции, добавим еще, что Таубе прав и тогда, когда отмечает, как часто оказываются сходными результаты деятельности человека и машины и как различны процессы, которые к этим результатам приводят. Поэтому напрашивается предостерегающий вывод: нельзя легкомысленно переносить наблюдения, сделанные при изучении устройств, запрограммированных для решения конкретных задач, на область психической деятельности человека. Подобное сопоставление человека и машины, если вдуматься, ведет еще дальше: вполне возможно, что у разных людей к одним и тем же результатам приводят весьма различные мозговые процессы. Наконец, даже один и тот же человек, перед которым несколько раз ставятся задачи, принадлежащие с алгоритмической точки зрения к одному и тому же классу (то есть такие, для которых известен алгоритм решения), зачастую решает их различными способами; эта нерегулярность человеческого поведения, несомненно, изрядно портит настроение всем тем, кто занимается моделированием мозговых процессов. Что же касается интуиции, то проблема ее автоматизации, иначе говоря внемозгового воспроизведения, не представляется столь безнадежной, как полагает Таубе. Были проведены интересные исследования, в которых на примере игры в шахматы сопоставлялась эвристика человека с эвристикой машины. Дело в том, что шахматы не несут "семантической нагрузки", и решение шахматных проблем в определенной степени не зависи