рганизации - необходимое условие создания высокоэффективных интеллектуальных систем. С учетом того, что механизмы самоорганизации можно воспроизвести в системах искусственного интеллекта, ныне осмысливаются принципиальные вопросы усиления человеческого интеллекта машинным. В этом контексте специалисты приходят к весьма любопытным оценочным суждениям. "Личность тем и отличается от автомата, - пишет Н. М. Амосов, - что имеет собственные интересы, потребности, цели, оценки. Искусственный разум неизбежно превратится в личность, как только у него будет воспроизведена самоорганизация" [104].

Такие постановки философских вопросов, связанных с перспективами развития искусственного интеллекта, заслуживают серьезного осмысления и дальнейшего методологического обоснования. Развитие искусственного (машинного) интеллекта в русле идей социальной кибернетики ставит трудные социальные, психологические и этические проблемы.










§ 3. Морально-этические аспекты проблемы искусственного интеллекта

Развитие работ по созданию искусственного интеллекта в ответ на потребности общественной практики вызывает подчас большое беспокойство. Оно связано с тем, что кибернетизация умственного труда приводит к передаче машинам областей деятельности человека, которые до сих пор были привилегией интеллектуальных работников. Весь комплекс работ по моделированию функций психики и сознания человека ставит ряд вопросов аксиологического и морально-этического порядка. Какими целями человек может наделить системы искусственного интеллекта? Не приведет ли создание творческого автомата к ослаолению стимула творчества у людей? Не создаст ли снятие с человека ответственности за принятие решений угрозу самому существованию этой способности у человека? Должны ли (и смогут ли) люди ограничивать развитие систем искусственного интеллекта или, по крайней мере, держать их под контролем? Как заметил Н. Ви-

252

нер, "если мы смотрим на машину не как на дополнение к нашим силам, а как на нечто их расширяющее, мы должны держать их под контролем. Иначе нельзя" [105].

Отношения между человеком и машиной в условиях развития кибернетики и систем искусственного интеллекта принимают сложный характер. Обращаясь к мифу о Прометее, Ю. Банька пишет: "Прометеизм XX века переступил границу статистической уверенности и сам стал зависимым от искры, которую высек у истоков рождения вида Homo sapiens ...С одной стороны, подчинение человека покоряющей силе прометейского прогресса техники, с другой - поворот к более глубокой ценности прометеизма в поисках ответа на вопрос: как пользоваться безопасно этим огнем?" [106] Кибернетические машины отличаются от всех прежних машин тем, что служат усилителями человеческого интеллекта. Будучи вовлеченными в человеческую деятельность, они включаются в систему общественных отношений. "Самой по себе машине, - считает М. Г. Макаров, - чуждо... отношение ценности. Ценностное отношение приобретается техникой только при ее включении в кругооборот человеческой деятельности, в систему общественных отношений" [107]. От природы этой системы отношений, от ее качества зависят место и роль кибернетических машин в человеческом обществе. Характер общественных отношений, в которых создаются, функционируют и развиваются кибернетические машины, определяет те последствия, к которым приводит сравнительная самостоятельность машины по отношению к человеку. "Машина, - подчеркивает П. В. Копнин, - это опредмечивание человеческой сущности, а оно, как известно, в определенных условиях превращается в отчуждение. Машинный фетишизм - это разновидность товарного фетишизма. Фетишизация машины приводит к тому, что иногда некоторые представляют ее подлинным субъектом мышления и практической деятельности, более совершенным, чем лородившее ее человеческое общество" [108].

Создание все более сложных автоматов и кибернетических устройств демонстрирует высокую степень овладения человеком силами природы. Однако автоматизация и кибернетизация общественных процессов - это не самоцель, а средство обогащения человеческой жизни [109]. Существование интеллектуальных машин высвечивает многие теоретические проблемы. К ним относятся проблема "человек-машина", вечная проблема "духа и тела", вопрос о роли человека во вселенной. Системы искусственного интеллекта во многом способствуют лучшему пониманию природы социальных систем. "Перспективы кибернетики, - пишет Г. Клаус, - огромны. Кибернетические постановки вопросов проникают во все области материального и духовного бытия, и каждая отдельная наука рано или поздно будет иметь дело с кибернетикой. Именно эта универсальность новой науки делает особенно опасными философские, политические и экономические злоупотребления ею..." [110]

253

Моральные проблемы, связанные с разработкой мыслящих машин, приобретают нередко форму отчуждающих интерпретаций, авторы которых противопоставляют человека и машину, рассматривают развитие машин как враждебную для человека силу. "Мы окажемся, - считает, например, Н. Сатерленд, - творцами превосходящих нас по разуму созданий, которые заменят нас в роли хозяев Земли. Эти создания могут иметь более высокий моральный уровень, чем их творцы, ибо нет никаких оснований встраивать в них столь свойственный человеку эгоизм, который хотя и необходим нам для обеспечения выживания, но служит также причиной иррациональности в поведении человека" [111]. Такой подход к проблеме "человек-машина" не учитывает социальной сущности создаваемых человеком автоматов и их функций в конкретно-историческом человеческом обществе.

Сущность и функции автомата как машины состоят в том, чтобы быть помощником человека, вспомогательным средством в выполнении определенной деятельности. Автомат, который каким-либо образом будет действовать как человек, а не как его вспомогательное средство, окажется как бы самим человеком. Подобное развитие, если оно вообще возможно, как справедливо подчеркивают Ф. Лезер и Д. Шульце, было бы бессмысленным по двум причинам: 1) такой автомат не мог бы одновременно действовать как человек и быть вспомогательным средством; 2) человек как бы предписывал разработку эффективных методов своего воспроизведения, что привело бы к его саморазрушению [112].

Должен ли человек создавать автоматы, усиливающие его интеллектуальные способности? Вопрос этот достаточно актуален. И ответ на него может быть только положительным. Во-первых, потому, что человек без машины мыслит хуже и не способен решить те или иные задачи, которые ставит перед ним общественная практика и развитие науки. Во-вторых, потому, что создание таких машин обогащает человеческую жизнь, освобождает человека от выполнения утомительной (непосильной) интеллектуальной работы, которая может быть передана автоматам. В-третьих, потому, что системы искусственного интеллекта необходимы для научного познания, без них немыслима современная наука, опирающаяся на "тонкую" экспериментальную технику [113].

Социальные и морально-этические проблемы, возникающие при этом, требуют гуманистической ориентации всей исследовательской работы, ведущейся в русле создания мыслящих машин. Сама наука должна пониматься философски, достаточно широко, с учетом ее ценностных установок. "Гуманизм, - как отмечает И. Т. Фролов, - закономерно выводится из науки лишь в том случае, если последняя понимается не узко - как чистый поиск истины, а как социальный институт современного общества" [114]. Это значит, что исследовательский статус науки во всех случаях и в основном должен быть подчинен гуманистическим идеалам.

254

Ценностные аспекты современного естествознания возникают в той системе отношений, которая включает в себя целеполагающий фактор. Целевое (ценностное) регулирование научного познания становится необходимым условием общественного прогресса. Абсолютность и относительность такого регулирования сопряжены с абсолютностью и относительностью практики как критерия истины [115]. Ибо целеполагание зависит от конкретного уровня развития общества, включает в себя формирование глобальных моделей развития и своего рода подцелей, выражающих потребности текущего момента. Системы искусственного интеллекта участвуют в процессах целеполагания и прогнозирования, обеспечивая его формальнологическую, математическую и кибернетическую структуры. Присущая ЭВМ (в частности, обучающимся машинам) способность работать с неполной информацией делает их весьма мощным инструментом целеполагания и прогнозирования будущего с использованием, конечно, накопленного опыта. ЭВМ обеспечивает необходимую логическую глубину таких сугубо человеческих феноменов. Но означает ли это, что системы искусственного интеллекта могут иметь собственные цели?

Некоторые авторы положительно решают этот вопрос. "Моделируя среду, - пишут, например, Л. Фогель, А. Оуэнc, М. Уолш, - машина проявляет свою "творческую способность" и "воображение". Это, безусловно, есть искусственный интеллект. С его появлением становится возможным серьезно рассматривать программы, которые придавали бы машинам самосознание и в конечном счете способность выбирать свои собственные цели" [116]. К аналогичному выводу приходит Н. А. Амосов: "Нельзя выполнить разум без всяких чувств, так как они отражают степень эффективности в реализации поставленных целей. Минимальные чувства - добро и зло, приятное и неприятное. Этого уже достаточно, чтобы при наличии самоорганизации, т. е. способности к созданию новых моделей, появились новые, производные чувства и новые, собственные цели деятельности" [117].

Конечно, любая достаточно сложная программа (или самопрограмма) представляется уникальной. Машина, развивающаяся по такой программе, отличается определенной индивидуальностью, самоотнесенностью, относительной самостоятельностью поведения. В пределах последней и может идти речь о процессах переработки информации в машине, обладающих статусом телеономичности, целевого моделирующего подобия по отношению к целям человека. Иначе говоря, цели машины - это как бы подцели в системе "человек-машина". А цели системы "человек- машина", в свою очередь, следует рассматривать в качестве подцелей в системе общественных человеческих отношений. Эта (машинная) телеологическая релятивность задается системной природой социальных процессов. Следовательно, машинное целеполагание есть "включенное" целеполагание; машина может функционировать лишь в данном определенном отношении, что в структурном плане означает иерархичность, подчиненность сис-

255

теме более общего и более высокого уровня. Машина обнаруживает процессы целеполагания и целеосуществления лишь в системах "машина - машина" и "человек - машина". В системе же "человек - человек" машинные целевые "намерения" отсутствуют. Правда, и в этой системе может быть представлено машинное целеполагание, но только в порядке усиления (логического обеспечения) человеческого целеполагания как первичного и доминирующего отношения.

Телеогенные процессы в машине имеют, таким образом, относительный характер. Их ценность определяется служебной ролью автомата в системе человеческих общественных отношений. Иногда, однако, такое положение вещей квалифицируется как проявление эгоизма со стороны человека. Так, Н. Сатерленд считает: "Если машины будут проектировать другие машины без существенного вмешательства с нашей стороны, то на определенном этапе мы должны будем решить, какую цель следует наметить для их деятельности. Если задать в качестве естественного мотива упрочение благосостояния человечества, то это будет слишком эгоистично с нашей стороны и, вероятно, ограничит возможности развития машин" [118].

Ограничивать развитие машин, надо полагать, не в интересах человека. Это обернулось бы для него нежелательной стороной - привело бы к ограничению развития сущностных сил самого человека. Ведь развитие человека проявляется, в частности, в том, что он творит все более совершенные искусственные системы. Задача создания искусственного интеллекта, пожалуй, самая трудная из всех научных задач, которые приходилось решать человеку до сих пор. Она требует от него напряжения всех духовных потенций. Человеческий разум в своей основе - это естественный разум, данный человеку от природы. По этому поводу Гегель справедливо писал: "Человек мыслит, и это дано ему от природы, это естественное качество человека..." [119]. Духовные потенции человеческого общества, что следует подчеркнуть, безграничны. Благодаря этой безграничности [120] человек способен в духовном развитии идти впереди своих созданий, которым он дарует иную - машинную - жизнь.

Функционирование кибернетических автоматов осуществляется во многих сферах деятельности человека, в том числе в таких, которые затрагивают жизненно важные интересы людей и государства. Не случайно, например, К. Штейнбух следующим образом заостряет этот вопрос: "Получается, что наша жизнь зависит от надежности какой-то вычислительной машины в какой-то чужой стране. Отказ каких-то ламп или транзисторов решает будущее нашей цивилизации. Решение о войне и мире правительство полностью передоверяет электронной аппаратуре и квалификации технических специалистов" [121]. Возникает острая проблема ответственности за последствия действий автоматов и за те решения, которые они, с согласия человека, могут принимать. Вы-

256


ходит, что человек поручает машинам осуществление таких действий, за последствия которых он должен отвечать сам [122]. На этой основе в отношениях автомата и человека появляются некоторые противоречия, обусловленные своего рода "неподвластностью" автомата человеку. Человек в силу особенностей машинной деятельности, заключающейся в невозможности личной проверки принятых машиной решений и, следовательно, полного контроля за этой деятельностью, вынужден как бы перекладывать часть ответственности на машину [123].

С возрастанием трудности решаемых на машине задач и увеличением структурной и функциональной сложности машинных комплексов доля этой ответственности увеличивается. Однако здесь имеет место закономерность, состоящая в том, что человек создает средства решения любых срочных задач, используя технику передачи своих функций системам машинного интеллекта, чтобы сохранить за собой возможность решения общих задач. Обычно машине поручается анализ и обработка строгих, формальных (формально-логических) характеристик задачи, так как именно машина способна обеспечивать логическую глубину и необходимую точность в оперировании со знаковыми системами на понятном ей искусственном (математическом) языке. Тем самым человек освобождается от несвойственной ему машинообразной работы, оставляя за собой право размышлять и принимать решения в реальном масштабе времени, отвечающие интересам людей и насущным потребностям общественного развития. Подобное разделение труда между человеком и машиной призвано обеспечить тот необходимый уровень их отношений, на котором машина не может быть последним звеном, несущим ответственность за неправильные действия, им может быть только человек.

Кибернетизация современного производства изменяет характер труда и место человека в производстве. Человек как субъект труда возвышается над процессом производства, контролируя и регулируя его течение. Передача производственных функций машине обновляет сферу производства, освобождает сугубо человеческие качества для реализации их в иных, духовно-творческих, этических и эстетических отношениях. В свете этой объективной тенденции, действующей в сфере отношений человека и техники, понятно следующее положение Н. Винера: "Мы больше не можем оценивать человека по той работе, которую он выполняет. Мы должны оценивать его как человека. В этом суть. Вся уйма работы, для которой мы сейчас используем людей, - это работа, в действительности делаемая лучше машинами" [124].

Социальная ценность человека приобретает важное значение в условиях научно-технического прогресса, воздействие которого на общество далеко не всегда имеет позитивные последствия [125]. Адаптация человека к научно-техническому прогрессу, ставшему своего рода "судьбой", также ставит ряд вопросов морально-этического содержания [126]. Иногда в качестве ответа на эти воп-

257

росы предлагается принять точку зрения своеобразного аскетизма. Например, Г. Бек пишет: "Неотложным является формирование сознания необходимости современного аскетизма, согласно которому человек делает не все, что он (технически) может, а только то, на что он (этически) имеет право" [127]. Разумеется, подобная ценностная ориентация в развитии техники заслуживает внимания. Однако ее реализация в значительной мере определяется тем, что понимать под "этическим правом". В такой абстрактной постановке данный вопрос (как, впрочем, и некоторые другие этические вопросы) отмечен неопределенностью.

В связи с этим привлекает внимание прослеживающаяся в последнее время тенденция к математизации некоторых сторон этической науки, в частности экспликация средствами математики и кибернетики ее основных понятий и возожность моделирования на ЭВМ отдельных аспектов морального сознания. Перспективы, открывающиеся благодаря развитию искусственного интеллекта, наметились в связи с формированием этометрии - измерительной теории этики. Она занимается математическим моделированием моральных структур, включая такие, как, например, совесть. "Моделирование совести, - пишет Ф. Лезер, - основывается на том, что она обладает функцией регулятора, который настраивает уровень поведения индивидуума (реальная величина) на уровень поведения, требуемого обществом (заданная величина). Говоря языком кибернетики, совесть сопоставляет значения заданной и реальной величин. До тех пор пока существует определенное равновесие этих величин, совесть выполняет "пассивную" функцию. В обиходе это состояние называют "спокойной совестью". Однако как только это равновесие нарушается, то есть изменяется значение разности между заданной и реальной величинами, мобилизуется "активная" функция совести: появляются "угрызения совести", которые затем (по достижении равновесия) исчезают" [128].

Ясно, что системы искусственного интеллекта могут отражать (воспроизводить с точностью до изоморфизма) лишь определенные стороны совести, однако это помогает познанию сложных явлений человеческой психики и сознания. Небезынтересно в данном контексте отметить также опыты по моделированию на ЭВМ такого социального феномена, как семья. Вступление в брак с учетом рекомендаций машины, просуммировавшей необходимую информацию о потенциальных супругах, входит в практику бракосочетаний. Причем, как утверждает В. Д. Пекелис, "лица, вступившие в брак с помощью вычислительной машины, почти никогда не разводятся!" [129].

В этическую науку начинают проникать общенаучные понятия. Это относится, например, к понятию надежности. Категория моральной надежности как этическая категория возникает на стыке технических, антропологических и социологических наук, что и обусловливает ее отличие от других, "традиционных" эти-

258

ческих категорий. По сути дела, категория моральной надежности (применительно и к личности, и к обществу) выступает как однопорядковая с этическими категориями ответственности, ценности, добра. Однако "технический эквивалент" моральной надежности ставит ее на иной уровень. Появление такого рода категорий, по-видимому, и в этике позволит использовать количественные методы исследований [130].

Принципиальная возможность применения математических и кибернетических методов в этике (по отношению к ее предмету - морали) в настоящее время не подлежит сомнению [131]. При этом, однако, следует иметь в виду следующие важные моменты.

1. Успех количественного изучения функций морального сознания зависит от того, в какой содержательной системе категорий они рассматриваются.

2. Нужно видеть допустимые границы моделирования моральных структур, определяемые мерами значений свойств, в рамках которых существует данное моральное качество. (Речь идет о соблюдении норм социального познания, исключающих, например, возможность деидеологизации этического познания с применением некоторых формальных - кибернетико-математиче-ских - методов).

3. Специ