• 5

§ 3. Морально-этические аспекты проблемы искусственного интеллекта

 

Развитие работ по созданию искусственного интеллекта в ответ на потребности общественной практики вызывает подчас большое беспокойство. Оно связано с тем, что кибернетизация умственного труда приводит к передаче машинам областей деятельности человека, которые до сих пор были привилегией интеллектуальных работников. Весь комплекс работ по моделированию функций психики и сознания человека ставит ряд вопросов аксиологического и морально-этического порядка. Какими целями человек может наделить системы искусственного интеллекта? Не приведет ли создание творческого автомата к ослаолению стимула творчества у людей? Не создаст ли снятие с человека ответственности за принятие решений угрозу самому существованию этой способности у человека? Должны ли (и смогут ли) люди ограничивать развитие систем искусственного интеллекта или, по крайней мере, держать их под контролем? Как заметил Н. Винер, "если мы смотрим на машину не как на дополнение к нашим силам, а как на нечто их расширяющее, мы должны держать их под контролем. Иначе нельзя" [105].

 

Отношения между человеком и машиной в условиях развития кибернетики и систем искусственного интеллекта принимают сложный характер. Обращаясь к мифу о Прометее, Ю. Банька пишет: "Прометеизм XX века переступил границу статистической уверенности и сам стал зависимым от искры, которую высек у истоков рождения вида Homo sapiens ...С одной стороны, подчинение человека покоряющей силе прометейского прогресса техники, с другой - поворот к более глубокой ценности прометеизма в поисках ответа на вопрос: как пользоваться безопасно этим огнем?" [106] Кибернетические машины отличаются от всех прежних машин тем, что служат усилителями человеческого интеллекта. Будучи вовлеченными в человеческую деятельность, они включаются в систему общественных отношений. "Самой по себе машине, - считает М. Г. Макаров, - чуждо... отношение ценности. Ценностное отношение приобретается техникой только при ее включении в кругооборот человеческой деятельности, в систему общественных отношений" [107]. От природы этой системы отношений, от ее качества зависят место и роль кибернетических машин в человеческом обществе. Характер общественных отношений, в которых создаются, функционируют и развиваются кибернетические машины, определяет те последствия, к которым приводит сравнительная самостоятельность машины по отношению к человеку. "Машина, - подчеркивает П. В. Копнин, - это опредмечивание человеческой сущности, а оно, как известно, в определенных условиях превращается в отчуждение. Машинный фетишизм - это разновидность товарного фетишизма. Фетишизация машины приводит к тому, что иногда некоторые представляют ее подлинным субъектом мышления и практической деятельности, более совершенным, чем лородившее ее человеческое общество" [108].

 

Создание все более сложных автоматов и кибернетических устройств демонстрирует высокую степень овладения человеком силами природы. Однако автоматизация и кибернетизация общественных процессов - это не самоцель, а средство обогащения человеческой жизни [109]. Существование интеллектуальных машин высвечивает многие теоретические проблемы. К ним относятся проблема "человек-машина", вечная проблема "духа и тела", вопрос о роли человека во вселенной. Системы искусственного интеллекта во многом способствуют лучшему пониманию природы социальных систем. "Перспективы кибернетики, - пишет Г. Клаус, - огромны. Кибернетические постановки вопросов проникают во все области материального и духовного бытия, и каждая отдельная наука рано или поздно будет иметь дело с кибернетикой. Именно эта универсальность новой науки делает особенно опасными философские, политические и экономические злоупотребления ею..." [110]

Моральные проблемы, связанные с разработкой мыслящих машин, приобретают нередко форму отчуждающих интерпретаций, авторы которых противопоставляют человека и машину, рассматривают развитие машин как враждебную для человека силу. "Мы окажемся, - считает, например, Н. Сатерленд, - творцами превосходящих нас по разуму созданий, которые заменят нас в роли хозяев Земли. Эти создания могут иметь более высокий моральный уровень, чем их творцы, ибо нет никаких оснований встраивать в них столь свойственный человеку эгоизм, который хотя и необходим нам для обеспечения выживания, но служит также причиной иррациональности в поведении человека" [111]. Такой подход к проблеме "человек-машина" не учитывает социальной сущности создаваемых человеком автоматов и их функций в конкретно-историческом человеческом обществе.

 

Сущность и функции автомата как машины состоят в том, чтобы быть помощником человека, вспомогательным средством в выполнении определенной деятельности. Автомат, который каким-либо образом будет действовать как человек, а не как его вспомогательное средство, окажется как бы самим человеком. Подобное развитие, если оно вообще возможно, как справедливо подчеркивают Ф. Лезер и Д. Шульце, было бы бессмысленным по двум причинам: 1) такой автомат не мог бы одновременно действовать как человек и быть вспомогательным средством; 2) человек как бы предписывал разработку эффективных методов своего воспроизведения, что привело бы к его саморазрушению [112].

 

Должен ли человек создавать автоматы, усиливающие его интеллектуальные способности? Вопрос этот достаточно актуален. И ответ на него может быть только положительным. Во-первых, потому, что человек без машины мыслит хуже и не способен решить те или иные задачи, которые ставит перед ним общественная практика и развитие науки. Во-вторых, потому, что создание таких машин обогащает человеческую жизнь, освобождает человека от выполнения утомительной (непосильной) интеллектуальной работы, которая может быть передана автоматам. В-третьих, потому, что системы искусственного интеллекта необходимы для научного познания, без них немыслима современная наука, опирающаяся на "тонкую" экспериментальную технику [113].

 

Социальные и морально-этические проблемы, возникающие при этом, требуют гуманистической ориентации всей исследовательской работы, ведущейся в русле создания мыслящих машин. Сама наука должна пониматься философски, достаточно широко, с учетом ее ценностных установок. "Гуманизм, - как отмечает И. Т. Фролов, - закономерно выводится из науки лишь в том случае, если последняя понимается не узко - как чистый поиск истины, а как социальный институт современного общества" [114]. Это значит, что исследовательский статус науки во всех случаях и в основном должен быть подчинен гуманистическим идеалам.

Ценностные аспекты современного естествознания возникают в той системе отношений, которая включает в себя целеполагающий фактор. Целевое (ценностное) регулирование научного познания становится необходимым условием общественного прогресса. Абсолютность и относительность такого регулирования сопряжены с абсолютностью и относительностью практики как критерия истины [115]. Ибо целеполагание зависит от конкретного уровня развития общества, включает в себя формирование глобальных моделей развития и своего рода подцелей, выражающих потребности текущего момента. Системы искусственного интеллекта участвуют в процессах целеполагания и прогнозирования, обеспечивая его формальнологическую, математическую и кибернетическую структуры. Присущая ЭВМ (в частности, обучающимся машинам) способность работать с неполной информацией делает их весьма мощным инструментом целеполагания и прогнозирования будущего с использованием, конечно, накопленного опыта. ЭВМ обеспечивает необходимую логическую глубину таких сугубо человеческих феноменов. Но означает ли это, что системы искусственного интеллекта могут иметь собственные цели?

 

Некоторые авторы положительно решают этот вопрос. "Моделируя среду, - пишут, например, Л. Фогель, А. Оуэнc, М. Уолш, - машина проявляет свою "творческую способность" и "воображение". Это, безусловно, есть искусственный интеллект. С его появлением становится возможным серьезно рассматривать программы, которые придавали бы машинам самосознание и в конечном счете способность выбирать свои собственные цели" [116]. К аналогичному выводу приходит Н. А. Амосов: "Нельзя выполнить разум без всяких чувств, так как они отражают степень эффективности в реализации поставленных целей. Минимальные чувства - добро и зло, приятное и неприятное. Этого уже достаточно, чтобы при наличии самоорганизации, т. е. способности к созданию новых моделей, появились новые, производные чувства и новые, собственные цели деятельности" [117].

 

Конечно, любая достаточно сложная программа (или самопрограмма) представляется уникальной. Машина, развивающаяся по такой программе, отличается определенной индивидуальностью, самоотнесенностью, относительной самостоятельностью поведения. В пределах последней и может идти речь о процессах переработки информации в машине, обладающих статусом телеономичности, целевого моделирующего подобия по отношению к целям человека. Иначе говоря, цели машины - это как бы подцели в системе "человек-машина". А цели системы "человек- машина", в свою очередь, следует рассматривать в качестве подцелей в системе общественных человеческих отношений. Эта (машинная) телеологическая релятивность задается системной природой социальных процессов. Следовательно, машинное целеполагание есть "включенное" целеполагание; машина может функционировать лишь в данном определенном отношении, что в структурном плане означает иерархичность, подчиненность системе более общего и более высокого уровня. Машина обнаруживает процессы целеполагания и целеосуществления лишь в системах "машина - машина" и "человек - машина". В системе же "человек - человек" машинные целевые "намерения" отсутствуют. Правда, и в этой системе может быть представлено машинное целеполагание, но только в порядке усиления (логического обеспечения) человеческого целеполагания как первичного и доминирующего отношения.

 

Телеогенные процессы в машине имеют, таким образом, относительный характер. Их ценность определяется служебной ролью автомата в системе человеческих общественных отношений. Иногда, однако, такое положение вещей квалифицируется как проявление эгоизма со стороны человека. Так, Н. Сатерленд считает: "Если машины будут проектировать другие машины без существенного вмешательства с нашей стороны, то на определенном этапе мы должны будем решить, какую цель следует наметить для их деятельности. Если задать в качестве естественного мотива упрочение благосостояния человечества, то это будет слишком эгоистично с нашей стороны и, вероятно, ограничит возможности развития машин" [118].

 

Ограничивать развитие машин, надо полагать, не в интересах человека. Это обернулось бы для него нежелательной стороной - привело бы к ограничению развития сущностных сил самого человека. Ведь развитие человека проявляется, в частности, в том, что он творит все более совершенные искусственные системы. Задача создания искусственного интеллекта, пожалуй, самая трудная из всех научных задач, которые приходилось решать человеку до сих пор. Она требует от него напряжения всех духовных потенций. Человеческий разум в своей основе - это естественный разум, данный человеку от природы. По этому поводу Гегель справедливо писал: "Человек мыслит, и это дано ему от природы, это естественное качество человека..." [119]. Духовные потенции человеческого общества, что следует подчеркнуть, безграничны. Благодаря этой безграничности [120] человек способен в духовном развитии идти впереди своих созданий, которым он дарует иную - машинную - жизнь.

 

Функционирование кибернетических автоматов осуществляется во многих сферах деятельности человека, в том числе в таких, которые затрагивают жизненно важные интересы людей и государства. Не случайно, например, К. Штейнбух следующим образом заостряет этот вопрос: "Получается, что наша жизнь зависит от надежности какой-то вычислительной машины в какой-то чужой стране. Отказ каких-то ламп или транзисторов решает будущее нашей цивилизации. Решение о войне и мире правительство полностью передоверяет электронной аппаратуре и квалификации технических специалистов" [121]. Возникает острая проблема ответственности за последствия действий автоматов и за те решения, которые они, с согласия человека, могут принимать. Выходит, что человек поручает машинам осуществление таких действий, за последствия которых он должен отвечать сам [122]. На этой основе в отношениях автомата и человека появляются некоторые противоречия, обусловленные своего рода "неподвластностью" автомата человеку. Человек в силу особенностей машинной деятельности, заключающейся в невозможности личной проверки принятых машиной решений и, следовательно, полного контроля за этой деятельностью, вынужден как бы перекладывать часть ответственности на машину [123].

 

С возрастанием трудности решаемых на машине задач и увеличением структурной и функциональной сложности машинных комплексов доля этой ответственности увеличивается. Однако здесь имеет место закономерность, состоящая в том, что человек создает средства решения любых срочных задач, используя технику передачи своих функций системам машинного интеллекта, чтобы сохранить за собой возможность решения общих задач. Обычно машине поручается анализ и обработка строгих, формальных (формально-логических) характеристик задачи, так как именно машина способна обеспечивать логическую глубину и необходимую точность в оперировании со знаковыми системами на понятном ей искусственном (математическом) языке. Тем самым человек освобождается от несвойственной ему машинообразной работы, оставляя за собой право размышлять и принимать решения в реальном масштабе времени, отвечающие интересам людей и насущным потребностям общественного развития. Подобное разделение труда между человеком и машиной призвано обеспечить тот необходимый уровень их отношений, на котором машина не может быть последним звеном, несущим ответственность за неправильные действия, им может быть только человек.

 

Кибернетизация современного производства изменяет характер труда и место человека в производстве. Человек как субъект труда возвышается над процессом производства, контролируя и регулируя его течение. Передача производственных функций машине обновляет сферу производства, освобождает сугубо человеческие качества для реализации их в иных, духовно-творческих, этических и эстетических отношениях. В свете этой объективной тенденции, действующей в сфере отношений человека и техники, понятно следующее положение Н. Винера: "Мы больше не можем оценивать человека по той работе, которую он выполняет. Мы должны оценивать его как человека. В этом суть. Вся уйма работы, для которой мы сейчас используем людей, - это работа, в действительности делаемая лучше машинами" [124].

 

Социальная ценность человека приобретает важное значение в условиях научно-технического прогресса, воздействие которого на общество далеко не всегда имеет позитивные последствия [125]. Адаптация человека к научно-техническому прогрессу, ставшему своего рода "судьбой", также ставит ряд вопросов морально-этического содержания [126]. Иногда в качестве ответа на эти вопросы предлагается принять точку зрения своеобразного аскетизма. Например, Г. Бек пишет: "Неотложным является формирование сознания необходимости современного аскетизма, согласно которому человек делает не все, что он (технически) может, а только то, на что он (этически) имеет право" [127]. Разумеется, подобная ценностная ориентация в развитии техники заслуживает внимания. Однако ее реализация в значительной мере определяется тем, что понимать под "этическим правом". В такой абстрактной постановке данный вопрос (как, впрочем, и некоторые другие этические вопросы) отмечен неопределенностью.

 

В связи с этим привлекает внимание прослеживающаяся в последнее время тенденция к математизации некоторых сторон этической науки, в частности экспликация средствами математики и кибернетики ее основных понятий и возожность моделирования на ЭВМ отдельных аспектов морального сознания. Перспективы, открывающиеся благодаря развитию искусственного интеллекта, наметились в связи с формированием этометрии - измерительной теории этики. Она занимается математическим моделированием моральных структур, включая такие, как, например, совесть. "Моделирование совести, - пишет Ф. Лезер, - основывается на том, что она обладает функцией регулятора, который настраивает уровень поведения индивидуума (реальная величина) на уровень поведения, требуемого обществом (заданная величина). Говоря языком кибернетики, совесть сопоставляет значения заданной и реальной величин. До тех пор пока существует определенное равновесие этих величин, совесть выполняет "пассивную" функцию. В обиходе это состояние называют "спокойной совестью". Однако как только это равновесие нарушается, то есть изменяется значение разности между заданной и реальной величинами, мобилизуется "активная" функция совести: появляются "угрызения совести", которые затем (по достижении равновесия) исчезают" [128].

 

Ясно, что системы искусственного интеллекта могут отражать (воспроизводить с точностью до изоморфизма) лишь определенные стороны совести, однако это помогает познанию сложных явлений человеческой психики и сознания. Небезынтересно в данном контексте отметить также опыты по моделированию на ЭВМ такого социального феномена, как семья. Вступление в брак с учетом рекомендаций машины, просуммировавшей необходимую информацию о потенциальных супругах, входит в практику бракосочетаний. Причем, как утверждает В. Д. Пекелис, "лица, вступившие в брак с помощью вычислительной машины, почти никогда не разводятся!" [129].

 

В этическую науку начинают проникать общенаучные понятия. Это относится, например, к понятию надежности. Категория моральной надежности как этическая категория возникает на стыке технических, антропологических и социологических наук, что и обусловливает ее отличие от других, "традиционных" этических категорий. По сути дела, категория моральной надежности (применительно и к личности, и к обществу) выступает как однопорядковая с этическими категориями ответственности, ценности, добра. Однако "технический эквивалент" моральной надежности ставит ее на иной уровень. Появление такого рода категорий, по-видимому, и в этике позволит использовать количественные методы исследований [130].

 

Принципиальная возможность применения математических и кибернетических методов в этике (по отношению к ее предмету - морали) в настоящее время не подлежит сомнению [131]. При этом, однако, следует иметь в виду следующие важные моменты.

 

1. Успех количественного изучения функций морального сознания зависит от того, в какой содержательной системе категорий они рассматриваются.

 

2. Нужно видеть допустимые границы моделирования моральных структур, определяемые мерами значений свойств, в рамках которых существует данное моральное качество. (Речь идет о соблюдении норм социального познания, исключающих, например, возможность деидеологизации этического познания с применением некоторых формальных - кибернетико-математиче-ских - методов).

 

3. Специфика общественных явлений по сравнению с естественными при их математизации обусловливает необходимость дальнейшего развития математики, в особенности теории и методов измерения,

 

4. Классовая ограниченность и ненаучный взгляд на историю ставят жесткие границы математизации общественных дисциплин.

 

5. Количественные методы недостаточны для того, чтобы превалировать в общественных науках: общественные теории являются фундаментом математизации.

 

В буржуазной философии развитие систем искусственного интеллекта имеет две интерпретации: машины либо противопоставляются развитию человека, либо отождествляются с ним. В первом случае создается ситуация (мнимой) опасности для человека со стороны автоматов, во втором - видится лишь одна возможность "приспособления" человека к техническому прогрессу: синтез человека и машины или даже замена его автоматом. В обоих случаях научно-технический прогресс предстает в виде автономной мистической силы, от которой у человека нет действенной защиты. Страх перед "демоном" творческого автомата приводит к абсолютным формам оценки его развития. "По мере создания программ для решения проблем все более общего характера, - пишет Н. Сатерленд, - ЭВМ начнут принимать решения, которые мы вынуждены будем считать самостоятельными... Вполне возможно, что через 50 лет расовые проблемы перестанут быть предметом обсуждения - люди будут слишком заняты спором, представлять ли машине право голоса или нет" [132].

В условиях кибернетизации общества, имеющей известные социальные последствия, в капиталистических странах подобные взгляды подготавливают вопросы такого порядка: не ведет чи прогресс науки и техники к тому, что человек становится ненужным; что должно произойти с человеком в условиях, когда автоматы функционируют как люди и начинают их обгонять, превосходить последних; и т.д. Социальная подоплека здесь очевидна: большой контингент неквалифицированных рабочих представляет существенный элемент неопределенности и опасности для эксплуататоров, машины же не бастуют. "Безопасность" достигается тогда, когда, например, двадцать неквалифицированных рабочих заменяются двумя, умеющими обращаться с вычислительной машиной и отождествляющими свои цели с целями технологической структуры.

 

Сторонники "техно-биологизма", но свидетельству Л. Вернеке [133], считают, что в будущем возникнет необходимость создания "кибернетических организмов", у которых "слабые" органы человека будут заменены техническими устройствами. В результате появится "человеко-машинный гибрид", так называемый киборг [134]. Подобный синтез человека и машины, по их мнению, явится "следующей ступенью эволюции", которая, однако, не будет длительной. Органическая часть киборга станет помехой для неорганической, и последняя от нее избавится. Человек окажется ненужным. Развитие в таком случае канализируется в направлении от Homo sapiens к Mashina sapiens, к "сверхчеловеку" в форме автомата. Следовательно, кибернетический оптимизм оборачивается по отношению к человеку глубоким пессимизмом.

 

Преувеличивая значимость кибернетического подхода, приверженцы техницистского варианта биологизма игнорируют качественные различия между формами движения материи, злоупотребляют аналогиями между живым организмом, человеком и автоматом. Автоматы, с их точки зрения, постепенно лишат человека его доминирующего положения в обществе, и развитие будет осуществляться как "метачеловеческий" процесс. Идеологическая направленность такого рода прожектов свидетельствует о том, что в них особенно отчетливо проявляются реакционные, враждебные человеку характер и функции соединения результатов частнонаучного познания с буржуазным мировоззрением, неспособность капиталистического общества использовать достижения научно-технического прогресса на благо человечества [135].

 

Рост могущества техники все больше приводит к гипертрофированному развитию, к превращению человеческого общества в огромную техническую машину, которая элиминирует индивидуальные различия и возможности людей, делает анонимными многие стороны жизненных отношений. На этом фоне некоторые ученые на Западе считают, что развитие вычислительных машин является преждевременным. "Лично я, - пишет, например, Г. Биркгоф, - в области вычислительной техники считаю более неотложной задачей попытаться улучшить условия человеческой жизни, чем пытаться моделировать человеческий мозг" [136].

 

Заметим, однако, что решение подобных вопросов зависит от ценностных ориентаций общества, от социальной программы его развития. Вместе с тем позиция ученого, сознающего социальные последствия своих открытий и научных идей, может стать упреждающим фактором в деле предотвращения социально опасных и чреватых пагубными последствиями планов и программ. Ответственность ученого, занимающего надежную жизненную позицию, передается его согражданам и формирует общественное мнение - сильное и действенное средство в борьбе за справедливость. В связи с этим возрастают требования к личности ученого. "Нет необходимости, - пишет А. А. Баев, - отрицать значение научного развития, личности ученого и нравственных критериев - они существуют и действуют совокупно с социальными факторами и должны учитываться при анализе конкретных ситуаций. Было бы неразумным считать социальные факторы автоматически действующим механизмом, игнорировать профессиональный и моральный облик ученого и освобождать его от нравственной ответственности за поступки и убеждения. Ученый обязан предупреждать общество о последствиях своих открытий и уметь их предвидеть - это минимум требований к нему" [137].

 

Из того, что человеческий мозг может служить образцом для конструирования кибернетического автомата, а элементы (функции) интеллектуальной деятельности можно реализовать с помощью ЭВМ, вовсе не следует идентичность мозга и сознания с соответствующими моделирующими устройствами и их функциями. Машина, воспроизводящая и усиливающая определенные способности человека, не превращается в него самого. Сложные интеллектуальные системы и автоматы - это созданные человеческими руками органы человеческого мозга. Бессмысленно рассматривать их в отрыве от человека, а тем более противопоставлять ему. Человек, реализуя себя в создаваемых им системах и в преобразуемой им природе, наделяет их социальными качествами, которые выполняют служебную функцию по отношению к человеку и обществу в целом. Чем сложнее, эффективнее и оптимальнее эти искусственные системы, тем сильнее воздействие их на человеческое общество и, надо полагать, тем весомее доля сознательного, целенаправленного, разумного во взаимодействии человека с окружающим его реальным миром.

 

Вместе с тем все более определенным становится признание необходимости защиты простых, элементарных ценностей, формирующих психику человека и межличностные отношения [138]. Как замечает Ю. Банька, вторжение техники в профессиональную и частную жизнь человека влечет за собой возникновение ситуаций, в которых предпочтительным оказывается холодный, рациональный расчет. Эмоциональная и мотивационная сферы оттесняются техническими условиями жизни на второй план [139].

Нередко признание возможности существования искусственного интеллекта расценивается как унижение и оскорбление достоинства человека. Правда, такие возражения по большей части носят сугубо эмоциональный характер. Чаще всего их основой служат представления, что интеллект человека в каком-либо смысле является иррациональным. Однако дело обстоит совершенно иначе: создаваемые человеческим обществом системы искусственного интеллекта позволяют человеку занять достойное место как в развитии общества, так и в освоении природы планеты и космического пространства. Определение действительного места человека в мире служит, вместе с тем, залогом того, что он сможет противостоять негативным тенденциям глобальной кибернетизации и информатизации.

 

Думается, что в ходе развития социальной кибернетики и в тесной связи с ней социальной информатики все большее значение будут приобретать морально-этические, гуманистические проблемы. Социальная информатика (которой в самое последнее время уделяется гораздо большее внимание, чем социальной кибернетике) по самой своей сути должна быть направлена на гуманистическую ориентацию процесса информатизации общества и его взаимодействия с природой, исправления сугубо техницистских деформаций и других негативных явлений гипертрофированного процесса развития информационно-кибернетической техники, которые имели место в прошлом и далеко еще не исчезли в настоящее время. Предстоит коренная перестройка информационной среды социума с тем, чтобы внедряемые в нее средства информатики и кибернетики давали необходимый социальный эффект, способствуя выживанию человеческой цивилизации и дальнейшему ускорению ее развития.

 

 

Авторы: 1379 А Б В Г Д Е З И Й К Л М Н О П Р С Т У Ф Х Ц Ч Ш Щ Э Ю Я

Книги: 1908 А Б В Г Д Е З И Й К Л М Н О П Р С Т У Ф Х Ц Ч Ш Щ Э Ю Я