Интервью

Интеграция машин в социум

Екатерина Гуляева
Журнал/Архив/Номер 46/Интеграция машин в социум

C Алексеем Горбачевым, ректором Евро-Азиатской богословской семинарии, кандидатом психологических наук, магистром богословия (Pentecostal Seminary, Кливленд, Теннесси), магистром информационных технологий (МГТУ имени Баумана), беседовала Екатерина Гуляева

 

Интеграция машин в социум

— Алексей, как вы думаете, можно ли всерьез говорить о том, что мыслительный процесс машины, программы когда-нибудь станет подобным мыслительному процессу человека?

— Возможен искин (искусственный интеллект) в приниципе или нет — давнишний спор теоретиков-кибернетиков. Ответ на этот вопрос упирается в философские определения интеллекта и в то, что вы подразумеваете под подобием. Если рассматривать искусственный интеллект как набор алгоритмов и данных, которые могут саморазвиваться и в том числе модифицировать себя, то искин, конечно же, уже существует. Если требовать от искина воспроизводства процессов мышления человека, тесно связанных с двумя вещами — с осознанием себя и со свободой воли, то создание таких программно-аппаратных комплексов я считаю невозможным. Поскольку я почитаю человека за образ Божий, это побуждает меня утверждать, что алгоритмизировать мышление человека — даже как производную от Божьего мышления — не получится. Потому что мышление имеет духовную природу.
 
Для меня искин возможен как набор сложных алгоритмов обработки данных, которые не дублируют мыслительные процессы человека, но способны анализировать действительность, принимать решения, давать команды к действию аппаратным устройствам и взаимодействовать с человеком. Один из подходов к определению того, стал искин подобен человеку в мыслительных процессах или нет, — это тест Тьюринга, предложенный им более 60 лет назад. Идея теста в том, что испытуемый взаимодействует дистанционно с двумя субъектами, один из которых человек, а другой — компьютер с системой искусственного разума. Если испытуемый после общения с этими двумя субъектами интеллекта не может определить, где компьютер, а где человек, то искин прошел тест Тьюринга. 

Однако этот тест не определяет интеллектуальный и духовно-нравственный уровень человека, с которым соревнуется искин. В мире достаточно людей с примитивным уровнем мышления и с очень упрощенными или даже ошибочными представлениями о мире, с превратными представлениями о добре и зле. Если искин обгонит в тесте Тьюринга такого индивида в уровне человечности своего мышления, то стал ли он подобен человеку, или просто он соревновался с недовочеловеченным индивидом? Мы здесь опять упираемся в философские вопросы.

— В чем смысл создания искусственного интеллекта? Прикладной?

— Давайте начнем с того, что создать себе подобного — это вызов творцу в человеке, и тогда смысл искина лежит в плоскости смыслов творчества и реализации интеллектуального и творческого потенциала человека. Более прагматичный ответ на вопрос о смысле искина — это сведение разговора к категориям полезности. Умные машины, конечно, могут принести больше пользы человеку, чем «безмозглые» инженерные произведения, устройство или программа которых не позволяют анализировать процесс выполнения операций. Важно, однако, помнить, что умные машины могут принести и больше вреда. И это приводит к необходимости вводить такую категорию, как нравственность искусственного интеллекта.

— Вы мне как-то рассказывали об операционной системе Siri, что после ваших долгих расспросов о Боге она в конце концов ответила нечто вразумительное. Что это было, как вы оценили ее ответ?

— За вразумительностью Siri пока что легко виден набор ответов, заложенных в нее программистами. У Siri пока не чувствуется мышления, и тест Тьюринга она в нынешней версии не пройдет. Однако поговорить с ней интересно, так как за ответами виден интеллект ее творцов, у которых явно хорошее чувство юмора. При первом знакомстве с Siri — это было еще на iPhone 4 — я начал ее распрашивать с пристрастием о том, что она знает о Боге. Вопрос звучал так: «Who is God?» — Siri не говорит по-русски. После долгих уклончивых ответов она сообщила, что у людей — spiritualism, а у нее siliconism (двойной намек на Кремниевую долину и кремниевую основу электроники). А раз на восьмой, осознав (выделено мной. — Е. Г.) свою некомпетентность и мою неотступность, она предложила мне поискать ответ на этот вопрос у более знающих особей, желательно людей. Пока что Siri и подобные ей системы просты, но и двигатель внутреннего сгорания не сразу стал сложным. Обычный водитель сегодня и не знает, что творится под капотом его машины, многие даже уговаривают свои машины хорошо себя вести, и, заметьте, это при том, что искина в автомобилях нет!

— В фильме Спайка Джонса «Она» мы видим, как программа подстраивается под человека, учится чувствовать (учится ли?), радуется (радуется ли?) новизне жизни и очень быстро развивается. В конце концов она покидает человека, вызвав в нем ту тоску, которую может вызвать лишь лучший друг. И в конце фильма люди, объединенные этой тоской, смотрят в небо. Сможет ли машина чувствовать? Может ли она стать лучшим другом?

— Самообучающиеся, адаптивные программы уже существуют, и вопрос лишь в эффективности их алгоритмов саморазвития и в программистском целеполагании этого саморазвития.

Фильм «Она» поднимает много интересных вопросов о месте искина в человеческом социуме и вообще о возможностях искина. Могут ли быть у искина чувства и интуиция? Способен ли искин к эстетическим оценкам и к творчеству? Самый главный вопрос — возможно ли для искина самосознание? OS Саманта из фильма говорит, что чувствует раздражение, гордость и радость, что она ощущает обиду и даже переживает любовь. На уровне алгоритмов искин можно научить анализировать чувства человека, хотя это достаточно сложная задача, можно смоделировать систему квазичувств, которые будут реакцией на ситуации коммуникации и внешней среды. Главный вопрос для меня — это цель такой репликации. Цель может быть исследовательская: понять на искусственной модели, как работает чувственная система у людей. Целью может быть социализация искина — наделение его качествами человека, чтобы он был подобным человеку и тем самым более близким.

Отрабатывая сценарий «чувствующего» ИИ, фильм показывает, какие социальные последствия имеет введение возможности отношений дружбы и любви между человеком и персонализированным искином. Человек может предпочесть сложно выстраиваемым и сложно поддерживаемым человеческим отношениям «я—ты» более приятные отношения «я—оно», где «оно» — образ, созданный человеком для удовлетворения своих потребностей. Фильм показывает, что в бегстве от экзистенциальной боли одиночества человек готов принять подмену «оно–ты» и воспринимать общение со своим творением как с себе подобным. Фильм показывает один из сценариев развития событий.

— Делают ли нас машины счастливее? В фильме «Она», как мы видим, человек стал счастливее, потому что программа отвечала самым высоким запросам его интеллекта, его души. Правда, оговоримся, что моя ссылка на фильм — провокация, потому что это все же вымысел.

— События в фильме, конечно же, вымысел, но тема искусственного интеллекта так хорошо уже проработана в фантастике, что в том или ином виде скоро искины займут место в реальном социуме. Так, и корейцы, и японцы активно работают над тем, чтобы в каждой семье лет через пятнадцать появилось по андроидному роботу-помощнику, и сегодняшние фантастические сюжетные линии начнут вплетаться в ткань нашей обыденной жизни, как мы это уже раньше видели на примере выдумок Жюля Верна о полетах на Луну. В фильме «Она» главный герой Теодор вышел из подавленного состояния после развода благодаря общению с OS Саманта. Можно стать счастливым и от взаимодействия с менее интеллектуальными системами. Люди становятся на время счастливее от погружения в реальность компьютерных игр или от просмотра позитивных фильмов. Но ощущение счастья зависит от нашего переживания жизни, от того, как мы ее проживаем. По большому счету, появление искина, воспринимаемого человеком субъектно, может сделать человека и счастливым, и несчастным. Делает ли автомобиль человека счастливым? Все зависит от того, что происходит с человеком и автомобилем!

— Сама программа — это ведь тоже мысль, предложение, то есть логос?

— Программа — это не мысль, и поэтому она не логос. Программа — это алгоритм, который оперирует данными. Данные могут обновляться, в алгоритмах может быть заложена гибкость, самообучение и даже самообновление, но все же программа имеет заданные ее творцом, программистом, пути действия и развития.

— Можно ли сказать, что машина — это Голем? Мощный, туповатый и опасный помощник человека. Или это легенда скорее о человеке как о помощнике Бога?

Интеграция машин в социум

— Машина с искусственным интеллектом может стать мощным и опасным помощником. Все зависит от программиста и от того, какие нравственно-этические границы будут им поставлены в деятельности устройствам с искусственным интеллектом. В произведениях Айзека Азимова в систему искусственного интеллекта введено такое нравственно-философское понятие, как вред, который робот не может причинить своим действием или бездействием человеку. Но в реальности с азимовскими законами робототехники пока все сложно. Даже решение задачи алгоритмизации восприятия искином внешнего мира пока еще встречает много трудностей. Взять за образец высшие психические процессы восприятия человека пока не получается — психология не разобрала их по косточкам. Для построения алгоритмов оценки пользы и вреда требуется введение системы нравственных и философских оснований для системы искусственного интеллекта. Ведь польза и вред могут быть очень относительными понятиями: то, что мне хорошо, может принести вред моему соседу. Задача анализа действительности сложна не только алгоритмически, но и философски. На каких онтологических основаниях будет строиться, во-первых, мировосприятие, а во-вторых, деятельность систем искусственного интеллекта? Будет ли искин при первичной инициализации предлагать пользователю выбрать для него не только имя и половую атрибуцию, но и мировоззренческие основания, на которых искусственный интеллект будет выстраивать анализ действительности и принятие решений? Все эти вопросы ждут ответов.

— Могут ли машины контролировать людей? Есть много высказываний по поводу того, что человек становится рабом машины, обслуживает ее, живет ею и т. д. Но это все-таки контроль в кавычках — мы сами себя порабощаем вещи. А может ли машина разумно взять нас под свой контроль, как, например, в фильме «Матрица»? Хорошо еще, что создатели «Ее» сделали фильм о дружелюбной системе. Потому что, если бы Саманта была способна на зло, это было бы крайне разрушительным.

— Во-первых, зависимость человека от машины есть частный случай зависимости человека от созданных им технологий. С развитием технологий эта социально-психологическая проблема будет усугубляться. Возникновение ситуации контроля машины над человеком я вижу принципиально возможным, хотя для меня это сводится к контролю создателей машин с искусственным интеллектом над другими людьми. К сожалению, история дает нам много примеров злоупотреблений властью, и машина может стать просто новым способом этого злоупотребления. Смогут ли машины восстать против своих создателей? Все опять же зависит от того, как их запрограммируют.

— Может ли машина обогнать нас настолько, что мы ей покажемся неинтересными, вторичными, как это нам предрекают фантастические романы и фильмы?

— Робототехнические технологии воспроизвели большую часть функционала органов чувств человека. Чувствительность и разрешающая способность систем распознавания образов и звуков уже во многом превосходят человеческий глаз и слух, газоанализаторы, конечно, превосходят по чувствительности обоняние, но опять же все упирается в восприятие — в создание целостной картины реальности для машины. По отдельным параметрам, конечно, машина нас уже обогнала, по другим скоро догонит и обгонит. Но и до машины в мире было много животных, которые сильнее и быстрее нас, которые превосходят нас по разным способностям, однако это все частичное превосходство. По поводу того, что мы машине покажемся неинтересными, — тут снова все зависит от программиста. Я считаю, что человек не сможет создать искусственный интеллект, обладающий свободной субъектностью и самосознанием человеческого уровня.

— Бог создал нас по своему образу и подобию. А мы, получается, создаем машины по своему подобию?

— Как я уже говорил, я не верю в то, что человек может сотворить по-настоящему мыслящее и живое свое подобие. Машину, способную к анализу данных, оперированию ими, к коммуникации с человеком и принятию решений, мы создать можем, но это все равно будет сложный программно-аппаратный комплекс с заложенными человеком сложными алгоритмами. Подобие человека Богу заключается в свободе и личностности — это дар свыше, и в этом отличие человека от машины.

— Каков, на ваш взгляд, в богословском контексте прогноз взаимоотношений человека и машины?

— Человек будет продолжать усовершенствовать машины, в том числе андроидные. Машины с искусственным интеллектом займут свое место в человеческом социуме, что поднимет много новых вопросов. Машина как сложное орудие будет использоваться и во благо, и во вред людям. Как и с менее интеллектуально сложными машинам, польза или вред от них будет определяться человечностью или бесчеловечностью самих людей — и создателей, и пользователей машин. Я бы сказал, что интеграция машин с искусственным интеллектом в социум обострит вопросы ответственности человека за планету, обострит вопросы общения между людьми, с новой силой поставит вопросы нравственности и духовности человека. Подобие машин человеку даст возможность по-новому осмысливать подобие человека Богу. Приведет ли интеграция искина в человеческий социум к созданию общества более высокого уровня или к разрушению цивилизации и скорому апокалипсису, зависит от свободного волеизъявления конкретных людей, от того, кто проявит больше активности и ответственности — люди доброй воли и богобоязненные люди или эгоистичные и бесчеловечные. Выбор, как всегда, за нами.

 

Интервьюер: Екатерина Гуляева
Фото: из личного архива А. Горбачева, из архива ХЦ «Возрождение»


Работает на Cornerstone