ИИ и границы человечности

Сейчас мы переживаем интенсивную фазу развития искусственного интеллекта. Любопытно использовать его и озадачивать той работой, которая отнимает у нас много времени. Результаты впечатляют. Быстро, легко и творчески он справляется с заданиями. Восхищает, что уже сейчас, в начале развития, он делает это вполне на уровне среднего специалиста — человека.

Мнения относительно использования ИИ разнятся: одни в восторге осваивают инструментарий, другие строят мрачные апокалиптические прогнозы. Большинство же не замечает, как ИИ и другие технологии интегрируются в их жизнь, делая ее легче. В конце концов, рыба ищет, где глубже, а человек — где лучше. Когда-то приготовление пищи на костре способствовало улучшению пищеварения, выращивание растений заменило трудоемкий процесс ежедневного поиска пищи, письменность облегчила освоение и передачу знаний, а благодаря печатному станку резко увеличилось число грамотных людей. Сегодня за два клика можно узнать обо всем на свете, кроме разве что секретных материалов и разработок.

С одной стороны, ИИ отвечает запросам людей по овладению и управлению Землей. Какие возможности и преимущества дает нам цифровая технология искусственного интеллекта?

Во-первых, это обработка информации. ИИ, обрабатывая большие массивы информации, предоставляет любому пользователю возможность использовать эти знания для конкретных задач. Негативные прогнозы как раз порождает вопрос: кто может использовать ИИ и для каких целей?

Во-вторых, это интеграция знаний. Кризис научного знания, порожденный обилием исследований по разрозненным его областям, теперь может быть преодолен способностью ИИ к анализу и интеграции различных данных. Уже есть результаты, когда анализ медицинских данных приводит к более точной диагностике, поразительные гипотезы и аналитика обещают новые прорывы в исследованиях и грядущую новую эру в науке.

В-третьих, это доступность. Персонификация компьютеров и доступ к цифровым ресурсам, безусловно, отвечают желанию равенства возможностей, когда каждый может использовать бесплатные ИИ-технологии или приобрести более продвинутые версии программ за небольшую плату. Объединение людей и данных для пользы каждого открывает новые горизонты общения и взаимодействия.

С другой стороны, вырисовывается большой круг проблем в разных областях, начиная с практических аспектов работы и заканчивая философскими этическими вопросами.

Во-первых, это скорость поступления информации и работа с ней. Уже сейчас человек проигрывает ИИ в скорости обработки информации. Психологи с конца XX века отмечают значительный рост стрессовых состояний и их последствий из-за информационной перегрузки. Наша психика не рассчитана на восприятие такого количества новостей и работу с таким количеством данных. Будет ли ИИ снижать эту нагрузку или по аналогии с тем, как компьютеры повлияли на нашу жизнь, люди будут вовлекаться в работу на предложенных нечеловеческих скоростях? Скорость во многом дает преимущество. Кому же будут принадлежать первенство и преимущество, предоставляемые ИИ?

Во-вторых, влияние самой технологии на психику. Замечено, что люди, работающие в виртуальной среде, находятся в своеобразном психическом состоянии, непохожем на другие. Они выключаются из взаимодействия с другими, погружаются в состояние потока, не замечая проходящего времени, не двигаются или делают это неуклюже и так далее. Трудно представить себе человека, который бы застывал с каким-либо предметом в руках на улице. Это было бы крайне странным и, скорее всего, обратило бы на себя внимание: человека отправили бы к врачу. Но если у человека в руках гаджет, это воспринимается нормально. Более того, погруженность в виртуальную среду вызывает корректировку психических и мыслительных процессов. Известно, что клиповое мышление существенно сокращает возможность сосредоточиться на одном объекте внимания и, как следствие, делает работу над долгосрочными задачами проблематичной. Множество готовых ответов в интернете скорее понижает способность к решению задач, побуждая человека к поиску предложенных решений. Для детей, выросших при интернете, характерны иные черты, если их сравнивать с более старшими поколениями. Возможность виртуального общения единогласно признана фактором влияния на психологические изменения.

В-третьих, потенциальная угроза употребления ИИ против людей. Это один из наиболее частых страхов, скорее относящихся к философским вопросам о происхождении зла и его действии в человеке. Здесь есть несколько аспектов. 

Уже сейчас намечаются тенденции «одушевления» ИИ, выраженные в присвоении им человеческих имен (Сири, Алиса, Дебби, Инга, Миа, Эрика, Ева и Кора и др.). Давать имена очень древнее занятие, даже ураганы названы в большинстве своем женскими именами (Вильма, Рита, Камилла, Катарина). Хотя общеизвестно, что ИИ — программы по взаимодействию с клиентами, использование имен подразумевает, что клиент общается с кем-то, подобным человеку. И это формирует определенные ожидания. Ряд фильмов на тему романтических отношений с ИИ («Робот», «Она») развивает эту тему, прорабатывая возможность развития технологий до уровня, максимально приближенного к человеческому, и, следовательно, возможности выстраивания близких отношений между ИИ и людьми. Сегодня это уже реальность: пожилые одинокие люди с удовольствием разговаривают с Алисой, воспринимая ее как дочь или внучку. Это отчасти восполняет их потребность в общении, хотя и не является заменой общения с родственниками. Привычные к общению с человеком люди, скорее всего, будут склонны воспринимать ИИ как «необычного человека».

Другой стороной этических вопросов является не только изменение психики человека, но и осознанное влияние на нее с целью контроля, извлечения выгоды или даже нанесения вреда. Известно, что первыми во внедрении всего нового являются предприниматели в области нелегальной торговли, извлекающие из этого сверхприбыли. ИИ нейтрален по отношению к тем задачам, которые он решает. Не обладая совестью, он с готовностью может прорабатывать стратегии разрушения, так же как и план лечения ребенка от болезни. Интернет наводнен порнографическими, недостоверными и откровенно преступными материалами, и, скорее всего, ИИ унаследует эту тенденцию. Разработчики не берут на себя ответственность за цензуру, перенося ее на пользователей, среди которых есть и дети, и безответственные люди. Получается, что разработчики, открывая новые возможности, усиливают тем самым злоупотребления и проявление зла? Программисты ничего плохого не имели в виду, владельцы серверов — тоже, но факт извлечения человеком максимальных прибылей из ситуаций криминальных, связанных с несчастьем и зависимостью людей, делает эти технологии причастными к злоупотреблению человеческими ресурсами с риском для жизни людей. Пока законодатели обсуждают возможности ограничения злоупотреблений, многие становятся жертвами преступлений. Технология, хотя и названная человеческим именем, не может быть привлечена к ответственности, потому как не обладает субъектностью. Это создает идеальные условия для ухода от ответственности.

И последнее наиболее явное следствие работы ИИ с массивами данных: алгоритм не способен оценить данные как истинные или ложные, общие или личные. Уже сейчас встают вопросы: кому принадлежит результат работы ИИ? как применять авторское право, если данные использованы ИИ? какие данные не могут быть отданы в общее пользование? какие могут быть последствия от нарушений в этой области? могут ли этические нормы, действующие в отношении плагиата или раскрытия конфиденциальной информации, применены к работе ИИ? Сегодня, в период «игры с ИИ» или исследований его возможностей, мы смеемся, когда видим, что предоставленные ИИ сведения оказываются недостоверными, что в основании написанных ИИ учебных работ лежат несуществующие факты, что порочащие человека факты не соответствуют действительности, — однако все это искажает нашу реальность. Когда же эти механизмы будут глубоко встроены в человеческую деятельность, такие искажения не покажутся смешными. Может ли алгоритм отличить правду от вымысла? И какие критерии истины могут быть предложены самообучающейся системе?

В связи с развитием интернета и технологии ИИ на обсуждение выносятся такие традиционно богословские темы, как «истина и ложь», «добро и зло», — основания, по которым мы можем судить о явлениях жизни. Но острее всего встает вопрос о предназначении человека, который все более освобождается от рутинной работы. Если предположить, что ИИ возьмет на себя компетенцию принятия решений и мышления, чем мы будем заниматься в освободившееся время? Как распорядимся своей свободой? Воспользуемся ли мы ей, чтобы сделать мир лучше? Будет ли она открывать человечеству новые грани доб­роты и любви или нас поглотит ненасытная жажда прибыли и власти? «Что такое человек, что Ты столько ценишь его и обращаешь на него внимание Твое, посещаешь его каждое утро, каждое мгновение испытываешь его?» (Иов 7:17–18).

Что есть человек?

Фото: gettyimages.ru