Переустановка системы: как современные технологии перекраивают общество

В конце октября в российский прокат вышел документальный фильм Вернера Херцога «О, Интернет! Грезы цифрового мира», посвященный феномену всемирной паутины. Свою новую картину Херцог разделил на 10 глав, каждая из которых посвящена прошлому, настоящему и будущему интернета, а также связанным с ним проекту искусственного разума и проблеме компьютерной безопасности.

Режиссер откровенно и очень жестко говорит об опасностях и соблазнах виртуального мира, о его жертвах и анонимах-мучителях, о жизни в сети и об отказе от нее нее. Фильм немецкого режиссера, который он лично представил петербургской публике на фестивале «Послание к человеку», — симптоматичное явление, свойственное сегодняшнему дигитализированному миру.

Картина Херцога — не первое кинематографическое высказывание на тему неизбежного торжества современных технологий над человеком. 21 октября вышел третий сезон «Черного зеркала» — пожалуй, лучшего сатирического сериала о влиянии информационных технологий на социум и отношения между людьми. Как и в предыдущих сезонах, разрозненный, на первый взгляд, набор сюжетов и героев объединяет черный юмор, беспощадность высказывания и общая тема — недостатки современного общества, которое не учитывает последствий применения высоких технологий.

Сериал-антиутопия, написанный английским сценаристом Чарли Брукером, в очередной раз продемонстрировал коварство ближайшего будущего, в котором одержимое технологиями общество приближает рукотворный цифровой апокалипсис. Наивное человечество, бросающее все усилия на борьбу с терроризмом и угрозами ИГИЛ не замечает, как планомерно губит само себя. Новый сезон «Черного зеркала» — самое мрачное и кошмарное отражение существующей действительности. Это не просто кино, это — шоковая терапия.

Тема взаимодействия человека и высоких технологий стала предметом исследования не только в кинематографической сфере, но и среди научного сообщества. «Луна» кратко пересказывает беседу основателя Future Foundation Петра Левича и старшего научного сотрудника Социологического института РАН Лилии Земнуховой «Как трансформируются социальные отношения в цифровую эпоху».

Станут ли гаджеты умнее людей?

Раньше для получения информации нам требовалось несколько часов, чтобы добраться до библиотеки. Потом период времени снизился до нескольких минут благодаря поисковым системам. Сейчас, с появлением нейроинтерфейса, нам необходимы доли секунды, чтобы подумать о чем-то и тут же получить информацию. В итоге происходят количественные изменения — сокращается время доступа к информации. И эти количественные изменения из-за своей скорости переходят в качественные. Влекут ли они качественные изменения в социуме? Согласитесь, что люди, взаимодействующие с компьютером, отличаются от тех, кто пользуется библиотеками.

reload

Все начиналось с использования обычного клавиатурного метода и голосовых команд. Теперь мы научились управлять машинами голосом, начинаем создавать нейроинтерфейсы и обучаем нейронные сети на основе нашего собственного поведения. Затем появляются «умные» гаджеты — персональные интеллектуальные помощники, такие очень умные Siri. Мы можем делегировать им рутинные операции — заказать еду или вызвать такси. Таким образом, наша жизнь упрощается благодаря искусственным агентам. Существует популярное мнение, о том, что чем больше функций мы делегируем машинам, тем глупее становимся. Но передавая устройствам большие объемы информации, мы оставляем для себя более сложные вопросы.

С использованием голоса, текстовых сообщений, графики и активности в сети формируется новый «условный» человек. Все воссоздается на тех параметрах, которые сейчас носят название «цифрового следа» — это то, что есть практически у каждого пользователя соцсетей — видео, фото, записи и т. д. Полноценного социально активного человека невозможно создать, имея только лишь эти параметры. Как минимум, нужно учитывать сенсорику и эмоции, а для разработчиков это пока неосуществимые вещи.

Возможно ли цифровое бессмертие?

В ближайшем будущем мы столкнемся с тем, что обученная цифровая сеть может стать нашим «клоном». Но не исключено, что подобные эксперименты выльются в противоправные действия, в частности в «угон личности» в виртуальной реальности. Многими экспертами даже называется понятие «кризис идентичности» — эффект, когда наша идентичность для окружающих в большей степени определяется цифровым следом, который, в свою очередь, легко подделать и украсть.

reload

Но виртуальный мир без реального не имеет особого смысла. Несостоятельность виртуального пространства объясняется тем, что контент не может генерировать сам себя: для этого нужен постоянный приток данных. Его нужно продолжать развивать, а это требует постоянного включения пользователей и разработчиков. Именно поэтому люди, которые обречены на цифровое бессмертие, будут просто уходить в «грязные» данные — неактивные, неактуальные, боты и т.д.

Новые технологии — вред или благо?

Технологическое развитие общества несомненно несет много качественных изменений. Раньше каждая разработка проходила долгий путь перед массовым внедрением. Сейчас информация распространяется с невероятной скоростью. Завоевать огромное количество пользователей можно очень быстро. Для разработчиков становится актуальной проблема социальной ответственности: ученые должны отдавать себе отчет в том, как их проекты повлияют на социум.

reload

Технологий с каждым днем становится больше. Трудно оценивать комплексность их влияния на жизнь человека. Сегодня их сначала практикуют, и только потом оценивают последствия. Любую технологию можно использовать как во благо, так и во вред. Поэтому на разных этапах создания технологий нужно подключать экспертные группы, в том числе состоящие из социальных ученых. Они действительно могут оценить или дать хотя бы приблизительную картину того, какие последствия и риски остались за пределом внимания разработчиков.

Что мешает развитию технологий?

Конечно, существуют технологии, применение которых могут негативно сказаться на социуме. Но есть и примеры позитивного применения технологий, которые тормозят различные сообщества, руководствуясь этическими соображениями. В их числе, например, лечение генетических заболеваний с помощью редактирования генома и технология использования ГМО. В первом случае не был получен эффективный результат процедуры, а во втором уже были пройдены все испытания, но тем не менее у нас она запрещена.

Общество оказывается не готово к некоторым техническим разработкам даже не столько из-за этического, сколько из-за психологического барьера. Он возникает по двум причинам. Первая заключается в недостатке информации. Вторая существует до тех пор, пока обсуждаемая разработка не становится повесткой дня на политическом уровне и пока официальные представители не заявят о конкретной позиции, которая потом станет разделяться большинством населения.

Кому выгодны новые технологии — обществу или власти?

Новейшие технологии скорее приводят к поддержке прав человека, толерантности, всему «хорошему, доброму, вечному», нежели, наоборот, к тоталитаризму, «закручиванию гаек» и нарушению прав человека через передачу контролирующим группам новых методов слежения и подавления. Ведь когда в обществе процветает тотальный контроль, то предполагается, что доступ к информации просто отсутствует.

reload

Но чтобы все «хорошее, доброе, вечное» продолжалось, нужна большая осознанность пользователей. И именно это сейчас и происходит: она возрастает и становится частью повседневности. Контроль власти был и будет всегда, но интернет дает трансграничную реальность, возможность анализировать и проверять информацию.

Каким будет человек ближайшего будущего?

Вне зависимости от степени вмешательства технологий в жизнь человека, чувства, эмоции остаются пока очень слабо воспроизводимыми — они во многом составляют сущность человечества. Фундаментальные ценности в виде морали и нравственности или совесть не могут быть воссозданы технологиями. Поэтому тотальное репродуцирование человека в искусственном виде бессмысленно.

То, что воспроизводит искусственный интеллект в качестве морального решения, является обработкой исходных данных о том, что такое мораль. Для машины решение будет считаться математической установкой в виде «наименьшего зла» а точнее, — оптимального выбора с точки зрения калькуляции исходных данных. Человек в реальной жизни руководствуется другими принципами.

reload

В современной жизни у всех людей разные моральные представления. Где пролегает граница между тем, кого можно назвать человеком, и тем, кого нельзя? Зачатие с помощью экстракорпорального оплодотворения или клонирование еще долго будут рассматриваться обществом как несанкционированное вмешательство технологий в жизнь. Но созданные таким образом организмы вряд ли лишатся права на существование. Пока этот новый homo sapiens сможет проходить все этапы социализации и будет обучаться, как все, и полноценно участвовать в социальной жизни, он сможет называться человеком.

08 ноября