Новости Календарь



Быть или не быть? А пусть робот решает!

Slon продолжает публикацию доклада Андрея Мирошниченко, эксперта в области медиа, «Экология интернета», прочитанного на конференции «Медиапространство и медиаповедение: образовательная и экологическая парадигмы» в МГГУ имени Шолохова. Во второй части лектор рассказывает о том, что в скором будущем даже простое неучастие в сети будет более затратным, чем участие. Человек не сможет не пользоваться удобствами сети. Первую часть читайте здесь.

В цифровом пространстве для нас есть личное жилище, есть городская площадь – агора, есть магазины. Наш виртуальный кадавр, представляющий нас в социальных сетях, становится все лучше, все «настоящей». Но мы пока еще находимся в пещерном веке с точки зрения заселения сети.

В физическом мире человек настолько могущественен, что задача экологии сейчас – защищать окружающую среду от воздействия людей. Но в первые века и тысячелетия человечества, несомненно, сам человек нуждался в защите от нее. Так же и в «первые века» заселения сети: среда угрожает человеку больше, чем человек – среде, потому что в этом новом мире мы еще неопытны и беззащитны.

В этом месте появляется идея управления цифровыми рисками, то есть идея регулирования интернета.

У раннего человека не было возможности регулировать природу законами о защите от порнографии. Поэтому все окружающие опасности обрушивались на него и чинили свое зло. Однако с точки зрения эволюции забота о безопасности особи нелепа, потому что выживает вид, а не особь. Больше того, именно отбраковка особей является залогом адаптации и выживания вида.

В этом смысле, если апеллировать к естественно-природному восприятию отношений человека и среды, то надо признать, что отбраковка – нормальный процесс, который и приведет к адаптации человека (или некоего следующего вида) в цифровом пространстве.

Однако такая установка противоречит гуманистическим идеалам позднего человека, согласно которым каждая личность имеет ценность. Здесь проявляется довольно интересное противоречие. Гуманизм отрицает идеи выбраковки и социального дарвинизма – теперь уже применительно к цифровой среде. Вроде бы надо бороться за безопасность каждого человека, ограждать от вредных влияний среды. Но этот путь ведет к тоталитаризму, потому что для регулирования среды кто-то должен узурпировать представление о том, какие свойства среды полезны, какие нет. Причем узурпируют суждение об угрозах нового мира те люди, которые, очевидно, являются адептами старого мира. Понимание их не интересует, а сопротивление логично превращается в мракобесие.

Защита личности при таком подходе превращается в насилие над личностью. Дело даже не в девиациях, которыми обрастает регулирование интернета в конкретных политических режимах. Сама идея регулирования среды – это идея применения критериев вреда и пользы. Но среда ведь не имеет критериев, это свойство человеческого к ней отношения. Тут мы возвращаемся к дихотомии понимания и сопротивления. Образуется ловушка: сопротивление без понимания. Вот в это и превращается регулирование интернета; еще даже до того как политики приватизируют эту тему ради сохранения своей власти.

С другой стороны, идее регулирования противостоит идея саморегулирования. Саморегулирование, однако, не требует от нас каких-то действий, на то оно и саморегулирование. Механизмы саморегулирования постигаемы пониманием. И понимание показывает, что среда сама по себе имеет встроенные фильтры, которые все-таки делают новую экосистему пригодной для выживания.

Да, интернет – большая свалка. Но в реальности свалку никто не потребляет, иначе мы просто умерли бы от истощения. Свалка является таковой по способу складирования: публикуй, что хочешь, никаких фильтров нет. Но при потреблении информация оказывается упорядоченной. Естественным образом возникают три вида фильтров, которые поддерживают нашу интернет-гигиену на довольно высоком уровне. Иначе и не было бы никакого интернета, никто бы им не пользовался.

Первый фильтр – закладки нашего браузера и подбор друзей во френдленту. Мы ставим такие закладки и выбираем таких корреспондентов, которые проверены опытом личного взаимодействия. Не всегда они так уж хороши и безопасны, но это все-таки довольно серьезный отбор, на порядки снижающий энтропию, сужающий выдачу и повышающий релевантность. Для каждого из нас закладки браузера и настройка френдленты просто физически отсекают 99, 9 в периоде процентов интернет-контента, точнее, интернет-хлама.

Второй эшелон фильтрации, более тонкий – вирусный редактор. Сеть наших корреспондентов отбирает ту информации и изменяет ее в ходе передачи таким образом, как это релевантно для круга наших корреспондентов. Это важнейший социальный фильтр контента, где коллективная редактура в ходе вирусного распространения не просто отбирает и доставляет информацию, но и создает социальную гравитацию в масштабах сообществ или всего общества. То есть тут достигаются оба типа релевантности – и персональная, и групповая.

Третий фильтр – машинный. Это алгоритмы релевантности типа Edge Rank и Page Rank, которые используются в Facebook и Google соответственно (интересно, что они даже названы как близнецы). Алгоритмы релевантности следят за тем, что мы лайкали, куда заходили, чем интересовались, – и потом предлагают нам такую выдачу, которая опирается на наши предыдущие предпочтения. Это очень удобно. Робот существенно сужает поле выдачи, исходя из наших персональных предпочтений, выраженных ранее.

Машинный фильтр, в отличие от человеческого личного (закладки и френдлента) и человеческого группового (вирусный редактор), вызывает у исследователей некоторые опасения.


Проблема в том, что благодаря алгоритмам релевантности наши будущие интересы оказываются в тюрьме наших прошлых предпочтений. Снижается вероятность случайных узнаваний и открытий.


Кроме того, влияние робота на персональную выдачу становится все лучше, а значит, все незаметнее.

Пока что человек еще способен заметить, что робот вмешивается в формирование ленты. Почему в Facebook мне не показывают Василия Пупкина?! Почему это алгоритм решил, что Василий Пупкин мне неинтересен? Да, я его не лайкал, ведь Пупкин мыслит не так, как я, мне не с руки его лайкать. Но меня возмущает, что робот решает за меня.

Очевидно, нас ждет война между вирусным редактором и алгоритмами релевантности. Если следовать логике развития удобств, то алгоритмы победят, человек сдастся. Но к этому моменту человек уже должен будет переселиться в сеть, и релевантность станет чем-то вроде шестого чувства – чувственным навыком новой цифровой личности. Алгоритмы релевантности станут социальными железами этого нового существа, они будут вырабатывать гормон релевантности.

Так или иначе, в цифровой среде объективно и самопроизвольно вызревают и развиваются три эшелона фильтров. Но тут возникает новая угроза. Фильтрация все меньше зависит от человека и все больше зависит от алгоритмов. Мэйджоры сетевого мира создают удобства, ориентированные на лень. Успешно то, что требует меньше усилий для входа. Эргономика, дизайн, релевантность – все главные магические заклинания нацелены на снижение порога входа. И он будет все ниже.

Принцип Метклафа гласит, что полезность сети растет с ростом ее использования. Чем больше участников, чем больше они тратят времени на создание совместного пространства, тем полезнее пространство для каждого из них. Но принцип Метклафа имеет и оборотную сторону, на которую указывал, в частности, Элай Паризер в своей книге «The Filter Bubble». Польза сетевого эффекта порабощает пользователя.


Механизм примерно следующий: чем проще войти, тем сложнее не войти. Чем чаще входишь, тем больше вкладываешь. Чем больше вкладываешь, тем труднее отказаться от использования уже обжитого тобой пространства.


Ты попадаешь в зависимость от сложенных туда «вещей» и настроенных там связей. Переезд в другое место оказывается очень травматичен или даже невозможен.

В общем, чем ниже цена входа, тем выше цена выхода. В скором будущем даже простое неучастие в сети будет более затратным, чем участие. Человек будущего не сможет не пользоваться удобствами сети. А удобства эти будут создаваться машинами.

Новая угроза связана с разногласиями, которые возникнут между роботом и человеком по поводу интерпретации первого закона Азимова. Этот закон гласит, что робот не может причинить вреда или допустить причинение вреда человеку.


Но когда робот станет достаточно умным, он легко поймет, что человек, вообще-то, часто сам себе причиняет вред. Например, человек тупо убивает время жизни, просматривая огромные объемы нерелевантной информации. Так надо же дать ему релевантную!

Алгоритмы Edge Rank и Page Rank уже фактически трактуют первый закон робототехники как необходимость нянчить человека – существо неразумное и самовредительное. Лента Facebook подстраивает выдачу под наши потребности, но определяет наши потребности сама. Мало кто оценивает ее алгоритм как удобство (а это безусловное удобство), но многие видят в нем посягательство на свои права. В конце этого пути возможен бунт машин из кинофильма «Я, робот», в котором позитронный мозг решил, что людям ради их блага необходима опека, и перепрограммировал каждого домашнего робота-помощника в робота-надзирателя. Исключительно для заботы о человеке. (Фильм снят, кстати, по мотивам произведений Азимова, который и сам понимал парадокс своего первого закона.)

Оказывая человеку услугу релевантности, алгоритмы постепенно отнимают у него монополию на представление о том, что полезно. В этом смысле перехват власти машинами начался. Алгоритм релевантности уже превращается из помощника в надзирателя. Дальше должно произойти вот что: не виртуальная личность будет питомцем человека, а совсем наоборот, человек станет домашним любимцем компьютерного существа. Создание начинает заботиться о создателе. Но на свой манер, который нам, по нашей гордыне, не понравится.

Так что не только регулирующие органы старого мира, но и сама сеть намерена устраивать наше сетевое счастье железной рукой. И сеть, в отличие от регулирующих органов, окажется более успешной.

Я не вижу, как тут можно было бы эффективно сопротивляться логике сетевого развития, кроме собственно отказа от сетевого развития. Но и отказ невозможен. Любое сопротивление, любые попытки поставить барьеры, если они окажутся хоть немного успешными, будут лишь накапливать потенциал отставания, ведущий к взрыву в той или иной форме. Частный человек еще может выдернуть штепсель и уехать в пампасы (хотя таких единицы), но общество в целом – нет.

Читать первую часть доклада
Читать третью часть доклада
Читать четвертую часть доклада