как работает коллективный разум
Коллективный разум — как толпа может предсказать почти все
Коллективное мнение широкой группы случайно собранных людей, возможно более точное чем мнение отдельно взятого человека, даже если этот человек является экспертом в данном вопросе. Эта концепция не является новой. Еще Аристотель в 350 г. до н.э писал в «Политике»:
«Возможно, что многие, хоть по отдельности и не хорошие люди, но когда они соберутся вместе, могут быть лучше, не индивидуально, а коллективно, точно так же, как общественные обеды, в которые многие вносят свой вклад, лучше, чем если бы поставлялся за счет одного человека».
В 1906 г. в городе Плимут (Великобритания) на сельской ярмарке был проведен эксперимент. Френсис Гальтон в качестве развлечения посетителей ярмарки предложил на глаз оценить вес выставленного на всеобщее обозрение быка и написать эту цифру на специальном билете. За правильные ответы организаторы шоу обещали призы. В результате в голосовании приняли участие около 800 человек — как заядлых фермеров, так и людей, далеких от скотоводческих дел. Собрав после этой ярмарки все билеты для анализа, Гальтон высчитал среднее арифметическое значение для всей выборки — 1197 фунтов. Реальный же вес быка оказался 1198 фунтов (543,4 кг). Каким-то непостижимым образом разношерстная публика дала ответ, максимально приближенный к реальному показателю. Т.е. ответ публики был точнее чем ответ отдельно взятого эксперта, например мясника или скотовода. Гальтон, который до этого свято верил в селекцию и превосходство одних людей над другими, был вынужден сменить вектор своих исследований.
При определенных условиях, интеллект толпы гораздо более точен и надежен, чем специализированные знания любого человека в ней. Этот феномен был воспроизведен множество раз в разных областях.
Джон Пинья Крейвен (John Piña Craven) основным направлением работы которого был поиск и подъём утерянных военных объектов в глубоководных частях мирового океана и другие специальные операции с применением подводных лодок, собрал широкий круг людей (т.е. толпу) для поиска, состоявшую из математиков, специалистов по субмаринам, океанологов, военных. Крейвен попросил их всех сделать предположение где затонул «Скорпион», основываясь на вероятных сценариях гибели подлодки. Проанализировав ответ каждого, Крейвен указал координаты поиска подлодки, и… оказался прав.
Возникает один вопрос: «Если толпа может быть настолько умной, почему мы это не используем во всех аспектах жизни?»
Феномен «мудрости толпы» стал использоваться в бизнес-стратегиях и рекламных пространствах. Фирмы и компании собирают отзывы потребителей и в соответствии с этим разрабатывают рекламу. Этот феномен был поставлен в центр внимания социальных сетей, таких как Quora, Stack Exchange, Wikipedia и другие веб-ресурсы, основанные на коллективных человеческих знаниях. Ну или самый простой пример, вы вряд ли посмотрите фильм, если средняя оценка на Кинопоиске или IMDB ниже 7. Коллективный ум используется в выборах президента и других лидеров (ладно, последний пример не самый удачный).
И казалось бы, одна голова — хорошо, а две — лучше. Если уж на то пошло, три головы — еще лучше, чем две, а четыре — тем более. При наличии сотни или тысячи разум просто обязан восторжествовать. Но почему мы имеем финансовые «пузыри», религиозные секты и Гитлера?
Что делает толпу разумной? Согласно журналисту и писателю Джеймсу Суровецки, коллективный разум основывается на двух факторах: разнообразие и независимость. Толпа, состоящее из представителей разных профессий, возрастов, национальностей, умнее чем толпа состоящее из «одинаковых» людей. Разные люди обращают внимание на разные «детали», и, если их правильно соединить, коллективное знание будет обширнее (и подробнее) знания любого отдельного человека. Независимость толпы также имеет значение. Вспомним игру «Кто хочет стать миллионером?».
Статистика шоу показывает, что в случае звонка эрудированному другу правильный ответ был выбран лишь в 65% случаев, а когда игрок выбирал помощь зала, ответ большинства был верным в 91% случаев. А теперь представьте, что во время подсказки зала, кто-то крикнет: «Правильный ответ — B!». Насколько это повлияет на конечный результат? А что если бы во время Плимутской ярмарки, кто-то подсказывал людям сколько весит бык?! Когда толпа прислушивается к мнению одного отдельного человека, толпа перестает быть «коллективным разумом».
Суд присяжных, состоящий из 12 разных независимых людей, можно привести в качестве примера «коллективного разума». И если 11 из них начнут прислушиваться к мнению одного, то этот суд ничем не отличается от того, если бы судил один человек. В фильме «12 разгневанных мужчин» (1957) наглядно показано, как от мнения одной сильной личности в суде присяжных, зависит судьба приговоренного (кстати, фильм имеет оценку 8,9 в IMDB).
Новые медиа часто ассоциируются с популяризацией и повышением качества коллективного интеллекта. Способность новых медиа с легкостью сохранять информацию и пользоваться ею, большей частью при помощи баз данных и интернета, позволяет беспрепятственно делиться ею. Таким образом, путём взаимодействия с новыми медиа, знание легко переходит от источника к источнику давая в результате разновидность коллективного интеллекта. Использование интерактивных новых медиа, в частности, интернета, поощряет онлайн-взаимодействие и такое распределение знания между пользователями.
В коллективе есть два типа людей: когнитивно центральные — знающие то же, что почти все остальные члены группы, и когнитивно периферийные, обладающие уникальной информацией. Чтобы хорошо работать, группам надо пользоваться знаниями когнитивно периферийных людей. Но в большинстве групп при обсуждении решений первую скрипку играют когнитивно центральные члены коллектива. Объясняется это просто: люди предпочитают слышать известную всем информацию и слушать тех, кто может ее предоставить. Поэтому когнитивно центральным членам группы доверяют больше, чем когнитивно периферийным.
При коллективном обсуждении самое главное — помочь группе проанализировать всю информацию, которой располагают ее члены, и не позволить ложным информационным сигналам и репутационному фактору воздействовать на решение.
Таким образом, толпа склонна принимать наилучшие решения, если она состоит из различных мнений и идеологий. Усреднение может устранить случайные ошибки, которые влияют на ответ каждого человека по-разному, но не систематические ошибки, которые влияют на мнение всей толпы в одном и том же месте. Так, например, нельзя ожидать, что метод «мудрости толпы» компенсирует когнитивные искажения.
Толпа, как правило, работает лучше всего, когда есть правильный ответ на поставленный вопрос, например, вопрос о географии или математике. Когда нет точного ответа, толпа может прийти к произвольным выводам. Эффект мудрости толпы легко подорвать. Социальное влияние может привести к тому, что среднее значение ответов толпы будет совершенно неточным, в то время как среднее геометрическое будет гораздо более надежным. Эксперименты, проведенные Швейцарским федеральным технологическим институтом, показали, что, когда группе людей предлагалось ответить на вопрос вместе, они пытались прийти к консенсусу, который часто приводил к снижению точности ответа. т.е. какова длина границы между двумя странами? Одно из методов по борьбе с этим эффектом — обеспечить, чтобы в группе было население с различным происхождением.
Как повысить точность ответов толпы — объединение людей в рои, или так называемый Human Swarming. В 2015 году в «Ночь Оскара» группа случайных кинозрителей вошла в историю предсказаний премии, превзойдя прогнозы подавляющего большинства экспертов киноиндустрии, включая New York Times и FiveThirty Eight. Они сделали это, используя новую, отличную от других форму искусственного интеллекта, называемой Swarm Intelligence. Он работает путем объединения знаний, мудрости, эмоций и интуиции реальных людей в режиме реального времени.
Но это был не опрос — это живая система, связанная алгоритмами «роения», дающая возможность группам онлайн-пользователей объединять свой интеллект таким образом, чтобы это намного превышало возможности отдельных членов. Проще говоря, Swarm Intelligence позволяет группам эффективно объединить свои усилия, превращая обычных фанатов в супер-экспертов. Группа предсказала победителей 15 лучших наград всего за 15 минут. Как сообщают Newsweek и Discovery, средний человек, участвовавший в исследовании, работая в одиночку, получил только 3 из 15 правильных ответов (40%). У них получилось немного лучше, когда исследователи объединили данные в простой опрос, выбрав наиболее популярный ответ для каждой категории. Получено 7 из 15 правильных ответов (47%).
Но когда группа работала вместе как рой, используя программную платформу UNU, они предсказали 11 из 15 правильных (73%). Это было намного лучше, чем даже у самого результативного человека в группе, который правильно угадал всего 9 категорий. Он также был лучше, чем New York Times, который также получил 9 из 15 правильных ответов. Ясно, что многие умы лучше, чем один…
Ободренные этими первыми результатами, исследователи из Unanimous A.I. протестировали возможности этих «роев» в различных областях, от финансовых рынков до плей-офф НФЛ. И эти рои продолжают впечатлять, обыгрывая экспертов ESPN неделю за неделей и опережая 99% игроков, делая ставки на Суперкубок.
На правах рекламы
Нужен сервер для размещения приложения или для любых других целей? Наши эпичные серверы с современными и мощными процессорами от AMD прекрасно подойдут. Широкий выбор конфигураций с посуточной оплатой.
Коллективный разум — мифы и реальность
Эта статья — развернутый ответ на эту статью. на мой взгляд, сам плохо разобрался в вопросе, который он затронул. Вот что говорит Шурьевски(оригинал):
Для того, что бы толпа была умной, она должна удовлетворять следующим условиям:
1. Разнообразие. Мнение специалистов из нескольких прикладных областей будет точнее мнения специалистов из одной области. Команда из программистов, дизайнеров, менеджеров, юзеров и копирайтеров сделаю сайт лучше, чем каждый из них в отдельности(если вообще в отдельности сделают =)).
2. Независимость. То есть дизайнер не должен навязывать свое мнение программисту и наоборот. Все мнения должны суммироваться одним человеком к примеру арт-директором.
3. Децентрализация. «Сила присуща не только централизованным структурам, где часто решения принимаются на основе каких то своих мнений и локальных спецификах, а не на глобальных и смотрящих в будущее.» Опенсорс отличный пример децентролизованности в действии.
4. Агрегация (если честно не знал значения этого слова, если вы тоже, то читаем тут). Как я уже писал все мнения надо суммировать. Этим занимаются менеджеры, арт-директора и им подобные.
Если есть переводчики буду рад вашей помощи в точном переводе.
Добавлю от себя: что бы эта модель работала, не должно возникать сомнений в профессиональности специалистов, то есть они должны быть действительно специалистами. С этими тезисами я полностью согласен. Они дают четкое представление о методе и границах его применения. В гугле тоже походу согласны: в последнем абзаце написано, что они для этих целей используют своих сотрудников(думаю мало у кого возникнут сомнения по поводу профессионализма гуглеров). За точный перевод так же был бы благодарен переводчикам =)
Вернемся к автору топика, с которым я решил поспорить. Вот его трактовка книги: идея простыми словами: если взять большую группу людей и задать каждому определенный вопрос, а потом посчитать средний ответ, то он, с большой долей вероятности, будет ближе к истине, чем ответы экспертов. Можно заметить, что либо автор не понял идеи Шурьевски, либо в книги идеи автора отличаются от его комментарие по поводу этой же книги. Может быть Шурьевски лукавит и книгу он написал ради денег, а не ради продвижения своих идей, может переводчик плохой попался, может это все бред, может гениальная теория. Но одной лишь книги недостаточно для прояснения этого вопроса.
Всякие попытки посчитать орешки, объем или линейные размеры — бессмысленны. Этим псевдометодом нельзя добиться больших результатов. У гугла, и других крупных компаний использующих этот подход, наверняка есть сложный алгоритм, раскрывать который ни кто не будет. А это всего лишь средне арифметическое. Проводя подобные эксперименты нельзя ничего добиться. Необходима теоретическая база и серьезные исследования.
Предположим найдут способ предсказывать различные события с большой точностью. Сразу же пропадет всякий интерес к той области, где все можно предсказать. Зачем, что то делать если результат известен? Мне сразу вспоминается фильм Гаттака. В фильме было две категории людей: нормально рожденные и с измененным генетическим кодом. Все предсказывалось(не совсем предсказывалось, но аналогию провести можно) исходя из этого ген. кода. Естественно у нормально рожденных этот код был хуже, поэтому их считали изгоями. В фильме нашелся гадкий утенок, он родился без всяких генных изменений и ему предсказали, что он не доживет до 18 лет(точно не помню), но нет, наш утенок не только пережил положенные ему года, но и поимел систему — вопреки всяким прогнозам он превзошел многих с правильным генетическим кодом, доказав никчемность этой теории. Так случится и в реальности — человеку свойственно выходить за рамки(не рамки картины, а рамки общедоступного, общепринятого). Есть ли вообще смысл создавать эти предсказания?
Теперь про рынки предсказаний — если верить вики, то на крупнейшая в мире букмекерской интернет-бирже, в 2007 торговый оборот составил 28 миллиардов долларов США. Здесь ситуация такая же как и с азартными играми. Люди хотят верить в то, что повезет именно им и они сорвут банк. Поэтому и играют. Я терпеть не могу азартные игры(казино), и подобные биржи тоже. Не понимаю я как можно на это надеяться. Надо пахать и зарабатывать деньги, а не надеяться выиграть миллион. Поэтому дальше тему подобных бирж разбирать не буду.
В заключении хочу пожелать успехов naz2 и позволю себе дать совет: если интересна данная тема, то необходимо рассмотреть ее со всех сторон, подвергнуть конструктивной критике все тезисы, теории и предположения. Если они выдержат критику, значит они жизнеспособны. naz2 недостаточно глубоко капнул в этом направлении. Надо искать первоисточник. У гугла в блоге есть графики, графики строятся по формулам, почему у вас нет этих или подобных формул? Найдите первоисточники, подкрепите теорию научными доказательствами и вперед =)
P.S. Одна голова — хорошо, две — лучше.
В создании топика принимал активное участие Google Docs, за что ему огромное спасибо =)
Что умеет коллективный разум?
Одна голова — хорошо, две — лучше, а если больше, то вообще идеально! Еще Аристотель наставлял современников: «если в обсуждении участвует много людей, каждый внесет свою часть добродетели и благоразумия… Один понимает одно, другой — другое, а вместе они разумеют все».
Говорилось это про коллективный разум. Что это такое? Как его получить? И каким образом групповой интеллект используется крупнейшими корпорациями современности для их развития? Читайте — и узнаете.
Система коллективного разума — это плод глобальной коммуникационной сферы. Самый наглядный пример — рой пчел, муравейник, косяк рыб, стая птиц или волков. Эволюция показывает: чем больше сила коллективного мышления, тем быстрее общность приспосабливается к изменениям среды.
От муравья до интернета
Впервые о роли группового разума на принятие решений с точки зрения социологии заговорили в восьмидесятые годы прошлого века. Главный посыл прост: коллективный интеллект более продуктивен, чем даже самый гениальный индивид.
Например, мозг муравья включает до 500000 нейронов, но при этом трудяга не задумывается о структуре колонии и ее эволюции, а выполняет лишь конкретный набор действий на уровне инстинктов. Однако синергия всех особей позволяют семье получать все сведения об окружающих обстоятельствах, которые нужны для жизнеспособности муравейника. При этом никакого единоличного начальника-контролера над муравьями не стоит.
В человеческом социуме коллективный разум — ключевой элемент разных институтов: правительства, предприятия, команды, семьи.
Интернет — новая феноменальная форма коллективного разума. Это совокупность нейронов, глобальная нейросеть, объединяющая в одну систему людей со всего мира, причем в реальном времени. Потенциал энтузиастов используют для решения общественно важных задач — это явление называется краудсорсинг. При этом стоимость и время получения результата заметно уменьшаются.
Необычные биржи
Корпорации тоже берут на вооружение научную мысль. С так называемыми рынками предсказаний востребованности продукции работают Hewlett-Packard, Microsoft, Google, General Electric. И это только самые крупные компании, которые приходят на память.
Существуют и специальные биржи прогнозирования, участники которых сообща заглядывают в будущее. Так, в проекте университета Айовы предугадывают результаты выборов, а ставки делаются на реальные деньги. Как показывает жизнь, эти прогнозы оказываются точнее, чем exit polls.
В Голливуде прогнозируют сборы фильмов, оценивают актеров (у каждого «лота» свои акции, ими можно торговать за виртуальные деньги). В 2006 году участники предсказали 32 из 39 номинантов на «Оскар».
А сервис «TechCast» содержит 100 экспертов, которые анализируют развитие технологий в ближайшем будущем. Так, 56% участников уверены, что первая лунная база появится уже 2029 году.
Пища для ума
С одной стороны, коллективный разум — интересная тема и бездонное поле для исследований. Но с другой, это громкое напоминание всем мыслящим людям о том, что всегда нужно собственное мнение и не руководствоваться мнением толпы. А для этого следует развивать критическое мышление. В одноименном курсе Викиум моделирование разных ситуаций всего за девять шагов позволит вам освободиться от негативного влияния стереотипных умозаключений, сильных эмоций, стадного инстинкта и стать самодостаточной и самостоятельной личностью — творцом собственных теорий, а не тем самым «муравьем» с ограниченным набором стандартных действий.
Коллективный интеллект — будущее человечества или гибель личности?
Авторизуйтесь, если вы уже зарегистрированы
К.т.н., преподаватель, Новосибирский государственный университет, основатель проекта «Aigents», архитектор проекта «SingularityNET», эксперт РСМД
Сейчас всего несколько глобальных информационных сетей объединяют не менее половины всего человечества, где каждый индивидуум оказывается одновременно и живым сенсором, непрерывно передающим в сеть информацию о своем состоянии, и актором, способным воздействовать на окружающую среду в соответствии с теми мотивациями, которые он получает из сети.
Формируется ситуация, в которой отдельно взятый человек оказывается не в состоянии контролировать и даже осознавать смысл и значимость всех информационных потоков и процессов, в которые он оказывается вовлечен. Возникающие формы «коллективного бессознательного» поведения могут охватывать массы населения, вовлеченные в подобные сети — будь то сеть масштаба государства (как в случае национальных социальных сетей, действующих на территории КНР) или сеть масштаба планеты (как в случае с Facebook или подобными).
Мы имеем дело с возникновением глобальных кибернетических систем «социальных вычислений», подчиняющих себе индивидуальных пользователей в качестве сборщиков информации или исполнителей тех или иных стимулирующих программ. Примечательно, что возможность фактического контроля за прохождением сигналов и анализа смыслов этих сигналов, выявления исполняемых программ, а также формирования подобных программ потенциально сохраняется у ограниченного контингента людей, контролирующих сами системы обработки информации, будь то бизнес-структуры в случае сетей в юрисдикции США или государственные структуры в КНР.
В этом смысле чрезвычайно интересен опыт КНР с ее тотально контролируемой государством социальной сетью и выстраиваемой на её основе репутационной системы «социального кредита», заслуживающей пока противоречивые комментарии. Долгосрочные итоги этого эксперимента можно будет проводить не раньше, чем через одну смену поколений, однако имеющиеся оценки указывают как на рост безопасности и социальной стабильности, так и на возможные пагубные последствия тоталитаризации жизни общества при сохранении возможности манипуляции самой системой и низовыми участниками, и контролирующими её структурами.
Сложность ситуации усугубляется появлением новых сил, ранее неизвестных человечеству — систем искусственного интеллекта (ИИ). Системы машинного обучения при всем их несовершенстве способны выполнять простейшие интеллектуальные задачи вроде распознавания известных объектов или навигации по предопределенным маршрутам гораздо быстрее и надежнее человека. Уже сейчас есть примеры успешного предсказания действий человека, которые успешно применяются при прогнозировании спроса в бизнесе и могут использоваться для предотвращения нарушений в правоохранительной сфере. Однако возможность предсказания поведения дает и возможность управлять им, что также уже используется и в бизнесе.
Что такое интеллект? Присущ ли он разумным существам от рождения или развивается в ходе их взаимодействия с окружающей средой? Является ли интеллект свойством отдельного существа или личности, вроде мыслящего океана, описанного Станиславом Лемом в романе «Солярис» [1]? Или, может быть, это социальное явление, возникающее при взаимодействии отдельных участников социума, будь то люди, муравьи, мушки-роботы из романа того же Станислава Лема «Непобедимый» [2], нервные клетки или даже отдельные белки в человеческой клетке? Можно ли дать точные ответы на все эти вопросы?
Действительно, интеллект отдельных индивидуумов в социуме способствует возникновению коллективного интеллекта социальных групп и сообществ у различных видов — от муравьев и пчел до шимпанзе и человека разумного. При этом одни формы вполне целенаправленного поведения наблюдаются у животных сразу после рождения, а другие требуют обучения, которое может осуществляться либо самостоятельно — методом проб и ошибок, либо при помощи социума — родителей и учителей. В свою очередь интеллектуальные способности отдельных существ, обладающих нервной системой, обеспечиваются децентрализованной коллаборацией различных сегментов нервной коры. Например, последние работы Джеффа Хокинса и компании Numenta [3] показали, как различные кортикальные столбцы вырабатывают совместное решение в части интерпретации предъявленных им стимулов, достигая так называемого консенсуса примерно тем же способом, который принят в сообществах более высокого уровня организации.
Эволюция — процесс развития мира от простого к сложному. Элементарные частицы образуют атомы, атомы — молекулы, из молекул складываются клетки живых организмов и нейронов головного мозга. Из обладающих разумом живых существ — людей — формируются мыслящие сообщества с объединяющим их коллективным сознанием.
Закономерность возникновения более сложных функциональных систем на основе более примитивных в процессе эволюции хорошо показана Валентином Турчиным [4]. При этом происходит так называемый «мета-системный» переход, когда возникает новая функциональная система, более сложная и более богатая функционально, включающая систему-предшественника как один из базовых элементов. Так, атомы в свое время стали частями молекул, молекулы оказались материалом для строительства живых клеток, а клетки развились в различные виды тканей живых организмов, в том числе — в нейроны, дающие нам способность писать и читать. Так и человечеству, согласно еще предсказанию Владимира Вернадского, суждено сформировать «сферу коллективного разума» или «ноосферу» [5].
Однако возникновение такой «сферы коллективного разума» чревато не только переходом планетарной эволюции на Земле на качественно новый уровень, но и влечет определенные риски как для каждого индивидуума, так и для человечества в целом.
Рис.1. «Ноосфера» в сегодняшнем исполнении, или коллективный интеллект на основе глобальных информационно-социальных сетей.
Социальные вычисления на современном технологическом уровне: принципиально новые возможности и угрозы
Фактически уже сейчас всего несколько глобальных информационных сетей объединяют в себе не менее половины всего человечества, где каждый индивидуум оказывается одновременно и живым сенсором, непрерывно передающим в сеть информацию о своем состоянии, и актором, способным воздействовать на окружающую среду в соответствии с теми мотивациями, которые он получает из сети.
Учитывая, что социум и законы его функционирования имеют давнюю историю, уходящую корнями в «законы стаи» уже вымерших видов животных, только в последнее десятилетие возникла ситуация, когда средства электронной коммуникации и обработки данных этой коммуникации начали превосходить по своим возможностям средства, доступные от рождения человеку как биологическому виду [6].
Формируется ситуация, в которой отдельно взятый человек оказывается не в состоянии контролировать и даже осознавать смысл и значимость всех информационных потоков и процессов, в которые он оказывается вовлечен. Возникающие формы «коллективного бессознательного» поведения могут охватывать массы населения, вовлеченные в подобные сети — будь то сеть масштаба государства (как в случае национальных социальных сетей, действующих на территории КНР) или сеть масштаба планеты (как в случае с Facebook или подобными). Что немаловажно, скорость распространения сигналов в таких сетях ограничена только физическими каналами связи, в силу чего распространение сигналов по сбору информации или приведению человеческих масс в действие может происходить практически мгновенно.
Таким образом, мы имеем дело с возникновением глобальных кибернетических систем «социальных вычислений», подчиняющих себе индивидуальных пользователей в качестве сборщиков информации или исполнителей тех или иных стимулирующих программ. Примечательно, что возможность фактического контроля за прохождением сигналов и анализа смыслов этих сигналов, выявления исполняемых программ, а также формирования подобных программ потенциально сохраняется у ограниченного контингента людей, контролирующих сами системы обработки информации, будь то бизнес-структуры в случае сетей в юрисдикции США или государственные структуры в КНР. Именно это в последние годы в различных формах мы и наблюдаем в США, Европе, Китае и России.
Учитывая потенциальный разрушительный характер спонтанных или искусственно вызванных процессов, протекающих на больших скоростях и охватывающих массы населения в масштабах стран и континентов, трудно предположить, что мониторинг таких процессов и управление ими не были бы использованы для получения прибылей бизнес-структурами и обеспечения национальной безопасности государственными органами.
Рис.2. Сегментация современного мирового информационного пространства основными информационно-социальными сетями.
Достижение социального консенсуса и демократическое управление — старая проблема в новых условиях
В условиях стремительного развития сетевых инфраструктур и платформ неожиданно остро встал вопрос о достижении социального консенсуса — возможности нахождения взаимоприемлемых решений по любым вопросам множеством участников социума, возникающим в ходе развития этого социума. История институтов самоуправления и власти быстро повторяется в развитии современных сетевых вычислительных платформ в течение нескольких последних десятилетий.
Страны и народы все еще мучительно продолжают выбирать между двумя крайностями. С одной стороны, это тоталитарные институты управления — от альфа-самцов в первобытных стаях до авторитарных диктаторов, способных эффективно мобилизовать ресурсы всего социума для решения стоящих перед ними задач, невзирая на потери низовых членов общества, и неспособных адаптироваться к изменениям вызовов времени и саморазрушающихся при потере лидера. С другой стороны — предельно демократические системы: начиная от концепций всеобщего равенства в анархических системах, которые обычно трансформируются в авторитарные диктатуры (например, во Франции и России), заканчивая прямыми демократиями, эффективность которых возможна только при относительно небольшом числе избирателей и обеспечении их возможностью участия в демократическом процессе за счет труда рабов, лишенных какого-либо голоса (как это было в Древней Греции). Очевидно, что «золотую середину» в данном случае находят в различных формах представительной демократии, в конечном итоге неспособных защитить низовых членов общества от коррупции и злоупотребления властью представителей более высоких слоев населения.
Одна из проблем неэффективности любой формы известного демократического устройства заключается в отсутствии надежного способа определения авторитета избираемого представителя и невозможности донести голос каждого рядового избирателя до самых вершин власти. В первобытных стаях и феодальных обществах авторитет и право голоса определялись длиной клыков и силой мускулов, остротой мечей и количеством бойцов в княжеской дружине. В ряде случаев как в криминальных сферах, так и на уровне межгосударственных отношений продолжает использоваться механизм принятия решений, основанный на силовом противостоянии. По мере развития капиталистических отношений силовые механизмы постепенно заменялись финансовыми, и возможности управления социумом постепенно перешли к обладателям финансовых ресурсов и инструментов. Параллельно неуклонные попытки человечества создать демократические институты, где принятие решений основывалось бы, скорее, на заслуженном авторитете, чем на организационных ресурсах и финансовых инструментах, обеспечивающих голоса избирателей, имеют пока весьма скромный успех.
Примечательно, что история архитектур самых различных сетевых проектов за последние 50 лет, и особенно проектов в области «распределенных реестров» (типа «блокчейн») в последние годы, очень напоминает метания человечества в поисках оптимальных форм самоуправления. На самом деле, так называемый консенсус «proof-of-work», реализуемый в системах Bitcoin и Ethereum (криптовалюты, основанные на технологии блокчейн) — это реализация принципа «у кого сила (больше вычислительных мощностей), тот и прав». Альтернативная форма консенсуса в распределенных вычислительных системах «proof-of-stake» означает «сила в деньгах», а его продвинутая форма «delegated-proof-of-stake» предполагает делегирование управления системой «избранным делегатам», при том что «сила голоса» на выборах определяется финансовыми возможностями. В то же время оригинальная форма социального консенсуса, продвигаемая проектом SingularityNET, предполагает консенсус «proof-of-reputation» [7], основанной на истинной репутации участников социального процесса, вычисляемой на основе принципов «текучей демократии».
Рис.3. Основные принципы достижения консенсуса при самоуправлении в человеческом обществе и распределенных информационных системах.
Социальные сети и репутационные системы — растворение личности в социуме или больше возможностей для каждого?
Можно сделать вывод о том, что управление социумом посредством выявления истинных авторитетов и лидеров через их репутацию или искусственное увеличение репутации одних перспективных лидеров в глазах сообщества и принижение влияния других лидеров будет все активнее использоваться в современных информационных сетях как во благо, так и во вред обществу. С одной стороны, возможность выявления лидеров мнений и авторитетов может быть полезно для их продвижения и реализации наиболее прогрессивных идей и трендов. С другой стороны, использование этой же возможности для нейтрализации выявленных лидеров может как обезопасить сообщество от нежелательных революционных процессов, так и способствовать застою в нем в том случае, если действующие лидеры, обладающие контролем над подобной системой, стараются сохранить контроль любой ценой, подавляя возможные альтернативы. Точно так же быстрому поднятию репутации одних участников в силу фактических заслуг перед социумом и полученной обратной связи от него может быть противопоставлена манипуляция репутацией за счет «накруток», оплаченных за счет бюджета выгодоприобретателя, и взлома системы и изменения «числа подсчитанных бюллетеней», если у выгодоприобретателя есть доступ к системе.
В этом смысле чрезвычайно интересен опыт КНР с ее тотально контролируемой государством социальной сетью и выстраиваемой на её основе репутационной системы «социального кредита», заслуживающей пока противоречивые комментарии. Видимо, долгосрочные итоги этого эксперимента можно будет проводить не раньше, чем через одну смену поколений, однако имеющиеся оценки указывают как на рост безопасности и социальной стабильности, так и на возможные пагубные последствия тоталитаризации жизни общества при сохранении возможности манипуляции самой системой и низовыми участниками, и контролирующими её структурами.
Существующий тренд на явное или неявное управление обществом через манипуляцию общественным мнением, мониторинг поведения большей части общества через социальные сети бизнес-структурами и правоохранительными органами предполагает несколько направлений развития используемых обществом сетевых коммуникационных систем, отчасти противоречащих друг другу.
С одной стороны, для обеспечения верификации новостей и минимизации рисков манипуляций общественным мнением необходима полная деанонимизация сетевых взаимодействий, что позволит исключить «накрутки» ботами и даст возможность верификации источников информации, не говоря уже об облегчении оперативной деятельности правоохранительных органов. С другой стороны, злоупотребление деанонимизированной информацией правоохранительными органами и преступными элементами делает ее опасной для граждан, если правоохранительные органы недостаточно эффективны или подвержены коррупции.
Также полная открытость сетевых взаимодействий и верификация их подлинности с использованием современных технологий (например, «распределенного реестра») потенциально могут снять риск злоупотреблений, поскольку любые коммуникации в сети, включая сообщения между участниками, оценки или отданные «голоса», могут быть верифицированы независимым аудитом, произведенным любой стороной. Хотя такой подход вполне соответствует парадигме «прозрачного общества», он вступает в противоречие с классическими «западными» ценностями о праве на личную жизнь, тайну переписки и даже праве на забвение, поскольку требование возможности аудита сетевых взаимодействий в любой момент делает невозможным удаление истории своих взаимодействий для участников системы.
Наконец, в условиях любого существующего государственного устройства и практик ведения бизнеса, деанонимизация и открытость всех сетевых взаимодействий для всех участников общества может оказаться неприемлемой по целому ряду причин. В этом случае имеются риски расслоения общества на сегменты контролируемых и контролирующих, с возникновением очевидного социального противостояния между двумя слоями.
Сверхчеловеческий супермозг или сеть персональных ассистентов
Сложность ситуации усугубляется появлением новых сил, ранее неизвестных человечеству — систем искусственного интеллекта (ИИ). Системы машинного обучения при всем их несовершенстве способны выполнять простейшие интеллектуальные задачи вроде распознавания известных объектов или навигации по предопределенным маршрутам гораздо быстрее и надежнее человека. Уже сейчас есть примеры успешного предсказания действий человека, которые успешно применяются при прогнозировании спроса в бизнесе и могут использоваться для предотвращения нарушений в правоохранительной сфере. Однако возможность предсказания поведения дает и возможность управлять им, что также уже используется и в бизнесе.
Учитывая экспоненциальный рост возможностей вычислительных систем и ресурсов, вкладываемых ведущими корпорациями (Amazon, Google, Baidu, Tencent, Alibaba, Apple, Microsoft) и государствами (США, Китай) в совершенствование систем искусственного интеллекта, их управляющая роль в жизни и развитии общества будет неуклонно расти. В лучшем случае в краткосрочной перспективе бенефициарами этого процесса станут бизнес-предприятия, управляющие соответствующими сетевыми платформами, их руководители и акционеры, а также государства, с которыми эти предприятия аффилированы. В худшем случае в долгосрочной перспективе выход интеллектуальных систем управления из-под контроля социума может представлять угрозу существования человеческому обществу в том виде, в котором мы видим его сейчас.
Обеспечение безопасности сетевых систем с использованием искусственного интеллекта может быть достигнуто на нескольких направлениях. Первое — это полная деанонимизация систем искусственного интеллекта; соответствующий закон был принят в сентябре 2018 г. в Калифорнии, согласно которому любая ИИ-система обязана как минимум явно анонсировать свою «искусственность» при любых контактах с человеком. Второе — это открытость кода ИИ-систем и протоколов их взаимодействий, особенно если это касается управления людьми или их коммуникациями; данный принцип положен в основу проекта распределенного ИИ SingularityNET (Нидерланды, Гонконг) и репутационной системы, создаваемой в рамках проекта. Третье — доступность ИИ-систем не только ограниченному числу корпораций, использующих последние их достижения в так называемых «персональных ассистентах», предназначенных для сбора информации личного характера о потребительских предпочтениях пользователей с перепродажей этой информации рекламодателям. В отличии от последнего, такие проекты как Aigo (США) и Aigents> (Россия) нацелены на создание «персональных ассистентов» для службы конечным пользователям, а не на сбор информации о них и управление ими для создания человеко-ориентированной среды коллективного человеко-машинного интеллекта.
Источники
1. Станислав Лем, Соля́рис, роман, 1961 г.
2. Станислав Лем, Непобедимый, роман, 1964 г.
3. Jeff Hawkins*, Subutai Ahmad and Yuwei Cui, A Theory of How Columns in the Neocortex Enable Learning the Structure of the World, Front. Neural Circuits, 25 October 2017 https://www.frontiersin.org/articles/10.3389/fncir.2017.00081/full
4. В. Ф Турчин, Феномен науки: Кибернетический подход к эволюции. Изд. 2-е – М.: ЭТС. — 2000. — 368 с., http://refal.net/turchin/phenomenon/
5. Вернадский В. И., Научная мысль как планетное явление // В кн. Вернадский В. И. Философские мысли натуралиста / отв. ред. А. Л. Яншин. — М.: Наука, 1988. — 520 с. — ISBN 5-02-003325-1.