коллективный разум у людей
Коллективный разум. Толпа не всегда глупа
Многочисленные примеры из повседневной жизни, казалось бы, убеждают нас в неспособности коллективного разума принимать правильные решения. Между тем, при определённых условиях группа, даже состоящая в большинстве из людей, не блещущих интеллектом, часто оказывается ближе к истине, чем самые умные её члены.
Прохладным осенним днём 1906 года английский учёный Фрэнсис Гальтон вышел из — своего дома в Плимуте и отправился на ежегодную выставку достижений животноводства.
Бродя по выставке, Гальтон наткнулся на толпу перед одним из павильонов. Посетителям предлагалась необычная игра: на лужайку выведут упитанного быка, и собравшиеся должны угадать вес мяса, который удастся от него получить. За шесть пенсов каждый желающий может приобрести билетик с номером, на котором надо указать свою оценку, а также имя и адрес. Самым точным угадчикам вручат призы. Желающих оказалось восемьсот человек, среди них были фермеры и мясники, но немало было и зевак, совершенно не разбирающихся в животноводстве и пришедших просто поглазеть.
Но вот случай гораздо более сложный и ответственный, чем взвешивание говядины или подсчёт конфет на глаз.
В мае 1968 года американская атомная подводная лодка «Скорпион» исчезла по пути с дежурства в Северной Атлантике на базу. Данные о месте последнего радиоконтакта с лодкой позволяли только предполагать, что искать её следует в районе диаметром 20 миль и глубиной в тысячи метров Причины гибели лодки были совершенно неясны.
Обработав результаты с помощью теории вероятностей, Крейвен получил коллективную оценку местонахождения погибшей лодки. Через пять месяцев после исчезновения «Скорпиона» его нашли на дне в 200 метрах от места, указанного коллективным разумом. Причём место это выявилось только после математической обработки и усреднения ответов, ни один из экспертов конкретно эту точку не назвал. Хотя никто из них не знал ни скорости лодки, ни глубины, на которой она шла, ни крутизны её падения вглубь, группа в целом, как оказалось, это знала. История, к сожалению, не сохранила сведений о том, кому досталась бутылка виски.
Другой трагический инцидент произошёл 28 января 1986 года. Космический челнок «Челленджер», поднявшись с космодрома на мысе Канаверал, взорвался через 74 секунды после старта. Через восемь минут сообщение об этом появилось на ленте биржевого агентства финансовых новостей.
На биржах Америки не бывает времени для минуты молчания. Уже через несколько минут инвесторы начали сбрасывать акции четырёх основных компаний, имевших отношение к старту: «Роквелл» (эта фирма построила сам челнок и его главные двигатели), «Локхид» (создатели стартового комплекса), «Мартин-Мариетта» (изготовители внешнего бака для горючего) и «Мортон-Тиокол» (создатели твердотопливной ракеты, разгоняющей космический корабль в первые секунды запуска).
Фактически это означает, что коллективный разум биржевого рынка решил, что в трагедии виноват «Тиокол». Между тем в день несчастья никаких указаний на это не было. Ни в прессе, ни по телевидению. И на следующий день ни о каких признаках вины «Тиокола» газеты не сообщали.
А рынок уже через полчаса после несчастья, не имея никакой информации, решил, что виновен «Тиокол».
Как это могло произойти?
Выбор был невелик (всего четыре фирмы), и он мог оказаться чисто случайным. А может быть, владельцы акций сочли, что в случае отмены строительства и полётов челноков пострадает больше всех «Тиокол» (остальные три фирмы делают ещё много чего, помимо ракет). Или остановка торгов, вызванная чисто случайным решением части инвесторов сбросить акции этой фирмы, вызвала панику среди остальных биржевиков. Всё это могло быть, и всё же факт удивительный.
Два профессора-экономиста попытались в нём разобраться. Прежде всего они посмотрели, не продавали ли 28 января акции своей компании служащие «Тиокола», которые могли сразу понять, что дело в резиновых кольцах. Нет, не продавали. А не избавлялись ли от акций «Тиокола» сотрудники его конкурентов, которые тоже разбирались в предмете и могли быстро предположить, в чём причина взрыва? Нет, этого не было. А не скупал ли кто-то акции остальных трёх фирм, причастных к «Челленджеру», одновременно сбрасывая акции «Тиокола»? Поступить так было бы логично для информированного человека, который знал, что остальные компании ни при чём, и их акции скоро вырастут, а виновен «Тиокол». Нет, таких участников рынка не было.
Два профессора не пришли ни к какому убедительному выводу.
Что, собственно, произошло в тот январский день? Большой группе людей (акционеров четырёх авиакосмических фирм, потенциальных акционеров и владельцев акций их конкурентов) был задан вопрос: сколько, по-вашему, стоят акции этих фирм после гибели «Челленджера»? И эта многотысячная группа, в которой,скорее всего, не было нобелевских лауреатов, ответила правильно. Не исключено, что там было несколько человек, сразу понявших, что произошло. Но даже если таких людей не было, какая-то отрывочная информация о взрыве и об устройстве космического челнока, имевшаяся в головах участников рынка, сложилась в картину, оказавшуюся близкой к истине. Как это было в случае со «Скорпионом» и с определением веса быка, а также в опытах со студентами.
Другой, менее драматичный эпизод повторяется на той же нью-йоркской бирже каждую весну. Здесь заранее предлагаются цены (так называемые фьючерсы) на флоридский апельсиновый сок. Урожай апельсинов, из которых сделают сок, появится во Флориде только через несколько месяцев. Тем не менее выработанные большим коллективом биржевиков цены предсказывают летнюю погоду во Флориде точнее, чем долгосрочные прогнозы метеорологов. Цены высоки — апельсинов будет мало, погода плохая, а если заранее назначенные цены низки — значит, лето будет отличное и апельсинов будет полно.
Так что же всё это означает? Изучавший проблему американский экономист и психолог Джеймс Суровецкий пришёл к выводу, что усреднение устраняет ошибки, сделанные каждым членом группы. Если достаточно большую группу разных и независимых друг от друга людей попросить сделать какое-то предсказание или оценить вероятность некоего события, ошибки разных индивидуумов взаимно уничтожатся, останется истина или нечто близкое к ней. Разумеется, чтобы так и произошло, члены группы должны обладать какими-то частицами истины.
Однако достаточно просмотреть ежедневные газеты, чтобы найти примеры того, как коллективный разум, вроде бы отвечающий всем этим условиям, может ошибаться. Наиболее ярко это видно на примере массовых социологических опросов. Так, социологи университета штата Мэриленд недавно спрашивали у американцев, какой, по их мнению, процент годового национального бюджета США тратят на помощь другим странам. Среднеарифметический результат составил 24 процента. На самом деле эта доля составляет менее одного процента. Причины такого искажения, в общем, вполне понятны: народу лестно думать, что мы, мол, бескорыстно подкармливаем весь мир.
Другой опрос, проведённый в разгар «холодной войны», показал, что почти половина американцев считала Советский Союз членом НАТО. Возможно, дело в том, что американская пресса в погоне за сенсациями так раздувала разногласия между членами этого оборонительного союза, что уже становилось непонятно, кто там друг, а кто враг.
Мировой Коллективный Разум
Сноски
Примечания
Приложение
2. Проект Глобальное сознание
3. МКР академика Н.Моисеева
4. Алгоритм развития цивилизации
«Стремление к доброте, к поискам красоты оказывается за пределами того, к чему люди сегодня стремятся, зомбированные не только условиями жизни в городах, но и средствами массовой информации, потерявшими чувство ответственности и рождающими опаснейшую положительную обратную связь, разрушающую духовный мир человека.»(25)
«. будущее планетарного общества и каждой отдельно взятой страны решающим образом будет зависеть от распространения знаний, общей образованности, культуры.» (26)
А еще, чтобы человечеств развивалось гармонично с Природой, население планеты, по подсчетам Н.Моисеева, должно быть меньше в 10-12 раз (500 млн. чел.). С расчетом соглашался и Н.Тимофеев-Ресовский.
Имея ввиду, что мышление является основным признаком сознания, Мировой Коллективный Разум можно понимать как объединенное организованное мышление человечества. Его составляющие: все логики, выработанные человечеством: формальная, диалектическая, множественная, математическая; и технические средства: искусственный интеллект и его машинное обеспечение: ЭВМ (прежде всего, суперкомпьютеры), все виды связи, СМИ, транспорт.
Функциональность Разума подчиняется определенным принципам: «Стремление понять мир с помощью разума и преобразовать его в соответствии с разумом называют
рационализмом. «(28). Аналогичным принципом не может не руководствоваться и Мировой Коллективный Разум.
Н.Моисеев оперирует? понятиями Коллективный Интеллект и Коллективный Разум как тождественными. В этом случае, методологическая задача упрощается. Но тогда, проявления Коллективного Разума сводятся к функции рационального мышления. Будем считать этот шаг необходимой уступкой положительному редукционизму.
Рационализм является важным инструментом в противостоянии инстинктам и бессознательным влечениям больших групп людей и отдельных личностей (агрессивность, ненависть, «жажда крови», желание разрушать, сексуальные инстинкты и др.) Одностороннее видение проблем преодолевается научным системным подходом.
11. «Терра инкогнито»
Приложение
Гёрцель Б., Бугай С. Интернет: сверхразум и
за его пределами (отрывок)
4. Коллективный разум
4. Коллективный разум
Появление компьютеров, систем типа Интернет, широкое распространение высоких технологий, их включенность в повседневную жизнь многие считают основной характеристикой информационного общества. И полагают, что человечество уже вступило в стадию “информационного общества”.
Я определяю информационное общество как общество, в котором Коллективный Интеллект (Коллективный Разум) играет в его функционировании роль, аналогичную той, которую играет разум человека в его организме, т.е. содействует развитию общества и преодолению все возрастающих трудностей… И действует во благо всего человечества, формируя новый гомеостаз!
Подчеркну еще раз: когда мы говорим об информационном обществе, то речь идет именно о планетарном обществе в целом, а не об отдельных избранных группах и даже группах стран. И все перечисленные технические свершения я склонен относить лишь к необходимым предпосылкам для появления на планете информационного общества, а не к его становлению, которое я рассматриваю как новую форму социальных отношений в обществе.
Существование Коллективного, или Общечеловеческого, Разума и его могущество людьми было уже давно замечено и понято, что именно Общечеловеческий Разум на протяжении последних тысячелетий определял наше общее развитие. Еще задолго до Рождества Христова возникали учения о познании, в которых выделялось коллективное знание, достигнутое людьми на протяжении веков. Таким образом, представление об Общечеловеческом Разуме как об источнике познания, мудрости является достаточно традиционным. Пришло время превратить эти вопросы в предмет интенсивного научного анализа.
Подобные представления в той или иной мере просматриваются и в западноевропейской философии, особенно в философии Огюста Конта, согласно которой человечество, стремящееся к единой цели, и есть некое Великое Существо, заменившее однажды в сознании людей исчезнувших богов.
Лавинообразное развитие средств связи, накопления и обработки информации и компьютерных технологий создает совершенно новые возможности для развития Коллективного Разума. Этот процесс чем-то напоминает историю развития мозга живого существа, когда увеличение числа нейронов и усложнение связи между ними привело однажды к появлению сознания, свойства которого никак не являются следствием свойств отдельных нейронов, которые практически идентичны у всех живых существ. Не происходит ли нечто похожее в настоящее время с Коллективным Интеллектом, где роль отдельных нейронов играют индивидуальные разумы и отдельные информационные системы? Если моя гипотеза верна, то однажды неизбежно произойдет качественное изменение места Коллективного Разума в планетарной организации человечества. Вот почему информационным мне хочется называть такое общество, в котором Коллективный Разум играет такую же роль в общественном организме, какую играет индивидуальный разум в организме человека, т.е. помогает всему обществу справляться с трудностями обеспечения его гомеостаза, сохранения его целостности вместе с биосферой.
Я надеюсь на то, что Коллективный Интеллект уже в ближайшие годы сможет не только отслеживать происходящие события, но и формировать систему необходимых действий, обеспечивающих гомеостаз человеческого общества. Однако для их реализации нужна еще и коллективная воля, а значит, и соответствующая организация общества.
Вот почему в программах “sustainable development” проблема развития Коллективного Интеллекта должна занять совершенно особое место. И особое значение должен приобрести контроль над его развитием со стороны гражданского общества. К этому вопросу я еще вернусь в одной из следующих глав.
Данный текст является ознакомительным фрагментом.
Продолжение на ЛитРес
Читайте также
Разум космоса и разум его существ
Разум космоса и разум его существ Вселенная едина, но условно можно разделить ее на три области. Одна громадна и, как будто, бессознательна. Это область солнц, вечно погасающих и снова возникающих. Вторая – мир сравнительно малых и потому остывших тел. Это – планеты, луны,
IV. Разум
IV. Разум Идея разума будет приобретать более ясную форму в то же самое время, что и идея понятия. Бесконечная жизнь будет именоваться разумом. Под влиянием одновременно и словаря писателей и терминологии Евангелия, идея Духа (Geist) занимает все более и более значительное
РАЗУМ
РАЗУМ Разум позволил мне понять бессилие разума.
Разум
Разум По исследованиям химии, всякое вещество низшего разряда относится к высшему отрицательно; всякое же вещество высшего разряда своим электричеством производит положительное действие на разряды веществ низших. Вода разлагает дерево, соль, камень; воздух растворяет
Разум космоса и разум его существ
Разум космоса и разум его существ Вселенная едина, но условно можно разделить её на три области. Одна громадна и, как будто, бессознательна. Это область солнц, вечно погасающих и снова возникающих. Вторая – мир сравнительно малых и потому остывших тел. Это – планеты, луны,
КОЛЛЕКТИВНЫЙ ВЫХОД
КОЛЛЕКТИВНЫЙ ВЫХОД Предварительное замечаниеТупик, который необходимо избежать. ОбособлениеКогда человек узнал, что судьба мира в нем самом, он решил, что перед ним открывается безграничное будущее, в котором он не может затеряться, и эта первоначальная реакция часто
Разум
Разум Разум является коммуникационной и управляющей системой между тэтаном и его окружением. Разум представляет собой сеть коммуникаций и картинок, энергий и масс, которые порождаются в результате действий тэтана против физической вселенной или других тэтанов. Тэтан
§ 34. Разум
§ 34. Разум Так как рассматриваемый в этой главе класс представлений свойствен только человеку и так как все то, что столь сильно отличает его жизнь от жизни животных и дает ему такие преимущества над ними, основано, как уже доказано, на его способности к этим
Разум в философии
Разум в философии Вы спрашиваете меня, в чем у философов сказывается идиосинкразия? — Например в их недостатке исторического чутья, в их ненависти к самому представлению о бытии, в их египетских верованиях. Они думают, что оказывают честь какому-нибудь факту, лишая его
40. Разум
40. Разум Исходя из привычки, можно воссоздать особенности того, что мы называем «разумом»; разум – это след совокупностей соприсутствующих событий в некоторой области пространства-времени, где есть материя, особенно склонная к формированию привычек. Чем больше
Постстандартизированный разум
Постстандартизированный разум Третья волна не только заменила образчики синхронизации Второй волны. Она атаковала также основную особенность индустриальной жизни — стандартизацию.Тайный код Второй волны поощрял «паровой каток» стандартизации многих вещей — от
1. Разум и интуиция
1. Разум и интуиция Мне ничего не известно о том, реален или нереален мир мистика. У меня нет желания ни отрицать его реальность, ни доказывать, что его откровение не является подлинным откровением. А хотел бы я сказать следующее (и как раз здесь научный подход становится
189. РАЗУМ
189. РАЗУМ Человек, единственное существо, одаренное рассудком, является одновременно единственным существом, предающимся безрассудству.Бергсон — Два источник морали и религшРазум помогает нам побороть лишь те мелкие капризы, которые мы скоро преодолели бы и без его
Коллективный язык личного благочестия, или Имперское вторжение
Коллективный язык личного благочестия, или Имперское вторжение Итак, существуют формы или идеи благочестия, и есть их выражение средствами иконографии. Мы договорились, что иконография – это не просто язык, а речь, то есть практика пользования языком. Что же такое
Ум да разум
Ум да разум Сын шаха был несказанно глуп. Долго думал шах, чему его обучить, и решил: пусть учится гаданию на песке. Как ни отказывались ученые предсказатели, пришлось им покориться воле господина.Через несколько лет привели они шахского сына во дворец, пали ниц перед
Что умеет коллективный разум?
Одна голова — хорошо, две — лучше, а если больше, то вообще идеально! Еще Аристотель наставлял современников: «если в обсуждении участвует много людей, каждый внесет свою часть добродетели и благоразумия… Один понимает одно, другой — другое, а вместе они разумеют все».
Говорилось это про коллективный разум. Что это такое? Как его получить? И каким образом групповой интеллект используется крупнейшими корпорациями современности для их развития? Читайте — и узнаете.
Система коллективного разума — это плод глобальной коммуникационной сферы. Самый наглядный пример — рой пчел, муравейник, косяк рыб, стая птиц или волков. Эволюция показывает: чем больше сила коллективного мышления, тем быстрее общность приспосабливается к изменениям среды.
От муравья до интернета
Впервые о роли группового разума на принятие решений с точки зрения социологии заговорили в восьмидесятые годы прошлого века. Главный посыл прост: коллективный интеллект более продуктивен, чем даже самый гениальный индивид.
Например, мозг муравья включает до 500000 нейронов, но при этом трудяга не задумывается о структуре колонии и ее эволюции, а выполняет лишь конкретный набор действий на уровне инстинктов. Однако синергия всех особей позволяют семье получать все сведения об окружающих обстоятельствах, которые нужны для жизнеспособности муравейника. При этом никакого единоличного начальника-контролера над муравьями не стоит.
В человеческом социуме коллективный разум — ключевой элемент разных институтов: правительства, предприятия, команды, семьи.
Интернет — новая феноменальная форма коллективного разума. Это совокупность нейронов, глобальная нейросеть, объединяющая в одну систему людей со всего мира, причем в реальном времени. Потенциал энтузиастов используют для решения общественно важных задач — это явление называется краудсорсинг. При этом стоимость и время получения результата заметно уменьшаются.
Необычные биржи
Корпорации тоже берут на вооружение научную мысль. С так называемыми рынками предсказаний востребованности продукции работают Hewlett-Packard, Microsoft, Google, General Electric. И это только самые крупные компании, которые приходят на память.
Существуют и специальные биржи прогнозирования, участники которых сообща заглядывают в будущее. Так, в проекте университета Айовы предугадывают результаты выборов, а ставки делаются на реальные деньги. Как показывает жизнь, эти прогнозы оказываются точнее, чем exit polls.
В Голливуде прогнозируют сборы фильмов, оценивают актеров (у каждого «лота» свои акции, ими можно торговать за виртуальные деньги). В 2006 году участники предсказали 32 из 39 номинантов на «Оскар».
А сервис «TechCast» содержит 100 экспертов, которые анализируют развитие технологий в ближайшем будущем. Так, 56% участников уверены, что первая лунная база появится уже 2029 году.
Пища для ума
С одной стороны, коллективный разум — интересная тема и бездонное поле для исследований. Но с другой, это громкое напоминание всем мыслящим людям о том, что всегда нужно собственное мнение и не руководствоваться мнением толпы. А для этого следует развивать критическое мышление. В одноименном курсе Викиум моделирование разных ситуаций всего за девять шагов позволит вам освободиться от негативного влияния стереотипных умозаключений, сильных эмоций, стадного инстинкта и стать самодостаточной и самостоятельной личностью — творцом собственных теорий, а не тем самым «муравьем» с ограниченным набором стандартных действий.
Коллективный интеллект — будущее человечества или гибель личности?
Авторизуйтесь, если вы уже зарегистрированы
К.т.н., преподаватель, Новосибирский государственный университет, основатель проекта «Aigents», архитектор проекта «SingularityNET», эксперт РСМД
Сейчас всего несколько глобальных информационных сетей объединяют не менее половины всего человечества, где каждый индивидуум оказывается одновременно и живым сенсором, непрерывно передающим в сеть информацию о своем состоянии, и актором, способным воздействовать на окружающую среду в соответствии с теми мотивациями, которые он получает из сети.
Формируется ситуация, в которой отдельно взятый человек оказывается не в состоянии контролировать и даже осознавать смысл и значимость всех информационных потоков и процессов, в которые он оказывается вовлечен. Возникающие формы «коллективного бессознательного» поведения могут охватывать массы населения, вовлеченные в подобные сети — будь то сеть масштаба государства (как в случае национальных социальных сетей, действующих на территории КНР) или сеть масштаба планеты (как в случае с Facebook или подобными).
Мы имеем дело с возникновением глобальных кибернетических систем «социальных вычислений», подчиняющих себе индивидуальных пользователей в качестве сборщиков информации или исполнителей тех или иных стимулирующих программ. Примечательно, что возможность фактического контроля за прохождением сигналов и анализа смыслов этих сигналов, выявления исполняемых программ, а также формирования подобных программ потенциально сохраняется у ограниченного контингента людей, контролирующих сами системы обработки информации, будь то бизнес-структуры в случае сетей в юрисдикции США или государственные структуры в КНР.
В этом смысле чрезвычайно интересен опыт КНР с ее тотально контролируемой государством социальной сетью и выстраиваемой на её основе репутационной системы «социального кредита», заслуживающей пока противоречивые комментарии. Долгосрочные итоги этого эксперимента можно будет проводить не раньше, чем через одну смену поколений, однако имеющиеся оценки указывают как на рост безопасности и социальной стабильности, так и на возможные пагубные последствия тоталитаризации жизни общества при сохранении возможности манипуляции самой системой и низовыми участниками, и контролирующими её структурами.
Сложность ситуации усугубляется появлением новых сил, ранее неизвестных человечеству — систем искусственного интеллекта (ИИ). Системы машинного обучения при всем их несовершенстве способны выполнять простейшие интеллектуальные задачи вроде распознавания известных объектов или навигации по предопределенным маршрутам гораздо быстрее и надежнее человека. Уже сейчас есть примеры успешного предсказания действий человека, которые успешно применяются при прогнозировании спроса в бизнесе и могут использоваться для предотвращения нарушений в правоохранительной сфере. Однако возможность предсказания поведения дает и возможность управлять им, что также уже используется и в бизнесе.
Что такое интеллект? Присущ ли он разумным существам от рождения или развивается в ходе их взаимодействия с окружающей средой? Является ли интеллект свойством отдельного существа или личности, вроде мыслящего океана, описанного Станиславом Лемом в романе «Солярис» [1]? Или, может быть, это социальное явление, возникающее при взаимодействии отдельных участников социума, будь то люди, муравьи, мушки-роботы из романа того же Станислава Лема «Непобедимый» [2], нервные клетки или даже отдельные белки в человеческой клетке? Можно ли дать точные ответы на все эти вопросы?
Действительно, интеллект отдельных индивидуумов в социуме способствует возникновению коллективного интеллекта социальных групп и сообществ у различных видов — от муравьев и пчел до шимпанзе и человека разумного. При этом одни формы вполне целенаправленного поведения наблюдаются у животных сразу после рождения, а другие требуют обучения, которое может осуществляться либо самостоятельно — методом проб и ошибок, либо при помощи социума — родителей и учителей. В свою очередь интеллектуальные способности отдельных существ, обладающих нервной системой, обеспечиваются децентрализованной коллаборацией различных сегментов нервной коры. Например, последние работы Джеффа Хокинса и компании Numenta [3] показали, как различные кортикальные столбцы вырабатывают совместное решение в части интерпретации предъявленных им стимулов, достигая так называемого консенсуса примерно тем же способом, который принят в сообществах более высокого уровня организации.
Эволюция — процесс развития мира от простого к сложному. Элементарные частицы образуют атомы, атомы — молекулы, из молекул складываются клетки живых организмов и нейронов головного мозга. Из обладающих разумом живых существ — людей — формируются мыслящие сообщества с объединяющим их коллективным сознанием.
Закономерность возникновения более сложных функциональных систем на основе более примитивных в процессе эволюции хорошо показана Валентином Турчиным [4]. При этом происходит так называемый «мета-системный» переход, когда возникает новая функциональная система, более сложная и более богатая функционально, включающая систему-предшественника как один из базовых элементов. Так, атомы в свое время стали частями молекул, молекулы оказались материалом для строительства живых клеток, а клетки развились в различные виды тканей живых организмов, в том числе — в нейроны, дающие нам способность писать и читать. Так и человечеству, согласно еще предсказанию Владимира Вернадского, суждено сформировать «сферу коллективного разума» или «ноосферу» [5].
Однако возникновение такой «сферы коллективного разума» чревато не только переходом планетарной эволюции на Земле на качественно новый уровень, но и влечет определенные риски как для каждого индивидуума, так и для человечества в целом.
Рис.1. «Ноосфера» в сегодняшнем исполнении, или коллективный интеллект на основе глобальных информационно-социальных сетей.
Социальные вычисления на современном технологическом уровне: принципиально новые возможности и угрозы
Фактически уже сейчас всего несколько глобальных информационных сетей объединяют в себе не менее половины всего человечества, где каждый индивидуум оказывается одновременно и живым сенсором, непрерывно передающим в сеть информацию о своем состоянии, и актором, способным воздействовать на окружающую среду в соответствии с теми мотивациями, которые он получает из сети.
Учитывая, что социум и законы его функционирования имеют давнюю историю, уходящую корнями в «законы стаи» уже вымерших видов животных, только в последнее десятилетие возникла ситуация, когда средства электронной коммуникации и обработки данных этой коммуникации начали превосходить по своим возможностям средства, доступные от рождения человеку как биологическому виду [6].
Формируется ситуация, в которой отдельно взятый человек оказывается не в состоянии контролировать и даже осознавать смысл и значимость всех информационных потоков и процессов, в которые он оказывается вовлечен. Возникающие формы «коллективного бессознательного» поведения могут охватывать массы населения, вовлеченные в подобные сети — будь то сеть масштаба государства (как в случае национальных социальных сетей, действующих на территории КНР) или сеть масштаба планеты (как в случае с Facebook или подобными). Что немаловажно, скорость распространения сигналов в таких сетях ограничена только физическими каналами связи, в силу чего распространение сигналов по сбору информации или приведению человеческих масс в действие может происходить практически мгновенно.
Таким образом, мы имеем дело с возникновением глобальных кибернетических систем «социальных вычислений», подчиняющих себе индивидуальных пользователей в качестве сборщиков информации или исполнителей тех или иных стимулирующих программ. Примечательно, что возможность фактического контроля за прохождением сигналов и анализа смыслов этих сигналов, выявления исполняемых программ, а также формирования подобных программ потенциально сохраняется у ограниченного контингента людей, контролирующих сами системы обработки информации, будь то бизнес-структуры в случае сетей в юрисдикции США или государственные структуры в КНР. Именно это в последние годы в различных формах мы и наблюдаем в США, Европе, Китае и России.
Учитывая потенциальный разрушительный характер спонтанных или искусственно вызванных процессов, протекающих на больших скоростях и охватывающих массы населения в масштабах стран и континентов, трудно предположить, что мониторинг таких процессов и управление ими не были бы использованы для получения прибылей бизнес-структурами и обеспечения национальной безопасности государственными органами.
Рис.2. Сегментация современного мирового информационного пространства основными информационно-социальными сетями.
Достижение социального консенсуса и демократическое управление — старая проблема в новых условиях
В условиях стремительного развития сетевых инфраструктур и платформ неожиданно остро встал вопрос о достижении социального консенсуса — возможности нахождения взаимоприемлемых решений по любым вопросам множеством участников социума, возникающим в ходе развития этого социума. История институтов самоуправления и власти быстро повторяется в развитии современных сетевых вычислительных платформ в течение нескольких последних десятилетий.
Страны и народы все еще мучительно продолжают выбирать между двумя крайностями. С одной стороны, это тоталитарные институты управления — от альфа-самцов в первобытных стаях до авторитарных диктаторов, способных эффективно мобилизовать ресурсы всего социума для решения стоящих перед ними задач, невзирая на потери низовых членов общества, и неспособных адаптироваться к изменениям вызовов времени и саморазрушающихся при потере лидера. С другой стороны — предельно демократические системы: начиная от концепций всеобщего равенства в анархических системах, которые обычно трансформируются в авторитарные диктатуры (например, во Франции и России), заканчивая прямыми демократиями, эффективность которых возможна только при относительно небольшом числе избирателей и обеспечении их возможностью участия в демократическом процессе за счет труда рабов, лишенных какого-либо голоса (как это было в Древней Греции). Очевидно, что «золотую середину» в данном случае находят в различных формах представительной демократии, в конечном итоге неспособных защитить низовых членов общества от коррупции и злоупотребления властью представителей более высоких слоев населения.
Одна из проблем неэффективности любой формы известного демократического устройства заключается в отсутствии надежного способа определения авторитета избираемого представителя и невозможности донести голос каждого рядового избирателя до самых вершин власти. В первобытных стаях и феодальных обществах авторитет и право голоса определялись длиной клыков и силой мускулов, остротой мечей и количеством бойцов в княжеской дружине. В ряде случаев как в криминальных сферах, так и на уровне межгосударственных отношений продолжает использоваться механизм принятия решений, основанный на силовом противостоянии. По мере развития капиталистических отношений силовые механизмы постепенно заменялись финансовыми, и возможности управления социумом постепенно перешли к обладателям финансовых ресурсов и инструментов. Параллельно неуклонные попытки человечества создать демократические институты, где принятие решений основывалось бы, скорее, на заслуженном авторитете, чем на организационных ресурсах и финансовых инструментах, обеспечивающих голоса избирателей, имеют пока весьма скромный успех.
Примечательно, что история архитектур самых различных сетевых проектов за последние 50 лет, и особенно проектов в области «распределенных реестров» (типа «блокчейн») в последние годы, очень напоминает метания человечества в поисках оптимальных форм самоуправления. На самом деле, так называемый консенсус «proof-of-work», реализуемый в системах Bitcoin и Ethereum (криптовалюты, основанные на технологии блокчейн) — это реализация принципа «у кого сила (больше вычислительных мощностей), тот и прав». Альтернативная форма консенсуса в распределенных вычислительных системах «proof-of-stake» означает «сила в деньгах», а его продвинутая форма «delegated-proof-of-stake» предполагает делегирование управления системой «избранным делегатам», при том что «сила голоса» на выборах определяется финансовыми возможностями. В то же время оригинальная форма социального консенсуса, продвигаемая проектом SingularityNET, предполагает консенсус «proof-of-reputation» [7], основанной на истинной репутации участников социального процесса, вычисляемой на основе принципов «текучей демократии».
Рис.3. Основные принципы достижения консенсуса при самоуправлении в человеческом обществе и распределенных информационных системах.
Социальные сети и репутационные системы — растворение личности в социуме или больше возможностей для каждого?
Можно сделать вывод о том, что управление социумом посредством выявления истинных авторитетов и лидеров через их репутацию или искусственное увеличение репутации одних перспективных лидеров в глазах сообщества и принижение влияния других лидеров будет все активнее использоваться в современных информационных сетях как во благо, так и во вред обществу. С одной стороны, возможность выявления лидеров мнений и авторитетов может быть полезно для их продвижения и реализации наиболее прогрессивных идей и трендов. С другой стороны, использование этой же возможности для нейтрализации выявленных лидеров может как обезопасить сообщество от нежелательных революционных процессов, так и способствовать застою в нем в том случае, если действующие лидеры, обладающие контролем над подобной системой, стараются сохранить контроль любой ценой, подавляя возможные альтернативы. Точно так же быстрому поднятию репутации одних участников в силу фактических заслуг перед социумом и полученной обратной связи от него может быть противопоставлена манипуляция репутацией за счет «накруток», оплаченных за счет бюджета выгодоприобретателя, и взлома системы и изменения «числа подсчитанных бюллетеней», если у выгодоприобретателя есть доступ к системе.
В этом смысле чрезвычайно интересен опыт КНР с ее тотально контролируемой государством социальной сетью и выстраиваемой на её основе репутационной системы «социального кредита», заслуживающей пока противоречивые комментарии. Видимо, долгосрочные итоги этого эксперимента можно будет проводить не раньше, чем через одну смену поколений, однако имеющиеся оценки указывают как на рост безопасности и социальной стабильности, так и на возможные пагубные последствия тоталитаризации жизни общества при сохранении возможности манипуляции самой системой и низовыми участниками, и контролирующими её структурами.
Существующий тренд на явное или неявное управление обществом через манипуляцию общественным мнением, мониторинг поведения большей части общества через социальные сети бизнес-структурами и правоохранительными органами предполагает несколько направлений развития используемых обществом сетевых коммуникационных систем, отчасти противоречащих друг другу.
С одной стороны, для обеспечения верификации новостей и минимизации рисков манипуляций общественным мнением необходима полная деанонимизация сетевых взаимодействий, что позволит исключить «накрутки» ботами и даст возможность верификации источников информации, не говоря уже об облегчении оперативной деятельности правоохранительных органов. С другой стороны, злоупотребление деанонимизированной информацией правоохранительными органами и преступными элементами делает ее опасной для граждан, если правоохранительные органы недостаточно эффективны или подвержены коррупции.
Также полная открытость сетевых взаимодействий и верификация их подлинности с использованием современных технологий (например, «распределенного реестра») потенциально могут снять риск злоупотреблений, поскольку любые коммуникации в сети, включая сообщения между участниками, оценки или отданные «голоса», могут быть верифицированы независимым аудитом, произведенным любой стороной. Хотя такой подход вполне соответствует парадигме «прозрачного общества», он вступает в противоречие с классическими «западными» ценностями о праве на личную жизнь, тайну переписки и даже праве на забвение, поскольку требование возможности аудита сетевых взаимодействий в любой момент делает невозможным удаление истории своих взаимодействий для участников системы.
Наконец, в условиях любого существующего государственного устройства и практик ведения бизнеса, деанонимизация и открытость всех сетевых взаимодействий для всех участников общества может оказаться неприемлемой по целому ряду причин. В этом случае имеются риски расслоения общества на сегменты контролируемых и контролирующих, с возникновением очевидного социального противостояния между двумя слоями.
Сверхчеловеческий супермозг или сеть персональных ассистентов
Сложность ситуации усугубляется появлением новых сил, ранее неизвестных человечеству — систем искусственного интеллекта (ИИ). Системы машинного обучения при всем их несовершенстве способны выполнять простейшие интеллектуальные задачи вроде распознавания известных объектов или навигации по предопределенным маршрутам гораздо быстрее и надежнее человека. Уже сейчас есть примеры успешного предсказания действий человека, которые успешно применяются при прогнозировании спроса в бизнесе и могут использоваться для предотвращения нарушений в правоохранительной сфере. Однако возможность предсказания поведения дает и возможность управлять им, что также уже используется и в бизнесе.
Учитывая экспоненциальный рост возможностей вычислительных систем и ресурсов, вкладываемых ведущими корпорациями (Amazon, Google, Baidu, Tencent, Alibaba, Apple, Microsoft) и государствами (США, Китай) в совершенствование систем искусственного интеллекта, их управляющая роль в жизни и развитии общества будет неуклонно расти. В лучшем случае в краткосрочной перспективе бенефициарами этого процесса станут бизнес-предприятия, управляющие соответствующими сетевыми платформами, их руководители и акционеры, а также государства, с которыми эти предприятия аффилированы. В худшем случае в долгосрочной перспективе выход интеллектуальных систем управления из-под контроля социума может представлять угрозу существования человеческому обществу в том виде, в котором мы видим его сейчас.
Обеспечение безопасности сетевых систем с использованием искусственного интеллекта может быть достигнуто на нескольких направлениях. Первое — это полная деанонимизация систем искусственного интеллекта; соответствующий закон был принят в сентябре 2018 г. в Калифорнии, согласно которому любая ИИ-система обязана как минимум явно анонсировать свою «искусственность» при любых контактах с человеком. Второе — это открытость кода ИИ-систем и протоколов их взаимодействий, особенно если это касается управления людьми или их коммуникациями; данный принцип положен в основу проекта распределенного ИИ SingularityNET (Нидерланды, Гонконг) и репутационной системы, создаваемой в рамках проекта. Третье — доступность ИИ-систем не только ограниченному числу корпораций, использующих последние их достижения в так называемых «персональных ассистентах», предназначенных для сбора информации личного характера о потребительских предпочтениях пользователей с перепродажей этой информации рекламодателям. В отличии от последнего, такие проекты как Aigo (США) и Aigents> (Россия) нацелены на создание «персональных ассистентов» для службы конечным пользователям, а не на сбор информации о них и управление ими для создания человеко-ориентированной среды коллективного человеко-машинного интеллекта.
Источники
1. Станислав Лем, Соля́рис, роман, 1961 г.
2. Станислав Лем, Непобедимый, роман, 1964 г.
3. Jeff Hawkins*, Subutai Ahmad and Yuwei Cui, A Theory of How Columns in the Neocortex Enable Learning the Structure of the World, Front. Neural Circuits, 25 October 2017 https://www.frontiersin.org/articles/10.3389/fncir.2017.00081/full
4. В. Ф Турчин, Феномен науки: Кибернетический подход к эволюции. Изд. 2-е – М.: ЭТС. — 2000. — 368 с., http://refal.net/turchin/phenomenon/
5. Вернадский В. И., Научная мысль как планетное явление // В кн. Вернадский В. И. Философские мысли натуралиста / отв. ред. А. Л. Яншин. — М.: Наука, 1988. — 520 с. — ISBN 5-02-003325-1.