искусственный интеллект против человеческого разума

Человек против искусственного интеллекта: кого должен защищать закон?

Инновации в области ИИ придают электронному разуму признаки субъектности, свободы выбора и творчества. Поэтому взаимоотношения ИИ с человеком должны быть вписаны в правовое поле. О законодательных инициативах в этой области рассказал директор направления «Нормативное регулирование цифровой среды» организации «Цифровая экономика» Дмитрий Тер-Степанов.

Эксперт тренда

Дмитрий Тер-Степанов получил высшее образование в Российском государственном университете нефти и газа им. И. М. Губкина, а также окончил Финансовую академию при правительстве РФ по специальности «финансы и кредит». Работал в различных должностях в ФАС, затем в Минэкономразвития курировал вопросы развития конкуренции. В ОАО «Универсальная электронная карта» руководил блоком стратегии развития общества. В «Почте России» возглавлял департамент платежных сервисов, а также занимался созданием платежной инфраструктуры государственной информационной системы ЖКХ. В Федеральном казначействе отвечал за создание госсистемы «Единая информационная среда», а также курировал деятельность подкомиссии по систематизации и кодированию технико-экономической и социальной информации в социально-экономической области (в рамках правительственной комиссии по использованию информационных технологий).

Без сознания

Похоже, гонка за первенство в области технологий искусственного интеллекта (ИИ) будет главным состязанием ведущих высокотехнологичных держав как минимум в ближайшее десятилетие. За этот период, небольшой по меркам нашего сверхдинамичного времени, лидеры определятся наверняка. Однако неотъемлемой характеристикой лидерства будет не только разработка решений на основе ИИ. Его важнейшая составляющая — возможность легального внедрения решений во всех сферах экономики и общественной жизни. И вот с этим не все так просто.

Речь идет о нормативном регулировании разработки программ, которые смогут принимать самостоятельные решения. Поэтому крайне важно уже сейчас, на старте, обеспечить для ИИ такой правовой фарватер, в котором развитие технологий не приведет к рискам для общества и сохранит за человеком контроль над происходящим.

Словосочетание «искусственный интеллект» вызывает ассоциации со сценариями, описанными в фантастических произведениях и в кино. Всемогущие роботы, мыслящие компьютерные программы, планетарные системы, которые могут спасти или погубить человечество. К счастью, такое будущее еще не наступило: ИИ, обладающий «сознанием», не создан.

В первую очередь потому, что природа «сознания» пока дискуссионна. Корни этой дискуссии уходят глубоко в прошлое, в философские вопросы и попытки понять, можно ли разум объяснить физическими законами. В 2020 году мы говорим об ИИ скорее как об алгоритме, который способен обобщить и обработать массив данных и сделать прогнозы относительно неизвестных ему фактов.

Сейчас кажется, что это прорыв, технология, способная кардинально изменить нашу жизнь. Однако не стоит забывать, что подобные технологии уже встречались в истории. Электричество, радио, телефон, автомобиль, самолет совершали революции в мировом масштабе. И каждую из них сопровождали общественные страхи, связанные с распространением незнакомых технологий.

Ярким примером эволюции общественного отношения к плодам технологического прогресса может служить The Locomotive Act, принятый британским парламентом в 1865 году. Закон предписывал, чтобы перед каждым самоходным безрельсовым транспортом, известным нам теперь как автомобиль, не ближе 55 м шел человек с красным флагом или фонарем, предупреждая об опасности, при этом в самом экипаже должно быть минимум два водителя.

Аналогичное изменение восприятия нас ждет и в части технологий ИИ. Ему будет сопутствовать определение нормативных рамок, стандартов и правил обращения, что превратит его в обыденность, которую мы даже не будем замечать.

Во благо / во вред

В России понятие «искусственный интеллект» закреплено указом главы государства. Опираясь на него, мы подразумеваем под ИИ комплекс технологических решений, который позволяет имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека.

Эта логика опирается на множество исследований возможностей, форматов и рисков имплементации ИИ в существующие отрасли права — законодательство о персональных данных, интеллектуальной собственности, антимонопольное. Уже более двух лет эксперты работают над этой проблематикой в рамках нацпрограммы «Цифровая экономика РФ». Соответствующую концепцию нормативного регулирования ИИ в России до 2024 года рабочая группа организации «Цифровая экономика» одобрила в апреле этого года. В соответствии с концепцией ИИ и будет легализовываться в различных отраслях экономики и социальной сферы, и заложенные в нем принципы должны застраховать общество от множества прогнозируемых рисков.

Если в настоящее время в сфере информационных технологий приоритетом является защита персональных данных и безопасность их использования, то в будущем акцент сместится на недопущение бесконтрольной обработки ИИ данных, связанных с реализацией прав и свобод человека.

Согласно подготовленному ведущими международными научными учреждениями отчету «Вредоносное использование искусственного интеллекта», системы ИИ вполне могут служить преступникам и террористам, и ученые и разработчики должны это учитывать и предупреждать возможное их использование во вред. И в качестве превентивной меры на первом этапе должно стать закрепление соответствующих ограничений на законодательном уровне.

Сейчас попытки урегулирования взаимоотношений человека и ИИ существуют только на уровне концепции и осторожного обсуждения ее дальнейшей реализации. Но как взаимодействовать дальше, если ИИ приобретет все признаки субъектности, свободы выбора и творчества?

Один из таких способов — вписать связанные с ИИ отношения в правовое поле. Как он будет развиваться в этом поле — другой вопрос. Вопрос к гибкому и своевременному изменению предложенных норм. Но корректировать правовое поле необходимо уже сейчас, и кейсы применения ИИ подсказывают направления дальнейшего совершенствования регулирования.

Уроки этики

Вполне возможно, что ИИ со временем будет избавлен от статуса «программа», «технология», станет самостоятельным субъектом права. Правовая наука уже сталкивалась с похожими вопросами, когда некое явление ради общего удобства признавали правоспособным. Наиболее характерные примеры — государство, юридическое лицо. Их определения в практически неизменном виде приняты всем миром, стали привычными, и ни у кого не вызывает удивления, что абстрактные явления, не имеющие ни собственной воли, ни природы, обладают правоспособностью.

На следующем этапе неизбежно возникнет вопрос об этике взаимодействия человека с ИИ. За рубежом эта работа начата на межгосударственном уровне. Еврокомиссия еще в начале прошлого года представила проект свода этических правил для искусственного интеллекта: ИИ должен «стоять на службе справедливого общества, поддерживать фундаментальные права и никак не ущемлять автономность человека, работать на благо позитивных изменений в обществе. Граждане должны сохранять полный контроль над своими данными. Следует создать механизмы, которые будут гарантировать ответственность и подотчетность всех систем искусственного интеллекта и их деятельности». Похожие положения закреплены и в российских стратегических документах.

Как эти этические нормы будут реализовываться на практике, мы еще увидим. Гораздо актуальнее вопросы ответственности за действия систем ИИ. Ответственность — это своеобразная лакмусовая бумажка личности, субъектности.

Уже сейчас причинение вреда человеку в процессе эксплуатации систем ИИ не является фантастикой. Самый простой пример: беспилотный автомобиль сбивает человека, переходившего улицу по пешеходному переходу. Кто в данном случае является ответственным за причинение вреда: хозяин беспилотника, его производитель, разработчик ПО для него, лицензиат или инженер, отвечающий за настройку программы и запуск? При каких условиях ответственность может быть возложена на каждого из них? Кто будет отвечать за случаи хакерских атак? Будет ли применяться практика привлечения к ответственности владельцев средств повышенной опасности? Ответы на эти вопросы не очевидны и порождают новые вопросы, требующие урегулирования, в том числе в нормах права и судебной практике.

Интересный пример есть в Шеньчжене (Китай), где ИИ признали «самостоятельной творческой единицей». Суд постановил, что определенные статьи, написанные с использованием ИИ, защищены авторским правом.

Конечно, решение суда касалось конкретных текстов компании Tencent, которая публикует контент программного обеспечения в области бизнеса и финансов. Компания обратилась в суд после того, как одна из онлайн-платформ разместила на своем сайте текст Tencent, сгенерированный на основе системы ИИ. Суд постановил, что формулировки материала и используемые выражения были оригинальными, и классифицировал его как письменное произведение, которое защищается авторским правом. Вполне возможно, что этот случай станет прецедентом.

Вопросов, которые повлечет за собой распространение технологий ИИ, будет множество. Важно не бояться искать на них ответы, объединяя усилия ученых-правоведов и широкого круга экспертов из различных областей знаний. Обеспечить России мировое лидерство в этой сфере способен только такой подход.

Подписывайтесь на Telegram-канал РБК Тренды и будьте в курсе актуальных тенденций и прогнозов о будущем технологий, эко-номики, образования и инноваций.

Источник

Искусственный интеллект VS человек

Технологии развиваются семимильными шагами, и мы каждый день сталкиваемся с умными машинами, автоматизированными системами, искусственным интеллектом. В чем же отличие ИИ от интеллекта человека и чем нам грозит технологический прогресс?

Умственный интеллект человека, IQ (intelligence quotient) — это совокупность накопленных знаний, умение их правильно применять, а также широта кругозора, умение находить логические решения. Все тесты, направленные на определение коэффициента интеллекта, сопоставляют его с возрастом человека, поскольку интеллект постоянно развивается. Развитие умственных способностей напрямую зависит от когнитивных функций головного мозга — внимания, памяти, мышления, восприятия. Кроме того, человеку присущ определенный уровень эмоционального интеллекта — это умение определять подтексты, скрытые смыслы, манипуляции со стороны собеседника благодаря считыванию его эмоций, мимики, жестов, позы. Интеллект человека развивается в социуме, когда мы взаимодействуем с другими людьми, обмениваемся опытом, перенимаем культурные традиции.

Колоссальное отличие искусственного интеллекта (AI, artificial intelligence) заключается в том, что он изначально запрограммирован на определенные действия. В него заложен алгоритм, благодаря которому он выполняет те или иные функции. Например, нейросети — разновидность ИИ — могут создавать шедевры искусства: картины, музыку, литературные произведения. Но в них изначально заложена база знаний, на которые они опираются. Они с молниеносной скоростью обрабатывают огромные объемы информации для этого. Делает ли это искусственный интеллект умнее человека? Давайте посмотрим на неоспоримые преимущества AI:

Симбиоз

На самом деле, мы уже давно прекрасно существуем в симбиозе с ИИ: мы обучаем его новым алгоритмам, а он, в свою очередь, помогает нам. Возьмем ту же автозамену слов в текстовых редакторах и мессенджерах. Если при наборе слова мы допускаем ошибку, машина нам подсказывает правильное написание. При этом в электронный словарь постоянно добавляются новые слова. Из этого следует, что AI не может существовать самостоятельно, так или иначе, он выполняет работу, необходимую человеку и заложенную в него человеком. Стоит ли нам опасаться того дня, когда человек перестанет быть нужен искусственному интеллекту? Некоторое время назад в интернете распространился афоризм: «Я не боюсь машины, которая пройдет тест Тьюринга. Я боюсь ту, которая его намеренно провалит». Здесь уже надо поднимать вопрос наличия сознания у компьютера.

Тест Тьюринга

Тест Тьюринга — некая проверка, которая была предложена математиком и криптографом Аланом Тьюрингом. Он заключается в оценке поведения машины — если сторонний наблюдатель не сможет отличить в диалоге, где человек, а где машина — тест считается пройденным. И в 2014 году издание The Independent опубликовало новость о том, что компьютерной программе удалось убедить наблюдателя в том, что она — 13-летний мальчик. Согласно правилам теста, машина должна убедить более 30% собеседников посредством 5-минутных текстовых сообщений. И программе Eugene Goostman удалось убедить 33% проверяющих. Означает ли это, что компьютер сможет заменить человека?

Поскольку человеческий мозг еще не изучен до конца, то и все его свойства пока не представляется возможным сымитировать при помощи AI. Для искусственного интеллекта характерны память и мышление, но только в виде алгоритмов, поэтому нельзя сравнивать обширное понятие человеческого интеллекта с набором программ. Однако в эпоху прорывных технологий возможен скачок, который приблизит ИИ к человеческому интеллекту. Пока преимущество на нашей стороне, мы можем развивать собственный мозг благодаря его нейропластичности. Постоянные тренировки когнитивных функций, обретение новых навыков и способов мышления — ключ к нашей продуктивности и плодотворному взаимодействию с компьютерными программами.

Источник

Искусственный интеллект: угроза или благо для человечества?

Искусственный интеллект давно сошел со страниц научной фантастики и прочно укореняется в нашей повседневной жизни. Многие частные компании, лаборатории и государственные департаменты работают над созданием общего искусственного интеллекта – совершенно нового машинного разума, который превзойдет по возможностям человеческий, будет способный широко мыслить и самообучаться без участия специалистов.

Однако такой подход пугает часть ученых и экспертов из разных технологических областей. Стивен Хокинг и Илон Маск не один раз публично высказывали опасения по поводу опасности внедрения ИИ в различные сферы деятельности человека. Последний даже создал компанию OpenAI, которая работает над созданием безопасного искусственного интеллекта.

Давайте рассмотрим ключевые группы риска, где разные эксперты видят угрозу в становлении технологий искусственного интеллекта.

Экономические угрозы

Использование искусственного интеллекта в различных секторах экономики открывает новые возможности для многих бизнесов. Технологии позволяют автоматизировать множество процессов, оптимизировать использование ресурсов и прогнозировать определенные события. Эксперты считают, что внедрение ИИ освободит сотрудников предприятий от монотонной, рутинной работы и позволит им сосредоточиться на более сложных и творческих задачах.

Именно здесь, как считают противники автоматизации, и кроется основная угроза искусственного интеллекта. Так, в отчете Всемирного экономического форума говорится, что к 2022 году ИИ вытеснит и уничтожит 75 миллионов рабочих мест. Однако в этом же документе исследователи отмечают, что внедрение искусственного интеллекта приведет к появлению новых видов занятости для людей и к 2022 году чистый прирост рабочих мест составит 133 миллиона. Многие из них, вероятно, не будут соответствовать традиционной модели полной занятости, с которой мы знакомы сегодня. Вместо этого ожидается, что все больше работодателей будут расширять свою удаленную рабочую силу и полагаться на подрядчиков для удовлетворения большей части кадровых потребностей.

Военная враждебность

Использование искусственного интеллекта в военных целях далеко не новинка. Различные страны, такие как США, Китай или Россия создают целые правительственные подразделения, которые изучают возможности применения военизированного ИИ. Кроме этого, США уже использует некоторые алгоритмы в военных операциях.

Кроме этого, общий искусственный интеллект, в теории, сможет обратить военные технологии против людей, если его “глобальные цели” и человечества будут противоречить друг другу. В таком случае, ИИ сможет решить, что единственный выход – уничтожить население планеты.

Эмоции против рационализма

В будущем, когда искусственный интеллект превзойдет технологическую сингулярность, он сможет самостоятельно думать и принимать решения. Следовательно, отсюда возникает вопрос – какими этическими нормами будет руководствоваться машина, принимая то или иное решение? Будет ли это похоже на действия человека, или алгоритмы разработают собственные нормы этики и морали? Этими вопросами активно занимаются многие организации, такие как Future of Life Institute, Foresight Institute и другие.

Так, Эллисон Дютман из Foresight Institute считает, что ИИ достаточно будет дать “прочитать” всю имеющуюся научную литературу об этике и сделать эту информацию базовой для его системы принятия решений.

Однако с ней не согласен философ Ник Бостром, который является ярым противником популяризации искусственного интеллекта. Он считает, что алгоритмы, достигшие уровня развития человека, смогут уничтожить человечество. Бостром объясняет это на примере производства скрепок. Если искусственный интеллект решит, что в мире катастрофически не хватает скрепок, то он сам поставит перед собой задачу произвести их как можно больше. И если алгоритм почувствует угрозу со стороны человека, например, принудительное отключение – он уничтожит “противника”. А если прямой угрозы не возникнет, ИИ сможет посчитать человеческий организм, который состоит из атомов подходящих для производства скрепок, прекрасным источником сырья. Так, компьютер переработает человечество на скрепки.

Пример Бострома очень утрирован, однако этим он пытается сказать, что если перед разумной машиной будет стоять конкретная цель – компьютер выполнит ее во что бы то ни стало.

Что нас ждет в будущем?

В ближайшее время нас ждет бум развития узкоспециализированных интеллектуальных технологий, которые будут ассистировать людей в повседневной и профессиональной жизни. Однако, когда появится общий искусственный интеллект никто не знает, а чего ожидать от него – тем более. Часть экспертов предостерегает от разработок таких технологий, другие наоборот – не видят в этом большой угрозы.

По мнению многих сторонников ИИ, аналогичным образом развивались события вокруг появления и становления ядерных технологий. Несмотря на то, что многие опасались ядерного апокалипсиса, человечеству удалось направить атом в мирное русло. И искусственный интеллект ожидает та же участь.

Тем не менее что бы не говорили приверженцы различных теорий, все зависит от людей. Ведь именно то, что создатели общего ИИ вложат в его основу – так он и будет развиваться. Поэтому, ученым, исследователям и разработчикам необходимо находится в тесном контакте друг с другом и работать совместно над созданием стабильной, безопасной и дружелюбной технологии.

Источник