искусственный интеллект и человеческий разум
«Живой» искусственный разум, человек и проблемы AI
Отличие искусственного и человеческого разума
Многие ученные прошлого делали свои гениальные открытия не в ходе вычислений или многочисленных экспериментов (хотя, конечно же, эксперименты и вычисления отвергать нельзя), а благодаря мгновенному озарению, будь то яблоко Ньютона или таблица химических элементов Менделеева, увиденная им во сне. Нильс Бор который в своем сне сидел на солнце и наблюдал за вращающимися планетами вокруг себя открыл планетарную модель атома, Леонардо да Винчи, который решил создать летательный аппарат по образу и подобию птицы и многие другие.
Но что самое главное — мгновенные озарения характерны не только для великих, но и для каждого из нас. Иногда у нас появляются проблемы связанные с нашей работой, хобби, семьей. И как мы ищем ответ на проблемы? Мы мыслим, воображаем, представляем, но часто ответ находится спонтанно, мы можем подумать вообще о чем-либо, не касающемся нашей проблемы, и найти решение оной.
Но что же нынешние компьютеры? Разумеется, они не могут спонтанно найти решение проблемы, зато компьютеры могут «мыслить» последовательно, выполняя одну за другой операцию процессора (кстати, этому человек иногда может учится у машин). Вследствие этого путь развития к искусственному интеллекту у нынешней архитектуры компьютера закрыт (имеется ввиду фон-неймановская архитектура). Да, вы можете заявить, что есть компьютеры, обладающие неким подобием искусственного интеллекта, которые обыгрывают гроссмейстеров. В нынешнем мире машины с искусственным интеллектом заточены под очень узкие задачи и не способны сделать какое-либо внезапное открытие — так сказать, проявить гениальность или вести «живой» образ жизни. Если верить Тьюрингу и его тесту, то искусственному интеллекту достаточно правильно и «по-живому» отвечать человеку на вопросы. Но станет ли такой интеллект по-настоящему живым? Появятся ли у него какие-либо мысли? Сможет ли он позже рассказать кому-то еще о чем поговорил с предыдущем человеком? А если этот искусственный интеллект будет применен к науке? Сможет ли он сделать открытие, хотя бы не столь великое как понятие силы притяжения? Открытие, которое будет получено благодаря еле уловимым ассоциациям происходящим в его нейронных сетях. Сможет ли он стать чем-то живым в плане хода мышления, а не просто супер навороченной машиной имеющей миллиарды алгоритмов распараллеливания? Этого мы конечно сейчас еще узнать не можем.
1996 год. IBM Deep Blue и гроссмейстер Гарри Каспаров. Впервые машине удалось одержать
победу над человеком
Зависимость человека от машин в настоящее время
Если поразмышлять на эту тему и провести ассоциацию (возможно не столь ясную, но в чем-то правдивую) с взаимоотношениями между людьми и животными, то мы можем увидеть, что люди с начала зарождения самого примитивного общества использовали животных для добычи пищи, шкур, одомашнивали их для своей защиты, а с развитием биохимии мы используем животных для создания лекарств. Не кажется ли вам, что это похоже на то, как мы используем нынешние компьютер? Конечно, мы на них не охотимся, но компьютеры были созданы с целью получения самого ценнейшего в наше время ресурса — информации. И компьютеры выполняют жизненно важные для общества функции. Но эксплуатируем сейчас их мы, а не наоборот. Или все-такие наоборот. Задумались?
Представьте, что однажды по всему миру все компьютеры (нет не восстанут, как в Терминаторе) сломаются. Начнется развал. Сейчас даже холодильники оснащены процессорами, не говоря уже о самолетах, машинах и тд. Никаких телефонов, никакого Интернета. Это будет величайший крах, так как компьютеры в наше время это уже своя экосистема, которая создалась между человеком и миром, с которым он взаимодействует.
А теперь представьте, если все животные нашей планеты в один миг вымрут — естественно это конец, потому что биосферы, как таковой, практически не будет существовать. Мы эксплуатируем животных и компьютерные технологии. Несмотря на это мы от них максимально зависимы.
Все это я вел к более фантастическому заключению.
Если человечество создаст искусственный интеллект, который будет почти естественным
Будет ли он просто копией человеческого (или животного) мозга, состоящей из нейронных сетей, передающих сверхсложные принципы мышления, которые в данный момент развития человечества еще не созданы, или же это будет совсем другая архитектура, непонятная нам сейчас и никак не связанная с принципами передачи сигналов нейронами? Если такой искусственный интеллект появится, что тогда произойдет?
Несколько выше я приводил пример того как люди эксплуатируют животных и компьютеры. А теперь задумайтесь: были ли в истории человечества случаи успешной и долговременной эксплуатации людей как рабов? Все рабства заканчивались восстаниями и кровопролитными войнами. Животные и компьютеры не имеют сознания, а потому и не заявляют о своих правах, хотя животные чувствуют, что они находятся не на воле (например, зоопарк, чем не животное «рабство»?). Так мы, возможно, создадим искусственно-естественный разум, который однажды может понять, что «он» просто инструмент для извлечения ресурсов. Если искусственный разум окажется на одной (а может быть и выше) ступени с разумом человека, то возникнет явление, которое будет первым в истории — это социальный конфликт между органическими и неорганическими (хотя искусственный интеллект может быть и с органикой, кто же знает) обществами.
Но что, если человечество создаст искусственный интеллект не для собственной выгоды, что если оно создаст его как будто они люди, стоящие с нами на ровне? Возможно искусственный интеллект, оформленный в виде робота, сможет получать образование, работать и даже заводить семью.
Такой финал почему-то редко описывается в книгах известных фантастов и фильмах. Может это от того, что человек сам по себе разрушителен и если и создаст разум похожий на свой, то такой же разрушительный как и он сам?
Гипотеза: может ли у искусственного интеллекта появиться сознание
Об эксперте: Ольга Перепелкина, COO и Scientific Director в компании Neurodata Lab.
Что вообще такое сознание?
Почему сознание возникло в процессе эволюции, какие у него физиологические механизмы, и как его правильно измерить до сих пор до конца не ясно. Есть ли сознание только у взрослого человека, или оно также доступно некоторым животным и маленьким детям – даже на этот счет тоже нет единого мнения.
Слово «сознание», как и многие донаучные термины, имеет различные значения. В клинической медицине оно часто используется для оценки бдительности и бодрствования человека («пациент не был в сознании»). Выяснение мозговых механизмов бдительности — важная задача для понимания процессов сна, анестезии, комы или вегетативного состояния. Но когда мы задаемся вопросом, может ли искусственный интеллект обладать сознанием, нам, скорее, интересно не медицинское значение, а то, как оно понимается в психологии.
Сознание можно представить как субъективное отражение процессов обработки информации в мозге.
Считается, что сознание отражает два разных типа процесса обработки:
Что такое глобальный доступ? Вот простой пример:
Представим, что некий объект попадает в поле нашего внимания. Например, в машине подсвечивается лампа низкого уровня топлива. Почему мы можем ее «осознать», а сама машина — нет? Благодаря существованию у нас сознания этот объект (точнее, его ментальная репрезентация) становится доступным всему нашему организму: мы можем его видеть, вспомнить его, воздействовать на него, говорить о нем. Тогда сознание можно представить как луч прожектора, который освещает определенные объекты и задает направление.
В этом смысле сознание — это фактически синоним внимания (хотя нужно оговориться, что внимание бывает и неосознанным, непроизвольным). Этот процесс позволяет интегрировать множество других процессов, которые происходят неосознанно, чтобы придать организму единый курс для дальнейших действий. По сути, благодаря сознанию становится возможным целенаправленное поведение.
Что такое самоконтроль?
Другое значение слова сознание — рефлексия. Когнитивная система способна контролировать свою собственную работу и получать информацию о себе. Люди много знают о себе, включая такую разнообразную информацию, как расположение собственного тела, происходит ли процесс восприятия или воспоминания, или что они совершили ошибку. Этот процесс соответствует тому, что обычно называется интроспекцией, или тем, что психологи называют метапознанием — способностью понимать и использовать внутренние представления своих собственных знаний и способностей. На интуитивном уровне сознание — это способность дать отчет о своем внутреннем психическом опыте, эдакое внутреннее зеркало.
Эти процессы независимы, то есть глобальный доступ может происходить без самоконтроля, и наоборот. Также многие процессы происходят вообще без их участия, тогда они называются неосознаваемыми или бессознательными.
Алан Тьюринг и Джон фон Нейман, основатели современной информатики, указывали на то, что машины в конечном счете смогут имитировать все возможности человеческого мозга, включая сознание. При этом Алан Тьюринг предположил и оказался прав, что не думающая и не осознающая машина сможет осуществлять сложную обработку информации. Это верно и для людей: когнитивные науки подтвердили, что такие сложные вычисления, как распознавание лиц и речи или оценка шахматной игры, происходят в нашем мозге неосознанно.
И сегодня все современные системы искусственного интеллекта, хоть и впечатляют своими успехами, которые могут превосходить человеческие способности, пока не обладают сознанием.
Тут важно отметить, что два описанных выше процесса не являются общепризнанными в науке как единственно возможные определения сознания. На самом деле психология сознания является, наверное, одной из самых сложных и спорных областей в когнитивных науках.
Как можно наделить сознанием машину?
Так как мы до конца не понимаем, что такое сознание и как именно оно обеспечивается мозгом, на этот вопрос ответить однозначно нельзя. Однако можно наметить направления, следуя которым мы можем получить сознательные машины.
1. Самая простая идея — это скопировать принципы работы человеческого мозга. Одним из примеров является искусственная нейронная сеть. Она начинается как сеть «нейронов», соединенных друг с другом входами и выходами, и совсем ничего не знает — почти как мозг младенца. Способ, которым она «учится», заключается в том, что она пытается выполнить задание — скажем, распознавание рукописного ввода, и сначала действует случайным образом. Затем она получает обратную связь в виде правильного ответа. Связи между нейронами, которые привели к правильному ответу, усиливаются, а к неправильному — ослабляются. После многих проб и обратной связи сеть формирует правильные нейронные пути, и система обучается правильно решать данную задачу. Однако сама по себе искусственная нейронная сеть, хоть и отражает некоторые нейробиологические принципы, не обладает сознанием и не способна решать задачи, которым её никогда не обучали.
2. Второй, более радикальный подход, — это копия всего мозга. Ученые берут настоящий человеческий мозг, различными методами исследуют его нейронные связи, чтобы воспроизвести их на компьютере в виде программы. Если этот метод когда-нибудь будет успешным, у нас будет компьютер, способный на все, на что способен мозг — ему просто нужно будет учиться и собирать информацию.
Насколько мы далеки от достижения эмуляции всего человеческого мозга? Пока что ученые и разработчики смогли смоделировать мозг плоского червя размером 1 мм, который состоит всего из 302 нейронов. Этот проект называется «OpenWorm». Чтобы представить, сколько еще нужно преодолеть, следуя этим путем, вспомним, что человеческий мозг состоит из 86 млрд нейронов, связанных триллионами синапсов.
Если человеческий мозг слишком сложен, чтобы реплицировать его сразу во «взрослом» виде, мы могли бы вместо этого попытаться подражать эволюции. Этот способ использует такое понятие как генетические алгоритмы.
Компьютер начинает выполнять задачи, и самые успешные программы будут «скрещиваться» друг с другом (наследовать друг от друга признаки определенным образом, подробнее тут), а менее успешные будут удалены. При этом в отличие от биологической эволюции, искусственная эволюция имеет два важных преимущества — скорость и целенаправленность. На практике генетические алгоритмы работают не очень хорошо, хотя порой результаты получаются весьма веселыми. До сознания тут, пожалуй, еще тоже далеко.
3. Последний метод самый простой, но, вероятно, самый пугающий. Предлагается создать машину, двумя основными навыками которой будут исследования искусственного интеллекта и внесение изменений в сам код, что позволит ей не только изучать, но и улучшать свою собственную архитектуру. Мы научим компьютеры быть «компьютерными учеными», чтобы они могли сами начать разработку алгоритмов. Возможно, это самый вероятный способ получить сознательную машину в ближайшее время.
Есть ли примеры такого подхода уже сейчас? Близкое понятие — это автоматическое машинное обучение (AutoML), которое успешно внедряют крупные корпорации, например, Google. Идея заключается в том, что автоматизируется сам процесс машинного обучения: алгоритмы сами подбирают наиболее оптимальные алгоритмы для определенной задачи. Сами алгоритмы-подборщики для этого специально обучаются людьми.
Получается, чтобы быть сознательным, необязательно иметь мозг?
Может ли сознание возникнуть в результате других комбинаций и взаимодействия элементов, которых нет в человеческом теле? Если относиться к сознанию, как к функции биологического мозга, то в этой идее нет ничего сверхъестественного. Достаточно создать сложную искусственную систему и поместить ее в достаточно сложную среду, максимально симулирующую реальным мир, в результате чего может возникнуть сознание.
Вернемся к примеру с лампой уровня топлива. Человек замечает, что машину пора заправить, тогда как сама машина этого «не осознает», хоть она и напичкана сложным оборудованием. Индикатор мигает, но все остальные системы автомобиля об этом не догадываются. Машина будет обладать сознанием, если все процессы будут взаимосвязаны, и у автомобиля будет представление самого себя с информацией о своих возможностях и их ограничении. Например, эта «сознательная система» автомобиля будет включать в себя интегрированное изображение себя, в том числе, например, его текущее местоположение и расход топлива, а также его внутренние базы данных (например, «знание», что у него есть карта GPS, которая может определять местонахождение заправочных станций).
Ученые активно работают над созданием общего искусственного интеллекта (AGI). У него будет сознание?
У искусственного интеллекта, как и у сознания, нет общепринятого определения. Например, под искусственным интеллектом понимают процесс обучения машин учиться, действовать и думать, как человек. Цель всего этого — заменить рутинные функции, которые выполняет человек, расширить и усилить его возможности. Иногда выделяют слабый и сильный (или общий) искусственный интеллект.
Под слабым ИИ понимается такая система, которая способна решать задачи, применимые к узкой области. Примеры таких систем — это автоматические языковые переводчики, беспилотные автомобили, умные поисковики. Такие системы могут выполнять задачу (и порой делать это лучше человека), но не могут учиться ничему принципиально новому. Например, известный алгоритм от IBM, обыгравший Гари Каспарова в шахматы, хоть, безусловно, и впечатляет, не может больше делать ничего кроме шахмат. А человек способен еще на многое.
Сильный ИИ может выполнять много независимых и не взаимосвязанных задач. Он способен обучаться выполнять новые задачи и решать новые проблемы. Происходит это путем выучивания новых стратегий. Также предполагается, что он способен «мыслить», обладать «разумом» — совсем как в фантастических фильмах и даже больше.
Так как мы пока толком не можем определить такие сложные понятия как «разум», «мышление», четких критериев появления такой системы у нас нет. Однако появлялись различные идеи, как протестировать систему, чтобы мы могли назвать ее разумной. Пример такого подхода — широко известный тест Тьюринга.
Есть и критика такого подхода — зачем нам создавать системы, которые будут копировать нас самих? Авиаконструкторы ведь не стремятся создать машины, полностью имитирующие голубей, просто потому что голуби умеют летать.
Если у роботов будет сознание, у меня появится перед ними «моральный долг»? Я должен буду их уважать, иначе они будут обижаться и страдать?
На этот вопрос нам, как человечеству, еще предстоит ответить. Но, кажется, что наши этические и юридические нормы будут достаточно сильно пересмотрены в связи с техническим прогрессом. И когда появятся искусственные существа, обладающие разумом и сознанием, наше отношение к ним будет регулироваться и внешними нормами, и нашими собственными эмоциями. Вспомните, что вы чувствуете по отношению к вымышленными небиологическим персонажам книг и кино, как сопереживаете им, расстраиваетесь и радуетесь вместе с ними, хотя они не настоящие. Если верить прогнозам некоторых футурологов, например, Рэю Курцвейлу, то искусственный интеллект, обладающий сознанием, может появиться уже через несколько десятилетий.
Подписывайтесь и читайте нас в Яндекс.Дзене — технологии, инновации, эко-номика, образование и шеринг в одном канале.
5 применений ИИ, в которых он конкурирует с человеком
С момента появления искусственного интеллекта прошло почти 70 лет. За эти годы он превратился в доступный рабочий инструмент, которым могут воспользоваться для своих целей даже школьники. Мы сталкиваемся с ИИ буквально на каждом шагу, произнося «окей, гугл» или «слушай, Алиса!», общаясь с чат-ботами банков и получая «письма счастья» со штрафами за нарушение ПДД. И всё чаще раздаются голоса, говорящие, что в скором времени более быстрый и сообразительный, чем человек, ИИ заменит людей, которые останутся без работы и без средств к существованию. Не заменит. Но вот пять сфер, в которых ИИ может серьёзно потеснить людей, — разберёмся, стоит ли нам опасаться конкуренции с «бездушной железякой».
Работа с изображениями
Распознавание образов было одной из самых популярных задач, которую пытались решить с помощью ИИ. Создание компьютерного зрения, как и систем распознавания речи и понимания смысла текстов являются ключевыми направлениями, в которых развиваются связанные с ИИ.
Современные генеративно-состязательные нейросети научились не только распознавать человека на фото. Они вполне успешно делают это на видеороликах, причём даже если человек замотал лицо шарфом или надел медицинскую маску.
Изображения, на которых тренировалась нейросеть DFI. Источник: A. Singh, D. Patil, G Meghana Reddy, SN Omkar (2017). Face Identification (DFI) with Facial Key Points using Spatial Fusion Convolutional Network / arXiv.org
Однако работа над узнаванием людей по фрагментам их лиц началась значительно раньше, чем пандемия. Например, опубликованная в 2017 году работа Disguised Face Identification (DFI) with Facial KeyPoints using Spatial Fusion Convolutional Network («Идентификация маскированных лиц по ключевым точкам с использованием пространственной свёрточной сети») рассказывает о результатах работы нейросети, натренированной на распознавание лиц, скрытых очками, шарфом, накладными усами или бородой.
Для распознавания лиц нейросеть DFI использовала всего 14 ключевых точек на лице, поэтому точность «узнавания» замаскированных лиц была невелика. Современные коммерческие нейросети используют несколько сотен ключевых точек на лице человека, поэтому могут обнаружить соответствие, используя лишь те части лица, которые присутствуют на изображении.
Например, китайская компания SenseTime считывает 240 ключевых точек, расположенных вокруг носа, глаз, рта. Это обеспечивает распознавание частично скрытых лиц с точностью до 90%.
Minvision, ещё один китайский разработчик систем распознавания лиц, с началом пандемии срочно дообучил свою нейросеть на распознавание людей в масках. Источником ключевых точек для опознания были глаза и области вокруг них.
Современные ИИ успешно справляются не только с работой «Большого Брата», но и выступают в роли творцов, создавая, например, фотографии несуществующих людей, котиков, аниме-персонажей или абстрактную живопись.
Изображения, сгенерированные нейросетью StyleGAN. Источник: thispersondoesnotexist.com, thiscatdoesnotexist.com, thiswaifudoesnotexist.net, thisartworkdoesnotexist.com
Свежий известный пример коммерческого использования ИИ в дизайне — нейросеть Николай Иронов, которая создавала фирменный стиль и логотипы по программе «Экспресс-дизайн» в Cтудии Артемия Лебедева.
Логотипы, разработанные нейросетью студии Артемия Лебедева. Источник: https://www.artlebedev.ru/express-design
Несмотря на фантастические возможности, которые демонстрируют нейросети, живым дизайнерам нечего опасаться: ИИ может создать бесконечное количество вариантов логотипа или картины, но выбрать среди них удачные и наиболее соответствующие поставленной задаче может только человек. Да и взаимодействовать заказчики всё-таки предпочитают с живым человеком. Более того, ИИ может повысить продуктивность дизайнера, ведь тому уже не придётся перебирать варианты вручную.
Что касается задач, связанных с распознаванием образов на видео и фото, тут с нейросетями тягаться сложно, да и вряд ли имеет смысл. Эта работа относится к разряду той, которую с радостью перепоручат роботам.
Работа с текстами
Работа с текстами — ещё одна область, в которой ИИ уверенно занимают сильные позиции. Разработанный некоммерческой компанией OpenAI алгоритм генерации текста GPT (Generative Pretrained Transformer) позволяет научить нейросети продолжать начатые человеком фразы, а также писать самостоятельные тексты.
Для обучения первой версии алгоритма использовали 117 млн параметров. Вторую версию алгоритма — GPT-2 —обучали уже на 1,5 млрд параметров, а GPT-3, самая современная версия, обучена на 175 млрд параметров. Это огромный массив данных, содержащий книги, новостные сайты, рецепты, технические руководства, религиозную литературу, путеводители и всю англоязычную Википедию. Не обошлось без довольно спорных материалов, посвящённых НЛО, пришельцам и теориям заговоров.
В результате GPT-3 умеет значительно больше, чем её ранние версии. Например, с её помощью можно пообщаться с историческими личностями или попросить её сочинить диалог между Ньютоном и Эйнштейном, стилизованный под Властелина Колец. GPT-3 также может сделать макет сайта по его описанию.
Успехи GPT в основном связаны с английским языком, однако имеются адаптации нейросети для русского, например, сайт «Порфирьевич», построенный на базе обученной на русской художественной литературе GPT-2, довольно успешно продолжает фразы, написанные человеком.
Результат работы нейросети «Порфирьевич»
Свою нейросеть для генерации заголовков новостей представила компания «ВКонтакте». Чтобы создать нейросеть, разработчики использовали архитектуру Universal Transformer и технику компрессии данных BPE (Byte Pair Encoding). Такой подход обычно применяется в машинном переводе и позволяет ограничиться небольшим словарём для генерации заголовков. Сотрудники «ВКонтакт»е стали первыми, кто использовал BPE для модели суммаризации текста, а также первые, кто обучил такую модель на русскоязычных новостных материалах.
Заголовок новостей, сгенерированный нейросетью «ВКонтакте»
Любопытный эксперимент компании «Яндекс» сочиняет стихи, используя заголовки из «Яндекс.Новостей». Сервис, получивший название «Яндекс.Автопоэт» автоматически определяет стихотворный размер по чередованию ударных и безударных слогов, а затем составляет рифмованные строчки.
Результат работы поэтической нейросети Яндекса
Нейросети на базе GPT-3 научились вести довольно осмысленный диалог на разные темы, но с генерацией полноценного текста дела пока обстоят не лучшим образом. И хотя лучшие образцы всё ещё выглядят довольно странно, но не менее странно выглядят SEO-тексты, написанные копирайтерами-массовиками.
Поэтому редакторам и авторам уже сейчас стоит задуматься над тем, как и для кого они пишут, развиваться профессионально, переходя от написания слов и предложений к решению задач заказчиков, управлению вниманием читателей и донесением пользы. А нейросети помогут не тратить время на бессмысленный улучшайзинг.
Персональные ассистенты
Ещё одна область, в которой применение ИИ обеспечило успех — это персональные ассистенты. Сири, Кортана, Алиса, Алекса, а также голосовой помощник Google стали привычными и уже не вызывают удивления. Они могут проверить почту, заказать такси, прочитать новости, назначить встречу и сделать много другое. И самое приятное: не нужно нажимать кнопки, достаточно обратиться к ним голосом.
Благодаря системе распознавания речи на базе нейросети помощники «понимают» обращённую к ним просьбу и выполняют её. Конечно, на сегодняшний день взаимопонимание далеко от идеала, но прогресс неумолим. Совсем недавно китайские специалисты разработали технологию, с помощью которой ИИ будет распознавать в человеческой речи сарказм — одну из самых нетривиальных форм проявления особенностей характера.
Способность распознавать сарказм считается одним из показателей уровня ИИ. Считается даже, что именно эта функция отражает движение по пути к развитию самостоятельности мышления.
Цифровые персональные ассистенты быстро развиваются. Они уже обзавелись множеством функций, которые раньше выполняли секретари и личные помощники. Учитывая тенденцию, вполне закономерным предположением будет полное вытеснение людей в массовом сегменте и замена их на нейросетевые аналоги. Однако есть вероятность, что, как и в случае с текстами и графикой, цифровизация профессии секретаря приведёт к тому, что процессами по-прежнему будет управлять живой человек, в то время как рутина останется на долю ИИ.
Безопасность
Практически безграничные аналитические возможности ИИ просто не могли не задействовать в сфере обеспечения кибербезопасности. Поручить нейросети разбираться с уведомлениями SIEM-систем, предварительно обучив её распознавать кибератаки — мечта практически любого SOC-аналитика.
Разработчики систем защиты также используют машинное обучение. Они собирают озёра данных об инцидентах и обучают на них нейросети. Благодаря глобальной системе сбора информации такие решения постепенно учатся обнаруживать и блокировать не только старые, но и новые угрозы, выявляя совокупности признаков, которые с большой вероятностью остались бы незамеченными. Нейросети могут даже распознавать атаки, традиционно остающиеся за пределами внимания антивирусных сенсоров — мошеннические письма с элементами социальной инженерии, не содержащие никаких вредоносных компонентов.
Уже сейчас очевидно, что даже лучшие SOC-аналитики не могут напрямую конкурировать с нейросетями, однако это и не требуется. Вместо изучения бесконечных журналов и уведомлений о сработавших алёртах ИБ-эксперты могут сосредоточиться на глубоком обучении нейросетей и формировании стратегии выявления инцидентов безопасности.
Медицина
Ещё одна сфера, в которой обрабатываются гигантские массивы данных — медицина. Анализы крови, МРТ, рентгеновские снимки, наследственные заболевания, мониторинг артериального давления, пульса и множества других параметров, с одной стороны, позволяют достаточно точно производить диагностику, а с другой стороны, порождают врачебные ошибки. Обработка большого количества информации силами одного человеческого мозга создаёт ненулевой риск упустить что-то важное.
Есть и ещё один важный момент: люди редко обращаются к врачам, если у них не случится что-то серьёзное. А ведь многие заболевания проще предупредить на ранних стадиях, чем лечить, когда они уже проявляют себя.
Понимая это, в компании Toshiba решили создать ИИ, который позволил бы врачам анализировать данные медицинских осмотров сотрудников компаний, назначения лекарств и всю сопутствующую информацию. Обработка этой информации с помощью обученной нейросети позволяет выдавать предупреждения до момента, когда у людей начинают развиваться заболевания, связанные с образом жизни.
Для прогнозирования риска заболеваний, связанных с образом жизни, ИИ считывает базовые характеристики пациента — артериальное давление, состав крови, окружность живота, частота употребления алкоголя и многое другое. Используя эти сведения, он выдаёт прогноз, через сколько лет состояние здоровья человека достигнет опасного порога, и он получит в качестве диагноза одно из шести заболеваний: диабет, болезни почек, печени, гипертонию, гиперлипидемию или метаболический синдром.
Схема работы медицинского ИИ Toshiba. Источник: Toshiba
Вместе с прогнозом развития заболеваний пациенты получают рекомендации по изменению образа жизни, например, по ежедневному выполнению физических упражнений или снижению количества алкоголя. В рекомендации также указано, как изменения в поведении отразятся на риске развития опасных заболеваний.
В настоящее время точность прогнозов медицинского ИИ, разработанного Toshiba, составляет 96%. Добавление в анализ большего количества данных, таких как информация о ДНК пациента и семейная история болезни, позволит ещё больше повысит точность прогнозирования. Использование информации о ДНК и учёт семейного анамнеза позволяют всерьёз говорить об индивидуальном медицинском обслуживании.
Медицина — ещё одна отрасль, в которой применение ИИ даёт огромные преимущества. Однако, как и в других сферах, «роботы» не отнимут работу у человека, а будут делать то, что у них получается значительно лучше — анализировать и сопоставлять данные, выдавая варианты живому врачу предупреждения о возможности заболевания на самых ранних стадиях, варианты диагноза и стандартные рекомендации по лечению в соответствии с протоколами. А врач, которому уже не нужно вручную вести журнал приёма и выписывать рекомендации, может сосредоточиться на пациенте, чтобы удостовериться, что ИИ-коллега не ошибся.
Оправданы ли опасения
Успех ИИ во многих сферах человеческой деятельности вызывает опасения, связанные с тем, что машины заменят людей, но в действительности бояться нечего. Несмотря на все преимущества искусственного интеллекта нельзя забывать, что это всё ещё компьютерная программа, которая может ошибаться по разным причинам от ошибок в коде до некорректных данных, использованных для обучения. Ценой такой ошибки может стать человеческая жизнь, как едва не произошло при использовании ИИ-решения на базе суперкомпьютера IBM Watson Health в онкологическом центре Memorial Sloan Kettering: лечение, которое назначала нейросеть, было, по словам врачей, смертельно опасно для некоторых больных.
Таким образом, несмотря на все опасения, внедрении любой новой технологии скорее меняет характер работы людей, а не вытесняет их из профессии. Взяв на себя рутину, ИИ обеспечит людям условия для профессионального роста и развития.