компьютерный чип имитирующий работу человеческого мозга
Нейроморфные системы: компьютеры, вдохновлённые устройством человеческого мозга
Рассказываем, кто и почему ими занимается.
Что такое нейроморфный чип
Это — процессор, работа которого основана на принципах действия человеческого мозга. Такие устройства моделируют работу нейронов и их отростков — аксонов и дендритов — отвечающих за передачу и восприятие данных. Связи между нейронами образуются за счет синапсов — специальных контактов, по которым транслируются электрические сигналы.
Одна из задач нейроморфных устройств — ускорить обучение сверточных нейронных сетей для распознавания изображений. Системам искусственного интеллекта на базе этой технологии не нужно обращаться к массивному хранилищу с тренировочными данными по сети — вся информация постоянно содержится в искусственных нейронах. Такой подход дает возможность реализовывать алгоритмы машинного обучения локально. Поэтому ожидается, что нейроморфные чипы найдут применение в мобильных устройствах, IoT-гаджетах, а также дата-центрах.
Почему инженеры вдохновляются человеческим мозгом
Инженеры, занимающиеся разработкой нейроморфных чипов (подробнее о них мы поговорим далее), в первую очередь отмечают высокие вычислительные способности человеческого мозга.
По данным ряда исследований, наш мозг обладает потенциальной производительностью в один эксафлопс. Традиционные суперкомпьютеры такой вычислительной мощности пока только разрабатываются — первые машины ожидают не раньше 2021 года.
При этом мозг обладает крайне высокой энергоэффективностью, что является вторым важным фактором для тех, кто занимается разработкой нейроморфных систем.
/ фото jesse orrico Unsplash
Конечно, искусственные системы обладают существенными ограничениями. Нейронные сети отличаются от биологических аналогов неспособностью «запомнить» прошлые навыки при обучении новой задаче. Алгоритм, натренированный на распознавание собак, не сможет различать людей. Но эксперты из этой сферы надеются, что нейроморфные чипы откроют новые возможности для обучения «многозадачных» нейронных сетей и решат подобные проблемы.
Первые нейроморфные чипы
Первые попытки создать искусственные нейроны предпринимались еще в 60-х годах прошлого века. Тогда один из будущих изобретателей микропроцессора Тэд Хофф (Ted Hoff) вместе с профессором из Стэнфорда Бернардом Уидроу (Bernard Widrow) создали одноуровневую нейросеть на основе мемисторов — электрохимических резисторов с функцией памяти. Считается, что эта разработка положила начало нейроморфной инженерии.
В 80-х годах инженер Карвер Мид (Carver Mead) предложил использовать транзисторы в качестве аналоговых компонентов, а не цифровых переключателей. В 90-х команда во главе с Мидом представила искусственный синапс, способный хранить информацию продолжительное время, и нейроморфный процессор на основе транзисторов с плавающим затвором.
В то же время американский президент Джордж Буш-старший объявил о начале «Десятилетия мозга» и призвал спонсировать программы, направленные на изучение этого органа. Все это дало толчок к развитию нейроинформатики и вычислительной нейробиологии и привело к созданию инфраструктуры для дальнейшего изучения темы.
За последние десять лет знания человечества о работе мозга достигли новых высот. С 2013 года Швейцария занимается развитием проекта Human Brain Project (HBP). В том же году Америка запустила программу BRAIN Initiative. Эти инициативы оказали серьезное влияние на сферу систем искусственного интеллекта и привели к появлению новых нейроморфных технологий.
Что разрабатывают сегодня
Сегодня над созданием нейрочипов работают в IBM. Еще в 2008 году инженеры компании при поддержке DARPA приняли участие в программе SyNAPSE, в рамках которой разрабатывались компьютерные архитектуры, отличные от фон Неймановских. За три года IBM удалось разработать ядро с 256 искусственными нейронами (у каждого из них были 256 синапсов). Еще через три года компания представила процессор TrueNorth, состоящий из 4096 таких ядер — это более миллиона нейронов. И его уже применяют в задачах распознавания жестов и речи. Разработчики компании заявляют, что вычислительные системы на основе TrueNorth смогут успешно смоделировать работу мозга кошки. Однако ряд экспертов считает такие заявления явным преувеличением.
Еще одна крупная ИТ-компания, занимающаяся разработкой нейроморфных вычислительный систем, — это Intel. В прошлом году они представили чип Loihi. В его составе имеются 128 нейроморфных ядер, каждое из которых симулирует 1024 нейрона. Программировать процессор можно с помощью API, написанного на Python. Первые экземпляры этих устройств уже отправили в дата-центры нескольких ведущих университетов для проведения тестов на реальных задачах.
К слову об университетах, над нейроморфными чипами работают и инженеры из Манчестерского вуза. В прошлом году они представили архитектуру SpiNNaker, состоящую из миллиона ядер, способных эмулировать работу ста миллионов нейронов. Потребляет такая установка 100 кВт. Программировать компьютер можно с помощью языка PyNN. На сегодняшний день машина используется для симуляции процессов, происходящих в мышином мозге.
Несмотря на прогресс последних лет, можно сказать, что нейроморфное железо находится на ранних этапах своего развития. Задачи, которые ставят перед системами ИИ на его основе в основном ограничиваются распознаванием объектов. Тем не менее представители ИТ-индустрии убеждены, что в будущем нейроморфное аппаратное обеспечение позволит проводить полноценные симуляции и откроет совершенно новые вычислительные возможности.
masterok
masterokМастерок.жж.рф
Хочу все знать
Как только наука поняла, как работает человеческий мозг, она постоянно хочет попытаться имитировать его работу. В принципе то передавай электрические сигналы по определенной логике — вот и работа мозга. Но конечно в действительности все не так, когда понимаешь, какие это масштабы и скорости.
Самый мощный на сегодня подобный нейроморфный суперкомпьютер недавно был впервые запущен. Он нацелен на максимально точное воспроизведение «архитектуры» головного мозга человека.
Называется этот компьютер Spiking Neural Network Architecture (SpiNNaker) и он может выполнять более, чем 200 миллионов операций в секунду, а каждая из микросхем имеет 100 миллионов деталей. Машина собрана на базе Школы компьютерных наук Манчестерского университета и на реализацию этого проекта было потрачено 15 миллионов фунтов стерлингов. Но эта сумма не так впечатляет, как время, ушедшее на разработку: 20 лет прорабатывалась концепция суперкомпьютера и еще 10 лет потребовалось на сборку.
Микросхема суперкомпьютера SpiNNaker
SpiNNaker может в реальном времени моделировать поведение человеческих нейронов и он уникален тем, что в отличие от традиционных компьютеров, он не передает большие объемы информации из точки А в точку Б, а рассылает данные единовременно в тысячи разных направлений. Именно так и работают клетки нашего головного мозга. Как заявил один из идеологов проекта, профессор вычислительной техники Стив Фурбер,
«SpiNNaker полностью меняет способ работы обычных компьютеров. По сути, мы создали машину, которая работает скорее как мозг, чем как традиционный компьютер, что чрезвычайно интересно. Конечной целью нашего проекта всегда было использование миллиарда ядер в одном компьютере, который моделировал бы работу мозга и сегодня мы достигли этой цели. И это просто фантастика.»
При этом стоит заметить, что даже невзирая на то, что «настоящий искусственный мозг» заработал, то количество ядер, которое в нем сейчас находится, моделирует мозг, который эквивалентен 1% от человеческого. Однако уже сейчас этот нейроморфный суперкомпьютер поможет понять то, как функционирует наша ЦНС, а также даст возможность проводить масштабные симуляции, недоступные на традиционных машинах.
Представлен аналоговый нейронный процессор, наиболее точно имитирующий работу мозга человека
Компания Rain Neuromorphics завершила создание цифрового проекта процессора, наиболее точно имитирующего работу мозга человека. Чип содержит 10 тыс. цифровых нейронов и будет выпущен с использованием 180-нм техпроцесса. Масштабирование и снижение технологических норм поможет создать решение для задач искусственного интеллекта с предельно низким потреблением и мощными когнитивными функциями.
На увеличееном снимке показаны цифровые нейроны, разным цветом помечены входы и выходы. Источник изображения: Rain Neuromorphics
Как известно, мозг человека представляет собой нейросеть из примерно 90 млрд нейронов. Вход каждого нейрона — это множество «волосков», называемых дендритами. По ним распространяется потенциал (импульс напряжения), который заставляет нейрон реагировать тем или иным образом. Для реакции нейрона необходима усреднённая сумма потенциалов всех сигналов со множества дендритов, что делает мозг «аналоговым компьютером».
Реакция нейрона также представлена потенциалом действия, но он распространяется по другим нервным «волоскам» — аксонам. Как правило, у нейронов по одному аксону (выходу), который заканчивается синапсом — местом взаимодействия с дендритами других нейронов, если говорить о головном мозге. Синапс — это бесконтактный переход от аксона к дендриту, взаимодействие между которыми представляет собой уже химическую реакцию, а не электрический сигнал. Но дальше по дендриту снова побежит электрический импульс.
Пример строения нервной ткани головного мозга
В чипе химию мозга повторить либо сложно, либо невозможно. Поэтому имитация всегда будет условной и чип Rain Neuromorphics в этом плане не стал исключением. Но зато в плане воспроизводства дендритов совершён прогресс. К каждому аксону цифрового нейрона подведено множество дендритов (входов других цифровых нейронов), что наиболее полно на сегодняшний день отражает строение головного мозга. Синапсы при этом образуются в месте соединения дендритов и аксонов, но они, конечно же, представляют электрический, а не химический контакт.
Воспроизводство аксонов предложено оригинальным методом. Разработчики Rain Neuromorphics взяли в качестве образца вертикальные каналы, создаваемые при производстве памяти 3D NAND, но вместо флеш-памяти (затворов), они покрыли аксоны-каналы материалом, создающим в месте контакта с дендритом переход ReRAM. Таким образом, синапс в предложенном решении — это резистивный переход, который управляет импульсом напряжения на входе нейрона. Более того, дендриты соединяют аксоны с нейронами случайным образом, почти как в мозге человека до обучения.
Колонны-аксоны с поперечными случайными связями-дендритами. Источник изображения: Rain Neuromorphics
Конечно, применительно к полупроводниковой литографии ни о какой случайности речи не может быть. Случайные связи не случайны, а созданы с оглядкой на определённый алгоритм. Задача стоит создать так называемые разреженные матрицы, которые в процессе последующего обучения создадут нейронную сеть. Но это очень близко к тому, как устанавливаются связи между нейронами в головном мозге.
По словам разработчиков, первые чипы смогут обеспечить 125 миллионов параметров INT8 для обработки зрения, речи, естественного языка и рекомендаций, потребляя при этом менее 50 Вт. Компания ожидает, что образцы будут доступны в 2024 году, а кремний будет готов к коммерческим поставкам в 2025 году. Подробнее о разработке можно прочесть на сайте EE Times.
Искусственный мозг: зачем ученые создают нейроморфный чип, думающий как человек?
Ученые мечтают создать чип, который бы работал как человеческий мозг — быстро, мог обрабатывать параллельные процессы и тратил бы меньше энергии на все это. Такой чип станет основой для полноценного искусственного интеллекта, который будет думать как человек. «Хайтек» рассказывает, как ученые создают искусственный мозг и почему это так сложно.
Читайте «Хайтек» в
Работа человеческого мозга до сих пор загадка, его изучают с точки зрения биологии, математики, физики и электронной инженерии. Если соединить все эти знания, получится нейроморфный чип — устройство, которые имитирует работу нашего мозга. Зачем ученые хотят перенести мозг в физическую память? И почему мы до сих пор не создали искусственный интеллект, похожий на нас?
Нейроморфные чипы будут работать как наш мозг. Что это значит?
В основе нейроморфного чипа лежит принцип работы человеческого мозга. Чип повторяет функцию нейронов головного мозга, а также отвечает за передачу информации и ее обработку.
Между нейронами существуют связи, которые появляются благодаря синапсисам, по которым перемещаются электрические сигналы.
Если соблюдены все эти условия, то получается процессор, функционирующий похожим образом, что и наш мозг — он воспринимает поступающую информацию, а также меняет связи между нейронами под воздействием внешнего раздражителя — так работает процесс обучения.
Зачем разрабатывать нейроморфные чипы? Чем они лучше обычных?
Ученые считают, что именно нейроморфные чипы помогут нам создать полноценный искусственный интеллект (ИИ). Еще одна задача таких устройств — сделать быстрее обучение сверточных нейросетей, которые распознают изображения. В таком случае системе на базе ИИ не нужно делать запрос в хранилище с данными, так как все необходимое для работы уже записано в нейронах искусственного мозга.
Также нейроморфные чипы помогут организовать работу алгоритмов машинного обучения внутри самого устройства, это значит, что их можно будет использовать в смартфонах и IoT-технике.
Какие ИТ-компании разрабатывают нейроморфные чипы?
Чтобы сделать нейроморфный чип, нужно перенести и воспроизвести процесс работы человеческого мозга на цифровой носитель. Наука давно занимается этой задачей с разной степенью успешности.
В 2014 году IBM создала модульную систему TrueNorth — это искусственная сеть, которая разработана на основе нескольких процессоров. В ней есть 4,5 млрд транзисторов с 256 млн эмулируемых синапсов. Также инженеры смогли сделать систему энергоэффективной, как и наш мозг.
В 2018 году компания Intel представила свой чип под названием Loihi из 128 нейроморфных ядер, каждое из них приводит в работу 1 024 нейрона. Конфигурацию разработки можно менять с помощью API, написанного на Python.
Разработчики представляют все более похожие на наш мозг устройства, например инженеры из Манчестерского вуза создали архитектуру SpiNNaker, она состоит из 1 млн. ядер, которые запускают в работу 100 млн нейронов. Систему использовали, чтобы симулировать процессы в мозге мыши.
Еще один прорыв в этой области — работа специалистов Samsung и ученых из Гарвардского университета. Они разработали концепт имитации человеческого мозга с полупроводниковыми чипами. С помощью нового метода авторы хотят создать микросхему памяти, которая будет работать так же эффективно, как и мозг,
Почему сделать искусственный мозг сложно?
Основная проблема заключается в том, что человеческий мозг обрабатывает информацию с помощью химических соединений: нейронов в мозге может быть миллиарды, а синаптических связей между ними еще больше. Из-за такой объемной структуры почти невозможно напрямую перенести принцип получения и обработки информации на цифровое устройство. Также полноценное воспроизведение мозга требует много свободной памяти — около нескольких триллионов единиц.
Кроме этого, чтобы повторить структуру мозга, нужно изучить, как он функционирует с точки зрения биологии, математики, электронной инженерии, физики и все это попытаться воплотить в одном устройстве.
Также есть мнение, что архитектура фон Неймана, которая описывает принцип хранения команд и данных в памяти у современных компьютеров, не подходит для нейроморфных чипов, так как она строится на принципах однородности памяти, адресности и программного управления. А это противоречит идее о чипе, работающем как мозг. От этой концепции нужно отказаться и полагаться на нейробиологию.
Архитектура фон Неймана — это когда данные и инструкции хранятся в одной памяти. Этот тип архитектуры строится на принципах однородности памяти, адресности и программного управления. Большинство современных компьютеров работает по этой концепции.
Как будет работать нейроморфный чип, когда мы его изобретем?
Нейроморфный чип совершит революцию в современной технике. Все устройства, которые работают с информацией, станут намного быстрее. И это благодаря тому, что информация будет обрабатываться так же, как и в нашем мозге: автономно и параллельно.
Нейроморфный чип поможет избавиться от задержки при обработке данных или сигналов, которые посылает пользователь. Техника станет самостоятельной и автономной, также снизится расход потребления энергии.
Intel создала чип Loihi, имитирующий работу человеческого мозга
В последнее время Intel активно наращивала свои силы в сфере искусственного интеллекта, она скупала работающие в этой сфере компании и стартапы (Nervana, Mobileye и др.), расширяла портфолио интеллектуальной собственности. В результате, Intel разработала чип Loihi, имитирующий работу человеческого мозга.
Идея нейроморфных вычислений подразумевает, что чипы разрабатываются таким образом, чтобы имитировать архитектуру головного мозга человека, включая нейроны и синапсы. Такой подход подразумевает единение биологии, физики, математики, информатики и электронной техники с целью создания искусственных нейронных систем, имитирующих морфологию отдельных нейронов, цепей, способы применения и общую архитектуру.
Intel Loihi является подобным нейроморфным компьютерным чипом, который включает аналоги 130 тыс. нейронов и 130 млн синапсов. В процессоре реализована возможность полностью асинхронной обработки через многоядерную сетку, которая поддерживает широкий спектр рассеянных, иерархических и повторяющихся нейронных сетевых топологий с каждым нейроном, способным связываться с тысячами других нейронов. Каждое из этих нейроморфных ядер включает в себя «механизм обучения», который позволяет изменять параметры обучения ядра на ходу в соответствии с конкретными потребностями заданной рабочей нагрузки с помощью контролируемых, неконтролируемых, подкрепляющих и других обучающих парадигм.
Intel заявляет, что чип Loihi специально разработан для таких нагрузок, как разработка и тестирование нескольких алгоритмов с высокой алгоритмической эффективностью для следующих задач: планирование маршрута, ограничение соответствия, рассеянное шифрование, изучение словарей, динамическое моделирование и адаптация.
Устройство изготавливается по нормам 14-нанометрового технологического процесса на базе традиционных материалов.
Лига Новых Технологий
942 поста 13.4K подписчиков
Правила сообщества
Главное правило, это вести себя как цивилизованный человек!
Но теперь есть еще дополнительные правила!
1. Нельзя раскручивать свой сайт, любую другую соц сеть или мессенджер, указывая их как источник. Если данная разработка принадлежит вам, тогда можно.
2. Нельзя изменять заглавие или текст поста, как указано в источнике, таким образом чтобы разжигать конфликт.
3. Постите, пожалуйста, полный текст с источника, а не превью и ссылка.
*Напевает Прекрасное далеко»
А если серьёзно, так ведь это опизд*х*ительно! Да еще на 14 нм, это ж считай на уровне каменного века. Это учитывая что сами интел штурмуют 10нм тех процесс, а летом разработали технологию для производства на 5нм тех процессе. Еще пара тройка лет, ну пусть десяток! И мы в таком шикарном будущем окажемся! Если конечно мусульмане всё не захватят, тогда амба, будем землю деревянными мотыгами долбить.
Хоспадя, да у меня половина знакомых имитируют работу головного мозга.
Хмм, пожалуй одного чипа хватит чтоб заменить собой госдуру.
Сначала ты его обучаешь а потом он шлет тебя нах и начинает фармить битки =)
Там опечатка правильно писать Lohi
Тоже с термопастой под крышкой и температурой 70+?
он тупит утром понедельника?
Индийские технологии
Чип из коровьего навоза снижает уровень излучения мобильных телефонов: Официальные заявления члена правительства Индии.
Валлаббхай Катириа, председатель федерального органа по животноводству в Индии, недавно вызвал споры среди своих соотечественников, продвигая «чипы» из коровьего навоза, которые якобы могут уменьшить излучение мобильных телефонов и защитить пользователей от болезней.
Через организацию Rashtriya Kamdhenu Aayoghe (RKA)- федеральный орган по животноводству, правительство Индии хочет популяризировать чипы из коровьего навоза в Индии, а также продавать свою продукцию за рубежом, в том числе в Соединенных Штатах.
В Индии эти «чипы» доступны по цене 50–100 рупий каждый. Сообщается, что один человек уже экспортирует такие чипы в США, где они продаются примерно по 10 долларов за штуку.
Ученые выразили несогласие с заявлениями индийского чиновника, заявив, что для подтверждения аналогичных радиационно-поглощающих свойств коровьего навоза потребуются строгие научные испытания, включая экспертные исследования.
Многие индуисты считают, что коровьи субпродукты способствуют здоровью и благополучию, но большинство их утверждений остаются непроверенными современной наукой. Это, впрочем, не мешает таким людям, как Катирия, продвигать коровий навоз как чудодейственный продукт.
Как вам такое от Intel?
Intel представила нейроморфную систему Pohoiki Beach.
Два года назад корпорация Intel анонсировала самообучающийся нейроморфный процессор Loihi, состоящий из «искусственных нервных клеток» и предназначенный для имитации работы мозга живого существа и ускорения работы с системами ИИ и глубокого обучения.
Loihi производится по 14-нм технологическим нормам и вмещает 130 тысяч нейронов, 130 миллионов синапсов и три ядра Quark x86. Размер кристалла Loihi составляет 60 мм², а сам чип состоит из 2,1 млрд транзисторов. Набор инструментов для программирования Loihi включает в себя Python API. Intel заявляет, что в задачах распределенного кодирования, поиска графов, нахождения пути, одновременной локализации и построения карты (SLAM) Loihi в 1000 раз быстрее и в 10 000 раз эффективнее, чем классические CPU.
В своих заявлениях Intel не скрывала, что одной из значимых вех в создании мультичиповых нейроморфных систем является достижение суммарного числа в 100 млн нейронов/100 млрд синапсов. Теоретически, такая система по своему потенциалу приблизится к мозгу небольшого животного — обычной домовой мыши.
Накануне Intel представила нейронную масштабируемую систему под кодовым названием Pohoiki Beach, в состав которой входит до 64 нейроморфных чипов Loihi. Таким образом, общее количество нейронов/синапсов в рамках одной системы составляет 8,32 млн/8,32 млн единиц соответственно. Нетрудно посчитать, что для достижения порога в 100 млн нейронов, Intel понадобится интегрированная система, вмещающая 768 отдельных процессоров Loihi или 12 систем Pohoiki Beach.
Intel также предоставила несколько примеров того, как исследователи используют Loihi, чтобы доказать жизнеспособность нейроморфных вычислений. Проекты включают расчет адаптации к протезу ноги, отслеживание объектов, автоматизацию настольного футбола, обучение управлением маятником и имитацию тактильных зон на коже робота.