как мозг получает информацию
Как мозг обрабатывает зрительную информацию
Человеческий мозг сначала воспринимает изображение, затем сравнивает его с неким «шаблоном», хранящимся в памяти, а после уже оценивает увиденное — принимает решение. На этом этапе и сосредоточили внимание петербургские учёные.
Специалисты Институт физиологии им. И. П. Павлова РАН и Военно-медицинской академии исследуют области головного мозга, анализирующие изображение. Они установили, что форму наблюдаемого объекта определяют несколько участков фронтальной коры головного мозга. Учёные применили новый метод — трактографию проводящих путей в головном мозге живого человека. Он позволяет установить, как происходит взаимодействие между различными областями фронтальной коры и какие области мозга посылают туда информацию после предварительной обработки. Работу учёных поддержал РФФИ.
Главным образом, специалистов интересовало, один или несколько центров принятия решений существуют в головном мозге человека.
Для ответа на этот вопрос исследователи создали аппаратно-программный комплекс, который позволяет проводить электрофизиологические и психофизические измерения, функциональную магнитно-резонансную томографию для пространственного картирования активированных областей мозга, а также анатомическую магнитно-резонансную томографию и математическое моделирование. Испытуемым показывали голографические изображения — решётки различной ориентации, которые надо было определить.
После сложного анализа многочисленных данных учёные предположили, что в первые 100 мс в затылочной коре происходит оценка первичных физических характеристик изображения, таких как яркость, контраст и ориентация. Примерно через 200 мс происходит восприятие более сложных характеристик стимула: целостного изображения и ориентации. Через фронтальные доли определяют, что им показывают, и, наконец, через решение принято окончательно.
Исследователи выяснили, какие участки фронтальной коры определяют структуру изображения. Частично эти зоны совпадают с теми, которые осуществляют выбор между разными объектами, но отличаются от зон, которые реагируют на эмоциональные стимулы. Очень важно, что различные задачи, возникающие при оценке изображения, решают разные участки коры и что фронтальная кора головного мозга содержит несколько областей, которые оценивают ориентацию элементов изображения.
NAME] => URL исходной статьи [
Ссылка на публикацию: STRF.ru
Код вставки на сайт
Как мозг обрабатывает зрительную информацию
Человеческий мозг сначала воспринимает изображение, затем сравнивает его с неким «шаблоном», хранящимся в памяти, а после уже оценивает увиденное — принимает решение. На этом этапе и сосредоточили внимание петербургские учёные.
Специалисты Институт физиологии им. И. П. Павлова РАН и Военно-медицинской академии исследуют области головного мозга, анализирующие изображение. Они установили, что форму наблюдаемого объекта определяют несколько участков фронтальной коры головного мозга. Учёные применили новый метод — трактографию проводящих путей в головном мозге живого человека. Он позволяет установить, как происходит взаимодействие между различными областями фронтальной коры и какие области мозга посылают туда информацию после предварительной обработки. Работу учёных поддержал РФФИ.
Главным образом, специалистов интересовало, один или несколько центров принятия решений существуют в головном мозге человека.
Для ответа на этот вопрос исследователи создали аппаратно-программный комплекс, который позволяет проводить электрофизиологические и психофизические измерения, функциональную магнитно-резонансную томографию для пространственного картирования активированных областей мозга, а также анатомическую магнитно-резонансную томографию и математическое моделирование. Испытуемым показывали голографические изображения — решётки различной ориентации, которые надо было определить.
После сложного анализа многочисленных данных учёные предположили, что в первые 100 мс в затылочной коре происходит оценка первичных физических характеристик изображения, таких как яркость, контраст и ориентация. Примерно через 200 мс происходит восприятие более сложных характеристик стимула: целостного изображения и ориентации. Через фронтальные доли определяют, что им показывают, и, наконец, через решение принято окончательно.
Исследователи выяснили, какие участки фронтальной коры определяют структуру изображения. Частично эти зоны совпадают с теми, которые осуществляют выбор между разными объектами, но отличаются от зон, которые реагируют на эмоциональные стимулы. Очень важно, что различные задачи, возникающие при оценке изображения, решают разные участки коры и что фронтальная кора головного мозга содержит несколько областей, которые оценивают ориентацию элементов изображения.
Механизмы и принципы работы памяти головного мозга человека
Поводом написания данной статьи послужила публикация материала американских неврологов на тему измерения емкости памяти головного мозга человека, и представленная на GeekTimes днем ранее.
В подготовленном материале постараюсь объяснить механизмы, особенности, функциональность, структурные взаимодействия и особенности в работе памяти. Так же, почему нельзя проводить аналогии с компьютерами в работе мозга и вести исчисления в единицах измерения машинного языка. В статье используются материалы взятые из трудов людей, посвятившим жизнь не легкому труду в изучении цитоархитектоники и морфогенетике, подтвержденный на практике и имеющие результаты в доказательной медицине. В частности используются данные Савельева С.В. учёного, эволюциониста, палеоневролога, доктора биологических наук, профессора, заведующего лабораторией развития нервной системы Института морфологии человека РАН.
Прежде, чем преступить к рассмотрению вопроса и проблемы в целом, мы сформулируем базовые представления о мозге и сделаем ряд пояснений, позволяющих в полной мере оценить представленную точку зрения.
Первое что вы должны знать: мозг человека — самый изменчивый орган, он различается у мужчин и женщин, расовому признаку и этническим группам, изменчивость носит как количественный (масса мозга) так и качественный (организация борозд и извилин) характер, в различных вариациях эта разница оказывается более чем двукратной.
Второе: мозг самый энергозатратный орган в человеческом организме. При весе 1/50 от массы тела он потребляет 9% энергии всего организма в спокойном состоянии, например, когда вы лежите на диване и 25% энергии всего организма, когда вы активно начинаете думать, огромные затраты.
Третье: в силу большой энергозатраты мозг хитер и избирателен, любой энергозависимый процесс невыгоден организму, это значит, что без крайней биологической необходимости такой процесс поддерживаться не будет и мозг любыми способами старается экономить ресурсы организма.
Вот, пожалуй, три основных момента из далеко не полного списка особенностей мозга, которые понадобится при анализе механизмов и процессов памяти человека.
Что же такое память? Память – это функция нервных клеток. У памяти нет отдельной, пассивной эноргонезатратной локализации, что является излюбленной темой физиологов и психологов, сторонников идеи нематериальных форм памяти, что опровергается печальным опытом клинической смерти, когда мозг перестает получать необходимое кровоснабжение и примерно через 6 минут после клинической смерти начинаются необратимые процессы и безвозвратно исчезают воспоминания. Если бы у памяти был энергонезависимый источник она могла бы восстановиться, но этого не происходит, что означает динамичность памяти и постоянные энергозатраты на ее поддержание.
Важно знать, что нейроны, определяющие память человека, находятся преимущественно в неокортоксе. Неокортекс содержит порядка 11млрд. нейронов и в разы больше глии. (Глия – тип клеток нервной системы. Глия является средой для нейронов глиальные клетки служат опорным и защитным аппаратом для нейронов. Метаболизм глиальных клеток тесно связан с метаболизмом нейронов, которые они окружают.
Глии, связи нейронов:
Хорошо известно, что в памяти информация хранится разное время, существуют такие понятия как долговременная и кратковременная память. События и явления быстро забываются, если не обновляются и не повторяются, что очередное подтверждение динамичности памяти. Информация определенным образом удерживается, но в отсутствии востребованности исчезает.
Как говорилось ранее, память – энергозависимый процесс. Нет энергии – нет памяти. Следствием энергозависимости памяти является нестабильность ее содержательной части. Воспоминания о прошедших событиях фальсифицируются во времени вплоть до полной неадекватности. Счета времени у памяти нет, но его заменяет скорость забывания. Память о любом событии уменьшается обратно пропорционально времени. Через час забывается ½ от всего попавшего в память, через сутки – 2/3, через месяц – 4/5.
Рассмотрим принципы работы памяти, исходя из биологической целесообразности результатов ее работы. Физические компоненты памяти состоят из нервных путей, объединяющих одну или несколько клеток. В них входят зоны градуального и активного проведения сигналов, различные системы синапсов и тел нейронов. Представим себе событие или явление. Человек столкнулся с новой, но достаточно важной ситуацией. Через определенные сенсорные связи и органы чувств человек получил различную информацию, анализ события завершился принятием решения. При этом человек доволен результатом. В нервной системе осталось остаточное возбуждение – движение сигналов по сетям, которые использовались при решении проблемы. Это так называемые «старые цепи» существовавшие до ситуации с необходимостью запоминать информацию. Поддержания циркуляции разных информационных сигналов в рамках одной структурной цепи крайне энергозатратно. Потому сохранение в пямяти новой информации обычно затруднительно. Во время повторов или схожих ситуациях могут образоваться новые синаптические связи между клетками и тогда полученная информация запомнится на долго. Таким образом, запоминание – это сохранение остаточной активности нейронов участка мозга.
Память мозга – вынужденная компенсаторная реакция нервной системы. Любая информация переходит во временное хранение. Поддержка стабильности кратковременной памяти и восприятия сигналов от внешнего энергетически крайне затратна, к тем же клеткам приходят новые возбуждающие сигналы и, накапливаются ошибки передачи и происходит перерасход энергетических ресурсов. Однако ситуация не так плоха, как выглядит. Нервная система обладает долговременной памятью. Зачастую она так трансформирует реальность, что делает исходные объекты неузнаваемыми. Степень модификации хранимого в памяти объекта зависит от времени хранения. Память сохраняет воспоминания, но изменяет их так, как хочется обладателю. В основе долговременной памяти лежат простые и случайные процессы. Дело в том, что нейроны всю жизнь формируют и разрушают свои связи. Синапсы постоянно образуются и исчезают. Довольно приблизительные данные говорят о том, что этот процесс спонтанного образования одного нейронного синапса может происходить у млекопитающих примерно 3-4 раза в 2-5 дней. Несколько реже происходит ветвление коллатералей, содержащих сотни различных синапсов. Новая полисинаптическая коллатераль формируется за 40-45 дней. Поскольку эти процессы происходят в каждом нейроне, вполне можно оценить ежедневную емкость долговременной памяти для любого из животных. Можно ожидать, что в коре мозга человека ежедневно будет образовываться около 800 млн. новых связей между клетками и примерно столько же будет разрушено. Долговременным запоминанием является включение в новообразованную сеть участков с совершенно не использованными, новообразованными контактами между клетками. Чем больше новых синаптических контактов участвует в сети первичной (кратковременной) памяти, тем больше у этой сети шансов сохраниться надолго.
Запоминание и забывание информации. Кратковременная память образуется на основании уже имеющихся связей. Её появление обозначено оранжевыми стрелками на фрагменте б. По одним и тем же путям циркулируют сигналы, содержащие как старую (фиолетовые стрелки), так и новую (оранжевые стрелки) информацию. Это приводит к крайне затратному и кратковременному хранению новой информации на базе старых связей. Если она не важна, то энергетические затраты на её поддержание снижаются и происходит забывание. При хранении «кратковременной», но ставшей нужной информации образуются новые физические связи между клетками по фрагментам а-б-в. Это приводит к долговременному запоминанию на основании использования вновь возникших связей (жёлтые стрелки). Если информация долго остаётся невостребованной, то она вытесняется другой информацией. При этом связи могут прерываться и происходит забывание по фрагментам в-б-а или в-a (голубые стрелки).»
Из выше сказанного ясно, что мозг динамическая структура, постоянно перестраивается и имеет определенные физиологические пределы, так же мозг чрезмерно энергозатратный орган. Мозг не физиологичен, а морфогенетичен, потому его активности некорректно и неправильно измерять в системах, используемых и применимых в информационных технологиях. Из за индивидуальной изменчивости мозга не представляется возможным делать какие либо выводы обобщающие различные функциональные показатели мозга человека. Математические методы так же не применимы в расчете структурного взаимодействия в работе мозга человека, из за постоянного изменения, взаимодействия и перестраивания нервных клеток и связей между ними, что в свою очередь доводит до абсурда работу американских ученых в исследовании емкости памяти головного мозга человека.
Нейроны и нейромедиаторы
Химические цепочки
Все чувства и эмоции, которые испытывают люди, возникают путем химических изменений в головном мозге. Прилив радости, который человек ощущает после получения положительной оценки, выигрыша в лотерею или при встрече с любимым, происходит вследствие сложных химических процессов в головном мозге. Мы можем испытывать огромное количество эмоций, например таких, как печаль, горе, тревога, страх, изумление, отвращение, экстаз, умиление. Если мозг дает телу команду на осуществление какого-либо действия, например, сесть, повернуться или бежать, это также обусловлено химическими процессами. «Химический язык» нашей нервной системы состоит из отдельных «слов», роль которых исполняют нейромедиаторы (их еще называют нейротрансмиттерами).
Любой нейрон может получать большое количество химических сообщений, как положительных, так и отрицательных («работай» или «стоп»), от других нейронов, которые его окружают. Эти сообщения могут конкурировать или «сотрудничать», между собой, заставляя нейрон отвечать специфическим образом. Поскольку все эти события происходят в течение очень короткого времени (считаные доли секунды), очевидно, что медиатор должен быть удален из синаптического пространства очень быстро, чтобы те же самые рецепторы могли работать снова и снова. И это удаление может происходить тремя способами. Молекулы нейромедиатора могут быть захвачены назад в то нервное окончание, из которого они были выделены, и этот процесс получил название «обратный захват» («reuptake»); нейромедиатор может быть разрушен специфическими ферментами, находящимися в готовности недалеко от рецепторов на поверхности нейрона; или активное вещество может просто рассеяться в окружающую область мозга, и быть разрушено там.
Изменение нейротрансмиссии с помощью лекарств
Рассмотрим, что происходит при изменении уровней нейромедиаторов мозга на примере трех из них (серотонин, дофамин и гамма-аминомасляная кислота (ГАМК).
Серотонин
Многие исследования показывают, что низкий уровень серотонина в головном мозге приводит к депрессии, импульсивным и агрессивным формам поведения, насилию, и даже самоубийствам. Лекарственные вещества под названием антидепрессанты создают блок на пути обратного захвата серотонина, тем самым несколько увеличивая время его нахождения в пространстве синапса. Как итог, в целом увеличивается количество серотонина, участвующего в передаче сигналов с нейрона на нейрон, и депрессия со временем проходит.
В последние годы ведутся бурные дискуссии вокруг психического расстройства, носящего название «синдром дефицита внимания с 
гиперактивностью» (СДВГ, ADHD). Это расстройство, как правило, диагностируется в детском возрасте. Таким детям очень сложно сохранять концентрацию внимания в течение длительного времени, они совершенно не могут сидеть, не двигаясь; они постоянно находятся в движении, импульсивны и чрезмерно активны. К сожалению, СДВГ диагностируют у все большего числа детей, и многие из них получают лекарства, увеличивающие деятельность медиатора дофамина. Это помогает ребенку быть готовым к работе, более внимательным и сосредоточенным, и поэтому более способным последовательно выполнять задания.
Наркотическое вещество, известное как «экстази» или МДМА, также изменяет уровень серотонина в мозге, но намного более радикально. Он заставляет выделяющие серотонин нейроны выплескивать все содержимое сразу, затапливая этим химикатом весь мозг, что, конечно, вызывает ощущение чрезвычайного счастья и гиперактивность (чрезмерную двигательную активность). Однако, за это приходится расплачиваться позже. После того как экстази израсходовал весь мозговой запас серотонина, включаются компенсаторные механизмы, быстро разрушающие избыток нейромедиатора в мозге. После того, как спустя несколько часов действие наркотика заканчивается, человек, вероятно, будет чувствовать себя подавленным. Этот период «депрессии» продлится до тех пор, пока мозг не сможет восполнить запасы и обеспечить нормальный уровень медиатора. Повторное использование на этом фоне экстази может привести к глубокой депрессии или другим проблемам, которые будут тянуться в течение долгого времени.
Дофамин
Ученые обнаружили, что люди с расстройством психики, известным как шизофрения, фактически чрезмерно чувствительны к дофамину в мозге. Как следствие, при лечении шизофрении используются лекарства, которые блокируют дофаминовые в головном мозге, таким образом, ограничивая воздействие этого нейромедиатора.
С другой стороны, вещества, известные как амфетамины, увеличивают уровень дофамина, заставляя нейроны его высвобождать, и препятствуя его обратному захвату. В некоторых странах врачи используют разумные дозы этих препаратов при лечении некоторых заболеваний, например, синдрома гиперактивности с дефицитом внимания. Тем не менее, иногда люди абсолютно необдуманно неправильно используют эти вещества, пытаясь обеспечить себе повышенный уровень бодрствования и способность решать любые задачи.
Гамма-аминомасляная кислота
Гамма-аминомасляная кислота, или ГАМК, является главным медиатором, чья роль заключается в передаче нейронам команды «стоп». Исследователи полагают, что определенные типы эпилепсии, которые характеризуются повторными припадками, затрагивающими сознание человека и его двигательную сферу, могут являться результатом снижения содержания ГАМК в головном мозге. Передающая система мозга, не имея адекватного «тормоза», входит в состояние перегрузки, когда десятки тысяч нейронов начинают сильно и одновременно посылать свои сигналы, что приводит к эпилептическому приступу. Ученые полагают, что за разрушение слишком большого количества ГАМК могут быть ответственны мозговые ферменты, в связи с чем появились лекарства, которые помогают остановить этот процесс. Время показало их эффективность в лечении не только эпилепсии, но и некоторых других нарушений работы мозга.
Гормоны
Химическое взаимодействие
Как работает мозг?
Этот пост написан по мотивам лекции Джеймса Смита, профессора Висконсинского университета в Мадисоне, специализирующегося в микроэлектронике и архитектуре вычислительных машин.
История компьютерных наук в целом сводится к тому, что учёные пытаются понять, как работает человеческий мозг, и воссоздать нечто аналогичное по своим возможностям. Как именно учёные его исследуют? Представим, что в XXI веке на Землю прилетают инопланетяне, никогда не видевшие привычных нам компьютеров, и пытаются исследовать устройство такого компьютера. Скорее всего, они начнут с измерения напряжений на проводниках, и обнаружат, что данные передаются в двоичном виде: точное значение напряжения не важно, важно только его наличие либо отсутствие. Затем, возможно, они поймут, что все электронные схемы составлены из одинаковых «логических вентилей», у которых есть вход и выход, и сигнал внутри схемы всегда передаётся в одном направлении. Если инопланетяне достаточно сообразительные, то они смогут разобраться, как работают комбинационные схемы — одних их достаточно, чтобы построить сравнительно сложные вычислительные устройства. Может быть, инопланетяне разгадают роль тактового сигнала и обратной связи; но вряд ли они смогут, изучая современный процессор, распознать в нём фон-неймановскую архитектуру с общей памятью, счётчиком команд, набором регистров и т.п. Дело в том, что по итогам сорока лет погони за производительностью в процессорах появилась целая иерархия «памятей» с хитроумными протоколами синхронизации между ними; несколько параллельных конвейеров, снабжённых предсказателями переходов, так что понятие «счётчика команд» фактически теряет смысл; с каждой командой связано собственное содержимое регистров, и т.д. Для реализации микропроцессора достаточно нескольких тысяч транзисторов; чтобы его производительность достигла привычного нам уровня, требуются сотни миллионов. Смысл этого примера в том, что для ответа на вопрос «как работает компьютер?» не нужно разбираться в работе сотен миллионов транзисторов: они лишь заслоняют собой простую идею, лежащую в основе архитектуры наших ЭВМ.
Моделирование нейронов
Кора человеческого мозга состоит из порядка ста миллиардов нейронов. Исторически сложилось так, что учёные, исследующие работу мозга, пытались охватить своей теорией всю эту колоссальную конструкцию. Строение мозга описано иерархически: кора состоит из долей, доли — из «гиперколонок», те — из «миниколонок»… Миниколонка состоит из примерно сотни отдельных нейронов.
По аналогии с устройством компьютера, абсолютное большинство этих нейронов нужны для скорости и эффективности работы, для устойчивости ко сбоям, и т.п.; но основные принципы устройства мозга так же невозможно обнаружить при помощи микроскопа, как невозможно обнаружить счётчик команд, рассматривая под микроскопом микропроцессор. Поэтому более плодотворный подход — попытаться понять устройство мозга на самом низком уровне, на уровне отдельных нейронов и их колонок; и затем, опираясь на их свойства — попытаться предположить, как мог бы работать мозг целиком. Примерно так пришельцы, поняв работу логических вентилей, могли бы со временем составить из них простейший процессор, — и убедиться, что он эквивалентен по своим способностям настоящим процессорам, даже хотя те намного сложнее и мощнее.
На рисунке, приведённом чуть выше, тело нейрона (слева) — небольшое красное пятнышко в нижней части; всё остальное — дендриты, «входы» нейрона, и один аксон, «выход». Разноцветные точки вдоль дендритов — это синапсы, которыми нейрон соединён с аксонами других нейронов. Работа нейронов описывается очень просто: когда на аксоне возникает «всплеск» напряжения выше порогового уровня (типичная длительность всплеска 1мс, уровень 100мВ), то синапс «пробивается», и всплеск напряжения переходит на дендрит. При этом всплеск «сглаживается»: вначале напряжение за 5..20мс растёт до порядка 1мВ, затем экспоненциально затухает; таким образом, длительность всплеска растягивается до
Если несколько синапсов одного нейрона активизируются с небольшим интервалом по времени, то «разглаженные всплески», возбуждаемые в нейроне каждым из них, складываются. Наконец, если одновременно активны достаточно много синапсов, то напряжение на нейроне поднимается выше порогового уровня, и его собственный аксон «пробивает» синапсы связанных с ним нейронов.
Чем мощнее были исходные всплески, тем быстрее растут разглаженные всплески, и тем меньше будет задержка до активизации следующих нейронов.
Кроме того, бывают «тормозящие нейроны», активация которых понижает общее напряжение на связанных с ним нейронах. Таких тормозящих нейронов 15..25% от общего числа.
У каждого нейрона тысячи синапсов; но в любой момент времени активны не больше десятой части всех синапсов. Время реакции нейрона — единицы мс; такого же порядка задержки на распространение сигнала вдоль дендрита, т.е. эти задержки оказывают существенное влияние на работу нейрона. Наконец, пару соседних нейронов, как правило, связывает не один синапс, а порядка десятка — каждый с собственным расстоянием до тел обоих нейронов, а значит, с собственной длительностью задержки. На иллюстрации справа два нейрона, изображённые красным и синим, связаны шестью синапсами.
У каждого синапса своё «сопротивление», понижающее входящий сигнал (в примере выше — со 100мВ до 1мВ). Это сопротивление динамически подстраивается: если синапс активизировался сразу перед активацией аксона — то, видимо, сигнал с этого синапса хорошо коррелирует с общим выводом, так что сопротивление понижается, и сигнал будет вносить больший вклад в напряжение на нейроне. Если же синапс активизировался сразу после активации аксона — то, видимо, сигнал с этого синапса не имел отношения к активации аксона, так что сопротивление синапса повышается. Если два нейрона связаны несколькими синапсами с разной длительностью задержки, то такая подстройка сопротивлений позволяет выбрать оптимальную задержку, или оптимальную комбинацию задержек: сигнал начинает доходить именно тогда, когда от него больше всего пользы.
Таким образом, модель нейрона, принятая исследователями нейронных сетей — с единственной связью между парой нейронов и с мгновенным распространением сигнала от одного нейрона к другому — весьма далека от биологической картины. Кроме того, традиционные нейронные сети оперируют не временем отдельных всплесков, а их частотой: чем чаще всплески на входах нейрона, тем чаще будут всплески на выходе. Те детали устройства нейрона, которые отброшены в традиционной модели — существенны или несущественны они для описания работы мозга? Нейробиологи накопили огромную массу наблюдений об устройстве и поведении нейронов — но какие из этих наблюдений проливают свет на общую картину, а какие — лишь «детали реализации», и — как и предсказатель переходов в процессоре — не влияют ни на что, кроме эффективности работы? Джеймс считает, что именно временны́е характеристики взаимодействия между нейронами и позволяют приблизиться к пониманию вопроса; что асинхронность так же важна для работы мозга, как синхронность — для работы ЭВМ.
Ещё одна «деталь реализации» — ненадёжность нейрона: с некоторой вероятностью он может активизироваться спонтанно, даже если сумма напряжений на его дендритах не достигает порогового уровня. Благодаря этому, «обучение» колонки нейронов можно начинать с любого достаточно большого сопротивления на всех синапсах: вначале никакая комбинация активаций синапсов не будет приводить к активации аксона; затем спонтанные всплески приведут к тому, что понизится сопротивление синапсов, которые активизировались незадолго до этих спонтанных всплесков. Таким образом нейрон начнёт распознавать конкретные «паттерны» входных всплесков. Что самое важное, паттерны, похожие на те, на которых нейрон обучался, — тоже будут распознаваться, но всплеск на аксоне будет тем слабее и/или позднее, чем меньше нейрон «уверен» в результате. Обучение колонки нейронов получается намного эффективнее, чем обучение обычной нейронной сети: колонке нейронов не нужен контрольный ответ для тех образцов, на которых она обучается — фактически, она не распознаёт, а классифицирует входные паттерны. Кроме того, обучение колонки нейронов локализовано — изменение сопротивления синапса зависит от поведения лишь двух соединённых им нейронов, и никаких других. В результате этого, обучение приводит к изменению сопротивлений вдоль пути следования сигнала, тогда как при обучении нейронной сети веса изменяются в обратном направлении: от нейронов, ближайших к выходу — к нейронам, ближайшим ко входу.
Например, вот колонка нейронов, обученная распознавать паттерн всплесков (8,6,1,6,3,2,5) — значения обозначают время всплеска на каждом из входов. В результате обучения, задержки настроились на точное соответствие распознаваемому паттерну, так что напряжение на аксоне, вызываемое правильным паттерном, получается максимально возможным (7):
Та же самая колонка отреагирует на похожий входной паттерн (8,5,2,6,3,3,4) меньшим всплеском (6), причём напряжение достигает порогового уровня заметно позднее:
Наконец, тормозящие нейроны могут использоваться для реализации «обратной связи»: например, как на иллюстрации справа, — подавлять повторные всплески на выходе, когда вход длительное время остаётся активным; или подавлять всплеск на выходе, если он слишком задерживается по сравнению со входными сигналами, — чтобы сделать классификатор более «категоричным»; или, в нейросхеме для распознавания паттернов, разные колонки-классификаторы могут быть связаны тормозящими нейронами, чтобы активация одного классификатора автоматически подавляла все остальные классификаторы.
Распознавание изображений
Для распознавания рукописных цифер из базы MNIST (28×28 пикселей в оттенках серого) Джеймс из колонок-классификаторов, описанных выше, собрал аналог пятислойной «свёрточной нейросети». Каждая из 64 колонок в первом слое обрабатывает фрагмент 5х5 пикселей из исходного изображения; такие фрагменты перекрываются. Колонки второго слоя обрабатывают по четыре выхода из первого слоя каждая, что соответствует фрагменту 8х8 пикселей из исходного изображения. В третьем слое всего четыре колонки — каждой соответствует фрагмент из 16х16 пикселей. Четвёртый слой — итоговый классификатор — разбивает все изображения на 16 классов: класс назначается в соответствии с тем, который из нейронов активизируется первым. Наконец, пятый слой — классический перцептрон, соотносящий 16 классов с 10 контрольными ответами.
Классические нейросети достигают на базе MNIST точности 99.5% и даже выше; но по утверждению Джеймса, его «гиперколонка» обучается за гораздо меньшее число итераций, благодаря тому, что изменения распространяются вдоль пути следования сигнала, а значит, затрагивают меньшее число нейронов. Как и для классической нейросети, разработчик «гиперколонки» определяет только конфигурацию соединений между нейронами, а все количественные характеристики гиперколонки — т.е. сопротивление синапсов с разными задержками — приобретаются автоматически в процессе обучения. Кроме того, для работы гиперколонки требуется на порядок меньшее число нейронов, чем для аналогичной по возможностям нейросети. С другой стороны, симуляция таких «аналоговых нейросхем» на электронном компьютере несколько затрудняется тем, что в отличие от цифровых схем, работающих с дискретными сигналами и с дискретными интервалами времени — для работы нейросхем важны непрерывность изменения напряжений и асинхронность нейронов. Джеймс утверждает, что шага симуляции в 0.1мс достаточно для корректной работы его распознавателя; но он не уточнял, сколько «реального времени» занимает обучение и работа классической нейросети, и сколько — обучение и работа его симулятора. Сам он давно на пенсии, и свободное время он посвящает совершенствованию своих аналоговых нейросхем.
Резюме от tyomitch: представлена модель, основанная на биологических предпосылках, достаточно просто устроенная, и при этом обладающая интересными свойствами, радикально отличающими её от привычных цифровых схем и от нейросетей. Возможно, такие «аналоговые нейроны» станут элементной базой будущих устройств, которые смогут справляться с рядом задач — например, с распознованием образов — не хуже человеческого мозга; точно так же, как цифровые схемы давно превзошли человеческий мозг в способности к счёту.