Leabra

Леабра означает локальный, управляемый ошибками и ассоциативный, биологически реалистичный алгоритм . Это модель из обучения , которая представляет собой баланс между Хеббом и обучением ошибок управляемым с другими сетевым -derived характеристик. Эта модель используется для математического прогнозирования результатов на основе входных данных и предыдущих влияний обучения. Эта модель находится под сильным влиянием и вносит свой вклад в конструкции и модели нейронных сетей. Этот алгоритм является алгоритмом по умолчанию в Emergent (преемник PDP ++) при создании нового проекта и широко используется в различных симуляциях.

Обучение Hebbian выполняется с использованием алгоритма условного анализа главных компонентов (CPCA) с поправочным коэффициентом для разреженных ожидаемых уровней активности.

Обучение, управляемое ошибками , выполняется с использованием GeneRec , который является обобщением алгоритма рециркуляции и приближается к рекуррентному обратному распространению информации Алмейды – Пинеды . Используется симметричная версия GeneRec со средней точкой, которая эквивалентна контрастному алгоритму обучения Хебба (CHL). См. O'Reilly (1996; Neural Computing) для получения более подробной информации.

Функция активации представляет собой аппроксимацию точечного нейрона с дискретными выбросами и непрерывным выходом кода скорости.

Ингибирование на уровне слоя или группы единиц может быть вычислено напрямую с помощью функции k-победителей- получателей (KWTA), создавая разреженные распределенные представления.

Чистый ввод вычисляется как среднее, а не сумма, по соединениям на основе нормализованных сигмоидально преобразованных значений веса, которые подлежат масштабированию на уровне группы соединений для изменения относительных вкладов. Автоматическое масштабирование выполняется для компенсации различий в ожидаемом уровне активности в разных прогнозах.

Документацию по этому алгоритму можно найти в книге «Вычислительные исследования в когнитивной нейробиологии: понимание разума путем моделирования мозга», опубликованной MIT Press. ^[1] и в новой документации

Обзор алгоритма Леабра [ править ]

Здесь приводится псевдокод Leabra, который показывает, как именно части алгоритма, описанные более подробно в последующих разделах, сочетаются друг с другом.

Перейдите по минусовой и плюсовой фазам урегулирования для каждого события. o В начале заселения для всех единиц: - Инициализировать все переменные состояния (активация, v_m и т. Д.). - Применение внешних шаблонов (зажим входа в минус, вход и выход в плюс). - Вычислить условия масштабирования чистого ввода (константы, вычисленные вот так сеть может быть динамически изменена). - Оптимизация: вычислять чистый входной сигнал один раз от всех статических активаций (например, жестко закрепленные внешние входы). o Во время каждого цикла осадки для всех незакрепленных узлов: - Вычислить возбуждающий сетевой ввод (g_e (t), он же eta_j или net) - оптимизация по отправителю за счет игнорирования неактивных. - Вычислите ингибирование кВтТА для каждого слоя на основе g_i ^ Q: * Сортировка юнитов на две группы на основе g_i ^ Q: top k и оставшиеся k + 1 -> n. * Если базовый, найдите k и k + 1-е место по высоте Если основано на среднем значении, вычислите среднее значение 1 -> k & k + 1 -> n. * Установите тормозную проводимость g_i из g ^ Q_k и g ^ Q_k + 1 - Вычислить активацию точечного нейрона, объединяя возбуждающий сигнал и торможение o После урегулирования для всех единиц запишите активации окончательного урегулирования. как минус или плюс фаза (y ^ -_ j или y ^ + _ j).После того, как обе фазы обновят веса (на основе линейного тока значения веса), для всех подключений: o Вычисление изменений веса, вызванных ошибками, с помощью CHL с мягким ограничением веса О Вычислительном Хеббе изменения веса с CPCA от плюса-фаза активации o Вычислить изменение веса нетто как взвешенную сумму вызванного ошибками и Hebbian o Увеличивайте вес в соответствии с изменением веса нетто.

Реализации [ править ]

Emergent - это оригинальная реализация Leabra, написанная на C ++ и сильно оптимизированная. Это самая быстрая реализация, подходящая для построения больших сетей. Несмотря на то, что Emergent имеет графический пользовательский интерфейс, он очень сложен и требует сложного обучения.

Если вы хотите подробно разобраться в алгоритме, вам будет легче читать неоптимизированный код. Для этого ознакомьтесь с версией MATLAB . Также доступна версия R , которая может быть легко установлена ​​через install.packages("leabRa")R и содержит краткое введение в использование пакета. Версии MATLAB и R не подходят для построения очень больших сетей, но их можно быстро установить и (с некоторым опытом программирования) легко использовать. Кроме того, они также могут быть легко адаптированы.

Специальные алгоритмы [ править ]

• Временные различия и общая модуляция дофамина . Временные различия (TD) широко используются в качестве модели из среднего мозга дофаминергической стрельбы.
• Полученное значение первичного значения (PVLV) . PVLV имитирует поведенческие и нейронные данные о павловском кондиционировании и среднем мозг дофаминергических нейронах , что огнь в пропорции к неожиданным поощрениям (альтернатива TD ).
• Рабочая память базальных ганглиев префронтальной коры (PBWM) . PBWM использует PVLV для тренировки системы обновления рабочей памяти префронтальной коры , основанной на биологии префронтальной коры и базальных ганглиев .

Ссылки [ править ]

Внешние ссылки [ править ]

• Emergent о Леабре
• PDP ++ о Leabra
• О'Рейли, RC (1996). Модель Леабры нейронных взаимодействий и обучения в неокортексе. Докторская диссертация, Университет Карнеги-Меллона, Питтсбург, Пенсильвания PDF
• R версия Leabra
• Виньетка для R версии Leabra