Эволюционное приобретение нейронных топологий ( EANT / EANT2 ) - это эволюционный метод обучения с подкреплением, который развивает как топологию, так и веса искусственных нейронных сетей . Это тесно связано с работами Angeline et al. [1] и Стэнли и Мииккулайнен. [2] Как и в работе Анджелины и др., В этом методе используется тип параметрической мутации, возникающий в результате эволюционных стратегий и эволюционного программирования (в настоящее время используется наиболее продвинутая форма эволюционных стратегий CMA-ESв EANT2), в котором адаптивные размеры шага используются для оптимизации весов нейронных сетей. Подобно работе Стэнли ( NEAT ), метод начинается с минимальных структур, которые усложняются на пути эволюции.
Вклад EANT в нейроэволюцию
Несмотря на общие эти два свойства, метод имеет следующие важные особенности, которые отличают его от предыдущих работ в области нейроэволюции .
Он вводит генетическое кодирование, называемое общим генетическим кодированием (CGE), которое обрабатывает как прямое, так и косвенное кодирование нейронных сетей в рамках одной и той же теоретической основы. Кодирование имеет важные свойства, которые делают его подходящим для развивающихся нейронных сетей:
- Он завершен тем, что может представлять все типы действительных сетей фенотипов.
- Он закрыт , т.е. каждый действительный генотип представляет действительный фенотип. (Точно так же кодирование закрывается генетическими операторами, такими как структурная мутация и кроссовер.)
Эти свойства были формально доказаны в [3].
Для развития структуры и весов нейронных сетей используется эволюционный процесс, в котором исследование структур выполняется в более крупном масштабе времени (структурное исследование), а использование существующих структур выполняется в меньшем масштабе времени (структурное использование). На этапе структурного исследования новые нейронные структуры разрабатываются путем постепенного добавления новых структур к изначально минимальной сети, которая используется в качестве отправной точки. На этапе эксплуатации конструкций веса имеющихся в настоящее время структур оптимизируются с использованием стратегии развития .
Представление
EANT был протестирован на некоторых тестовых задачах, таких как проблема двухполюсной балансировки [4] и тест RoboCup keepaway. [5] Во всех тестах EANT показал себя очень хорошо. Более того, новая версия EANT, названная EANT2, была протестирована на задаче визуального сервоуправления и показала, что она превосходит NEAT и традиционный итерационный метод Гаусса – Ньютона . [6] Дальнейшие эксперименты включают результаты по проблеме классификации [7]
Рекомендации
- ↑ Питер Дж. Анджелина, Грегори М. Сондерс и Джордан Б. Поллак. Эволюционный алгоритм построения рекуррентных нейронных сетей. IEEE Transactions on Neural Networks, 5: 54–65, 1994. [1]
- ^ Нейроэволюция расширенных топологий (NEAT) Стэнли и Мииккулайнен, 2005 [2]
- ^ Йоханнес Кассахун, Марк Эджингтон, Ян Хендрик Metzen, Джеральд Sommer и Франк Кирхнер. Общее генетическое кодирование как для прямого, так и для косвенного кодирования сетей. В материалах конференции по генетическим и эволюционным вычислениям (GECCO 2007), Лондон, Великобритания, 1029–1036, 2007. [3]
- ^ Йоханнес Кассахун и Джеральд Sommer. Эффективное обучение с подкреплением за счет эволюционного приобретения нейронных топологий. В материалах 13-го Европейского симпозиума по искусственным нейронным сетям (ESANN 2005), страницы 259–266, Брюгге, Бельгия, апрель 2005 г. « Архивная копия» (PDF) . Архивировано из оригинального (PDF) 13 июня 2007 года . Проверено 11 февраля 2008 .CS1 maint: заархивированная копия как заголовок ( ссылка )
- ^ Ян Хендрик Метцен, Марк Эджингтон, Йоханнес Кассахун и Франк Киршнер. Оценка производительности EANT в тесте RoboCup Keepaway Benchmark. В материалах Шестой Международной конференции по машинному обучению и приложениям (ICMLA 2007), страницы 342–347, США, 2007 [4]
- ^ Нильс Т. Зибель и Джеральд Соммер. Эволюционное обучение с подкреплением искусственных нейронных сетей. Международный журнал гибридных интеллектуальных систем 4 (3): 171–183, октябрь 2007 г. [5]
- ^ Нильс Т. Зибель и Джеральд Соммер. Изучение классификаторов дефектов для изображений визуального осмотра с помощью нейроэволюции с использованием слабо маркированных обучающих данных. Труды Конгресса IEEE по эволюционным вычислениям (CEC 2008), страницы 3926–3932, Гонконг, Китай, июнь 2008 г. [6] .