Специалисты Грацского технического университета (Австрия) взялись за решение проблемы, замедляющей рост применения средств искусственного интеллекта в мобильных приложениях: чрезмерный расход электроэнерги нейронными сетями в процессе работы. Исследователи отмечают, что головной мозг человека, обладая мощностью суперкомпьютера, расходует всего 20 Вт — миллионную долю того, что нужно реальному суперкомпьютеру. Это обусловлено экономичным механизмом передачи информации между нейронами мозга — они отправляют короткие электрические импульсы — «спайки» только тогда, когда это необходимо.

Аналогичный принцип применяется в разработанном учеными алгоритме машинного обучения e-prop: нейроны их искусственной нейросети тоже генерируют «спайки». Чтобы обучение такой малоактивной сети не замедлялось в связи с увеличением затрат времени на выбор нейронных связей, улучшающих характеристики сети, решено было задействовать децентрализованный метод по аналогии с реальным мозгом: каждый искусственный нейрон запоминает все установленные соединения по принципу сохранения следов преемственности (eligibility trace).

В применяемых сейчас средах машинного обучения все действия сети сохраняются централизованно, из-за этого нужен постоянный обмен данными между памятью и процессором, в связи с чем и расходуется энергия. При работе e-prop не нужна отдельная память и обмен данными с нею, благодаря чему процесс обучения проходит с меньшими энергозатратами.

Исследователи рассчитывают, что их алгоритм даст толчок развитию нового поколения мобильных самообучающихся систем, способных адаптироваться к изменению внешних условий. Они будут меньше полагаться на облако, выполняя алгоритмы самостоятельно, что поможет экономить энергию.

Алгоритм e-prop может быть встроен в нейроморфный чип Intel следующего поколения — Loihi.