29.04.2024
Подписывайтесь на Telegram-канал по ссылке

Учёные разработали новый метод самообучения нейросетей

Memristor based spiking N

Стремительное развитие сложных цифровых технологий требует новых вычислительных средств с повышенной производительностью и низким энергопотреблением. Ими могут стать нейроморфные микропроцессоры, работа которых основана на принципах действия человеческого мозга. Развитие нейроморфных вычислительных систем требует разработки для них специальных алгоритмов анализа данных. Чтобы обеспечить гибкую реакцию на различные внешние стимулы, нужно реализовать процесс самообучения непосредственно на нейроморфном устройстве. При этом нейросети, для которых предназначены нейроморфные устройства, импульсные: информация в них кодируется только наличием или отсутствием импульсов-спайков в каждый момент времени.

Учёные Курчатовского института разработали алгоритм обучения спайковых нейронных сетей в динамической среде. Они предложили использовать для создания модели импульсной нейронной сети алгоритмы обучения с подкреплением (Reinforcement Learning, RL). При использовании RL-алгоритмов система обучается практически как человек — методом проб и ошибок. Главный принцип — «запоминание» правильного действия за счёт его подкрепления. Исследования помогут в создании биоподобных устройств, способных к самообучению в режиме реального времени при взаимодействии с окружающим миром. Результаты работы опубликованы в журнале Neural Networks.

Как рассказывают учёные, современный уровень нейроморфных вычислительных устройств позволяет реализовать алгоритмы анализа данных с уже готовыми, заранее настроенными моделями импульсных сетей. Однако для реализации обучения непосредственно на устройстве требуются новые технологические решения. Одно из них — использование в качестве соединений между нейронами в импульсной нейронной сети мемристоров. Аналогично синапсам, соединяющим нейроны в живых нервных сетях, они способны изменять электрическое сопротивление в зависимости от проходящего по ним тока. Этот биоподобный механизм обеспечивает пластичность импульсных нейронных сетей, необходимую для их обучения.

Учёные смогли не только разработать алгоритм обучения, но и предсказать возможность его аппаратного исполнения, то есть подобрать необходимые материалы и другие технологические решения. По словам исследователей, в перспективе нейроморфные системы с мемристивными синапсами смогут обучаться в процессе работы, в режиме реального времени. В частности, это необходимо для создания нейроморфных управляющих систем — например, для беспилотного транспорта или нейропротезов.