Быстрая безградиентная максимизация активации для нейронов спайковой сети

Описание семинара

Элементы нейронных сетей, как биологических, так и искусственных, могут быть описаны по их селективности к каким-то когнитивно значимым стимулам.

Исследователи разработали эффективный контур обратной связи, итеративно оптимизирующий стимулы для отдельных нейронов, и применили его к сверточной спайковой нейронной сети. Метод оптимизации для максимизации активации отдельных нейронов основан на разложении тензорного поезда.

В докладе будет рассказано про то, как отслеживаются изменения в оптимальных стимулах для искусственных нейронов во время обучения, а также показано, что высокоселективные нейроны могут формироваться уже на ранних этапах обучения и на ранних слоях спайковой сверточной сети.

Регистрация