От спиновых стекол к обучению нейронных сетей

Аннотация

Дан обзор концептуальной основы теории спиновых стекол. Приведено описание математического аппарата, разработанного для спиновых стекол и модели ограниченной машины Больцмана (ОМБ). Рассмотрена оптимизация алгоритма обучения ОМБ неградиентными методами. Описан и использован способ извлечения гиперпараметра алгоритма обучения — температуры. Исследованы критические явления в ОМБ — энтропийный кризис, различие в температурах создания и обработки обучающей выборки.