Sakana AI представила метод Error Diffusion для обучения нейронных сетей. Этот подход позволяет обходить ограничение биологических систем, связанное с необходимостью транспортировки весов в обратном направлении. Метод применяется для обучения двухпоточных сетей с возбуждающими и тормозными нейронами, строго соответствующих принципу Дейла.
Результаты применения Error Diffusion демонстрируют эффективность подхода. На тесте MNIST достигнута точность 96.7%, а на CIFAR-10 — 61.7%. Метод также показал масштабируемость на задачах обучения с подкреплением. Исследование включает анализ зависимости результатов от типа задачи.