Теорема Колмогорова

Знаменитая теорема Колмогорова (о которой часто не подозревают практики) служит математической основой нейронных сетей.

Теорема Колмогорова утвержает, что любая непрерывная функция , определенная на -мерном единичном кубе, может быть представлена в виде суммы суперпозиций непрерывных и монотонных отображениий единичных отрезков:

Слева в этой формуле стоит произвольная непрерывная функция, определенная на многомерном кубе, справа функции определенные на отрезках [0, 1].

Конечно, нужно иметь в виду, что отображения  имеют достаточно сложную структуру.

Заметьте, что монотонные непрерывные отображения  не зависят от конкретной функции .

В свете этой теоремы задача построения и обучения сети ставится на строго математическую основу.

В начало

Содержание портала