Данная статья посвящена исследованию аппроксимационных и экспрессивных возможностей глубоких нейронных сетей. В настоящее время это активно развивающаяся область, в которой публикуется множество значимых теоретических работ. Большинство существующих результатов доказывают, что нейросети приближают функции с классической гладкостью с той же точностью, что и традиционные линейные методы, такие как аппроксимация полиномами. Однако механизмы аппроксимации в нейронных сетях имеют свои уникальные особенности, которые рассматриваются в данном исследовании.
Исследование посвящено изучению аппроксимационных и выразительных возможностей глубоких нейросетей с функцией активации ReLU. Авторы доказывают, что нейросети способны приближать сложные функции с той же точностью, что и классические линейные методы, такие как полиномы. Работа вносит важный вклад в теоретическое понимание того, почему глубокое обучение столь эффективно в решении математических задач.