в каждом слое нейронки происходят операции умножения входных значений на весовые коэффициенты и прибавления довесков, коэффициенты слоёв и довесков хранят в матрицах для удобства представления и возможности использования параллельных матричных операций

если переменные много раз умножать и прибавлять константы, получаецца полином насколько коты понимают в колбасных обрезках

в результате исходное множество отображается в результат полиномиальной функцией, максимальная степень которой равна числу слоёв, то есть возможных операций умножения

в принципе конечно можно и на других функциях вместо умножения и сложения сделать, но работать будет намного медленнее и сложнее в применении