Функции активации, критерии качества работы НС | #6 нейросети на Python

Рекомендации по выбору функций активации для сетей с малым и большим числом слоев, а также для решения задач линейной регрессии и классификации. Рассматриваются функции: гиперболический тангенс, сигмоида, ReLu, softmax, linear. Рекомендации по выбору критериев качества при обучении нейронных сетей: хиндж (hinge), бинарная кросс-энтропия (binary crossentropy), категориальная кросс-энтропия (categorical crossentropy), logcosh, средний квадрат ошибок (mean squared error), средний модуль ошибок (mean absolute error), средний абсолютный процент ошибок (mean absolute percentage error), средний квадрат логарифмических ошибок (mean squared logarithmic error).