Якщо ми знаємо, які вхідні характеристики входять до моделі, і знаємо, за які функції чи аспекти функцій відповідає кожен нейрон, чому глибокі нейронні мережі є «чорними ящиками»?" Мені незрозуміло, чому ми не можемо просто роздрукувати вагові коефіцієнти та зміщення, призначені кожному нейрону, і побачити, як вони змінюються з підвищенням точності моделі.
Усі пояснення, які я чув, були версіями "це просто багато чисел." Я розумію, що може бути важко відслідковувати всі нейрони в складній нейронній мережі, але чому це неможливо? (І чи можливо це в менших моделях?)