Скрытые измерения: как новый метод оценивает внутреннюю сложность нейросетей
Исследователи предложили размерность Патнаика-Пирсона — новый показатель для оценки внутренней размерности данных в нейросетях. Он помогает понять, как трансформеры обрабатывают информацию, и может упростить их архитектуру.
33 просмотров
4 мин