Недавно я реализовал модель, и когда я ее запустил, я получил это предупреждение:
UserWarning: Converting sparse IndexedSlices to a dense Tensor of unknown shape.
This may consume a large amount of memory.
"Converting sparse IndexedSlices to a dense Tensor of unknown shape. "
С некоторыми подобными настройками параметров (встраивание мерностей) внезапно модель смехотворно медленна.
- Что означает это предупреждение? Похоже, что что-то, что я сделал, привело к тому, что все градиенты были плотными, и поэтому backprop выполняет плотные вычисления матрицы.
- Если это проблема с моделью, которая вызывает это, как я могу ее идентифицировать и исправить?