python - 稀疏张量以减少训练时间

标签 python machine-learning deep-learning pytorch

我正在学习 PyTorch 稀疏张量:https://pytorch.org/docs/stable/sparse.html

来自文档 ( https://pytorch.org/docs/stable/sparse.html ):“Torch 支持 COO(rdinate) 格式的稀疏张量,它可以有效地存储和处理大多数元素为零的张量。”

使用稀疏张量代替常规 PyTorch 张量的目的之一是减少训练时间吗?

最佳答案

是的,但是是间接的。

稀疏张量可以降低计算的复杂性,从而降低训练/推理时间。矩阵乘法的复杂性取决于矩阵中元素的数量,而稀疏矩阵乘法的复杂性取决于较少的非零元素的数量(由于稀疏性)

关于python - 稀疏张量以减少训练时间,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/53463156/

相关文章:

java - 如何使用算法对未知短信进行分组?

machine-learning - Ada-Delta 方法在具有 MSE 损失和 ReLU 激活的去噪自动编码器中使用时不会收敛?

tensorflow - 如何在 tensorflow 中正确使用批量标准化?

python - Django - i18n.set_language() 可以存储在用户配置文件中吗

python - 为什么这个 tensorflow 代码会崩溃?

python - 从 pandas 数据帧中提取子集确保不重叠?

algorithm - 比较和匹配来自不同商店/供应商的产品名称

machine-learning - 神经网络 MNIST : Backpropagation is correct, 但训练/测试精度非常低

python - 在 For 循环中增量追加到 JSON 文件

python - 为什么我在 Windows 上从 Pillow 得到 "Not Enough Image Data",而相同的代码在 Linux 上运行良好?