python - Tensorflow:分层 Softmax 实现

标签 python tensorflow pytorch hierarchical softmax

我目前有用向量表示的文本输入,我想对它们的类​​别进行分类。因为它们是多级类别,所以我打算使用 Hierarchical Softmax

Example:

 - Computer Science
     - Machine Learning
     - NLP
 - Economics
 - Maths
     - Algebra
     - Geometry

我不知道如何在 Tensorflow 中实现它。我遇到的所有示例都是使用其他框架。

谢谢

最佳答案

实际上,如果您的类别总数在数百到数千(小于 50K)之间,则无需考虑使用 hierarchical softmax,它旨在更快地运行训练以分类到数百万个类别(对于例如,词汇表中的单词数)。

根据我的经验(使用朴素贝叶斯和神经网络),在训练时使用层次结构不一定会提高分类质量。

但是,如果您有兴趣实现 Hierarchical Softmax,那就是另一回事了。

关于python - Tensorflow:分层 Softmax 实现,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/47313656/

相关文章:

python - 在 Spark Dataframe 中跨多行 json 字符串统一架构

python - 如何为预定义方程中的变量分配新值?

python - Python Tensorflow 中的人脸识别系统

python - 在 tensorflow 中恢复预训练模型时遇到问题

python - 如何在同一个 docker 镜像上使用不同类型的 gpus(例如 1080Ti 与 2080Ti)而无需重新运行 `python setup.py develop`?

python - 使用 Pytorch 显示增强图像

python - 从数据帧 1 中删除数据帧 2 中的等效行具有空值的行

python - 用换行符写文本文件

python - 在 tensorflow 中使用 scatter_update 和馈送的数据

python - 向自定义 resnet 18 架构添加简单的注意力层会导致前向传递错误