是否可以使用 TensorFlowJS 从 OpenAI GPT-2 生成文本?
如果不是,限制是什么,例如模型格式或...?
最佳答案
除了 tensorflowjs 不支持的 gpt-2 中的某些操作之外,我看不出任何原因。
我不知道该怎么做,但这是一个很好的起点:install.sh
python3 -m pip install -q git+https://github.com/huggingface/transformers.git
python3 -m pip install tensorflow
save.py
from transformers import TFGPT2LMHeadModel, GPT2Tokenizer
tokenizer = GPT2Tokenizer.from_pretrained("gpt2")
# add the EOS token as PAD token to avoid warnings
model = TFGPT2LMHeadModel.from_pretrained("gpt2", pad_token_id=tokenizer.eos_token_id)
model.save("./test_gpt2")
这会给你一个 SavedModel 文件。现在您可以尝试找出输入和输出节点,并使用 tensorflowjs_converter
尝试转换它。指针:https://www.tensorflow.org/js/tutorials/conversion/import_saved_model .
关于tensorflow - OpenAI GPT-2 模型与 TensorFlow JS 一起使用,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/62677651/