BERT的get_sequence_output与get_pooled_output方法
bert
TensorFlow code and pre-trained models for BERT
项目地址：https://gitcode.com/gh_mirrors/be/bert
免费下载资源
·
BERT的get_sequence_output方法获取token向量是如何得到的？
通过如下方法得到，实际上获取的是encoder端最后一层编码层的特征向量。
BERT的get_pooled_output方法获取的句子向量是如何得到的？
通过如下方法得到，实际上获取的是[CLS]这个token对应的向量，把它作为整个句子的特征向量。
BERT代码中如何区分是预训练还是微调的，预训练代码是否开源了？
BERT模型开源代码中有一个run_pretraining.py的脚本，该脚本实现了预训练的逻辑。此外，关于下游任务的微调，官方也提供了对应的任务类脚本，如run_classifier.py等。
GitHub 加速计划 / be / bert
8
2
下载
TensorFlow code and pre-trained models for BERT
最近提交(Master分支：3 个月前 )
eedf5716
Add links to 24 smaller BERT models. 4 年前
8028c045 - 4 年前
旨在为数千万中国开发者提供一个无缝且高效的云端环境，以支持学习、使用和贡献开源项目。
更多推荐
4
0- 0
已为社区贡献2条内容
所有评论(0)