基于BERT 的中文数据集下的命名实体识别(NER)
免费下载资源
向AI转型的程序员都关注了这个号????????????
机器学习AI算法工程 公众号：datayx
网上也有很多使用BERT的例子和教程，但是我觉得都不是很完整，有些缺乏注释对新手不太友好，有些则是问题不同修改的代码也不同，自己也在路上遇到了不少的坑。所以记录一下。
项目代码 获取方式：
关注微信公众号 datayx 然后回复 命名实体 即可获取。
AI项目体验地址 https://loveai.tech
数据集
tmp 文件夹下
如上图，对数据集进行了分割，其中source是训练集中文，target是训练集的label。
test1 测试集，test_tgt 测试集label。dev 验证集 dev-lable 验证集label。
数据格式
注意
BERT分词器在对字符分词会遇到一些问题。
比如 输入叩 问 澳 门 =- =- =- 贺 澳 门 回 归 进 入 倒 计 时 ，label :O O B-LOC I-LOC O O O O B-LOC I-LOC O O O O O O O
会把输入的=- 处理成两个字符，所以会导致label对应不上，需要手动处理一下。比如如下每次取第一个字符的label。其实这个问题在处理英文会遇到，WordPiece会将一个词分成若干token,所以需要手动处理（这只是一个简单处理方式）。
其中共设置了10个类别，PAD是当句子长度未达到max_seq_length时，补充0的类别。
CLS是每个句首前加一个标志[CLS]的类别，SEP是句尾同理。（因为BERT处理句子是会在句首句尾加上这两个符号。）
代码
其实BERT需要根据具体的问题来修改相对应的代码，NER算是序列标注一类的问题，可以算分类问题吧。
然后修改的主要是run_classifier.py部分即可，我把修改下游任务后的代码放到了run_NER.py里。
代码中除了数据部分的预处理之外，还需要自己修改一下评估函数、损失函数。
训练
首先下载BERT基于中文预训练的模型（BERT官方github页面可下载），存放到BERT_BASE_DIR文件夹下，之后将数据放到NER_DIR文件夹下。即可开始训练。sh run.sh
实验结果
总结
其实在读了BERT的论文后，结合代码进行下游任务的微调能够理解的更深刻。
其实改造下游任务主要是把自己数据改造成它们需要的格式，然后将输出类别根据需要改一下，然后修改一下评估函数和损失函数。
如下图根据具体的下游任务修改label即可。如下图的第四个就是在NER上进行修改，
之后会写一篇Attention is all you need 和 bert论文的详解，会结合代码来解释一下细节，比如Add & Norm是如何实现的，为什么要Add & Norm。== 感觉不用写了 bert已经火遍大街了 不重复造轮子了。建议大家直接莽源代码和论文。
阅读过本文的人还看了以下文章：
《深度学习入门：基于Python的理论与实现》高清中文PDF+源码
2019最新《PyTorch自然语言处理》英、中文版PDF+源码
《21个项目玩转深度学习：基于TensorFlow的实践详解》完整版PDF+附书代码
PyTorch深度学习快速实战入门《pytorch-handbook》
【下载】豆瓣评分8.1,《机器学习实战:基于Scikit-Learn和TensorFlow》
李沐大神开源《动手学深度学习》，加州伯克利深度学习（2019春）教材
【Keras】完整实现‘交通标志’分类、‘票据’分类两个项目，让你掌握深度学习图像分类
如何利用全新的决策树集成级联结构gcForest做特征工程并打分？
Machine Learning Yearning 中文翻译稿
斯坦福CS230官方指南：CNN、RNN及使用技巧速查（打印收藏）
中科院Kaggle全球文本匹配竞赛华人第1名团队-深度学习与特征工程
不断更新资源
深度学习、机器学习、数据分析、python
搜索公众号添加： datayx
长按图片，识别二维码，点关注
机器学习算法资源社群
不断上传电子版PDF资料
技术问题求解
QQ群号： 333972581
长按图片，识别二维码
海淘美妆
GitHub 加速计划 / be / bert
37.6 K
9.55 K
下载
旨在为数千万中国开发者提供一个无缝且高效的云端环境，以支持学习、使用和贡献开源项目。
更多推荐
1
0- 0
已为社区贡献20条内容
所有评论(0)