预训练语言模型是近年来自然语言处理领域的热门话题,以BERT为代表的预训练模型在下游任务上取得了很好的效果。在本次报告中,讲者将梳理融合知识的预训练语言模型的研究进展与典型问题,并对于预训练模型学到了哪些知识、又需要哪些知识进行讨论。
播放:165次,课程ID:3982348
预训练语言模型是近年来自然语言处理领域的热门话题,以BERT为代表的预训练模型在下游任务上取得了很好的效果。在本次报告中,讲者将梳理融合知识的预训练语言模型的研究进展与典型问题,并对于预训练模型学到了哪些知识、又需要哪些知识进行讨论。
No list
清华大学计算机系博士生。导师刘知远副教授。主要研究方向为预训练语言模型。