如何0代码、快速定制企业级NLP模型?百度工程师

来源: 网络整理

作者: 内蒙古时空小编

2020-11-13 06:22

近几年以预训练为代表的NLP技术取得了爆发式发展,新技术新模型层出不穷。企业与开发者如何将最先进的NLP领域科研成果,高效地应用到业务场景中并解决实际问题?

「百度EasyDL AI开发公开课」中,百度资深研发工程师、文心语义理解平台技术负责人龙心尘结合世界领先的文心(ERNIE)语义理解技术,通过产业实践案例,深入解析技术选型和模型调优的方法,分享了工程实践中的经验。

讲解分为5个部分:

NLP常见任务

NLP典型应用场景

EasyDL-NLP与文心(ERNIE)简介

文心核心技术解析

NLP定制化实践与经验分享

直播回放见链接:https://www.bilibili.com/video/BV1Zi4y157jd

以下为分享内容整理:

NLP常见任务

自然语言处理(NLP)大致分为4大经典任务:文本分类,文本匹配,序列标注,文本生成。

文本分类

假设输入文本为x,输出标签为y,如果y 表示x属于某一个类别的概率,或者一组类别的概率分布,则可抽象为文本分类问题。

典型的文本分类包含情感分析、新闻主题分类、文本蕴含。

如何0代码、快速定制企业级NLP模型?百度工程师

情感分析一般需要判断某句话是积极的或消极的,属于单标签分类。

新闻主题分类相对复杂,一个新闻可能同时具有多个互相独立的属性,可以同时出现,属于多标签分类。

文本蕴含任务输入的是两段文本,需要判断两段文本之间的关系(包含关系、对立关系、中立关系等),属于句对分类。

文本匹配

假设输入文本为x,输出标签为y,如果x是两段文本(x1、x2),Y表示二者的相似度,则可抽象为文本匹配问题。

如何0代码、快速定制企业级NLP模型?百度工程师

如图,x1与x2的意思是非常相似的,所以标签y是1。如果x1与x2的含义不相似,那么输出的y就是0。如果需要判断两者相似的概率,标签y在0-1之间。

文本匹配任务在搜索引擎、推荐、FAQ等判断两句话相似的场景中应用非常广泛。

除此之外,文本聚类问题也可以通过文本相似度问题进行处理。机器学习的聚类算法的核心步骤是计算两个样本之间的距离,而相似度就是两个文本之间距离的度量,可以很好地判断文本间语义层面上的距离。

序列标注

假设输入文本为x,输出标签为y,如果x是一段文本,y是一段与x等长的文本,且x与y的每个字符一一对应,则可抽象为序列标注问题。

如何0代码、快速定制企业级NLP模型?百度工程师

如上图是一个命名实体识别任务,需要要判断一句话里的一些关键词语,是否属于地址、人名等实体。这句话里面,“厦门”和“金门”是两个地址实体。

同时,这个句子中的每一个字,我们都会给出判断,将不需要关注的字标记为O,因此输出的判断标签Y与X是等长的。

除此之外,分词、词性标注、组块分析、语义角色标注、词槽挖掘等,都是典型的序列标注任务。某些人将阅读理解也理解成一种特殊的序列标注,X是2段文本,分别表示正文篇章和问题,Y是篇章中的一小段文本,表示对应问题的答案。

文本生成

假设输入文本为x,输出标签为y,如果x是一段文本,y是一段不定长的文本,则可抽象为文本生成问题。

如何0代码、快速定制企业级NLP模型?百度工程师

最典型的文本生成问题是机器翻译,比如输入一段英文,输出一段其他语言的文字。这两段文字的字、词的顺序不一定一一对应,因此输出的是一个不定长的文本。

另外,文本摘要、标题生成、闲聊等都是典型的文本生成任务。

NLP典型应用场景

上述介绍了四大经典NLP任务,核心是希望大家注意不同任务的输出X与输出Y。这样就可以在真实的NLP应用场景中,能把不同任务拆分成简单的典型任务。

如何0代码、快速定制企业级NLP模型?百度工程师

在企业实际应用和产业实践中,业务需求千变万化,往往需要对NLP模型进行定制化的训练。

定制过程中,企业要考虑三个要点:效率问题、效果问题、效能问题。

如何0代码、快速定制企业级NLP模型?百度工程师

为了帮助中小企业更高效的实现NLP模型训练、优化、部署应用,百度面向企业提供了的零门槛、一站式AI开发平台—EasyDL提供全流程服务支持,和业界领先的语义理解技术平台—文心(ERNIE)为企业降低NLP定制成本,下文为大家详细介绍其优势与核心技术。

EasyDL:全流程企业级定制化服务支持

如何在家给孩子进行英语启蒙,我们和坚

现在说好英语,被很多家长看做是孩子应该掌握的必备技能。从过去的小学到现在的幼儿,英语启蒙的年龄在逐渐幼... [详细]
网络整理 08-26

不差钱的中国动画电影如何讲好中国故事

在大上海电影院,进入影院的通道前,热门电影海报依次排列。本报记者蒋迪雯摄在日本动画电影史上打破宫崎骏专... [详细]
网络整理 08-24

拍它!看到交通违法行为别犹豫,动画教

交通违法整治全民参与!8月5日起,北京交警“随手拍”交通违法举报平台正式上线!市民群众可通过“随手拍”平台... [详细]
网络整理 08-07

捷成股份:公司旗下世优科技专注于快速

同花顺 ( 行情 300033 ,诊股)金融研究中心7月16日讯,有投资者向 捷成股份 ( 行情 300182 ,诊股)提问, 董秘您好,旗下世优科技是否有类似微美全息的全息AR技... [详细]
网络整理 07-19

朝鲜人到底如何看待美国?一部朝鲜动画

朝鲜人到底如何看待美国?一部朝鲜动画片揭开真相 朝鲜,美国,朝鲜战争,美军,苏联... [详细]
网络整理 07-11
内蒙古时空 Copyright © 2005 www.nmgsk.cn All Rights Reserved. 备案证书号 :蒙B2-20050041 蒙ICP证:蒙B2-2004021 删稿联系邮箱:sheng6665588@gmail.com