NLP历史突破!谷歌BERT模型狂破11项纪录

本文来自新智元编辑部,原标题《NLP历史突破!谷歌BERT模型狂破11项纪录,全面超越人类》

今天请记住BERT模型这个名字。

谷歌AI团队新发布的BERT模型,在机器阅读理解顶级水平测试SQuAD1.1中表现出惊人的成绩:全部两个衡量指标上全面超越人类!并且还在11种不同NLP测试中创出最佳成绩,包括将GLUE基准推至80.4%(绝对改进7.6%),MultiNLI准确度达到86.7% (绝对改进率5.6%)等。


NLP历史突破!谷歌BERT模型狂破11项纪录



谷歌团队的Thang Luong直接定义:BERT模型开启了NLP的新时代!


NLP历史突破!谷歌BERT模型狂破11项纪录



本文从论文解读、BERT模型的成绩以及业界的评价三方面做介绍。

硬核阅读:认识BERT的新语言表示模型

首先来看下谷歌AI团队做的这篇论文。


NLP历史突破!谷歌BERT模型狂破11项纪录



论文地址:http://arxiv.org/abs/1810.04805

BERT的新语言表示模型,它代表Transformer的双向编码器表示。与最近的其他语言表示模型不同,BERT旨在通过联合调节所有层中的上下文来预先训练深度双向表示。因此,预训练的BERT表示可以通过一个额外的输出层进行微调,适用于广泛任务的最先进模型的构建,比如问答任务和语言推理,无需针对具体任务做大幅架构修改。

论文作者认为现有的技术严重制约了预训练表示的能力。其主要局限在于标准语言模型是单向的,这使得在模型的预训练中可以使用的架构类型很有限。

在论文中,作者通过提出BERT:即Transformer的双向编码表示来改进基于架构微调的方法。

BERT 提出一种新的预训练目标:遮蔽语言模型(masked language model,MLM),来克服上文提到的单向性局限。MLM 的灵感来自 Cloze 任务(Taylor, 1953)。MLM 随机遮蔽模型输入中的一些 token,目标在于仅基于遮蔽词的语境来预测其原始词汇 id。

与从左到右的语言模型预训练不同,MLM 目标允许表征融合左右两侧的语境,从而预训练一个深度双向 Transformer。除了遮蔽语言模型之外,本文作者还引入了一个“下一句预测”(next sentence prediction)任务,可以和MLM共同预训练文本对的表示。

论文的核心:详解BERT模型架构

本节介绍BERT模型架构和具体实现,并介绍预训练任务,这是这篇论文的核心创新。

模型架构

BERT的模型架构是基于Vaswani et al. (2017) 中描述的原始实现multi-layer bidirectional Transformer编码器,并在tensor2tensor库中发布。由于Transformer的使用最近变得无处不在,论文中的实现与原始实现完全相同,因此这里将省略对模型结构的详细描述。

在这项工作中,论文将层数(即Transformer blocks)表示为L,将隐藏大小表示为H,将self-attention heads的数量表示为A。在所有情况下,将feed-forward/filter 的大小设置为 4H,即H = 768时为3072,H = 1024时为4096。论文主要报告了两种模型大小的结果:

为了进行比较,论文选择,它与OpenAI GPT具有相同的模型大小。然而,重要的是,BERT Transformer 使用双向self-attention,而GPT Transformer 使用受限制的self-attention,其中每个token只能处理其左侧的上下文。研究团队注意到,在文献中,双向 Transformer 通常被称为“Transformer encoder”,而左侧上下文被称为“Transformer decoder”,因为它可以用于文本生成。BERT,OpenAI GPT和ELMo之间的比较如图1所示。


NLP历史突破!谷歌BERT模型狂破11项纪录



图1:预训练模型架构的差异。BERT使用双向Transformer。OpenAI GPT使用从左到右的Transformer。ELMo使用经过独立训练的从左到右和从右到左LSTM的串联来生成下游任务的特征。三个模型中,只有BERT表示在所有层中共同依赖于左右上下文。

输入表示(input representation)

论文的输入表示(input representation)能够在一个token序列中明确地表示单个文本句子或一对文本句子(例如, [Question, Answer])。对于给定token,其输入表示通过对相应的token、segment和position embeddings进行求和来构造。图2是输入表示的直观表示:


NLP历史突破!谷歌BERT模型狂破11项纪录



图2:BERT输入表示。输入嵌入是token embeddings, segmentation embeddings 和position embeddings 的总和。

具体如下:

关键创新:预训练任务

与Peters et al. (2018) 和 Radford et al. (2018)不同,论文不使用传统的从左到右或从右到左的语言模型来预训练BERT。相反,使用两个新的无监督预测任务对BERT进行预训练。

任务1: Masked LM

从直觉上看,研究团队有理由相信,深度双向模型比left-to-right 模型或left-to-right and right-to-left模型的浅层连接更强大。遗憾的是,标准条件语言模型只能从左到右或从右到左进行训练,因为双向条件作用将允许每个单词在多层上下文中间接地“see itself”。

为了训练一个深度双向表示(deep bidirectional representation),研究团队采用了一种简单的方法,即随机屏蔽(masking)部分输入token,然后只预测那些被屏蔽的token。论文将这个过程称为“masked LM”(MLM),尽管在文献中它经常被称为Cloze任务(Taylor, 1953)。

在这个例子中,与masked token对应的最终隐藏向量被输入到词汇表上的输出softmax中,就像在标准LM中一样。在团队所有实验中,随机地屏蔽了每个序列中15%的WordPiece token。与去噪的自动编码器(Vincent et al., 2008)相反,只预测masked words而不是重建整个输入。

虽然这确实能让团队获得双向预训练模型,但这种方法有两个缺点。首先,预训练和finetuning之间不匹配,因为在finetuning期间从未看到[MASK]token。为了解决这个问题,团队并不总是用实际的[MASK]token替换被“masked”的词汇。相反,训练数据生成器随机选择15%的token。例如在这个句子“my dog is hairy”中,它选择的token是“hairy”。然后,执行以下过程:

数据生成器将执行以下操作,而不是始终用[MASK]替换所选单词:

Transformer encoder不知道它将被要求预测哪些单词或哪些单词已被随机单词替换,因此它被迫保持每个输入token的分布式上下文表示。此外,因为随机替换只发生在所有token的1.5%(即15%的10%),这似乎不会损害模型的语言理解能力。

使用MLM的第二个缺点是每个batch只预测了15%的token,这表明模型可能需要更多的预训练步骤才能收敛。团队证明MLM的收敛速度略慢于 left-to-right的模型(预测每个token),但MLM模型在实验上获得的提升远远超过增加的训练成本。

任务2:下一句预测

许多重要的下游任务,如问答(QA)和自然语言推理(NLI)都是基于理解两个句子之间的关系,这并没有通过语言建模直接获得。

在为了训练一个理解句子的模型关系,预先训练一个二进制化的下一句测任务,这一任务可以从任何单语语料库中生成。具体地说,当选择句子A和B作为预训练样本时,B有50%的可能是A的下一个句子,也有50%的可能是来自语料库的随机句子。例如:

Input = [CLS] the man went to [MASK] store [SEP]

he bought a gallon [MASK] milk [SEP]

Label = IsNext

Input = [CLS] the man [MASK] to the store [SEP]

penguin [MASK] are flight ##less birds [SEP]

Label = NotNext

团队完全随机地选择了NotNext语句,最终的预训练模型在此任务上实现了97%-98%的准确率。

实验结果

如前文所述,BERT在11项NLP任务中刷新了性能表现记录!在这一节中,团队直观呈现BERT在这些任务的实验结果,具体的实验设置和比较请阅读原论文。


NLP历史突破!谷歌BERT模型狂破11项纪录



图3:我们的面向特定任务的模型是将BERT与一个额外的输出层结合而形成的,因此需要从头开始学习最小数量的参数。在这些任务中,(a)和(b)是序列级任务,而(c)和(d)是token级任务。在图中,E表示输入嵌入,Ti表示tokeni的上下文表示,[CLS]是用于分类输出的特殊符号,[SEP]是用于分隔非连续token序列的特殊符号。


NLP历史突破!谷歌BERT模型狂破11项纪录



图4:GLUE测试结果,由GLUE评估服务器给出。每个任务下方的数字表示训练样例的数量。“平均”一栏中的数据与GLUE官方评分稍有不同,因为我们排除了有问题的WNLI集。BERT 和OpenAI GPT的结果是单模型、单任务下的数据。所有结果来自http://gluebenchmark.com/leaderboard和http://blog.openai.com/language-unsupervised/


NLP历史突破!谷歌BERT模型狂破11项纪录



图5:SQuAD 结果。BERT 集成是使用不同预训练检查点和微调种子(fine-tuning seed)的 7x 系统。


NLP历史突破!谷歌BERT模型狂破11项纪录



图6:CoNLL-2003 命名实体识别结果。超参数由开发集选择,得出的开发和测试分数是使用这些超参数进行五次随机重启的平均值。

超过人类表现,BERT刷新了11项NLP任务的性能记录

论文的主要贡献在于:

BERT目前已经刷新的11项自然语言处理任务的最新记录包括:将GLUE基准推至80.4%(绝对改进7.6%),MultiNLI准确度达到86.7% (绝对改进率5.6%),将SQuAD v1.1问答测试F1得分纪录刷新为93.2分(绝对提升1.5分),超过人类表现2.0分。

BERT模型重要意义:宣告NLP范式的改变

北京航空航天大学计算机专业博士吴俣在知乎上写道:BERT模型的地位类似于ResNet在图像,这是里程碑式的工作,宣告着NLP范式的改变。以后研究工作估计很多都要使用他初始化,就像之前大家使用word2vec一样自然。

BERT一出,那几个他论文里做实验的数据集全被轰平了,大家洗洗睡了。心疼swag一秒钟,出现3月,第一篇做这个数据集的算法,在超了baseline 20多点的同时也超过人了。

通过BERT模型,吴俣有三个认识:

1、Jacob在细节上是一等一的高手

这个模型的双向和Elmo不一样,大部分人对论文作者之一Jacob的双向在novelty上的contribution 的大小有误解,我觉得这个细节可能是他比Elmo显著提升的原因。Elmo是拼一个左到右和一个右到左,他这个是训练中直接开一个窗口,用了个有顺序的cbow。

2、Reddit对跑一次BERT的价格讨论

For TPU pods:

4 TPUs * ~$2/h (preemptible) * 24 h/day * 4 days = $768 (base model)

16 TPUs = ~$3k (large model)

For TPU:

16 tpus * $8/hr * 24 h/day * 4 days = 12k

64 tpus * $8/hr * 24 h/day * 4 days = 50k

For GPU:

"BERT-Large is 24-layer, 1024-hidden and was trained for 40 epochs over a 3.3 billion word corpus. So maybe 1 year to train on 8 P100s? "

3、不幸的是,基本无法复现,所以模型和数据谁更有用也不好说。

BERT的成功也说明,好的深度学习研究工作的三大条件: 数据,计算资源,工程技能点很高的研究员(Jacob在微软时候,就以单枪匹马搭大系统,而中外闻名)。



网友评论:
练个ELMo已经要疯了,这个…………


这个模型其实是个很天然的想法, 可以说是目前科技树上的必然.
没有记错的话, 这个idea在今年的ICLR上已经有类似的. 不过结果没有这么爆炸.Cloze任务更是, 近几年是比较少, 不过7年前我刚入坑那会儿还是挺多用的.
不过伟大的google总是可以把一切东西吹得好像是他们100%原创一样, 而且把自己粉刷得很scientific.这篇文章主要的意义其实还是一些工程上的trick. 不过不能否认, 有很高的工程学价值.
P.S. 我总觉得google近几年在NLP的核心实力其实是调参, 他们的结果都是超级难复现.


没鹅加了
赞同,没深入研究过nlp,但这篇论文看起来是各种engineering trick的堆积,并没有当初alpha zero那种看起来的震撼。

  -
所以说为什么大IT公司总能出这些惊人的成果呢?因为他们硬件资源无敌强大,调参效率高啊。人家试过的参数多,当然就能发现效果好的参数啦
来做个高考语文阅读理解题目试试
百度呢?

模型没啥太多让我惊艳的地方,但是结论很成功:数据+算力就是这波AI发展的真正推动力,trick再多不如数据多


是Google无敌,这个paper只有Google能出,其他所有公司都只能瞪眼,原作者自己说的,8gpu的pascal,就是1080TI要算一年,在TPU上只需要4天
我不太信,就谷歌翻译那水平,你说他能做阅读理解...

  -

这话说得……
With four parameters I can fit an elephant, and with five I can make him wiggle his trunk.
——John von Neumann
无法复现有毛用,参考电池开发
我想起去年google吹自己的ai对话通过图灵测试,还开了一场激动人心的发布会,show了激动人心的ppt,引发论坛激动人心的讨论,请问什么时候可以实装?

前两天发布会说了,十一月实装。
所以是ai下令关掉google plus的?

谷歌翻译现在翻译英文的水平真的非常强。。
让我回想起了DeepMind在谷歌的尴尬处境
想起big GAN,效果很牛逼 但…其他人做得到吗.jpg

—— 来自 HUAWEI EML-AL00, Android 8.1.0上的 v2.0.2

别着急,Google说他们会放出代码和模型

— from samsung SM-G950U1, Android 8.0.0 of Next Goose v2.0.4-play
http://github.com/google-research/bert

代码和预训练的模型都在这里了

— from samsung SM-G950U1, Android 8.0.0 of Next Goose v2.0.4-play
感觉现在的AI核心是大数据,谁数据多谁就准

有人试过在上面做transfer learning吗,效果好不好。

标签:    发布日期:07-01