预训练语言模型

邵浩

出版时间

2021-05-01

ISBN

9787121409998

评分

★★★★★
书籍介绍

预训练语言模型作为自然语言处理领域的重要突破,得到了越来越广泛的关注,相关研究者和从业人员在实际应用的过程中,亟需一本理论翔实、代码细节充分的参考书。《预训练语言模型》详细梳理了预训练语言模型的基本概念和理论基础,并通过实际代码的讲解,阐述了具有代表性的预训练语言模型的实现细节,非常适合需要快速、全面掌握预训练语言模型的从业者阅读。

目录
第 1 章 预训练语言模型简介 1
1.1自然语言处理研究进展 1
1.2预训练语言模型:为什么要预训练 4
1.2.1预训练 4
1.2.2自然语言表示 5

显示全部
用户评论
能够说得通俗易懂,可见功力深厚。
还可以吧,如果你跟我一样是个有一些机器学习和深度学习基础的同学,然后东擒西拎,零零碎碎的看了几篇预训练相关的论文,想整体梳理一下相关论文的知识结构,这本书还是比较合适的,结构很完备,而且也比较新。但是缺点是也就仅限于此了,很多地方看的不是很过瘾的原因感觉是书中的大部分内容只是讲清楚了是什么,讲到的一些为什么的点也都是一些流行的说法,感受不到笔者自身的insight在里面,比如介绍self-attention时候没有谈论到QKV最初设计的构思;再比如后面讲后BERT相关的模型很多时候只是简单罗列了改进点和方法,这些改进点背后的洞察和收益分析都没怎么讲。作为一本专门将预训练的书,感觉这个可以再讲深一些。不过也可能是笔者水平有限?不知道,给5星吧,反正我读了还很有收获,值得一读。
预训练语言模型的科普好书,讲得清楚
自然语言处理
简单易懂,讲解全面
讲解了一条通向通用人工智能最有可能的路
收藏