NLP自然语言处理关键词提取和文本摘要算法【陈敬雷】

一、课程优势

本课程有陈敬雷老师的清华大学出版社配套新书教材《分布式机器学习实战》人工智能科学与技术丛书，

新书配合此实战课程结合学习，一静一动，互补高效学习！

本课程由互联网一线知名大牛陈敬雷老师全程亲自授课，技术前沿热门，是真正的互联网工业级实战项目。

二、课程简介
 

人类健全而复杂的理解认知能力能够高度概括整篇文章的中心大意，机器自动摘要的主要方法是通过算法模拟人类的理解，针对文本里的句子设计的权重算法，即拟定一个权重的评分标准，给每个句子打分，然后给出排名靠前的几个句子做出类似文章摘要的效果。

       TextRank算法是基于词图模型的关键词抽取算法，来源自PageRank的矩阵迭代收敛思想，把关键词抽取问题看作是构成文档词语的重要性排序问题，这里应用于文本提取关键字以及生成文章摘要。

       关键词是表达一个文档核心意义的最小单元，人工抽取关键词耗时费力，结果因人而异，因此，实现自动抽取具有意义。
句子的信息量用"关键词"来衡量。如果包含的关键词越多，就说明这个句子越重要。

       自动摘要的任务就是从一段给定的文本中自动抽取出若干有意义的词语或词组，抽取方法既可以通过训练语料构建模型实现，也可以借助于词语之间的关系直接从文本本身抽取，自动摘要算法，常见的并且最易实现的当属TF-IDF，不过TF-IDF算法的简单结构并不能有效地反映网页各个标签中单词的重要程度和特征词的分布情况，无法很好地完成对权值调整的功能，所以TF-IDF算法的精度并不是很高。TextRank算法无需学习训练过程，实例应用更为准确方便。

       文章的信息都包含在句子中，有些句子包含的信息多，有些句子包含的信息少。"摘要"就是要找出那些包含文章主旨大意的信息最多的句子。

       许多网站都需要它，比如论文网站、新闻网站、搜索引擎等等。计算机自动地从原始文献中提取文章摘要，文章摘要是全面准确地反映某一文献中心内容地简单连贯的短句。如果能从3000字的文章，提炼出150字的导读摘要，可以为读者节省大量阅读/理解文章的时间。

     本课就介绍下TextRank算法原理以及对应源码实现，同时对TFIDF算法实现的关键词提取和文本摘要实现也做了介绍。

三、老师介绍

陈敬雷  充电了么创始人，CEO兼CTO

陈敬雷，北京充电了么科技有限公司创始人，CEO兼CTO，十几年互联网从业经验，曾就职于用友、中软、凡客、乐蜂网(唯品会)、猎聘网、人民日报(灵思云途)、北京万朝科技，曾任架构师、首席技术官、首席科学家等职务，对业务领域B端、C端、电商、职场社交招聘、内容文娱、营销行业都有着丰富的经验，在技术领域，尤其在大数据和人工智能方向有丰富的算法工程落地实战经验，其中在猎聘网任职期间主导的推荐算法系统项目获得公司优秀项目奖，推荐效果得到5倍的提升。

陈敬雷著有清华大学出版社两本人工智能书籍，分别是《分布式机器学习实战（人工智能科学与技术丛书）》、《自然语言处理原理与实战（人工智能科学与技术丛书）》。

目前专注于大数据和人工智能驱动的上班族在线教育行业，研发了充电了么app和网站，用深度学习算法、nlp、推荐引擎等技术来高效提升在线学习效率。

四、《分布式机器学习实战》新书介绍及最新热点技术解密如下：
陈敬雷老师的京东自营书名标题： 分布式机器学习实战（人工智能科学与技术丛书）

  

****************好评如潮**************
本书作者陈敬雷曾在多家一线大型互联网公司任职，也有过技术创业的背景，经历过从0到1，从1从100的技术发展历程，尤其在AI、大数据、机器学习、深度学习等方面有很强的理论基础和实战经验。《分布式机器学习实战》包含了目前主流互联网公司所采用的大数据、AI方面的系统架构、中间件、工具、机器学习/深度学习算法等，内容由浅入深，全面详实，强烈推荐给读者！
                                                                                                                        ——陈兴茂 (猎聘CTO)

我读了这本书，有三点深切的体会，一、系统全面：本书把分布式机器学习的关键环节进行了系统化梳理，介绍了主流的技术和工具平台，同时对大数据技术也做了详细讲解，对内容的梳理全面丰富，是入门、参考、提高的有益工具书！二、深入浅出：通过大量的系统化讲课，配合丰富的素材、案例和实际操作场景介绍，可以说是不但授人以渔也同时授人以鱼！开卷有益！现学现用！活学活用！三、讲解清晰，思路明确：可以看出作者是有深厚的功底，是经过长期实践的经验总结，又融合了大量的最新结果，连同职业路径规划都详细做好，有此一书，是难得佳作！

        ——梅一多 博士（上海市青年拔尖人才获得者，阿里云最有价值技术专家，中基凌云科技有限公司联合创始人兼CTO）

《分布式机器学习实战》这本书非常贴近实战，含盖了目前各类应用场景的算法系统，对每个场景都有理论基础、源代码、算法解度等，深入浅出的讲解对于读者具有很强的实用性，做为大数据及人工智能领域的从业人员是必选的工具类参考书。

       ——杨正洪 博士(中央财经大学财税大数据实验室首席科学家)

此书的作者非常贴近实战，不“高来高去”讲一些宏观的概念，书中的每一个算法，每一个场景都是来自于当前的商业应用，对于读者来讲这是一本难得的实用宝典。

       ——刘冬冬（知名市场战略、生态系统和企业数字化转型专家，首席数据官联盟创始人，曾先后服务过统一集团、联想集团、百度、美国D&B集团、华为技术、海航科技集团等）

陈敬雷写的这本书理论联系实践，深入浅出，覆盖技术面广，并且有工业级的系统案例，包含目前比较热门的推荐算法系统、人脸识别、对话机器人等项目，对常见的大数据算法系统架构也做了详细讲解，是一本机器学习方面的佳作。本书不管是初学者、架构师、还是资深人士，都会开卷有益、有所收获。

                        ——龙旭东（北京掌游智慧科技有限公司董事长，曾任海航科技集团CTO和文思海辉董事，北京大学计算机系学士+硕士）