1.7使用Word Embedding实现中文自动摘要《深入浅出Embedding》

最新推荐文章于 2025-03-09 17:21:39 发布
最新推荐文章于 2025-03-09 17:21:39 发布
阅读量982 收藏 1
点赞数
分类专栏： 自然语言处理 文章标签： 自然语言处理 深度学习 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhang_xiaomeng/article/details/123160168
版权

本节通过一个实例讲解如何使用Word Embedding实现中文自动摘要，这里使用Gensim中的word2vec模型来生成Word Embedding.

1.7.1 背景说明

使用Word Embedding方法提取关键字，主要步骤如下：

1）导入一个中文语料库

2）基于这个中文语料库，搭建word2vec模型，训练得到各单词词向量

3）导入一个文档，包括各主题及其概要描述信息，预处理该文档，并转换为词向量

4）用聚类的方法，生成各主题的若干个关键词

1.7.2 预处理中文语料库

利用jieba分词，过滤停用词，实现代码如下：

提示词工程在自动驾驶AI中的应用
AI天才研究院
12-30 616
提示词工程在自动驾驶AI中的应用 关键词：自动驾驶、人工智能、提示词工程、算法原理、实践案例 摘要 随着人工智能技术的飞速发展，自动驾驶技术成为当今汽车行业的重要研究方向。在自动驾驶系统中，提示词工程作为核心模
自然语言模型的发展历程
AI天才研究院
06-28 1374
阶段一（直到1970年代），模型基于规则：该阶段自然语言处理主要基于手写规则，只能处理少量数据阶段二（1970-2000年代），模型基于统计：从数学统计的角度预测下个词的出现概率，代表模型如N-Gram等，推理过程非常直观，但是推理结果非常受数据集的影响，容易出现数据稀疏（即空值）等问题阶段三（2000年代到现在），模型基于神经网络：模型开始像人脑一样学习，2017年以前主要是小模型阶段， 在 2017年Transformer发布之后，模型开始尝试大量数据的训练学习，进入大语言模型阶段，在加入人工干预的反馈
WordEmbedding-WikiChinese：基于中文维基百科文本数据训练词向量
02-19
基于中文维基百科文本数据训练词向量 一，数据获取 本词向量利用的是中文维基百科的语料进行训练。 语料地址： （大小1.16G） 也可以在我的网盘上下载：链接： 提取码：ihu4 二，数据转换 原数据的格式是xml，我们可以将其转换为txt。 这里使用的是gensim自带的WikiCorpus，首先读取xml文件到input_file中，然后其中的get_texts方法会生成一个get_texts器，每一个继承蕴含了一篇文章，这样我们就可以将其写入新的txt文件中了。 三，繁体数据转换为简体数据 该Wiki数据是繁体中文数据，我们要把他们转换为简体中文数据。 利用zhconv包。 四，分词 利用结巴分词。 五，去除非中文词 一些单词中会包含非中文的词，我们要利用正则表达式将该词移除。 判断是否中文词的正则表达式为： ^[\u4e00-\u9fa5]+$ 六，词向量训练 利用from gens
Chinese word embedding 论文
weixin_40485472的博客
07-11 517
1.Component-Enhanced Chinese Character Embeddingshttp://yanran.li/files/emnlp2015comp.pdf点击打开链接
常用中文开源embedding模型应用
最新发布
保持热爱。
03-09 1559
以下为你介绍几种常用的中文开源 Embedding 模型，以及它们的输入输出调用方式和代码示例。
Word Embedding的通俗解释
https://blog.datasource.space
07-27 4759
**Word Embedding是NLP中最频繁出现的词了，关于word embedding，其实很简单。 word embedding的意思是：给出一个文档，文档就是一个单词序列比如 “A B A C B F G”, 希望对文档中每个不同的单词都得到一个对应的向量(往往是低维向量)表示。 比如，对于这样的“A B A C B F G”的一个序列，也许我们最后能得到：A对应的向量为[0.1 0.6 -0.5]，B对应的向量为[-0.2 0.9 0.7] （此处的数值只用于示意） 之所以希望把每个单词变成一个
常用的词嵌入（Word Embedding）方法及其原理（超详细的李宏毅视频课笔记）
双鸭山•克里菲斯•北方孤星之堕
08-01 1万+
介绍最早的电脑读取文字的 每一个词汇都当做一个符号，都用向量来描述，这个方法是不足的，这样词汇和词汇之间的相关性反应不出来。 后来有了word class，将词汇进行分类。 这个方法也比较粗糙，比如动物也分了很多种 Word Embedding 每一个的词汇都用向量来描述，但是每一个维度是一个属性。 怎么做？这是一个无监督方法，通过让模型阅读大量词汇，就可以知道这个embedding的feature vector长什么样子。 就是找一个network，输入是一个词汇，输出就是那个embedding， 输
Word Embeding词嵌入
weixin_42822452的博客
06-27 592
Word Embeding词嵌入Classical Representation: One-hot EncodingFrom One-hot to Distributed RepresentationStatic Word EmbeddingWord2VecWord Embedding by Matrix FactorizationGlove 语言数字化的这个过程叫做 Word Embedding，中文名称叫做 “词嵌入”， 而转化后获得到的向量矩阵就叫做词向量， 其实就是词的数学表示。在过去20多年来，N
深入浅出Embedding原理解析与应用实践
weixin_40920183的博客
06-12 1812
吴茂贵,王红星 著吴茂贵资深大数据和人工智能技术专家，在BI、数据挖掘与分析、数据仓库、机器学习等领域工作超过20年。在基于Spark、TensorFlow、PyTorch、Keras等的...
深度解析 Transformer 模型中的位置嵌入（Positional Embedding）
老牛啊
12-29 1998
在自然语言处理中，词语的顺序对句子的意义至关重要。然而，传统的自注意力机制无法区分词语的位置。本文深入浅出地介绍了**位置嵌入（Positional Embedding）**的概念及其在Transformer模型中的作用，解释了它如何帮助模型理解词语的顺序，从而提升文本处理的准确性。通过简单的例子和代码实现，带你一步步了解位置嵌入的原理与应用。无论你是NLP初学者还是进阶研究者，这篇文章都将为你揭开Transformer架构中这一关键组件的神秘面纱……
斯坦福吴恩达-深度学习和机器学习全套视频+课件！
Alexquyun的专栏
06-24 856
这些课程专为已有一定基础（基本的编程知识，熟悉 Python、对机器学习有基本了 解），想要尝试进入人工智能领域的计算机专业人士准备。介绍显示：“深度学习是科技业 最热门的技能之一，本课程将帮你掌握深度学习。” 学生将可以学习到深度学习的基础，学会构建神经网络，并用在包括吴恩达本人在内的多位业界顶尖专家指导下创建自己的机器学习项目。
embedding理解.pdf
04-08
embedding理解.pdf
从Word2Vec到BERT：上下文嵌入 (Contextual Embedding) 最新综述论文.pdf
03-19
词嵌入表示向量是自然语言处理的重要组成部分。最近来自牛津大学和DeepMind等撰写了关于上下文嵌入表示的综述论文，详述了当前预训练模型的代表性工作等。
什么是词嵌入（word embedding）
Todd_168的博客
02-28 2442
整理自知乎 Embedding在数学上表示一个maping, f: X -> Y， 也就是一个function。其中该函数是 injective（就是我们所说的单射函数，每个Y只有唯一的X对应，反之亦然） structure-preserving (结构保存，比如在X所属的空间上X1 < X2,那么映射后在Y所属空间上同理 Y1 < Y2)。 那么对于word embedd...
Word Embedding （word2vector）
ronghwa_lu
09-19 632
引言  通过上一个看得吃力的视频，现在word embedding给我的印象就是cv中的auto-encoder，只不过网络不一样。目测不难，接下来看个究竟。 word represent（word2vec） 1-of-N Encoding  cv中的one-hot。如果1w个单词，vector的维度也是1w。每个vector只有一个维是1，其余是0。  vector之间没有任何联系，生活中猫和狗属于动物；没有充分利用vector的空间，网络无法训练这么长的vector。 Word Embedding  
八、词嵌入语言模型（Word Embedding）
contributed_l的博客
03-10 2580
词嵌入（Word Embedding, WE），任务是把的词转换为的向量，从而便于进行数学处理。一个更官方一点的定义是：词嵌入是是指把一个维数为所有词的数量的（one-hot形式表示的词）【嵌入】到一个的连续向量空间中，每个单词或词组被映射为实数域上的向量。Word Embedding 解决了 One-Hot 独热编码的两个问题。
使用Word Embedding构造简洁有效的文本摘要系统
热门推荐
张俊林的博客
04-28 3万+
本文介绍了使用Word Embedding进行摘要提取的一种非常简洁的方法。
wikipedia 训练繁体中文 embedding(word2vec)模型
Jasmine_dream
07-23 1821
由于课题任务需要一个繁体中文的word3vec, 折腾经过记录在此。希望以后少掉几个坑。 训练好的embedding放在网盘中， 密码：2um0 原文发布于个人博客(好望角)，那里有更好的阅读体验。 get wiki 最新的wiki datas下载地址，目前有1.6G大小。 里面的内容以XML格式保存。节点信息如下： <page> &
Glyce 一种针对中文汉字结构信息抽取的Embedding策略
guoyuhaoaaa的博客
02-05 2529
这篇博客主要参考了香侬科技公司李纪为大神团队的paper《Glyce: Glyph-vectors for Chinese Character Representations》，其主要面对的是中文（类象形文字）从构字法的角度来对中文的汉字进行分析。之前看过的包括自己研究的从构字法角度研究中文的主要参考的是五笔拼音输入法，一个汉字会被拆分成一个部首序列，这种方法由于汉字复杂性和现代汉字的简洁性，使提...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值