美文网首页
特征抽取器

特征抽取器

作者: dreampai | 来源:发表于2019-08-08 13:54 被阅读0次

文本的特点:

  • 文本是一个序列
  • 文本长度不固定
  • 文本的位置是个重要的信息

文本的任务:

  • 序列标注
  • 分类任务
  • 句子关系判断
  • 生成式任务

RNN

  • RNN存在的问题:梯度消失和爆炸,LSTM-GRU-Attention
  • 并行能力较差处理的方案有隐藏层之间并行,整体串行;时间序列部分打断,并行处理(类似于CNN)

CNN:

  • 捕获 N-gram 片段,无法处理长距离
  • 增加卷积层的(层深效果不佳,需要提高)
  • 跳跃覆盖,Dilated卷积
  • 抛弃池化层,保留位置信息

https://github.com/vdumoulin/conv_arithmetic
https://www.zhihu.com/question/54149221
https://zhuanlan.zhihu.com/p/54743941

相关文章

  • 特征抽取器

    文本的特点: 文本是一个序列 文本长度不固定 文本的位置是个重要的信息 文本的任务: 序列标注 分类任务 句子关系...

  • sklearn学习 — 特征抽取

    特征抽取 sklearn库提供了特征抽取模块 sklearn.feature_extraction 对数据进行特征...

  • 15.Spark学习(Python版本):特征处理相关的算法(T

    特征处理相关的算法,大体分为以下三类: 特征抽取:从原始数据中抽取特征特征转换:特征的维度、特征的转化、特征的修改...

  • 特征工程——特征抽取

      数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限。因此,特征工程在机器学习过程中占据极其重要的一部...

  • 降维与特征选择

    第七章 降维与特征选择 [TOC] 1. 特征抽取和特征选择的区别 特征抽取:在已有的特征上,采用特征变换的方法,...

  • 3.1.1.1特征抽取

    3.1.1特征抽取 特征抽取,就是逐条将原始数据转化为特征向量的形式,这个过程同时涉及对数据特征的量化表示;而特征...

  • scikit-learn特征工程

    字典数据特征抽取 sklearn的DictVectorizer可以对字典做特征抽取,并以onehot形式编码。 有...

  • 学习笔记:三大特征抽取器比较

    地址:放弃幻想,全面拥抱Transformer:自然语言处理三大特征抽取器(CNN/RNN/TF)比较, NLP任...

  • 06 特征抽取

    1数据的特征抽取 数据的特征抽取:将文本等数据进行特征值化(转换成计算机可以理解的数字类型) DictVector...

  • 特征选择, 经典三刀

    ​特征选择(Feature Selection,FS)和特征抽取(Feature Extraction, FE)是...

网友评论

      本文标题:特征抽取器

      本文链接:https://www.haomeiwen.com/subject/cgotjctx.html