Abbhay | 坑坑

transformer模型

transformer

1.参考： attention is all you need 简书博客 2.目录 1.transformer来由 transformer模型是Google公司提出的一种seq2seq模型，其本身最重要的核心点就是应用了大量的attention机制来代替传统的rnn。图1 Transformer架构图 2.Encoder部分...

Posted by abhhay on July 24, 2022

attention机制

attention

1、论文参考： attention is all you need 2.目录 1.attention机制介绍当我们在处理的数据是不等长序列的时候，我们需要考虑如何处理如何去获得其有效的语义信息，举个例子，传统的rnn模型存在梯度消失、梯度爆炸，而改良的基于门控单元lstm和gru，虽然缓解了长文本带来的影响，但仍然不能解决实际问题。自注意力机制要解决的问题是：当神经网络的输...

Posted by abhhay on July 20, 2022

数据预处理

torchtext

1.torchtext介绍 torchtext常用于文本处理，其结构主要是3大部分，分别是Field，Dataset和Iteration三大部分。其中Field主要是对数据字段进行预处理，Dataset是定义数据源信息，至于Iteration，和DataLoader很类似。 Field.sequential – 输入的数据是否是序列型的，如果不是，将不使用tokenzie对数据...

Posted by abhhay on July 13, 2022

python环境

jupyter envs && torchtext

在学习使用torchtext过程中出现发现始终会报错 torchtext.data 没有Field函数 AttributeError: module 'torchtext.data' has no attribute 'Field' 这个原因主要是：随着版本你的torchtext版本更新 0.12.0版本中legacy目录和field方法都没了，所以导致出现错误。 ps:pip...

Posted by abhhay on July 13, 2022

nlp学习

网络模型学习

TextCNN学习参考论文： BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding ERNIE: Enhanced Representation through Knowledge Integration Convolutional Neural Networks ...

Posted by abhhay on July 2, 2022

TextCNN学习

TextCNN学习参考论文： TextCNN paper 下载地址参考网站： b站up主(数学家是我理想) CSDN TextCNN textcnn 文本分类目录：一：TextCNN 简介： TextCNN的实现原理比较简单，输入数据首先通过一个embedding layer，得到输入语句的embedding 的表示，然后通过卷积、激活、最大池...

Posted by abhhay on July 2, 2022

期末项目之推荐系统

Python变量

幼儿编程之Python变量计算机基础小知识计算机的硬件系统是由运算器，控制器，存储器，输入设备，输出设备。其中，运算器和控制器放在一起就组成了我们的CPU，它的主要功能是执行各种运算和指令我们口中的程序指的是指令的集合也是算法＋数据结构的集合，我们将这些指令按照某种方式组织在一起，然后再通过这些特有的指令去控制计算机做我们想要他做的事情计算机的结构是冯诺依曼结构...

Posted by on August 31, 2019

python爬虫教程

python爬虫教程之插件安装

解决chrome 不能离线安装crx插件问题简介： Chrome在程序员日常生活中是必不可少的工具，安装插件是一个避不开的要求之前可以采取直接拖动的形式，而自从Chrome浏览器版本更新到67以后再通过传统方法直接拖插件到扩展工具里面就出现了报错，尝试了各种方法，如尝试使用谷歌开发者工具(但是被要求搞奔溃了按照需求也没办法使用谷歌商店)最终还是觉得这个最实用插件地址 ...

Posted by abhhay on April 15, 2019

python爬虫教程

python爬虫教程之xpath使用

Python 爬虫教程 xpath 1.什么是xpath XPath即为XML路径语言（XML Path Language），它是一种用来确定XML文档中某部分位置的语言 2.xpath helper 安装通过在谷歌上面安装 xpath helper ,不会的参照我上一篇文档 3.开始xpath学习之旅查找网页的某个标签 eg .查找 tit...

Posted by abhhay on April 15, 2019

transformer模型

transformer

attention机制

attention

数据预处理

torchtext

python环境

jupyter envs && torchtext

nlp学习

网络模型学习

TextCNN学习

TextCNN学习

期末项目之推荐系统

推荐系统之环境安装(一)

Python变量

python爬虫教程

python爬虫教程之插件安装

python爬虫教程

python爬虫教程之xpath使用

FEATURED TAGS

ABOUT ME