搜索结果
查询Tags标签: 表征,共有 7条记录-
第一讲 NLP和深度学习入门
深度学习与表征学习 深度学习是表征学习的一个分支,表征学习的理念就是,我们可以只向电脑提供来自世界的原始信号,无论是视觉信号还是语言信号,然后电脑可以自动得出好的中间表征,来很好地完成任务。所以从某种意义上来说,它是在自己定义特征,和过去人类自己定义特…
2021/12/18 23:27:25 人评论 次浏览 -
第一讲 NLP和深度学习入门
深度学习与表征学习 深度学习是表征学习的一个分支,表征学习的理念就是,我们可以只向电脑提供来自世界的原始信号,无论是视觉信号还是语言信号,然后电脑可以自动得出好的中间表征,来很好地完成任务。所以从某种意义上来说,它是在自己定义特征,和过去人类自己定义特…
2021/12/18 23:27:25 人评论 次浏览 -
多模态综述
多模态综述 介绍应用多模态表征翻译对齐多模态融合协同学习参考文献:《Multimodal Machine Learning: A Survey and T axonomy》介绍 我们身边的环境就是一个多模态的环境,看到的实体、听到的声音、闻到的气味和尝到的味觉。本篇综述不是着重于多模态的应用,而是重点关注…
2021/12/3 23:19:30 人评论 次浏览 -
多模态综述
多模态综述 介绍应用多模态表征翻译对齐多模态融合协同学习参考文献:《Multimodal Machine Learning: A Survey and T axonomy》介绍 我们身边的环境就是一个多模态的环境,看到的实体、听到的声音、闻到的气味和尝到的味觉。本篇综述不是着重于多模态的应用,而是重点关注…
2021/12/3 23:19:30 人评论 次浏览 -
ERNIE3随笔
目录 前言 一、ERNIE结构分析 二、预训练的结构 1.基于字的Pretraining 2.基于结构的Pretraining 3.基于知识的Pretraining三、预训练的流程 1.Pipeline 2.实例 3.综述 四、总结 1.数据处理 2.模型参数前言 预训练模型,百度的ERNIE第三代。相比T5 10billion, GPT 175bill…
2021/7/15 23:38:14 人评论 次浏览 -
ERNIE3随笔
目录 前言 一、ERNIE结构分析 二、预训练的结构 1.基于字的Pretraining 2.基于结构的Pretraining 3.基于知识的Pretraining三、预训练的流程 1.Pipeline 2.实例 3.综述 四、总结 1.数据处理 2.模型参数前言 预训练模型,百度的ERNIE第三代。相比T5 10billion, GPT 175bill…
2021/7/15 23:38:14 人评论 次浏览 -
超大图上的节点表征学习
随着图神经网络层数增加,计算成本呈指数增加。包存整个图的信息和每个节点的表征消耗了大量内存空间。Cluster-GCN提出了一种新的图神经网络的训练方法。 Cluster-GCN方法概括 利用图节点聚类的算法将一个图划分成ccc个簇,每一次选择几个簇的节点和这些节点对应的边构成…
2021/7/1 23:53:49 人评论 次浏览