【转载】请问,深度残差网络已经那么厉害,让我们改进图片分类的研究生从哪里创新?
2020/8/4 16:03:47
本文主要是介绍【转载】请问,深度残差网络已经那么厉害,让我们改进图片分类的研究生从哪里创新?,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
请问,深度残差网络已经那么厉害,让我们改进图片分类的研究生从哪里创新? - amaze2的回答 - 知乎 https://www.zhihu.com/questio...
也许可以从其他领域的深度学习方法,获得些许灵感。
例如,残差收缩网络是残差网络ResNet的一种改进,原本是用在含噪声的振动信号上,进行旋转机械的智能故障诊断。
首先,残差收缩网络就是将信号降噪领域的软阈值函数,引入ResNet中,作为一个非线性的层。如果不了解软阈值函数的话,可以去搜一下Soft Threshlding,会搜到这一篇:DL Donoho. De-noising by soft-thresholding[J]. IEEE transactions on information theory, 1995. 软阈值函数的公式如下:
然后,借助类似Squeeze-and-Excitation Network的子网络,来自动设置软阈值函数所需要的阈值。残差收缩网络的基本模块见下图:
如果图片中含有很多与标签无关的杂物或者噪声,或许可以尝试一下残差收缩网络。
文献:Minghang Zhao, Shisheng Zhong, Xuyun Fu, Baoping Tang, Michael Pecht,Deep residual shrinkage networks for fault diagnosis, IEEE Transactions on Industrial Informatics, 2020, 16(7): 4681-4690.
以下链接可供参考:
Deep Residual Shrinkage Networks for Fault Diagnosis
https://ieeexplore.ieee.org/d...
zhao62/Deep-Residual-Shrinkage-Networks
https://github.com/zhao62/Dee...
10分钟看懂深度残差收缩网络
https://www.cnblogs.com/uizhi...
【深度残差收缩网络】从删除冗余特征时的灵活性进行探讨
https://blog.csdn.net/ABCD_20...
这篇关于【转载】请问,深度残差网络已经那么厉害,让我们改进图片分类的研究生从哪里创新?的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-10-30tensorflow是什么-icode9专业技术文章分享
- 2024-10-15成功地使用本地的 NVIDIA GPU 运行 PyTorch 或 TensorFlow
- 2024-01-23供应链投毒预警 | 恶意Py包仿冒tensorflow AI框架实施后门投毒攻击
- 2024-01-19attributeerror: module 'tensorflow' has no attribute 'placeholder'
- 2024-01-19module 'tensorflow.compat.v2' has no attribute 'internal'
- 2023-07-17【2023年】第33天 Neural Networks and Deep Learning with TensorFlow
- 2023-07-10【2023年】第32天 Boosted Trees with TensorFlow 2.0(随机森林)
- 2023-07-09【2023年】第31天 Logistic Regression with TensorFlow 2.0(用TensorFlow进行逻辑回归)
- 2023-07-01【2023年】第30天 Supervised Learning with TensorFlow 2(用TensorFlow进行监督学习 2)
- 2023-06-18【2023年】第29天 Supervised Learning with TensorFlow 1(用TensorFlow进行监督学习 1)