贾扬清的一篇论文荣获ICML的时间检验奖：这是首个开源的AlexNet版本，也是知名框架Caffe的雏形。此外，最佳论文奖也已揭晓。
编辑日期：2024年07月24日
西风 来自 凹非寺
ICML 2024揭晓了时间考验奖，贾扬清共同撰写的论文脱颖而出！
这篇题为“DeCAF: 深度卷积激活特征于通用视觉识别”的研究，是他在十年前效力于UC伯克利时的成果。
ICML官方随即在推特上祝贺，贾扬清回应：“很荣幸DeCAF获得ICML2024时间考验奖，这标志着AI领域非凡的十年。”他同时提及了所有合著者。
其中一位作者、现任谷歌DeepMind副总裁兼Gemini项目联合负责人的Oriol Vinyals也表示：“感谢此奖（虽然感觉自己老了）”：
DeCAF是AlexNet的第一个开源版，我们借此验证了ImageNet分类器所学特征是否可广泛运用于其他视觉任务。事实证明，这一理念至今仍与最先进的多模态模型密切相关！
两位老搭档也在评论区回忆往昔：
该获奖论文在谷歌学术上的引用次数已达6012次：
我们先来了解这篇论文的核心内容。
该论文介绍了一种名为DeCAF（Deep Convolutional Activation Feature）的技术，这是一种深度卷积激活特征，专门用于处理通用视觉识别问题。
它主要研究了在ImageNet等大型带标签数据集上预训练的深度卷积神经网络的中间层特征能否有效应用于其他视觉任务，即迁移学习的可行性。
作者采用的是由Geoffrey Hinton、Alex Krizhevsky和Ilya Sutskever于2012年提出的AlexNet卷积神经网络结构，该结构包含5个卷积层和3个全连接层。首先在ImageNet数据集上对网络进行预训练，然后冻结其权重。
接着从不同层提取激活特征，具体包括DeCAF5、DeCAF6和DeCAF7（即最后一个隐藏层的激活）。在新的任务上仅训练简单的线性分类器，并且保持DeCAF特征不变。
为了验证这一方法的有效性，作者在多个标准计算机视觉基准测试上进行了实验，涵盖了对象识别（Caltech-101）、域适应（Office数据集）、细粒度识别（Caltech-UCSD鸟类数据集）和场景识别（SUN-397）等领域。
实验结果表明，DeCAF在所有这些任务上均表现出色，通常超过了当时的最佳方法。
通过使用t-SNE算法将高维特征映射到2D空间，进一步证明了DeCAF特征在语义聚类方面的优越性，相较于GIST和LLC等传统特征更具优势。
贾扬清的卓越论文荣获ICML时间检验奖的盛誉，其创新在单样本学习等数据匮乏场景下依然展现出色性能。深入剖析显示，网络各层的运算时长分布中，全连接层消耗了主要计算资源。
论文进一步探究了dropout等正则化技术的应用效果，尤其聚焦于DeCAF6与DeCAF7层。作者慷慨地公开了DeCAF特征提取工具及预训练模型，为研究界带来福音。
此论文获奖的消息在十年后的今日激起网友回忆，“这难道是Caffe的诞生之始？”的疑问浮现。
贾扬清回应道：由于DeCAF的训练周期过长（预计超一个月），我们转向了Caffe。这解释了为何一者名含caffeine成分而另一者则无——无论对人或机器，含caffeine总能加速进程。
除了时间检验奖，ICML 2024年度最佳论文奖亦揭晓，十篇佳作脱颖而出，共获殊荣。
包含的研究有“为高分辨率图像合成扩展修正流变换器”的稳定扩散3论文。Pika的共同创立者兼首席技术官孟晨霖参与的“通过估计数据分布比率进行离散扩散建模”项目同样获得了荣誉。
贾扬清的一篇论文荣膺ICML经年考验奖项的图示：
该论文在ICML上历经时间考验，荣获殊荣的贾扬清作品展示：
ICML对贾扬清一篇论文的认可，时间检验奖的荣耀时刻：
贾扬清在ICML上的卓越贡献，其论文获时间检验奖的见证：
贾扬清一篇论文在ICML上获得时间检验奖的精彩瞬间：
ICML对贾扬清论文的赞誉，时间检验奖的光辉记录：
展现贾扬清论文在ICML上荣获时间检验奖的辉煌场景：
贾扬清于ICML的杰出成就，其论文获得时间检验奖的珍贵画面：
贾扬清一篇论文荣膺ICML时间考验奖的荣誉。（配图链接：/assets/3ce7cdf01883c53f0505ff7c09131200.png）
再次确认，贾扬清的杰出论文获得ICML时间考验奖。（配图链接：/assets/8fac4499edfb43fdbb1b8170b70cf3dc.png）
贾扬清的论文荣获ICML时间考验奖殊荣。（配图链接：/assets/_20190318174118-e1552967007632-300x175.png）
在35岁时，他已成为全球瞩目的AI科学家之一。
（配图链接：/assets/WechatIMG412.jpeg）
他的论文荣获ICML时间考验奖。（配图链接：/assets/WechatIMG5232-e1569564605362-300x175.jpeg）
（配图链接：https://chat-ex.com/assets/1340342883.png）
ChatGPT引领的创业热潮势不可挡。
（配图链接：/assets/-e1675057417534.png）
行业需求正从代码开源迈向模型开源。
（配图链接：/assets/1111-1-e1587887996763-300x175.png）
大家在看
