按年被提到
20222022 · 4 次2026
视觉、语音与图像生成›ViT 与视觉新架构·arXiv:2201.03545 · cs.CV

A ConvNet for the 2020s

面向 2020 年代的卷积网络
Zhuang Liu, Hanzi Mao, Chao-Yuan Wu, Christoph Feichtenhofer, Trevor Darrell, Saining Xie · 2022

把 ResNet 逐步现代化为 ConvNeXt,纯卷积网络追平视觉 Transformer

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 9 人首次 2022-01-11 · 最近 2024-08-24发表于 IEEE Computer Society Conference on Computer Vision and Pattern Recognition/Proceedings - IEEE Computer Society Conference on Computer Vision and Pattern Recognition/Proceedings
9不同的人
6活跃月份
8讨论串
8,479被引(OpenAlex)

论文重新审视设计空间,检验纯卷积网络能达到什么水平:将标准 ResNet 逐步朝视觉 Transformer 的设计“现代化”,找出沿途导致性能差异的若干关键组件,得到名为 ConvNeXt 的纯卷积模型家族。ConvNeXt 完全由标准卷积模块构成,在准确率和可扩展性上与 Transformer 相比毫不逊色,ImageNet top-1 准确率达到 87.8%,在 COCO 检测和 ADE20K 分割上超过 Swin Transformer,同时保持了标准卷积网络的简洁和高效。

HN 为什么提它

HN 上的人在争论视觉 Transformer 与 CNN 孰优孰劣时引用它,作为用现代训练技巧和深度卷积就能让 CNN 追平甚至超过 ViT 的证据。

实证研究难度 3 / 5约 45 分钟经得起时间
读之前最好知道
1卷积神经网络与 ResNet
2视觉 Transformer(ViT)与 Swin Transformer
3深度可分离卷积(depthwise convolution)
4图像分类、检测与分割基准

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用riotnrrd · 2022-04

“They can be matched or beat in performance by tweaked conventional CNNs: A ConvNet for the 2020s”

指出调整后的传统 CNN 能追平甚至超过 Transformer
Transformers Are All You Need原评论 ↗
引用mrintellectual · 2022-04

“Using more modern training techniques along with depthwise convolutions results in equal if not better performance on vision tasks.”

指出用现代训练技巧加 depthwise convolution,视觉任务上不输 ViT
Transformers Are All You Need原评论 ↗
引用nharada · 2023-04

“For example, in "A ConvNet for the 2020s"[1], the authors are able to scale up ConvNets to the sizes of ViTs.”

举例说明 ConvNet 能扩展到 ViT 的规模
Swin Transformer: Hierarchical Vision Transformer Using Shifted Windows原评论 ↗
引用michaelt · 2024-01

“Consider A ConvNet for the 2020s where the paper says”

拿它的引言作例子:引用广泛,显示作者熟悉该领域
Citation cartels help mathematicians-and their universities-climb the rankings原评论 ↗
引用godelski · 2024-08

“[2] A ConvNet for the 2020s and ConvNeXt V2”

把它列为参考文献,指 ConvNet 架构方面的工作
The Path to StyleGan2 – Implementing the Progressive Growing GAN原评论 ↗
引用sdenton4 · 2024-08

“the ConvNext paper showed that applying those same tricks to convolutional networks can fully close the gap.”

指出 ConvNeXt 论文表明用同样的技巧可完全弥合卷积网络的差距
What's Going on in Machine Learning? Some Minimal Models原评论 ↗
被提交为 story · 3 次