丰色发自凹非寺 量子位公众号QbitAI 哪些机构或国家(地区)发表的AI研究是最具影响力的? 为了弄清这个问题,美国ZetaAlpha平台统计了20202022三年之间全世界引用次数前100的AI论文,得出了一些很有意思的结果。 比如: 当红明星OpenAI,在论文引用次数最多的机构中名列第9。 然而,在论文发表数量最多的机构榜单上,根本找不到它的名字。 再比如,来自工业界的谷歌Meta微软总是在各项数据都名列前茅,然而总的看下来,学术界也并没有落后工业界。 此外,此前关于中国AI研究的产出数量和质量可能超过美国的观点在这份报告中似乎也被破解 更多以及具体的数据,我们一个一个来看。中国第二,OpenAI、DeepMind质量取胜 在具体分析之前,ZetaAlpha先统计出了20202022每年引用次数最多的论文,它们分别是: 2022年: 1、AlphaFoldProteinStructureDatabase:Massivelyexpandingthestructuralcoverageofproteinsequencespacewithhighaccuracymodels 引用次数:1372 机构:DeepMind 主题:利用AlphaFold增加蛋白质结构数据库的覆盖范围 2、ColabFold:makingproteinfoldingaccessibletoall 引用次数:1162 机构:多家合作完成 主题:一种开源且高效的蛋白质折叠模型 3、HierarchicalTextConditionalImageGenerationwithCLIPLatents 引用次数:718 机构:OpenAI 主题:DALLE2 4、AConvNetforthe2020s 引用次数:690 机构:Meta和UC伯克利大学 主题:在Transformer繁荣时期成功实现CNN现代化 5、PaLM:ScalingLanguageModelingwithPathways 引用次数:452 机构:谷歌 主题:谷歌的540B大型语言模型,一个新的MLOps范式,包含它的实现过程 2021年 1、HighlyaccurateproteinstructurepredictionwithAlphaFold 引用次数:8965 机构:DeepMind 主题:AlphaFold,利用深度学习进行蛋白质结构预测的巨大突破 2、SwinTransformer:HierarchicalVisionTransformerusingShiftedWindows 引用次数:4810 机构:微软 主题:ViT的强大变体 3、LearningTransferableVisualModelsFromNaturalLanguageSupervision 引用次数:3204 机构:OpenAI 主题:CLIP 4、OntheDangersofStochasticParrots:CanLanguageModelsBeTooBig? 引用次数:1266 机构:美国华盛顿,BlackinAI,TheAether 主题:著名的立场论文,对不断增长的语言模型的趋势持批评态度,强调了它们的局限性和危险 5、EmergingPropertiesinSelfSupervisedVisionTransformers 引用次数:1219 机构:Meta 主题:DINO,揭示了图像的自监督如何导致Transformers中出现某种原型对象分割 2020年: 1、AnImageisWorth16x16Words:TransformersforImageRecognitionatScale 引用次数:11914 机构:谷歌 主题:第一个展示普通Transformer如何在计算机视觉领域中表现出色的作品 2、LanguageModelsareFewShotLearners 引用次数:8070 机构:OpenAI 主题:GPT3 3、YOLOv4:OptimalSpeedandAccuracyofObjectDetection 引用次数:8014 机构:中国台湾中研院 主题:YOLOv4 4、ExploringtheLimitsofTransferLearningwithaUnifiedTexttoTextTransformer 引用次数:5906 机构:谷歌 主题:对Transformer的迁移学习进行了严格的研究,产生了著名的T5 5、Bootstrapyourownlatent:AnewapproachtoselfsupervisedLearning 引用次数:2873 机构:DeepMind和帝国理工学院 主题:表明negative对于表征学习来说不是必需的 想必大家能从中找到不少熟悉的面孔。 接着,ZetaAlpha就对近三年的高引用论文背后的信息进行了一番分析。 首先是每年论文引用次数进前100最多的国家(地区)。 可以看到美国强势第一,中国与之的差距比较明显。 因此ZetaAlpha也认为,此前关于中国在AI方面的研究可能超过美国的说法至少在这项数据上是不成立的。 除此之外,新加坡和澳大利亚的排名也比较出人意料,分别为第五和第六。 为了正确评估美国的主导地位,ZetaAlpha又换了一种统计方式,计算引用次数前100的百分比。 当然,美国仍然第一,但可以看到三年间的占比有所下降。 英国是中美以外最大的竞争对手,不过英国表现突出的2022年,其实主要都是由DeepMind贡献的(占比69)。 接下来是按组织或机构评比论文引用次数进前100最多的个体。 不太意外,谷歌与Meta微软分列前三,随后是UC伯克利、DeepMind和斯坦福。 OpenAI也收获了一个还不错的名次,第九。第十是MIT,第十一是清华大学。 尽管前三名选手都来自工业界,但是如果只按照机构类型来分,学术界和它的表现其实基本不相上下。 再接着,是过去三年各组织或机构发表的论文总数排名。 老大还是谷歌。第二名比较亮眼,是清华大学,随后是微软、CMU、MIT、斯坦福、UC伯克利、北京大学(第八)、Meta 可以看到,前十里隶属于学术界的机构或组织占据了大片江山。 而我们找了半天,也没有看到OpenAI和DeepMind的名字 显然它们发表的论文数量较少,主要靠质量取胜。 为了验证这一猜测,ZetaAlpha也做了一个高引论文转化率的排名。 果不其然,OpenAI摘得桂冠,DeepMind获得第三。 当然,Meta也不错,第四,引得LeCun都出来现身说法了一下: 我们Meta确实是更注重质量而不是数量的。 相比之下,高引多但发得更多的谷歌才排第九,差点出前10。 除了这几位,第二名也是亮点它就是旷视。 以及国内还有商汤也上榜了。附2022引用Top100完整名单 ChatGPT的火着实盘活了AI产业,最新前沿研究究竟会指往哪些方向?我们也需要更加敏锐地进行观察。 为此,ZetaAlpha也给出了2022年引用进100的所有AI论文的名单,或许对大家有所启发。 130: 3160: 6190: 91100: 那么,ZetaAlpha这份报告的全部内容就是这些。 原文可戳: https:www。zetaalpha。compostmustreadthe100mostcitedaipapersin2022 完 量子位QbitAI头条号签约 关注我们,第一时间获知前沿科技动态