神經(jīng)信息處理年會(huì)（NIPS）是人工智能領(lǐng)域最具影響力的學(xué)術(shù)會(huì)議之一，因此每年都會(huì)有大量科研人員參會(huì)，與之相伴的是大量學(xué)術(shù)論文提交送審，但在這些提交送審的論文當(dāng)中，能被錄取的卻是寥寥無(wú)幾。帶著一份好奇，本文作者Robbie Allen對(duì)NIPS2017年會(huì)上的獲獎(jiǎng)?wù)撐倪M(jìn)行了詳細(xì)統(tǒng)計(jì)，為我們揭秘了這場(chǎng)論文競(jìng)賽中的勝利者。

眾所周知，第三十一屆神經(jīng)信息處理系統(tǒng)年會(huì)（NIPS）近期在美國(guó)加州長(zhǎng)灘舉行。NIPS可以說(shuō)是最有聲望的AI相關(guān)學(xué)術(shù)會(huì)議，同時(shí)還是出席人數(shù)規(guī)模最大的會(huì)議。而在過(guò)去的幾年里，出席率急劇上升。

不僅出席人數(shù)增加，與此相關(guān)的，提交審查的論文數(shù)量也在增長(zhǎng)。2016年，共提交論文2406篇，其中568篇論文（https：//nips.cc/Conferences/2016/Schedule？type=Poster）被眾所周知，第三十一屆神經(jīng)信息處理系統(tǒng)年會(huì)（NIPS）近期在美國(guó)加州長(zhǎng)灘舉行。NIPS可以說(shuō)是最有聲望的AI相關(guān)學(xué)術(shù)會(huì)議，同時(shí)還是出席人數(shù)規(guī)模最大的會(huì)議。而在過(guò)去的幾年里，出席率急劇上升。

不僅出席人數(shù)增加，與此相關(guān)的，提交審查的論文數(shù)量也在增長(zhǎng)。2016年，共提交論文2406篇，其中568篇論文（https：//nips.cc/Conferences/2016/Schedule？type=Poster）被接受錄用，錄取率為24%。而2017年，共接收3240篇論文，其中有679篇（https：//nips.cc/Conferences/2017/Schedule？type=Poster）被接受錄用，錄取率為21%。

我之所以決定與Lawrence Carin合作，而不是像以往那樣單打獨(dú)斗，只身就職于Automated Insights，主要原因是他組織了一個(gè)機(jī)器學(xué)習(xí)專(zhuān)家團(tuán)隊(duì)。Lawrence是機(jī)器學(xué)習(xí)學(xué)術(shù)領(lǐng)域的重要人物，NIPS就是一個(gè)很好的例子。Lawrence所領(lǐng)導(dǎo)的小組2017年向NIPS提交了10篇論文。往往兩篇論文被接受錄用就是一個(gè)重大的成就了，所以10篇是一個(gè)很大的數(shù)字。這使我想要對(duì)這被接受的679篇論文背后的人員和機(jī)構(gòu)做一些分析。這就是我接下來(lái)將要介紹的內(nèi)容。

NIPS并不是唾手可得的

除了了解哪些研究人員（如Lawrence）的論文被NIPS獲接受之外，我很想知道哪些機(jī)構(gòu)是最多產(chǎn)的。就像Andrej Karpathy為ICML所做的那樣（https：//medium.com/@karpathy/icml-accepted-papers-institution-stats-bad8d2943f5d），我認(rèn)為這是一個(gè)簡(jiǎn)單的數(shù)據(jù)挖掘任務(wù)，特別是在NIPS與ICML所使用的是相同的網(wǎng)站情況下。

2017年10月，當(dāng)我查看接受的論文的初始列表[可以在Wayback Machine（https：//web.archive.org/web/20170914060103/nips.cc/Conferences/2017/AcceptedPapersInitial）上找到]時(shí)，格式就是如下所示：

VAE Learning via Stein Variational Gradient Descent

Yuchen Pu （Duke University） · zhe Gan（duke） · Ricardo Henao （Duke University） · Chunyuan Li （Duke University） ·Shaobo Han （Duke University） · Lawrence Carin （Duke University）

Efficient Use of Limited-Memory Resourcesto Accelerate Linear Learning

Celestine Dünner （IBM Research） · Thomas Parnell （IBM Research） · Martin Jaggi （EPFL）

Temporal Coherency based Criteria for Predicting Video Frames using Deep Multi-stage Generative Adversarial Networks

Prateep Bhattacharjee （Indian Institute of Technology Madras） · Sukhendu Das （IIT Madras）

這是一種非?？尚械姆椒āＫ形宜枰乃行畔?，即論文、作者名單和他們的所在機(jī)構(gòu)。編寫(xiě)一個(gè)腳本來(lái)解析并生成我正在查找的統(tǒng)計(jì)信息是很簡(jiǎn)單的。不過(guò)，這是我第一次介紹各種機(jī)構(gòu)使用的名字，所以難免有些不足。有10種不同的方式可以用于表示“Google”，而有11種不同的“IBM”版本，因此需要一些手動(dòng)處理。

更大的問(wèn)題來(lái)了，因?yàn)槲蚁氆@得更新的統(tǒng)計(jì)信息（用于這篇文章）。在最終被接受的論文列表中，已經(jīng)有了良好的格式化的樣式。我發(fā)現(xiàn)有兩個(gè)地方可以得到最新的列表：這里（https：//nips.cc/Conferences/2017/Schedule？type=Poster）以及該處（https：//papers.nips.cc/book/advances-in-neural-information-processing-systems-30-2017）。只有一個(gè)問(wèn)題：這兩個(gè)列表里面都沒(méi)有涉及作者所在機(jī)構(gòu)介紹！我做了一些搜索，但找不到其他來(lái)源。我本可以試著把這些機(jī)構(gòu)從論文中拉出來(lái)，但是在看了幾篇文章之后，發(fā)現(xiàn)沒(méi)有一個(gè)作者排列的標(biāo)準(zhǔn)化格式，因此，這看起來(lái)像是一個(gè)艱巨的任務(wù)，而它本來(lái)應(yīng)該是可以快速完成的任務(wù)。

那么，現(xiàn)在我唯一的選擇是希望自2017年9月份初稿發(fā)表以來(lái)沒(méi)有多少變化。我可以將2017年9月份版本中的機(jī)構(gòu)用到2017年12月的版本中。這使得數(shù)據(jù)解析任務(wù)變得更加復(fù)雜，因?yàn)楝F(xiàn)在我需要從兩個(gè)單獨(dú)的列表中對(duì)數(shù)據(jù)進(jìn)行配對(duì)，并將所有差異考慮在內(nèi)。此外，這意味著對(duì)于那些沒(méi)有出現(xiàn)在2017年9月份數(shù)據(jù)中的任何新作者，我將不能夠提供其所在機(jī)構(gòu)。

最終，我正在尋找的只是大概的數(shù)字，而不是精確的統(tǒng)計(jì)數(shù)據(jù)，因此，我將繼續(xù)挖掘。

2017年9月到12月之間數(shù)據(jù)變化

2017年9月到12月的論文數(shù)量沒(méi)有變化（總共679篇），但是有不少文章標(biāo)題被修改了，或者完全改了標(biāo)題（這使得匹配難以進(jìn)行）。在這兩份清單之間，我能夠找到679篇論文中560篇的精確匹配。

我能夠根據(jù)一些簡(jiǎn)單的規(guī)則來(lái)匹配98篇。例如，通過(guò)查看標(biāo)題的前20、15或10個(gè)字符，或者查看標(biāo)題的最后20、15或10個(gè)字符，從而在列表之間尋找單個(gè)匹配的論文。

在2017年12月份的名單中，有21篇文章在2017年9月份的名單上沒(méi)有合理的匹配（只看標(biāo)題）。

就作者而言，我能夠在2035個(gè)中找到1886個(gè)匹配者。我把其余的149位作者標(biāo)記為“未分組”，但總的來(lái)說(shuō)，這意味著我能夠?yàn)?3%的作者找到機(jī)構(gòu)。雖然這并不完美，但就我的目標(biāo)而言還是挺滿足的。

好的發(fā)現(xiàn)

對(duì)于誰(shuí)會(huì)向像NIPS這樣的會(huì)議提交論文，我有一些問(wèn)題，但主要圍繞的是誰(shuí)是最多產(chǎn)的。對(duì)于那些在20世紀(jì)90年代末和21世紀(jì)初的人來(lái)說(shuō)，發(fā)表論文與10 - 20年前的專(zhuān)利軍備競(jìng)賽很類(lèi)似。幸運(yùn)的是（也是我喜歡AI復(fù)興的一部分原因），論文不能像專(zhuān)利那樣推斷知識(shí)產(chǎn)權(quán)。

作者統(tǒng)計(jì)

正如我前面提到的，杜克大學(xué)的Lawrence Carin小組發(fā)表了10篇NIPS論文。他占據(jù)了榜首，而且還沒(méi)有與其相接近的對(duì)手。這并不意味著Lawrence是10篇論文的主要作者，但他監(jiān)督并對(duì)10篇論文所涉及的研究做出了貢獻(xiàn)。它展示了包括文本分析、圖像合成和大腦動(dòng)態(tài)局部場(chǎng)電位分析在內(nèi)的多個(gè)主題領(lǐng)域的突破性進(jìn)展，而這是令人印象深刻的。

通常情況下，論文的最后一位作者是研究小組的負(fù)責(zé)人，或是監(jiān)督各種項(xiàng)目的負(fù)責(zé)人。因而，在這里看到Lawrence和像 Bengio這樣的名人在一起并不奇怪。

另一方面，列在論文上的第一作者往往是做了很多繁重的工作從而被認(rèn)為是值得贊揚(yáng)的。有三個(gè)人以第一作者的身份向NIPS發(fā)表了三篇論文，這是一個(gè)重大成就。

機(jī)構(gòu)統(tǒng)計(jì)

現(xiàn)在對(duì)于在NIPS中發(fā)表論文最多的前50名機(jī)構(gòu)，為了顯示Google所占據(jù)的主導(dǎo)地位，我把Google和DeepMind分開(kāi)了。

卡耐基梅隆大學(xué)、麻省理工學(xué)院、斯坦福大學(xué)和伯克利大學(xué)輕而易舉地成為前四所大學(xué)。谷歌、微軟和IBM在營(yíng)利性公司中占有領(lǐng)先地位。

這些數(shù)字在與ICML很相似。

接下來(lái)，我想看看有多少機(jī)構(gòu)被列入首位，因?yàn)檫@是誰(shuí)領(lǐng)導(dǎo)或發(fā)起這項(xiàng)研究的一個(gè)重要指標(biāo)。這表明，雖然谷歌位居大量的論文榜單之中，但他們只是參與的更多而不是主導(dǎo)，因?yàn)樗麄冊(cè)谶@份名單中排名僅為第四。

最后，我想看看每個(gè)機(jī)構(gòu)有多少作者。這再次表明這些機(jī)構(gòu)有多少人參與了前沿研究。 CMU在這方面有很大的優(yōu)勢(shì)。

總結(jié)

·Google在研究的廣泛度上顯然是遙遙領(lǐng)先的。他們擁有最多的論文，如果你將DeepMind包含在內(nèi)的話，他們的作者（截至目前）是最多的。

·CMU是領(lǐng)先的學(xué)術(shù)機(jī)構(gòu)，就在NIPS發(fā)表的論文而言。他們擁有最多的第一作者論文，還有更多的人對(duì)論文的發(fā)表做出了貢獻(xiàn)，除了Google / DeepMind以外，超過(guò)了任何機(jī)構(gòu)。

·杜克大學(xué)的Lawrence Carin是NIPS研究人員中最具生產(chǎn)力的一個(gè)團(tuán)隊(duì)。他參與的論文數(shù)比其他任何人都要多。

·杜克大學(xué)是大學(xué)論文總數(shù)、第一作者論文和總作者全項(xiàng)排名中的前10位。

關(guān)于機(jī)構(gòu)名稱(chēng)的說(shuō)明

公司、大學(xué)和研究機(jī)構(gòu)也可能想要開(kāi)始思考如何在論文中引用它們。鑒于目前我們?cè)诎l(fā)表的論文上的價(jià)值，像我在這篇文章中所做的統(tǒng)計(jì)數(shù)據(jù)的編譯將會(huì)越來(lái)越普遍。大堆名稱(chēng)的變化將會(huì)使得創(chuàng)建準(zhǔn)確的統(tǒng)計(jì)數(shù)據(jù)變得愈加困難。