ACL今年要火了！根據(jù)ACL19機(jī)器學(xué)習(xí)領(lǐng)域主席王威廉(William Wang)的推文，今年論文提交數(shù)量將在2800左右。相比去年論文提交數(shù)量，暴增81%——史上最大規(guī)模NLP會議誕生了！

歷史上最大規(guī)模NLP會議要來了！

3月4日是ACL 2019論文提交截止日期：

而在離截止時(shí)間僅剩5.5小時(shí)的時(shí)候，ACL 2019機(jī)器學(xué)習(xí)領(lǐng)域主席、加州大學(xué)圣塔芭芭拉計(jì)算機(jī)科學(xué)系王威廉(Wliiliam Wang)老師發(fā)出推特表示：

離ACL 2019提交論文截止時(shí)間僅剩5.5小時(shí)了，論文ID已經(jīng)超過了2100。本次大會將會是史上規(guī)模最大的一次嗎？就剩幾個(gè)小時(shí)了，讓我們拭目以待。

而就在這條推特發(fā)出1小時(shí)后，網(wǎng)友回復(fù)說：

現(xiàn)在已經(jīng)2300了！

最后，王威廉老師再次發(fā)推文表示：

今年ACL論文編號應(yīng)該到了2800篇左右。

今年ACL的論文提交數(shù)，又將打破歷史記錄！

提交論文數(shù)暴增81%，最大規(guī)模NLP會議誕生

ACL 2018的論文提交數(shù)為1544篇，而今年若是超過了2800篇，那么增量將超過81%。

無疑將成為近年來最火、規(guī)模最大的一次NLP會議。

而“增長”趨勢不僅僅是體現(xiàn)在今年：

從上面的折線圖來看，ACL近幾年投稿量從大體發(fā)展呈現(xiàn)出增長趨勢。而較高的投稿量也反映了自然語言處理領(lǐng)域在人工智能浪潮下的火熱。

2017年共收到1419篇投稿（包括829篇長文投稿和590篇短文投稿），錄用長文195篇、短文149篇，長文錄用率為23.5%。

2018年共收到投稿1544篇，最終錄用381篇，其中長文256篇，短文125篇，長文錄取率為25.1%。

從長文錄取率上來看，近兩年也是呈現(xiàn)增長趨勢。相信ACL 2019的錄取率應(yīng)該也會保持上升態(tài)勢。

往屆熱詞匯總，今年的關(guān)鍵詞，你預(yù)測到了嗎？

每年ACL基本上都會對進(jìn)行詞云分析：

接收論文標(biāo)題關(guān)鍵詞（左：ACL 2017獨(dú)有，中：ACL 2017和ACL 2018共有，右：ACL 2018獨(dú)有）

根據(jù)對接收論文標(biāo)題的詞云分析，在ACL 2017和2018上持續(xù)熱門的關(guān)鍵詞有：

注意力機(jī)制（attention）

網(wǎng)絡(luò)（network）

知識（knowledge）

序列（sequence）

語言（language）

而在2018的ACL中：

句子（sentence）

詞嵌入（embedding）

情感（sentiment）

受到了更多的關(guān)注。

交叉（cross）、領(lǐng)域（domain）、無監(jiān)督（unsupervised）等關(guān)鍵詞也在去年上榜，可以看到17-18年，業(yè)界有更多的人著手不同領(lǐng)域之間的交叉遷移，以及無監(jiān)督學(xué)習(xí)的工作。

而2018-2019年，應(yīng)該屬于NLP的大年。

NLP領(lǐng)域大事不斷：

谷歌提出BERT模型：證明了一個(gè)非常深的模型可以顯著提高NLP任務(wù)的準(zhǔn)確率，而這個(gè)模型可以從無標(biāo)記數(shù)據(jù)集中預(yù)訓(xùn)練得到；

OpenAI提出GPT-2模型：號稱史上最強(qiáng)通用NLP模型，狂攬7大數(shù)據(jù)集最佳紀(jì)錄。

......

未來兩年，NLP可能會不斷爆出類似的刷屏新聞，真的進(jìn)入一個(gè)技術(shù)快速發(fā)展期。這是NLP研發(fā)者的黃金期，這種時(shí)期最容易出好的成果。

當(dāng)然，除了上述兩個(gè)最醒目的模型外，愛爾蘭的NLP研究科學(xué)家Sebastian Ruder對2018年NLP領(lǐng)域令人激動(dòng)的十大想法進(jìn)行了大盤點(diǎn)。

總結(jié)一下便是：

⑴無監(jiān)督的機(jī)器翻譯翻譯（Unsupervised MT）

代表論文：

《基于短語和神經(jīng)的無監(jiān)督機(jī)器翻譯》（EMNLP 2018）

https://arxiv.org/abs/1804.0775

⑵預(yù)訓(xùn)練的語言模型（Pretrained language models）

代表論文：

《深度的語境化詞語表示》（NAACL-HLT 2018）

https://arxiv.org/abs/1802.05365

⑶常識推理數(shù)據(jù)集（Common sense inference datasets）

代表論文：

《視覺常識推理》（arXiv 2018）

http://visualcommonsense.com/

⑷元學(xué)習(xí)（Meta-learning）

代表論文：

《低資源神經(jīng)機(jī)器翻譯的元學(xué)習(xí)》（EMNLP 2018）

http://aclweb.org/anthology/D18-1398

⑸穩(wěn)健的無監(jiān)督方法（Robust unsupervised methods）

代表論文：

《用于完全無監(jiān)督的跨語言詞向量的穩(wěn)健自學(xué)習(xí)方法》（ACL 2018）

http://www.aclweb.org/anthology/P18-1073

⑹理解表示（Understanding representations）

代表論文：

《語境化詞向量解析：架構(gòu)和表示》（EMNLP 2018）

http://aclweb.org/anthology/D18-1179

⑺巧妙的輔助任務(wù)（Clever auxiliary tasks）

代表論文：

《語義結(jié)構(gòu)的句法框架》(EMNLP 2018)

http://aclweb.org/anthology/D18-1412

⑻半監(jiān)督學(xué)習(xí)和遷移學(xué)習(xí)相結(jié)合（Combining semi-supervised learning with transfer learning）

代表論文：

《基于交叉視點(diǎn)訓(xùn)練的半監(jiān)督序列建?！?EMNLP 2018)

http://aclweb.org/anthology/D18-1217

⑼大型文檔的問答和推理（QA and reasoning with large documents）

代表論文：

《敘述答閱讀理解挑戰(zhàn)》（TACL 2018）

http://aclweb.org/anthology/Q18-1023

⑽歸納偏差（Inductive bias）

代表論文：

《基于人類注意力的序列分類》（CoNLL 2018）

http://aclweb.org/anthology/K18-1030

《語義角色標(biāo)注的語言學(xué)信息的自我注意力》(EMNLP 2018)

http://aclweb.org/anthology/D18-1548

今年熱夏，史上最大規(guī)模NLP頂會——ACL，即將拉開序幕。那么你覺得今年的關(guān)鍵詞會是哪些呢？