IJCAI 2018現(xiàn)場，阿里媽媽以 Ad Tech 為主題舉辦了 Workshop，阿里媽媽資深算法專家朱小強、高級算法專家林偉，分享了將深度學(xué)習(xí)引入工業(yè)級展示廣告和搜索廣告領(lǐng)域的創(chuàng)新與探索。

隨著人工智能產(chǎn)學(xué)研的不斷融合，企業(yè)與學(xué)術(shù)會議之間的合作也更加頻繁和多樣。此前，新智元曾經(jīng)報道過，IJCAI國際廣告算法大賽，中國團隊包攬冠亞季軍。這個競賽實際上就是阿里集團與IJCAI的一個合作項目，阿里通過IJCAI的平臺吸引更多人關(guān)注阿里，IJCAI則通過阿里的大賽吸引更多人關(guān)注和支持IJCAI。

IJCAI（International Joint Conference on Artificial Intelligence）被認(rèn)為是人工智能領(lǐng)域最頂級的學(xué)術(shù)會議之一，涵蓋機器學(xué)習(xí)、計算可持續(xù)性、圖像識別、語音技術(shù)、視頻技術(shù)等，對全球人工智能行業(yè)具有巨大影響力。

今年的合作競賽由阿里媽媽承辦。作為阿里巴巴旗下大數(shù)據(jù)營銷平臺，阿里媽媽身處于阿里巴巴龐大的交易場景之中，在人工智能領(lǐng)域也早有布局，構(gòu)建了超大規(guī)模的學(xué)習(xí)模型，每天訓(xùn)練近100T的數(shù)據(jù)，有上千億的樣本。

IJCAI 2018現(xiàn)場，阿里媽媽以Ad Tech為主題開展了workshop。阿里媽媽資深算法專家朱小強、高級算法專家林偉，以展示廣告技術(shù)的兩個最重要技術(shù)模塊——Matching和Ranking為例，分享了他們在將深度學(xué)習(xí)引入工業(yè)級展示廣告和搜索廣告領(lǐng)域所做的創(chuàng)新與探索。

深度學(xué)習(xí)將業(yè)界技術(shù)迭代提升10~100倍

朱小強在演講中表示，展示廣告是互聯(lián)網(wǎng)行業(yè)的主要營銷模式之一。阿里巴巴有各種不同的展示廣告形式，比如橫幅、單品、信息流帖子等等。每天有數(shù)億的用戶訪問阿里的系統(tǒng)，團隊需要針對每位用戶的個性化興趣偏好，在幾十毫秒內(nèi)，從數(shù)千萬廣告集合中，尋找最優(yōu)匹配結(jié)果進行展示。

超大規(guī)模的數(shù)據(jù)以及問題的高度非線性，對展示廣告技術(shù)構(gòu)成了巨大的挑戰(zhàn)。過去兩年里，阿里媽媽團隊創(chuàng)造性地將深度學(xué)習(xí)引入到展示廣告技術(shù)中，自主研發(fā)了一系列面向工業(yè)級尺度的端到端深度模型，推動了展示廣告技術(shù)的全面革新，達到了世界領(lǐng)先的水平。

朱小強認(rèn)為，深度學(xué)習(xí)給工業(yè)界掀起了一場生產(chǎn)力革命。在深度學(xué)習(xí)時代，模型的設(shè)計變成組件化，優(yōu)化的方法變成標(biāo)準(zhǔn)化，而且設(shè)計和優(yōu)化是解耦的。這些特點驅(qū)動了以深度學(xué)習(xí)為代表的AI技術(shù)迅速普及，而且將整個業(yè)界的技術(shù)迭代速度提升了1-2個數(shù)量級。

“過去兩三年，深度學(xué)習(xí)在廣告、搜索和推薦等核心工業(yè)界場景中野蠻生長，掀起了一股1.0的掘金浪潮；未來，我們判斷深度學(xué)習(xí)將進一步完善為工業(yè)級基礎(chǔ)設(shè)施，邁入2.0的工匠時代，技術(shù)的發(fā)展將由粗獷顛覆轉(zhuǎn)變?yōu)榫?xì)化打磨。”

朱小強說：“10多年前，機器學(xué)習(xí)大規(guī)模地被引入到核心工業(yè)領(lǐng)域，由此開創(chuàng)了一個技術(shù)的黃金發(fā)展周期，我們預(yù)期深度學(xué)習(xí)技術(shù)會繼續(xù)引領(lǐng)新的一輪技術(shù)增長。”

基于圖的深度學(xué)習(xí)方法有廣闊的應(yīng)用空間

林偉在演講中表示，搜索廣告場景下，傳統(tǒng)的觀點一直認(rèn)為匹配（Matching）的主要優(yōu)化目標(biāo)是尋找最相關(guān)的候選廣告集。他們團隊重新定義了這個目標(biāo)，認(rèn)為在電商場景下，Matching的主要優(yōu)化目標(biāo)是尋找相關(guān)性滿足約束下，最符合業(yè)務(wù)目標(biāo)（例如期望收益等）的候選廣告集。基于對目標(biāo)的重新認(rèn)識，最近幾年Matching算法的改進，大幅提升了直通車的營收。

林偉介紹，Matching主要問題可抽象為：1）對用戶意圖和候選廣告之間是否可以建立鏈接的識別，以及2）對鏈接強度的預(yù)測。

圖（Graph）是一種非常適合用來刻畫這個問題的結(jié)構(gòu)，基于圖的深度學(xué)習(xí)方法在Matching上擁有廣闊的應(yīng)用空間。

目前，阿里媽媽已經(jīng)構(gòu)建了一套支持超大規(guī)模異構(gòu)圖表征學(xué)習(xí)的算法，并在Matching上成功落地。未來，他們將進一步深耕圖深度學(xué)習(xí)（Graph-based Deep Learning）的方法及應(yīng)用。

如今在淘寶場景中，圖像因素越來越重要，用戶的行為模式也越來越復(fù)雜。對于排序問題（Ranking），傳統(tǒng)的一些模型在識別用戶意圖上存在諸多限制，需要更精巧和更強大的模型來更好地理解用戶。阿里媽媽團隊分別提出了很好的圖像網(wǎng)絡(luò)和記憶網(wǎng)絡(luò)設(shè)計方法，增加Ranking模型識別用戶意圖的能力，經(jīng)過實際測試都取得了不錯的效果。

同時，此前在戛納國際創(chuàng)意節(jié)首發(fā)的AI智能文案，在IJCAI也再度引發(fā)關(guān)注。這個產(chǎn)品基于深度神經(jīng)網(wǎng)絡(luò)的Sequence2Sequence模型，融合了注意力機制、位置編碼、copy機制等，讓機器模仿人寫文案。

朱小強認(rèn)為，“技術(shù)本身并不復(fù)雜和高深，但因為做到了從場景的實際需求出發(fā)，用技術(shù)和算法來驅(qū)動優(yōu)化，也讓技術(shù)和算法施展出最大的空間。”

本屆IJCAI 大會首席贊助官、悉尼科技大學(xué)杰出教授張成奇，阿里巴巴人工智能實驗室研究員聶再清也到場做了分享。