PyTorch僅在一年時間內，數據增長近3倍，大有超越TensorFlow的趨勢。現在，PyTorch已經與谷歌TPU協同工作，谷歌不僅僅將TPU用于自己的AI開發框架，還希望盡可能獲得更多的云計算客戶和研究人員。

框架工具哪家強？TensorFlow的王冠可能要不保。

最近，Reddit上的一位博主簡單粗暴的統計了一下2018年至2019年，ICRL論文中所涉及到的主流框架工具TensorFlow、PyTorch和Keras的搜索結果數，變化如下：

TensorFlow：228→266

Keras：42→56

PyTorch：87→252

從使用量來看，TensorFlow最受歡迎的，其次是PyTorch，TensorFlow依舊是當之無愧的老大哥。但是從增長趨勢來看，PyTorch僅在一年時間內，數據增長近3倍。

盡管只是統計了ICRL一個會議的論文，但是PyTorch的勢頭真是猛啊，會不會取代TensorFlow？

今年3月，手握 ArXiv Sanity 大數據、現在主管特斯拉人工智能部門的 Andrej Karpathy，也給出了精確的排名結果（過去一個月內）。

各個框架在論文中被提到（單次計算）的比例分別是：

TensorFlow 14.3%

PyTorch 4.7％

Keras 4.0％

Caffe 3.8％

Theano 2.3％

Torch 1.5％

MXNet、Chainer 和 CNTK 均小于 1％：

也就在昨天，PyTorch剛剛發布1.0預覽版，谷歌云表示：“我們也要拿下它！”

谷歌云：熱烈歡迎PyTorch

谷歌云表示，隨著PyTorch 1.0預覽版的到來，其AI平臺和服務將支持PyTorch。

PyTorch是一個深度學習框架，旨在實現簡單靈活的實驗。該框架現在支持完全混合的Python和C / C ++前端，以及生產環境中的快速本機分布式執行。

PyTorch 1.0將即時模式和圖形執行模式融合在一起，為生產的研究和性能優化提供了靈活性。更具體地說，PyTorch 1.0不是強制開發者重寫整個代碼以實現優化或從Python遷移，而是提供了一個混合的前端，使開發者能夠在用于原型制作的即時模式和用于生產的圖形執行模式之間無縫地共享大部分代碼。

Facebook CTOMike Schroepfer

此外，ONNX本身被加入到PyTorch 1.0中作為一種模型輸出格式，這使得PyTorch 1.0中的模型可與其他AI框架進行互操作。ONNX還可用作加速運行時間或硬件特定庫的集成接口。這使得開發人員可以完全自由地混合和匹配最佳的AI框架和工具，而無需采用資源密集型的定制工程。

再來看谷歌云。

雖然TensorFlow江湖地位沒的說，但是谷歌云的目標是全方位支持機器學習從業者：包括新手小白學生、企業家，甚至是世界頂尖的研究和工程團隊。ML開發人員對框架工具的選擇各有不同，谷歌云已經將一些最流行的開源框架集成到產品和服務中，包括TensorFlow、PyTorch、scikit-learn和XGBoost。

在谷歌云的博客中，介紹了在以下幾方面對Pytorch1.0的支持：

深度學習VM圖像

谷歌云平臺提供了一組虛擬機(VM)映像，其中包含使用各種深度學習框架所需的所有內容。谷歌云平臺已經提供以社區為中心的PyTorch VM鏡像有一段時間了，但隨著PyTorch1.0預覽版的發布，“特意”提供了一個包含該版本的新VM鏡像。

這將是輕松高效使用PyTorch1.0預覽版的最快方法：谷歌云已經設置了NVIDIA驅動程序，甚至預裝了Jupyter Lab，并提供了示例PyTorch教程。

Kubeflow

Kubeflow是一個開源平臺，旨在使端到端ML pipeline易于部署和管理。Kubeflow目前是支持PyTorch的, 其社區已經開發了一個PyTorch包，只需兩個命令就可以安裝在Kubeflow部署中。

此外，谷歌云還與英偉達合作，在Kubeflow中擴展了TensorRT包，以支持提供PyTorch型號。谷歌云的目標是讓Kubeflow成為構建可移植的、可伸縮的和可組合的PyTorch pipeline的最簡單方法。

TensorBoard集成

許多PyTorch用戶表示，希望與TensorBoard（一種流行的機器學習可視化工具套件）進行更深入的集成。 谷歌云認為這是一個好主意，TensorBoard和PyTorch開發人員現在正在合作，以便更簡單地使用TensorBoard來監控PyTorch的訓練。

Cloud TPU中的PyTorch

在過去幾年中，機器學習的巨大進步很大程度得益于計算機能力的急劇增長，而計算機能力可以用來訓練和運行ML模型。

這種巨變促使谷歌開發了三代定制ASIC，稱為“Tensor Processing Units”或TPU，專門用于機器學習。谷歌云已將這些芯片的第二代和第三代作為Cloud TPU并將其引入。許多PyTorch用戶表示有興趣通過Cloud TPU加速其ML工作負載。

谷歌云表示，谷歌TPU團隊的工程師們正在積極地與PyTorch核心開發者合作，將PyTorch連接到Cloud TPU。長期目標是讓每個人都能享受PyTorch的簡單性和靈活性，同時受益于Cloud TPU的性能、可伸縮性和成本效率。

作為一個起點，參與的工程師已經制作了一個原型，通過開源線性代數編譯器XLA將PyTorch連接到Cloud TPU。 這個原型已經成功地在Cloud TPU上用PyTorch訓練ResNet-50，谷歌云計劃開源該原型，然后與PyTorch社區合作并將其擴展。

谷歌云表示，PyTorch1.0只是一個開始，希望能與它有更深入的合作與互動。

谷歌云的野心：TPU加持，拿下開發者

谷歌和Facebook正在聯手，讓PyTorch與谷歌TPU協同工作，標志著這兩家技術競爭對手罕見地達成了合作。

谷歌在2016年的年度開發者大會上首次發布了TPU，并將其作為公司和研究人員推動機器學習軟件項目的一種更有效的方式。這家搜索巨頭通過其云計算業務來達到銷售TPU的目的。

隨著越來越多的企業探索機器學習技術，谷歌、Facebook等公司已經創建了自己的人工智能軟件框架，基本上是編碼工具，目的是讓開發人員更容易創建自己的機器學習驅動軟件。這些公司還在開源模型中免費提供了這些AI框架，以便在編碼器中推廣它們。

在過去的幾年里，谷歌一直以其所謂的Tensorflow框架作為AI項目的首選編碼工具來吸引開發人員，并且開發了TPU，以便更好地與Tensorflow一起工作。谷歌愿意更新其TPU以與Facebook的PyTorch軟件合作，這一事實表明，該公司希望支持的不僅僅是自己的AI框架，還可能獲得更多可能使用競爭框架的云計算客戶和研究人員。

Information Services Group首席分析師Blair Hanley Frank表示，在開發智能系統方面，數據科學家和機器學習工程師有各種各樣的開源工具可供選擇。“這一合作是至關重要的一步，有助于確保更多的人能夠使用最好的硬件和軟件能力來創建人工智能模型。”

Frank表示，他預計“人工智能市場將出現更多這樣的合作”。

擴展框架支持可以幫助像AWS、谷歌和微軟這樣的云提供商驅動他們平臺的額外使用。弗蘭克說，“這意味著他們應該支持盡可能廣泛的開發工具，盡可能多地吸引客戶。”

除了谷歌，Facebook還表示，亞馬遜和微軟正在“深化對PyTorch軟件的投資”。