0
雷鋒網 AI 科技評論按：為了更好解決 TensorFlow 用戶在使用不同種類的硬件（GPU、TPU、移動設備）時，由于多級別堆棧而導致的編譯器與運行時錯誤，谷歌近日開源了一個全新的中介碼與編譯器框架 MLIR。
在過去，若想解決多級別堆棧問題，則需要我們構建新的軟硬件堆棧生成器，這也意味著必須為每個新路徑重新構建優(yōu)化與轉換傳遞。
TensorFlow 能夠以多種不同的方式運行，如：
將其發(fā)送至調用手寫運算內核的 TensorFlow 執(zhí)行器
將圖轉化為 XLA 高級優(yōu)化器 (XLA HLO) 表示，反之，這種表示亦可調用適合 CPU 或 GPU 的 LLVM 編輯器，或者繼續(xù)使用適合 TPU 的 XLA。（或者將二者結合！）
將圖轉化為 TensorRT、nGraph 或另一種適合特定硬件指令集的編譯器格式
將圖轉化為 TensorFlow Lite 格式，然后在 TensorFlow Lite 運行時內部執(zhí)行此圖，或者通過 Android 神經網絡 API (NNAPI) 或相關技術將其進一步轉化，以在 GPU 或 DSP 上運行
谷歌的 MLIR（或稱為多級別中介碼）是一種表示格式和編譯器實用工具庫，介于模型表示和低級編譯器/執(zhí)行器（二者皆可生成硬件特定代碼）之間，在生產質量組件的支持下，能夠對優(yōu)化編譯器設計與實現(xiàn)進行全新探索。據了解，MLIR 深受 LLVM 的影響，并不折不扣地重用其許多優(yōu)秀理念，比如擁有靈活的類型系統(tǒng)，可在同一編譯單元中表示、分析和轉換結合多層抽象的圖等——這些抽象包括 TensorFlow 運算、嵌套的多面循環(huán)區(qū)域乃至 LLVM 指令和固定的硬件操作及類型。
MLIR 沒有眾所周知的固定或內置的操作列表（無 “內聯(lián)函數”）。方言可完全定義自定義類型，即 MLIR 如何對 LLVM IR 類型系統(tǒng)（擁有一流匯總）、域抽象（對量化類型等經機器學習 (ML) 優(yōu)化的加速器有著重要意義），乃至未來的 Swift 或 Clang 類型系統(tǒng)（圍繞 Swift 或 Clang 聲明節(jié)點而構建）進行建模。
另外值得一提的是，雖然 MLIR 充當 ML 的編譯器，但它同樣支持在編譯器內部使用機器學習技術。MLIR 的擴展性有助于探索代碼降階策略，并在抽象之間執(zhí)行逐步降階。
具體開源鏈接：
GitHub 代碼庫
https://github.com/tensorflow/mlir
教程
https://github.com/tensorflow/mlir/blob/master/g3doc/Tutorials/Toy/Ch-1.md
演講稿
https://drive.google.com/file/d/1hUeAJXcAXwz82RXA5VtO5ZoH8cVQhrOK/view
雷鋒網 AI 科技評論雷鋒網
雷峰網原創(chuàng)文章，未經授權禁止轉載。詳情見轉載須知。
