TF Auto Graph Fusion

Auto Graph Fusion:

  • 该功能提供了内置的一组子图匹配模板,当用户的计算图中存在某个模板的匹配,在图优化阶段会自动替换该模板对应的Macro Op。
  • 通过增加模板可以灵活的增加Auto Graph Fusion可以支持的图的种类
  • 该功能可以完全自动,不需要用户显式地修改代码
  • 通过Auto Graph Fusion可以有效的减少访存以及调度带来的开销

openmlsys.github.io

Micro auto

smart stage

Runtime, 量化,pipeline等等

图优化:

  • GraphOptimizationPass
  • Grappler
  • GraphOptimizer

code:
https://github.com/alibaba/DeepRec/commit/a4fe84621ae3d6566309f2cb016d13c3d645d26d