编TVM译器的介绍及用法

　　介绍

这篇文章主要讲解了“TVM编译器的介绍及用法”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“TVM编译器的介绍及用法”吧!

<节> <节>


<节>


<节>

<强> 1只;整体结构

<节> <节> TVM编译器的介绍及用法”> 　　,</节> </节> <节> <p> TVM是一个端到端的指令生成器。它从深度学习框架中接收模型输入,然后进行图的转化和基本的优化,最后生成指令完成到硬件的部署。整个架构是基于图描述结构,不论是对指令的优化还是指令生成,一个图结构清晰的描述了数据流方向,操作之间的依赖关系等。基于机器学习的优化器是优化过程中的重点,指令空间很大,通过优化函数来寻找最优值是一个很合理的想法。它的主要特点如下:</p> <p> <br/> </p> <p> 1)基于GPU, TPU等硬件结构,将张量运算作为一个基本的算符,通过把一个深度学习网络描述成图结构来抽象出数据计算流程。在这样的图结构基础上,更方便记性优化。同时能够有更好的向上向下兼容性,同时支持多种深度学习框架和硬件架构。</p> <p> <br/> </p> <p> 2)巨大的优化搜索空间。在优化图结构方面,其不再局限于通过某一种方式,而是通过机器学习方法来搜索可能的空间来最大化部署效率。这种方式虽然会导致编译器较大的计算量,但是更加通用。</p> <p> <br/> </p> <p> TVM提供了一个非常简单的端到端用户接口,通过调用的TVM API可以很方便的进行硬件部署。比如:</p> </节> <节> <节> <img src=编TVM译器的介绍及用法