阅读背景:

如何让FasterTransformer支持动态batch和动态sequence length

来源:互联网 

FasterTransformer 算子

nvidia在开源的FasterTransformer的代码中,提供tensorrt和tensorflow的自定义算子编译和py调用示例,详见nvidia在开源的FasterTransform




你的当前访问异常,请进行认证后继续阅读剩余内容。

分享到: