PaddlePaddle推理部署

PaddlePaddle推理部署

飞桨推理产品简介

作为飞桨生态重要的一部分，飞桨提供了多个推理产品，完整承接深度学习模型应用的最后一公里。

整体上分，推理产品主要包括如下子产品

 

 各产品在推理生态中的关系如下

 

用户使用飞桨推理产品的工作流 如下

1. 获取一个飞桨的推理模型，其中有两种方法
1. 利用飞桨训练得到一个推理模型
2. 用 X2Paddle 工具从第三方框架（比如 TensorFlow 或者 Caffe 等）产出的模型转化
2. （可选）对模型进行进一步优化， PaddleSlim 工具可以对模型进行压缩，量化，裁剪等工作，显著提升模型执行的速度性能，降低资源消耗
3. 将模型部署到具体的推理产品上