Skip to content

Commit be80a3e

Browse files
authoredMar 6, 2023
Fix dead link in compression api (PaddlePaddle#5125)
* fix dead link, test=document_fix * fix dead link, test=document_fix
1 parent ec29e4f commit be80a3e

File tree

1 file changed

+2
-2
lines changed

1 file changed

+2
-2
lines changed
 

‎docs/compression.md

+2-2
Original file line numberDiff line numberDiff line change
@@ -419,14 +419,14 @@ python compress.py \
419419

420420
### Python 部署
421421

422-
服务端部署可以从这里开始。可以利用 [预测 backend 脚本](../model_zoo/ernie-3.0/deploy/predictor/ernie_predictor.py),并参考 [infer_cpu.py](../model_zoo/ernie-3.0/deploy/predictor/infer_cpu.py) 或者 [infer_gpu.py](../model_zoo/ernie-3.0/deploy/predictor/infer_gpu.py) 来编写自己的预测脚本。并根据 [Python 部署指南](../model_zoo/ernie-3.0/deploy/predictor) 的介绍安装预测环境,对压缩后的模型进行精度评估、性能测试以及部署。
422+
服务端部署可以从这里开始。可以参考 [seq_cls_infer.py](../model_zoo/ernie-3.0/deploy/python/seq_cls_infer.py) 或者 [token_cls_infer.py](../model_zoo/ernie-3.0/deploy/python/token_cls_infer.py) 来编写自己的预测脚本。并根据 [Python 部署指南](../model_zoo/ernie-3.0/deploy/python/README.md) 的介绍安装预测环境,对压缩后的模型进行精度评估、性能测试以及部署。
423423

424424

425425
<a name="服务化部署"></a>
426426

427427
### 服务化部署
428428

429-
- [基于Triton Inference Server的服务化部署](../model_zoo/ernie-3.0/deploy/triton_serving/README.md)
429+
- [FastDeploy ERNIE 3.0 模型 Serving 部署示例](../model_zoo/ernie-3.0/deploy/serving/README.md)
430430
- [基于PaddleNLP SimpleServing 的服务化部署](../model_zoo/ernie-3.0/deploy/simple_serving/README.md)
431431

432432
### 移动端部署

0 commit comments

Comments
 (0)
Please sign in to comment.