Codelab Notebook自定义环境部署最佳实践

paddlex==2.1.0
tqdm
scipy
colorama
cython
pycocotools
visualdl >= 2.1.1
paddleslim == 2.2.1
shapely
paddlepaddle-gpu >= 2.2.0
opencv-python
lap
scikit-learn==0.23.2
motmetrics
matplotlib
chardet
openpyxl
filelock

#!/usr/bin/env python
# -*- coding: utf-8 -*-
# *******************************************************************************
#
# Copyright (c) 2022 Baidu.com, Inc. All Rights Reserved
#
# *******************************************************************************
""" custom predict code """
import base64
import numpy as np
import cv2
class PyModel(object):
    """ 模型服务预测封装类，支持用户实现自定义的服务请求数据处理和模型推理逻辑。"""
    def __init__(self, model_path, *args, **kwargs):
        """
        根据`model_path`初始化`PyModel`类，如加载标签文件、预处理参数、加载模型 等等
        :param model_path: 该目录下存放了在页面上选择的模型版本中包含的所有文件，并保留原有的目录结构；
        :param *args/**kwargs: 其他信息(预留字段，不可以删除)，系统可能会在未来传入一些其他参数
        """
        # 加载模型
        import paddlex as pdx
        self._model = pdx.load_model(model_path + "/epoch_1/")
    def predict(self, request_body):
        """
        自定义对请求体的处理，包括请求处理、模型预测、预测结果封装等
        :param request_body: 调用接口的请求体json字典
        :return:
            response_body: 请求的处理结果，需要能够被json序列化
        """
        # 请求解析、模型推理、推理结果封装
        # 请求入参： {"image": image base64字符串}
        image = request_body["image"]
        image_bin = base64.b64decode(image)
        # 图像解码
        image = np.frombuffer(image_bin, dtype='uint8')
        image = cv2.imdecode(image, 1)
        # 模型推理计算，参考 https://github.com/PaddlePaddle/PaddleX/blob/develop/docs/apis/models/detection.md#predict
        result = self._model.predict(image)
        format_result = []
        for target in result:
            format_result.append({
                "label_index": target["category_id"],
                "name": target["category"],
                "score": target["score"],
                "location": {
                    "left": target["bbox"][0],
                    "top": target["bbox"][1],
                    "width": target["bbox"][2],
                    "height": target["bbox"][3]
                }
            })
        return {"results": format_result}
        
class CustomException(RuntimeError):
    """
    进行模型验证和部署服务必需的异常类，缺少该类在代码验证时将会失败
    在处理异常数据或者请求时，推荐在`PyModel`中的自定义推理predict函数中抛出`CustomException`异常，
    并为`message`指定准确可读的错误信息，以便在服务响应包中的`error_msg`参数中返回。
    """
    def __init__(self, error_code, message, orig_error=None):
        """ init with error_code, message and origin exception """
        super(CustomException, self).__init__(message)
        self.error_code = error_code
        self.orig_error = orig_error

import numpy as np
import cv2
image_bin = open("/home/work/dataset/images/fire_000001.jpg", "rb").read()
import base64
print(base64.b64encode(image_bin))