FastAPI 加载 model.pb - SavedModel 文件不存在错误

Question

我正在尝试在 FastAPI 上加载经过训练的 model 并尝试从笔记本上对其进行 ping 操作（以模拟前端调用）。 但是不断收到错误消息，说 model 文件不存在。 我对此很陌生，欢迎任何建议...

训练笔记本： model.save('/data/model')

下载 model 并将整个文件夹放在 FastAPI 文件夹中。

FastAPI 中的文件结构：

>> API
  >> _pycache_
  >> model
    >> assets
    >> variables
    keras_metadata.pb
    saved_model.pb
  >> pyapi-env
  api.py

api.py

from fastapi import FastAPI
from tensorflow.keras.models import load_model
...

@app.get("/predict")
def predict(test):
  ...
  model = load_model("./model/saved_model.pb")
  ...

测试笔记本：

import requests

url = "http://localhost:8000/predict"
params = {
    "test": "testing",
}
res = requests.get(url, params=params)
res.json()

错误： OSError: SavedModel file does not exist at: ./model/saved_model.pb\{saved_model.pbtxt|saved_model.pb}

Answer 1

我有同样的问题，这对我有用：

model = load_model("./model/")

您的代码似乎将“saved_model.pb”视为一个目录并在其中查找 model 文件。