簡體   English   中英

如何將.h5 文件(Keras)上傳到 Azure Blob 存儲而不將其保存在 Python 的磁盤中

[英]How to upload .h5 file(Keras) to Azure Blob Storage without saving it in disk in Python

我正在 Keras 中創建 model 並想將 model 保存到 Z3A580F142203677F1F0BC335F9 存儲。

我嘗試使用 upload_blob 上傳它,但 model 是連續的,並且 blob 服務需要序列化的 object。 雖然我可以輕松上傳.pkl(pickle)格式。

我嘗試使用 pickle 序列化 model,但在上傳 model 后已損壞且無法使用。


# MLP for Pima Indians Dataset saved to single file
from numpy import loadtxt
from keras.models import Sequential
from keras.layers import Dense
import tensorflow as tf
import pickle
# load pima indians dataset
dataset = loadtxt("https://raw.githubusercontent.com/jbrownlee/Datasets/master/pima-indians-diabetes.data.csv", delimiter=",")
# split into input (X) and output (Y) variables
X = dataset[:,0:8]
Y = dataset[:,8]
# define model
model = Sequential()
model.add(Dense(12, input_dim=8, activation='relu'))
model.add(Dense(8, activation='relu'))
model.add(Dense(1, activation='sigmoid'))
# compile model
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy'])
# Fit the model
model.fit(X, Y, epochs=150, batch_size=10, verbose=0)
# evaluate the model
scores = model.evaluate(X, Y, verbose=0)
print("%s: %.2f%%" % (model.metrics_names[1], scores[1]*100))
# save model and architecture to single file
model.save("model.h5")
print("Saved model to disk")
pickle_file = pickle.dumps(model)

from azure.storage.blob import BlobServiceClient, BlobClient, ContainerClient

connect_str = ""
blob_service_client = BlobServiceClient.from_connection_string(connect_str)

# # Create a unique name for the container
container_name = ""
remote_file_name = "model"

blob_client = blob_service_client.get_blob_client(container=container_name, blob=remote_file_name)
blob_client.upload_blob(pickle_file)



我正在使用來自 machinelearningmastery.com 的基本 model

我暫時找到了辦法。 我將 my.h5 順序 model 拆分為兩部分,一個 as.json 將具有架構,第二部分作為具有權重的二進制文件。 我可以將它們都上傳到 blob 存儲中,下次我需要它們時,我可以下載它們,合並並使用它。

# serialize model to JSON

# model_weights = model.get_weights()
# model_json = model.to_json()

# model_weights_pickle = pickle.dumps(model_weights)
# model_json_pickle = pickle.dumps(model_json)

在此之后,您可以使用model_from_jsonmodel.set_weights

暫無
暫無

聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.

 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM