训练好模型只是第一步，真正让它落地发挥作用，还得靠部署。今天就来聊聊TensorFlow模型部署的全流程——从保存、加载到转换，每一步怎么操作、注意什么，一次性理清。
一、模型保存
在TensorFlow里，保存模型有两种主流方式：Sa vedModel格式和HDF5格式。两者各有侧重，根据场景灵活选用就好。
（一）Sa vedModel 格式
Sa vedModel是TensorFlow官方推荐的一种完整保存方案，模型结构、权重、计算图全打包在一起，部署和迁移时非常方便。
1. 保存模型
以下是构建、编译、训练并保存为Sa vedModel的代码示例：
# 构建模型
model = tf.keras.Sequential([
tf.keras.layers.Dense(64, activation='relu'),
tf.keras.layers.Dense(10)
])
# 编译模型
model.compile(optimizer='adam',
loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True),
metrics=['accuracy'])
# 训练模型
model.fit(train_images, train_labels, epochs=5)
# 保存模型
model.sa ve("sa ved_model")
2. 加载模型
后续使用时，一行代码就能把模型重新加载回来：
loaded_model = tf.keras.models.load_model("sa ved_model")
（二）HDF5 格式
HDF5格式更轻量，适合只保存权重和结构，常用于快速保存和恢复。
1. 保存模型
需要分别保存权重和结构：
# 保存模型权重
model.sa ve_weights("model_weights.h5")
# 保存模型结构
with open("model_architecture.json", "w") as f:
f.write(model.to_json())
2. 加载模型
加载时也分两步走：
# 加载模型权重
model.load_weights("model_weights.h5")
# 加载模型结构
with open("model_architecture.json", "r") as f:
model = tf.keras.models.model_from_json(f.read())
两种方式各有适用场景——Sa vedModel适合完整部署和跨环境迁移，HDF5更灵活，适合只更新权重的场景。根据实际需求选对了，后续部署会省心很多。
二、模型加载
模型加载就是把训练好的模型读进内存，然后做推理或其它操作。下面一步步来。
（一）准备工作
确保TensorFlow和必要库已安装，然后看具体步骤。
（二）具体步骤
1. 导入需要的库
import tensorflow as tf
2. 定义模型文件的路径
假设模型文件名为model.pb，路径为/path/to/model：
model_path = '/path/to/model/model.pb'
3. 加载模型
with tf.gfile.FastGFile(model_path, 'rb') as f:
graph_def = tf.GraphDef()
graph_def.ParseFromString(f.read())
tf.import_graph_def(graph_def, name='')
4. 创建会话并进行预测
创建会话后，用张量名称获取输入输出，执行预测。注意将input_tensor_name和output_tensor_name替换为实际名称，input_data也要预处理。
with tf.Session() as sess:
input_tensor = sess.graph.get_tensor_by_name('input_tensor_name:0') # 替换为你的输入张量名称
output_tensor = sess.graph.get_tensor_by_name('output_tensor_name:0') # 替换为你的输出张量名称
# 输入数据预处理
input_data = # 准备输入数据
# 进行预测
output_data = sess.run(output_tensor, feed_dict={input_tensor: input_data})
# 输出预测结果
print(output_data)
这样加载完成后，模型就可以在线上线提供服务了。
三、模型转换
很多时候，模型需要部署到不同的平台——移动端、浏览器、嵌入式设备等。这时就需要做格式转换。常见的转换目标有TensorFlow Lite、TensorFlow.js、ONNX等。这里以转换为TensorFlow Lite为例详细展开。
（一）安装 TensorFlow Lite Converter
pip install tensorflow
pip install tflite
（二）转换模型
假设你已经有一个Sa vedModel格式的训练好的模型，在sa ved_model_dir文件夹下。用下面的代码就能转成.tflite文件：
import tensorflow as tf
converter = tf.lite.TFLiteConverter.from_sa ved_model(sa ved_model_dir)
tflite_model = converter.convert()
with open('model.tflite', 'wb') as f:
f.write(tflite_model)
（三）部署模型
转换完成后，就可以把.tflite模型部署到移动设备或嵌入式设备上。使用TensorFlow Lite提供的库加载并推理：
import tensorflow as tf
interpreter = tf.lite.Interpreter(model_path="model.tflite")
interpreter.allocate_tensors()
input_details = interpreter.get_input_details()
output_details = interpreter.get_output_details()
# 推理
input_data = ...
interpreter.set_tensor(input_details[0]['index'], input_data)
interpreter.invoke()
output_data = interpreter.get_tensor(output_details[0]['index'])
TensorFlow Lite让在终端设备运行深度学习模型变得非常方便——工具链成熟、API简洁，只需几步就能把模型部署到实际场景中。
从保存到加载再到转换部署，整条链路打通后，模型才真正具备生产力。希望这篇文章能帮你快速上手TensorFlow部署流程，少踩坑，多出活儿。
