在使用flask部署Keras，tensorflow等框架時(shí)候，經(jīng)常出現(xiàn)
FailedPreconditionError: Attempting to use uninitialized value batchnormalization_
或者
Tensor Tensor("crf_1/cond/Merge:0", shape=(?, ?, 260), dtype=float32) is not an element of this graph.
使用keras.backend.clear_session()可能會(huì)導(dǎo)致前后兩處預(yù)測(cè)結(jié)果不一樣，因?yàn)閳D發(fā)生了變化。以下是解決方案。
|
1
2
3
4
5
6
7
8
9
10
|
graph = tf.get_default_graph()sess = tf.Session(graph=graph) def modelpredict(content): #keras.backend.clear_session() global graph global sess with sess.as_default(): with graph.as_default(): keras.model.predict() |
補(bǔ)充：Flask與keras結(jié)合的幾個(gè)常見錯(cuò)誤
1、 ValueError: Tensor Tensor(“dense_1/Sigmoid:0”, shape=(?, 1), dtype=float32) is not an element of this graph.
在Flask中使用tensorflow的model，一在界面中調(diào)用 model.predict() 就報(bào)下面這個(gè)錯(cuò)誤，不過在單獨(dú)的 .py 文件中使用卻不報(bào)錯(cuò)。
ValueError: Tensor Tensor("dense_1/Sigmoid:0", shape=(?, 1), dtype=float32) is not an element of this graph.
添加如下代碼可以解決：
|
1
2
3
4
5
6
7
8
9
10
|
import tensorflow as tfgraph = tf.get_default_graph()model = models.load_model(…………)# 使用處添加：global graphglobal modelwith graph.as_default(): model.predict() # 執(zhí)行預(yù)測(cè)函數(shù) |
但是我當(dāng)時(shí)測(cè)試時(shí)又報(bào)了另一個(gè)bug，但是這個(gè)bug也不好解決，試了很多方法也沒解決，當(dāng)然最終還是可以解決的，具體解決方式參考第三點(diǎn)。
tensorflow.python.framework.errors_impl.FailedPreconditionError: Error while reading resource variable dense_1/bias from Container: localhost. This could mean that the variable was uninitialized. Not found: Resource localhost/dense_1/bias/class tensorflow::Var does not exist.
[[{{node dense_1/BiasAdd/ReadVariableOp}}]]
后來經(jīng)過N遍測(cè)試后找到了以下兩種解決方式，僅供參考：
方法一：
在調(diào)用前加載model和graph，但是這樣會(huì)導(dǎo)致程序每次調(diào)用都需要重新加載model，然后運(yùn)行速度就會(huì)很慢，不過這種修改方式是最簡(jiǎn)單的。
|
1
2
3
4
|
graph = tf.get_default_graph() model = models.load_model('./static/my_model2.h5') with graph.as_default(): result = model.predict(tokens_pad) |
方法二：
在創(chuàng)建model后，先使用一遍 model.predict()，參數(shù)的大小和真實(shí)大小一致，這個(gè)是真正解決之道，同時(shí)不影響使用速率。
|
1
2
3
4
5
6
7
8
9
|
# 使用前：model = models.load_model('./static/my_model2.h5')# a 矩陣大小和 tokens_pad 一致a = np.ones((1, 220))model.predict(a)# 使用時(shí)：global modelresult = model.predict(tokens_pad) |
但是在使用后又遇到了 The Session graph is empty…… 的錯(cuò)誤即第二點(diǎn)，不過估摸著這個(gè)是個(gè)例，應(yīng)該是程序問題。
2、RuntimeError: The Session graph is empty. Add operations to the graph before calling run().
|
1
2
3
4
|
graph = tf.get_default_graph() with graph.as_default(): # 相關(guān)代碼 # 本次測(cè)試中是需要把調(diào)用包含model.predict()方法的方法的代碼放到這里 |
3、tensorflow.python.framework.errors_impl.FailedPreconditionError: Error while reading resource variable dense_1/bias from Container: localhost. This could mean that the variable was uninitialized. Not found: Resource localhost/dense_1/bias/class tensorflow::Var does not exist.[[{{node dense_1/BiasAdd/ReadVariableOp}}]]
這個(gè)錯(cuò)誤呢，也是TensorFlow和Flask結(jié)合使用時(shí)的常見錯(cuò)誤，解決方式如下：
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
|
from tensorflow.python.keras.backend import set_session# 程序開始時(shí)聲明sess = tf.Session()graph = tf.get_default_graph()# 在model加載前添加set_sessionset_session(sess)model = models.load_model(…………)# 每次使用有關(guān)TensorFlow的請(qǐng)求時(shí)# in each request (i.e. in each thread):global sessglobal graphwith graph.as_default(): set_session(sess) model.predict(...)———————————————— |
4、 Can't find libdevice directory ${CUDA_DIR}/nvvm/libdevice. This may result in compilation or runtime failures, if the program we try to run uses routines from libdevice
設(shè)置一下XLA_FLAGS指向你的cuda安裝目錄即可
|
1
|
os.environ["XLA_FLAGS"]="--xla_gpu_cuda_data_dir=/usr/local/cuda-10.0" |
以上為個(gè)人經(jīng)驗(yàn)，希望能給大家一個(gè)參考，也希望大家多多支持服務(wù)器之家。
原文鏈接：https://blog.csdn.net/weixin_40939578/article/details/100154100
