?

Log in

No account? Create an account

Компьютерная лингвистика

Новостная лента www.solarix.ru

Previous Entry Share Next Entry
Баг при запуске нейросетевых моделей с tensorflow под Flask.
kelijah
В какой-то момент перестал работал flask-сервис чатбота. Видимо, после обновления tensorflow.
Симптом - падает при вызове метода predict для загруженной модели с диагностикой типа:

ValueError: Tensor Tensor("output_2/Sigmoid:0", shape=(?, 1), dtype=float32) is not an element of this graph.

Если вывести граф модели - с ним все в порядке. В консольном варианте ошибка не воспроизводится. По совету GraphGrailAi в https://github.com/Koziev/chatbot/issues/14 добавил в код (например тут) такой workaround:

with self.graph.as_default():
    y = self.model.predict( ... )


и бот ожил.


Подробное обсуждение бага в https://github.com/tensorflow/tensorflow/issues/14356. Возможно, где-то еще в коде потребуется аналогичная правка.

Кроме того, заметил, что загруженные модели как-то очень активно потребляют память на gpu'шке, норовя выйти на рубеж OOM. Возможно, придется урезать леща сложность моделек для прода.