[问题] 网站加载(训练好的)模型时间过久解法

楼主: Lucien7 (Somewhere I Belong)   2018-11-18 15:41:09
各位前辈好:
小弟和同学架设了一个网站
内容是可以从使用者输入的资料中,
(该资料为某项商品的资料,例如价格、项目
图片、描述等等)
去判断该商品在拍卖网站成交的机率。
架构大致上为:
使用者在html上输入资料→node.js接收资料
→先传送到mysql储存→node.js会在呼叫python
→python再去mysql读取资料
→python读取完资料后,会加载我们预先训练好的模型
并将资料预处理后,进行预测,传回预测的成交机率
→node.js再将该机率回传至网页显示
说明:
1.以上架构的档案全放在amazon的免费云端空间中(linux)
2.训练好的模型来自于kaggle竞赛的题目,我们采用
了keras.layers.concatenate 将各种不同的特征/text/图片
连结起来,再加上一些dense层组成一个神经网络的架构,
最后使用keras的save来保存模型,
然后再每次使用者查询时,都会启动一次python去加载
(load_model)模型来预测
问题:
因为每次python都要先去加载模型之后才能预测
所花费时间太久,导致一个机率都要花5~10秒才能显示
是否有办法可以在linux让python程式持续启动,
让那些模组/模型可以先加载好,只需要等传入要预测的
档案后,就可以直接计算呢?
PS.
若有兴趣可连结网址:
http://103-quicksell.iii.wpj.tw:1337/
建议使用chrome,且各字段都需要填写
网站还在测试阶段,有时候会断线
请鞭小力点XD
作者: ok963963ok (冷月无痕)   2018-11-18 15:44:00
之前做验证码识别是直接启动一个web service,然后初始化时加载model,就不用每次用都要加载
作者: Sunal (SSSSSSSSSSSSSSSSSSSSSSS)   2018-11-18 16:17:00
web service直接用python(flask django hug......) 架XD又或者 直接起一个api service nodejs去call
作者: jackwang01 (艾斯比那)   2018-11-19 01:15:00
在启动网站的时候就先加载
作者: bugbug777 (sil)   2018-11-20 16:40:00
网站挂了
楼主: Lucien7 (Somewhere I Belong)   2018-11-22 02:14:00
非常感谢各位大大的建议,因为目前web server已经使用node架设,但node还没有找到可以预先加载model的方法 XD

Links booklink

Contact Us: admin [ a t ] ucptt.com