发新帖

并行多个模型

[复制链接]
943 5

快来加入 TensorFlowers 大家庭!

您需要 登录 才可以下载或查看,没有帐号?加入社区

x
我有一个autoencoder模型和40组16万个128维的数据, 我想把这40组数据训练40个autoencoder。
现在的代码是顺序的训练这40个模型,实在是太慢了。

tf可不可以支持并行40个模型?

我知道答案 回答被采纳将会获得10 金币 + 15 金币 已有5人回答
本楼点评(0) 收起

精彩评论5

Francis_Xia  TF荚荚  发表于 2018-5-4 15:14:43 | 显示全部楼层
问题补充:
是单卡(P40)
本楼点评(0) 收起
pjincz  TF荚荚  发表于 2018-5-4 17:01:09 | 显示全部楼层
如果计算力没有饱和,可以尝试用下面的方式创建Session以阻止TF占据所有显存

sess_conf = tf.ConfigProto()
sess_conf.gpu_options.allow_growth = True
sess = tf.Session(config=sess_conf)

然后可以创建多个进程并行训练。

但是前提是运算力没有饱和,显存有空余。
本楼点评(2) 收起
  • Francis_Xia谢谢。恩,我这么做了

    写了python的多进程,用map实现的
    from multiprocessing.dummy import Pool as ThreadPool

    pool = ThreadPool()
    results = pool.map(task, data)
    pool.close()
    pool.join()

    但是报错如下:
    TypeError: Cannot interpret feed_dict key as Tensor: Tensor Tensor("input_1:0", shape=(?, 128), dtype=float32) is not an element of this graph.
    2018-5-4 19:48 回复
  • pjincz回复 Francis_Xia : 我觉得这个不是并发带来的问题。你可以试试开多个控制台,手工起多个任务试试
    2018-5-6 21:39 回复
M丶Sulayman  TF豆豆  发表于 2018-5-4 20:55:43 | 显示全部楼层
来学习的~慢慢论坛也开始热闹了
本楼点评(1) 收起
yuefengz  TF荚荚  发表于 2018-5-6 20:23:39 来自手机  | 显示全部楼层
40个模型可以建在一张图上一起训练
本楼点评(0) 收起
jellycsc  TF荚荚  发表于 2018-5-7 00:42:21 | 显示全部楼层
帮顶
本楼点评(0) 收起
您需要登录后才可以回帖 登录 | 加入社区

本版积分规则

快速回复 返回顶部 返回列表