模型训练准确率100%...是数据太少了么

查看全部 · 发表在已解决 2018-5-7 10:51:38

快来加入 TensorFlowers 大家庭！

您需要登录才可以下载或查看，没有帐号？加入社区

x

本帖最后由 M丶Sulayman 于 2018-5-7 17:36 编辑

#!/usr/bin/env python
# -*- coding: UTF-8 -*-
from __future__ import print_function
import numpy as np
from sklearn.model_selection import train_test_split
import tensorflow as tf
from tensorflow.contrib.tensor_forest.python import tensor_forest
from tensorflow.python.ops import resources
def load_data(file):
features = []
lables = []
file = open(file, 'r')
lines = file.readlines()
for line in lines:
items = line.strip().split(',')
list_to_string = ','.join(items)
for ch in ['Iris-setosa']:
if ch in list_to_string:
list_to_string = list_to_string.replace(ch, '0')
for ch in ['Iris-versicolor']:
if ch in list_to_string:
list_to_string = list_to_string.replace(ch, '1')
for ch in ['Iris-virginica']:
if ch in list_to_string:
list_to_string = list_to_string.replace(ch, '2')
items = list_to_string.strip().split(',')
features.append([float(items[i]) for i in range(len(items) - 1)])
lables.append(float(items[-1]))
return np.array(features), np.array(lables)
if __name__ == '__main__':
data, lables = load_data('iris.csv')
train_data, test_data, train_lables, test_lables = train_test_split(data, lables, test_size=0.3, random_state=33)
# Parameters
num_steps = 1000
num_classes = 3
num_features = 4
num_trees = 10
max_nodes = 100
# Input and Target data
X = tf.placeholder(tf.float32, shape=[None, num_features])
# For random forest, labels must be integers (the class id)
Y = tf.placeholder(tf.int32, shape=[None])
# Random Forest Parameters
hparams = tensor_forest.ForestHParams(num_classes=num_classes,
num_features=num_features,
num_trees=num_trees,
max_nodes=max_nodes).fill()
# Build the Random Forest
forest_graph = tensor_forest.RandomForestGraphs(hparams)
# Get training graph and loss
train_op = forest_graph.training_graph(X, Y)
loss_op = forest_graph.training_loss(X, Y)
# Measure the accuracy
infer_op = forest_graph.inference_graph(X)
correct_prediction = tf.equal(tf.argmax(infer_op, 1), tf.cast(Y, tf.int64))
accuracy_op = tf.reduce_mean(tf.cast(correct_prediction, tf.float32))
# Initialize the variables (i.e. assign their default value) and forest resources
init_vars = tf.group(tf.global_variables_initializer(),
resources.initialize_resources(resources.shared_resources()))
# Start TensorFlow session
sess = tf.Session()
# Run the initializer
sess.run(init_vars)
# Training
for i in range(1, num_steps + 1):
_, l = sess.run([train_op, loss_op], feed_dict={X: train_data, Y: train_lables})
if i % 50 == 0 or i == 1:
acc = sess.run(accuracy_op, feed_dict={X: train_data, Y: train_lables})
print('Step %i, Loss: %f, Acc: %f' % (i, l, acc))
# Test Model
print("Test Accuracy:", sess.run(accuracy_op, feed_dict={X: test_data, Y: test_lables}))

复制代码

iris.rar (878 Bytes, 下载次数: 91)

M丶Sulayman · 发表于 2018-5-7 10:55:36

train_data, test_data, train_lables, test_lables = train_test_split(data, lables, test_size=0.3, random_state=33)

复制代码

是数据集分割的原因么？

M丶Sulayman · 发表于 2018-5-7 11:00:57

是最大节点数的原因 max_nodes 设置过大，分的太细，造成了过拟合

slobber · 发表于 2018-5-7 11:43:19

iris 不用考虑数据量吧

M丶Sulayman · 发表于 2018-5-7 11:44:18

slobber 发表于 2018-5-7 11:43
iris 不用考虑数据量吧

是的，然后我就自我否定了，原来是分支节点太多造成了过拟合。

Oreo. · 发表于 2018-5-7 17:20:06

你好，请问你用的TensorFlow是多少版本的？
我用TensorFlow-gpu 1.4.0版本的，提示有错误

M丶Sulayman · 发表于 2018-5-7 17:29:51

Oreo. 发表于 2018-5-7 17:20
你好，请问你用的TensorFlow是多少版本的？
我用TensorFlow-gpu 1.4.0版本的，提示有错误 ...

额，我的可以跑

Oreo. · 发表于 2018-5-7 19:25:49

M丶Sulayman 发表于 2018-5-7 17:29
额，我的可以跑

我用的是TensorFlow-gpu-1.4.0跑有报错然后我uninstall后install了最新的TensorFlow 1.8.0还是会报一样的错
然后我装了1.3.0 居然成功了！！！

M丶Sulayman · 发表于 2018-5-7 19:27:07

Oreo. 发表于 2018-5-7 19:25
我用的是TensorFlow-gpu-1.4.0跑有报错然后我uninstall后install了最新的TensorFlow 1.8.0还是会报一样的 ...

......看来是函数的问题

Oreo. · 发表于 2018-5-7 19:28:02

M丶Sulayman 发表于 2018-5-7 19:27
......看来是函数的问题

可能是用的函数比较老吧，新版本已经不能用了

Oreo. · 发表于 2018-5-7 20:35:08

M丶Sulayman 发表于 2018-5-7 19:27
......看来是函数的问题

已经跑了一下数据了，随机森林好容易就能跑到90以上

，真是幸福
而且代码也很简洁，比我之前跑神经网络舒服多了呀

Oreo. · 发表于 2018-5-7 20:35:40

M丶Sulayman 发表于 2018-5-7 19:27
......看来是函数的问题

谢谢你在论坛里面提问了那么多，我也学习好多哈哈哈

M丶Sulayman · 发表于 2018-5-7 20:55:37

Oreo. 发表于 2018-5-7 20:35
谢谢你在论坛里面提问了那么多，我也学习好多哈哈哈

共同进步~

Oreo. · 发表于 2018-5-9 16:28:01

M丶Sulayman 发表于 2018-5-7 19:27
......看来是函数的问题

我去网上查了一下，在stackoverflow上的问题也没有明确的回答，有一位是选择放弃tensorflow用sklearn实现随机森林了直接。。。
在github上也有人提问，但是tensorflow官方账号也没有给出明确的答复，函数用的也不老，至少现在调用tensor_forest包还是一样路径，反正我是用1.3.0不会报错，1.4.0和1.8.0都会报错，而且在网上好像报错的基本都是从1.4.0版本的，估计是bug一直没有解决吧。。。