为何在Tensorflow的keras里搭建网络八股训练神经网络速度极慢？

小古比鱼

IRIS数据集：

1. import tensorflow as tf
   
2. from sklearn import datasets
   
3. import numpy as np
   
4. 
   
5. x_train = datasets.load_iris().data
   
6. y_train = datasets.load_iris().target
   
7. 
   
8. np.random.seed(116)
   
9. np.random.shuffle(x_train)
   
10. np.random.seed(116)
    
11. np.random.shuffle(y_train)
    
12. tf.random.set_seed(116)
    
13. 
    
14. model = tf.keras.models.Sequential([
    
15.     tf.keras.layers.Dense(3, activation='softmax', kernel_regularizer=tf.keras.regularizers.l2())
    
16. ])
    
17. 
    
18. model.compile(optimizer=tf.keras.optimizers.SGD(lr=0.1),
    
19.               loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=False),
    
20.               metrics=['sparse_categorical_accuracy'])
    
21. 
    
22. model.fit(x_train, y_train, batch_size=32, epochs=500, validation_split=0.2, validation_freq=20)
    
23. 
    
24. model.summary()

复制代码

MNIST数据集：

1. import tensorflow as tf
   
2. 
   
3. mnist = tf.keras.datasets.mnist
   
4. (x_train, y_train), (x_test, y_test) = mnist.load_data()
   
5. x_train, x_test = x_train / 255.0, x_test / 255.0
   
6. 
   
7. model = tf.keras.models.Sequential([
   
8.     tf.keras.layers.Flatten(),
   
9.     tf.keras.layers.Dense(128, activation='relu'),
   
10.     tf.keras.layers.Dense(10, activation='softmax')
    
11. ])
    
12. 
    
13. model.compile(optimizer='adam',
    
14.               loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=False),
    
15.               metrics=['sparse_categorical_accuracy'])
    
16. 
    
17. model.fit(x_train, y_train, batch_size=32, epochs=5, validation_data=(x_test, y_test), validation_freq=1)
    
18. model.summary()

复制代码

这两段代码在执行到“model.fit()”一句时训练速度极慢，输出内容如图所示，剩余时间越来越长，明显有问题，请问是否因为没有GPU或非Anaconda环境的缘故？若将代码复制到Jupyter Notebook上运行则会快得多，十几秒钟就跑完了，真奇怪……
【注】我已经将MNIST数据集手动下载并存放在了系统盘的相应文件夹（C:\Users\用户名\.keras\datasets），为什么它运行的时候还要下载啊？

Twilight6

我 PyCharm 下载 MNIST数据集 时候也蛮慢的

小古比鱼

Twilight6 发表于 2020-11-25 23:18
我 PyCharm 下载 MNIST数据集 时候也蛮慢的

我用的不是PyCharm，请问有没有什么解决办法？另外鸢尾花数据集应该训练很快才对啊，可我这里依然需要几分钟才能训练完……

小古比鱼

另外为啥输出会有那么多问号？好像不正常啊……

春風十里君

1. with tf.device('/cpu:0'):
   
2.     model.fit(training_images, training_labels, epochs=5,callbacks=[callbacks])#out: 89% accurate
   
3.     test_loss, test_acc = model.evaluate(test_images, test_labels)

复制代码

加第一排代碼，就快了。

小古比鱼

春風十里君 发表于 2020-12-13 15:01
加第一排代碼，就快了。

好像不行啊，似乎加不加这句都没什么区别……请问这行代码是什么意思？

春風十里君

小古比鱼 发表于 2020-12-13 16:00
好像不行啊，似乎加不加这句都没什么区别……请问这行代码是什么意思？

加了， 下面兩行就在 CPU跑。

小古比鱼

春風十里君 发表于 2020-12-13 16:30
加了， 下面兩行就在 CPU跑。

如果不加呢？

春風十里君

小古比鱼 发表于 2020-12-13 17:18
如果不加呢？

不加，就在GPU跑。

小古比鱼

春風十里君 发表于 2020-12-14 12:10
不加，就在GPU跑。

可是小古比鱼的机子上本来就没有装GPU啊……

春風十里君

我错了。

小古比鱼

春風十里君 发表于 2020-12-14 14:13
我错了。

没事。可能就是因为没有GPU的缘故。