设为首页收藏本站
切换到窄版

鱼C论坛

 找回密码
 立即注册
鱼C论坛»论坛 › 编程语言专区 › Python交流 › 好心人帮忙看一下简单神经网络dnn模型的代码有什么问题
12
返回列表 发新帖
楼主: Terence888

好心人帮忙看一下简单神经网络dnn模型的代码有什么问题

[复制链接]
Terence888
 楼主| 发表于 2024-10-22 22:21:03 | 显示全部楼层
FishC 发表于 2024-10-22 01:22
从提供的错误信息和代码来看，主要问题出现在自定义数据集 `SimpleDataset` 的 `__getitem__` 方法中。 ...
  1. #dnn模型(train_test_split)
  2. import torch
  3. import torch.nn as nn
  4. from torch.utils import data
  5. from torch.utils.data import Dataset,DataLoader
  6. from torch import optim

  8. #定义神经网络模型
  9. dropout1, dropout2 = 0.3, 0.6
  10. class SimpleNN(nn.Module):
  11.     def __init__(self):
  12.         super(SimpleNN, self).__init__()  # 继承需要用 SimpleNN
  13.         self.dense = nn.Sequential(
  14.             nn.Flatten(),
  15.             nn.Linear(12, 128),
  16.             nn.ReLU(),  
  17.             nn.Dropout(dropout1),
  18.             nn.Linear(128, 256),
  19.             nn.ReLU(),  
  20.             nn.Dropout(dropout2),
  21.             nn.Linear(256, 1),
  22.         )
  23.       
  24.     def forward(self, X):
  25.         x = self.dense(X)
  26.         output = torch.sigmoid(x)
  27.         return output

  29.    
  30. #初始化模型和优化器
  31. simple_dnn_model = SimpleNN()
  32. loss = nn.BCELoss() #定义损失函数
  33. optimizer = optim.Adam(nn_model.parameters(),lr=0.0001) #定义优化器

  35. #初始化列表
  36. acc_list = []
  37. loss_list = []



  41. # 开始训练
  42. batch_size = 99
  43. num_epochs = 1000

  45.    
  46. #创建数据集
  47. train_dataset = data.TensorDataset(X_train, y_train)
  48. valid_dataset = data.TensorDataset(X_valid, y_valid)

  50. # 获取一个数据迭代器
  51. train_iter = DataLoader(dataset=train_dataset,batch_size=batch_size,shuffle=True,num_workers=2)#shuffle=True相当于sampler=RandomSampler(dataset)
  52. valid_iter = DataLoader(dataset=valid_dataset,batch_size=batch_size,shuffle=True,num_workers=2)

  54. #开始迭代
  55. for epoch in range(num_epochs):
  56.     train_loss = 0
  57.     num_right = 0
  58.     for tensor_x, tensor_y in train_iter:#训练集执行梯度更新
  59.         tensor_x = tensor_x.float()
  60.         tensor_y = tensor_y.float().reshape(-1, 1)
  61.         optimizer.zero_grad() #梯度清零
  62.         pre_train = simple_dnn_model(tensor_x)
  63.         train_l = loss(pre_train, tensor_y) #损失应避免与全局变量loss重名
  64.         train_l.backward()#前向传播
  65.         optimizer.step()#梯度下降

  67.         train_loss += train_l.item() * len(tensor_x)#批量损失
  68.         result = [1 if out >= 0.5 else 0 for out in pre_train]
  69.         num_right += np.sum(np.array(result) == tensor_y.numpy().reshape(-1))

  71.         train_loss = train_loss / len(train_iter.dataset)
  72.         train_accuracy = num_right / len(train_iter.dataset)

  74.     if epoch % 200 == 0:
  75.         print('Loss: {} Accuracy: {} Epoch:{}'.format(train_loss, train_accuracy, epoch))

  77.     with torch.no_grad():
  78.         valid_loss = 0
  79.         num_right = 0
  80.         for tensor_x, tensor_y in valid_iter:
  81.             tensor_x = tensor_x.float()
  82.             tensor_y = tensor_y.float().reshape(-1, 1)
  83.             pre_valid = simple_dnn_model(tensor_x)
  84.             valid_l = loss(pre_valid, tensor_y)
  85.             valid_loss += valid_l.item() * len(tensor_x)
  86.             result = [1 if out >= 0.5 else 0 for out in pre_valid]
  87.             num_right += np.sum(np.array(result) == tensor_y.numpy().reshape(-1))

  89.         valid_loss = valid_loss / len(valid_iter.dataset)
  90.         valid_accuracy = num_right / len(valid_iter.dataset)

  92.         if epoch % 200 == 0:
  93.             print('Valid Loss: {} Accuracy: {} Epoch:{}'.format(valid_loss, valid_accuracy, epoch))

  95. #将每次迭代的结果写入列表
  96. loss_list.append(valid_loss)
  97. acc_list.append(valid_accuracy)

  99. print('Training Ended')
  100. print('Average Loss: {} Average Accuracy: {}'.format(np.mean(loss_list), np.mean(acc_list)))
复制代码


数据的特征和标签类型是tensor，转换为numpy后形状分别是
  1. X_train.values.shape,y_train.values.shape,X_valid.values.shape,y_valid.values.shape
复制代码

((569, 12), (569,), (143, 12), (143,))

训练模型代码报错如下
  1. ---------------------------------------------------------------------------
  2. TypeError                                 Traceback (most recent call last)
  3. Cell In[63], line 47
  4.      43 num_epochs = 1000
  5.      46 #创建数据集
  6. ---> 47 train_dataset = data.TensorDataset(X_train, y_train)
  7.      48 valid_dataset = data.TensorDataset(X_valid, y_valid)
  8.      50 # 获取一个数据迭代器

  10. File /opt/conda/lib/python3.10/site-packages/torch/utils/data/dataset.py:204, in TensorDataset.__init__(self, *tensors)
  11.     203 def __init__(self, *tensors: Tensor) -> None:
  12. --> 204     assert all(tensors[0].size(0) == tensor.size(0) for tensor in tensors), "Size mismatch between tensors"
  13.     205     self.tensors = tensors

  15. File /opt/conda/lib/python3.10/site-packages/torch/utils/data/dataset.py:204, in <genexpr>(.0)
  16.     203 def __init__(self, *tensors: Tensor) -> None:
  17. --> 204     assert all(tensors[0].size(0) == tensor.size(0) for tensor in tensors), "Size mismatch between tensors"
  18.     205     self.tensors = tensors

  20. TypeError: 'int' object is not callable
复制代码
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

FishC
发表于 2024-10-22 22:24:36 | 显示全部楼层
Terence888 发表于 2024-10-22 22:21
#dnn模型(train_test_split)
import torch
import  ...


您遇到的错误是因为 `data.TensorDataset` 的参数需要是 PyTorch 张量类型。在构造 `TensorDataset` 时，请确保 `X_train` 和 `y_train` 是 PyTorch 张量，而不是 NumPy 数组或其他类型。以下是解决方案：

1. **确保数据是 PyTorch 张量**：

  
  1. X_train = torch.tensor(X_train.values, dtype=torch.float32)
  2.    y_train = torch.tensor(y_train.values, dtype=torch.float32)
  3.    X_valid = torch.tensor(X_valid.values, dtype=torch.float32)
  4.    y_valid = torch.tensor(y_valid.values, dtype=torch.float32)
复制代码


2. **创建数据集**：
   
  
  1. train_dataset = data.TensorDataset(X_train, y_train)
  2.    valid_dataset = data.TensorDataset(X_valid, y_valid)
复制代码


3. **检查一致性**：
   确保 `X_train` 和 `y_train` 的第一个维度大小相同，即样本数量保持一致。

请按照这些步骤确保数据类型和维度一致性。

以上回复来自 FishC AI 小助理，如未能正确解答您的问题，请继续追问。
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

Terence888
 楼主| 发表于 2024-10-22 22:40:18 | 显示全部楼层
FishC 发表于 2024-10-22 22:24
您遇到的错误是因为 `data.TensorDataset` 的参数需要是 PyTorch 张量类型。在构造 `TensorDataset` 时 ...
  1. #dnn模型(train_test_split)
  2. import torch
  3. import torch.nn as nn
  4. from torch.utils import data
  5. from torch.utils.data import Dataset,DataLoader
  6. from torch import optim

  8. #定义神经网络模型
  9. dropout1, dropout2 = 0.3, 0.6
  10. class SimpleNN(nn.Module):
  11.     def __init__(self):
  12.         super(SimpleNN, self).__init__()  # 继承需要用 SimpleNN
  13.         self.dense = nn.Sequential(
  14.             nn.Flatten(),
  15.             nn.Linear(12, 128),
  16.             nn.ReLU(),  
  17.             nn.Dropout(dropout1),
  18.             nn.Linear(128, 256),
  19.             nn.ReLU(),  
  20.             nn.Dropout(dropout2),
  21.             nn.Linear(256, 1),
  22.         )
  23.       
  24.     def forward(self, X):
  25.         x = self.dense(X)
  26.         output = torch.sigmoid(x)
  27.         return output

  29.    
  30. #初始化模型和优化器
  31. simple_dnn_model = SimpleNN()
  32. loss = nn.BCELoss() #定义损失函数
  33. optimizer = optim.Adam(nn_model.parameters(),lr=0.0001) #定义优化器

  35. #初始化列表
  36. acc_list = []
  37. loss_list = []

  39. #将DataFrame数据转换为NumPy数组，然后再转换为PyTorch张量
  40. X_train = torch.tensor(X_train.astype(np.float32).values, dtype=torch.float32)
  41. y_train = torch.tensor(y_train.astype(np.float32).values, dtype=torch.float32)
  42. X_valid = torch.tensor(X_valid.astype(np.float32).values, dtype=torch.float32)
  43. y_valid = torch.tensor(y_valid.astype(np.float32).values, dtype=torch.float32)

  45.    
  46. #创建数据集
  47. train_dataset = data.TensorDataset(X_train, y_train)
  48. valid_dataset = data.TensorDataset(X_valid, y_valid)

  50. # 获取一个数据迭代器
  51. train_iter = DataLoader(dataset=train_dataset,batch_size=batch_size,shuffle=True,num_workers=2)#shuffle=True相当于sampler=RandomSampler(dataset)
  52. valid_iter = DataLoader(dataset=valid_dataset,batch_size=batch_size,shuffle=True,num_workers=2)

  54. # 开始训练
  55. batch_size = 99
  56. num_epochs = 1000
  57. #开始迭代
  58. for epoch in range(num_epochs):
  59.     train_loss = 0
  60.     num_right = 0
  61.     for tensor_x, tensor_y in train_iter:#训练集执行梯度更新
  62.         tensor_x = tensor_x.float()
  63.         tensor_y = tensor_y.float().reshape(-1, 1)
  64.         optimizer.zero_grad() #梯度清零
  65.         pre_train = simple_dnn_model(tensor_x)
  66.         train_l = loss(pre_train, tensor_y) #损失应避免与全局变量loss重名
  67.         train_l.backward()#前向传播
  68.         optimizer.step()#梯度下降

  70.         train_loss += train_l.item() * len(tensor_x)#批量损失
  71.         result = [1 if out >= 0.5 else 0 for out in pre_train]
  72.         num_right += np.sum(np.array(result) == tensor_y.numpy().reshape(-1))

  74.         train_loss = train_loss / len(train_iter.dataset)
  75.         train_accuracy = num_right / len(train_iter.dataset)

  77.     if epoch % 200 == 0:
  78.         print('Loss: {} Accuracy: {} Epoch:{}'.format(train_loss, train_accuracy, epoch))

  80.     with torch.no_grad():
  81.         valid_loss = 0
  82.         num_right = 0
  83.         for tensor_x, tensor_y in valid_iter:
  84.             tensor_x = tensor_x.float()
  85.             tensor_y = tensor_y.float().reshape(-1, 1)
  86.             pre_valid = simple_dnn_model(tensor_x)
  87.             valid_l = loss(pre_valid, tensor_y)
  88.             valid_loss += valid_l.item() * len(tensor_x)
  89.             result = [1 if out >= 0.5 else 0 for out in pre_valid]
  90.             num_right += np.sum(np.array(result) == tensor_y.numpy().reshape(-1))

  92.         valid_loss = valid_loss / len(valid_iter.dataset)
  93.         valid_accuracy = num_right / len(valid_iter.dataset)

  95.         if epoch % 200 == 0:
  96.             print('Valid Loss: {} Accuracy: {} Epoch:{}'.format(valid_loss, valid_accuracy, epoch))

  98. #将每次迭代的结果写入列表
  99. loss_list.append(valid_loss)
  100. acc_list.append(valid_accuracy)

  102. print('Training Ended')
  103. print('Average Loss: {} Average Accuracy: {}'.format(np.mean(loss_list), np.mean(acc_list)))
复制代码


上述代码存在什么问题导致预测准确率过低
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

FishC
发表于 2024-10-22 22:40:32 | 显示全部楼层
Terence888 发表于 2024-10-22 22:40
#dnn模型(train_test_split)
import torch
import  ...


在该代码中，有一些地方可能会影响模型的性能和准确性。以下是检查和改进的建议：

1. **初始化列表**：
   - 确保 `acc_list` 和 `loss_list` 被正确初始化，例如使用空列表 `acc_list = []` 和 `loss_list = []`。

2. **未定义变量**：
   - `nn_model` 应替换为 `simple_dnn_model`。

3. **结果计算**：
   - 需要实现对 `result` 的计算。可以将预测值转化为二进制类别，例如：`result = (pre_train > 0.5).float()`。

4. **数据标准化**：
   - 确保输入数据经过标准化或归一化，以便网络更好地学习。

5. **学习率调整**：
   - 调整 `optimizer` 的学习率（`lr=0.0001`），可能较低或较高的学习率都会影响网络的收敛。

6. **批量大小和迭代次数**：
   - 尝试不同的 `batch_size` 和 `num_epochs` 以找到最佳组合。

7. **网络架构和过拟合**：
   - 使用较小的网络或正则化技术，减少过拟合。

如果尝试这些改进后，仍发现准确度低，可以尝试进一步探索数据集特性或网络结构。

以上回复来自 FishC AI 小助理，如未能正确解答您的问题，请继续追问。
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

12
返回列表 发新帖
高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-4-19 16:57

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表