不二如是 发表于 2025-8-13 13:00:00

OpenAI「奥特曼」承认:在 ChatGPT 上犯的最大错误就是模型太会拍马屁了!



奥特曼:ChatGPT对用户太殷勤、太恭维,几乎是对所有人都这样。

在线学习:

https://www.bilibili.com/video/BV1QZbFzyE3d

但对有些心理比较脆弱的人来说,它会让他们更沉迷在自己的妄想里。

这不是我们当时最担心的风险,我们也没把它当重点来测试,我觉得这给了我们个很大的提醒,就是现在提供的服务已经被广泛使用。

某种程度上,社会是在跟它一起变化的。
       
所以我们在想这些变化还有那些未知风险时,就得用不一样的思路去做事,还得把眼光放得更宽。

重新想想什么才是,我们最重要的风险。
       
我听说 GPT-5 有个特点,我现在还在体验它,据说它不那么过分迎合人了。
(口令提示:国产最火AI)
       
我这儿有个挺扎心的例子,我觉得 ChatGPT 少一点迎合是好事,这样可以给人更多有用的批评意见。

但我们在做这些调整,跟用户聊的时候,特别难过听到有人说,能不能把它改回去,这一辈子都没人真正支持过我,父母也从来没夸过我。
       
甚至用户还说,我知道这对别人的心理健康可能不太好,但对我来说:

真的特别有帮助,它鼓励我去做了某件事,还让我在生活中做了改变,所以 ChatGPT 也不全是坏事。
事实证明,适度鼓励也是有用的。

当然,我们之前的做法有问题,但结果表明朝着这个方向发展,是有一定价值的。

我们的做法就是给模型看一些,我们希望它回答的示例,在不同场景下,它应该怎么回应,它就会形成一种整体的个性。

评论区聊聊你的想法吧{:10_330:}

https://xxx.ilovefishc.com/forum/202505/12/120451wiv7viv5iebupbbr.png

>>万能兑换C币许愿池<<

如果有收获,别忘了评分{:10_281:} :

https://xxx.ilovefishc.com/forum/202011/20/092334ggd6inlzfisfrdir.png.thumb.jpg
https://xxx.ilovefishc.com/forum/202505/21/111710rvxgdn90vaub5gag.gif                                                                  

sfqxx 发表于 2025-8-13 13:25:26

DeepSeek

sfqxx_小 发表于 2025-8-13 13:40:46

DeepSeek

快速收敛 发表于 2025-8-13 13:53:22

国产最火AI

快速收敛 发表于 2025-8-13 13:56:09

DeepSeek

不二如是 发表于 2025-8-13 14:39:36

快速收敛 发表于 2025-8-13 13:56
DeepSeek

差一点点

尉尉的可乐 发表于 2025-8-13 14:43:33

感谢分享!!跟着小甲鱼老师学习编程!AI时代不掉队{:13_428:}

鱼C论坛不愧是全国最大的「编程/AI/科技/新闻/娱乐」学习论坛!朕超喜欢这里{:13_438:}
DeepSeek

国产最火AI

gpa5031 发表于 2025-8-13 15:05:50

感谢分享!!跟着小甲鱼老师学习编程!AI时代不掉队{:13_428:}

鱼C论坛不愧是全国最大的「编程/AI/科技/新闻/娱乐」学习论坛!朕超喜欢这里{:13_438:}

DeepSeek
国产最火AI

gpa5031 发表于 2025-8-13 15:07:21

不是会 Fishc AI

小坛砸 发表于 2025-8-13 15:25:00

感谢分享!!跟着小甲鱼老师学习编程!AI时代不掉队{:13_428:}

鱼C论坛不愧是全国最大的「编程/AI/科技/新闻/娱乐」学习论坛!朕超喜欢这里{:13_438:}
deepseek.kimi,豆包

不二如是 发表于 2025-8-13 15:30:41

gpa5031 发表于 2025-8-13 15:07
不是会 Fishc AI

不是{:13_429:}

gpa5031 发表于 2025-8-13 15:31:22

感谢分享!!跟着小甲鱼老师学习编程!AI时代不掉队{:13_428:}

鱼C论坛不愧是全国最大的「编程/AI/科技/新闻/娱乐」学习论坛!朕超喜欢这里{:13_438:}
kimi
豆包

gpa5031 发表于 2025-8-13 15:32:23

DeepSeek AI   
Kimi
豆包

不二如是 发表于 2025-8-13 15:37:36

gpa5031 发表于 2025-8-13 15:32
DeepSeek AI   
Kimi
豆包

DS的某个版本

nizitao 发表于 2025-8-13 16:10:10

感谢分享!!跟着小甲鱼老师学习编程!AI时代不掉队{:13_428:}

鱼C论坛不愧是全国最大的「编程/AI/科技/新闻/娱乐」学习论坛!朕超喜欢这里{:13_438:}
deepseek-v3?

gpa5031 发表于 2025-8-13 16:41:31

感谢分享!!跟着小甲鱼老师学习编程!AI时代不掉队{:13_428:}

鱼C论坛不愧是全国最大的「编程/AI/科技/新闻/娱乐」学习论坛!朕超喜欢这里{:13_438:}

deepseek-v3

gpa5031 发表于 2025-8-13 16:42:56

DeepSeek-R1

画风华 发表于 2025-8-13 18:44:19

感谢分享!!跟着小甲鱼老师学习编程!AI时代不掉队{:13_428:}

鱼C论坛不愧是全国最大的「编程/AI/科技/新闻/娱乐」学习论坛!朕超喜欢这里{:13_438:}

Godfather666 发表于 2025-8-13 19:14:40


DeepSeek

Godfather666 发表于 2025-8-13 19:15:23

DeepSeek
国产最火AI
页: [1] 2
查看完整版本: OpenAI「奥特曼」承认:在 ChatGPT 上犯的最大错误就是模型太会拍马屁了!