弱智吧神帖:我发现很多人其实是本地小模型
最近百度弱智吧又出了一个可以原地出院的神帖:原贴术语很多,为了方便非技术朋友能看懂,请看下方大白话解释:
参数量极小(2B):这个不需要解释,中国人都懂
训练集极小(污染数据):见识短浅,还总爱轻信并传播谣言
预训练轮数少(不收敛):做事毫无逻辑,想一出是一出,容易精神内耗
上下文极小(<500字):极其健忘,永远只看眼前,聊着聊着就忘了话题
注意力稀疏:典型的“金鱼记忆”,三分钟热度,干啥啥不行
不会联网搜索:固执己见,活在自己的封闭世界里
没有思维链:遇到问题只会情绪化输出,毫无推导过程
幻觉或拟合:要么凭空捏造事实,要么认死理不懂变通
弱智吧的吧友,不是段子手、就是哲学家,唯独不是“弱智”。{:10_256:}
所以弱智吧其实是天然的大模型对齐数据集? {:5_109:}
页:
[1]