J-Space：我们真的能理解大模型的思想吗？

王星云

这个内容太好了，人类创造出来了AI，但是却不知道AI是怎么思考的。如果我们知道了，就可以让它更聪明，当然我估计也可以像小说里说的，给AI加上思想钢印。哇~~~未来的变数太多了

王星云

好厉害，一想到其他优秀的人类在做这么宏大的工程，而我还是乖乖去学Python和写课后作业吧。

桐谷明日奈

搞清楚哪儿黑是最重要的吧 黑箱就算黑但是我们只要在黑箱彻底构成之前了解摸清楚它的结构就不会害怕（我不行了 大家编程工作一定要注意身体 我现在高烧呕吐感觉下一秒就要挂了 一定保护好自己的身体。。。。）

wakey

还是和豆包一样啊，会说话的百度，他有数据库呗/::L

zhae89

为什么我感觉到瓶颈期了

kokoFC

让我想起豆包的每次“事后道歉”

yfz313

机器学习刚兴起那会儿，ai似乎没这么复杂，它是用模型来训练的，比如（红瓤，大，甜）＝好瓜然后还有更多的例子，让ai读取很多模型然后选取一部分作为测试模型进行测试。大概几十年前好像就有人用ai推演数学题了。不知道现代ai对比之前的有什么重大技术革新吗。

圆圆的哈密瓜

中间概念确实参与推理，但这并不等于 AI 拥有意识，而是为理解、调试和保障大模型提供了新窗口。

Richardpf

课代表总结：这篇最核心的一句是——“看见蜘蛛”只是相关，“把蜘蛛换成蚂蚁，8 变 6”才是因果。J-Lens 像用雅可比矩阵预测中间残差流未来会影响哪些输出概念，J-Space 则像模型内部一块可读、可改、可复用的共享白板。求小甲鱼出一期 Gemma 3 4B 复现实操：Hugging Face 加载 → hook 中间层 → Logit Lens → 激活干预。基础路线也求置顶：Python/线代概率 → 反向传播 → Transformer（注意力+残差流）→ 机制可解释性。

changqing0805

ai何时能像人脑一样，思考执行任务，

xumingjie

目前说Ai能有多智能还早

思想90

这研究就是给大模型装个内部摄像头，能偷看它咋盘算的，离AI真有意识还差十万八千里

mobezone

大模型就只是用好就需要研究研究

15257288806

没想到这也能用做实验来实现

depart

原来大模型不是单纯的文字接龙，内部还有专门用来推理的共享空间，虽然还没诞生意识，但这种可解释技术对AI安全真的很关键。

神荼Q

还是在一定范围内有思考的

小L鱼

J-Lens的发展可以帮人类更好理解大模型的运行，助力大模型的进一步发展壮大。

Sora-空

好清晰的解释了大模型和人脑在碳基硅基之外最明显的区别、

Sora-空

——再次看完全篇后，似乎可以这样理解：J-space让所有状态都能看到，但状态之间的因果结构看不到