|
马上注册,结交更多好友,享用更多功能^_^
您需要 登录 才可以下载或查看,没有账号?立即注册
x
在线学习:
图灵奖得主Yann LeCun:基于文本训练的AI大语言模型存在很大的局限,所训练压缩的数据量与4岁儿童无异,而儿童甚至猫猫狗狗都比AI对物理世界规律有更好地认知。
LeCun一直反对基于自回归Transformer架构能实现AGI的说法,提出只有世界模型才能让AI具备对物理世界的内在理解。
即能通过观察和交互学习世界规律,而不只是依赖文本数据的表面关联。
他所领导的团队提出了V-JEPA架构,通过联合嵌入空间预测方式和时空掩码策略,实现AI对抽象空间的预测,让AI具备物理常识,消除幻觉和不可控性,并使用更少的训练数据。
不过该架构也被一些人质疑缺乏泛化能力。
Yann LeCun现任Meta AI首席科学家,纽约大学教授,是2018年图灵奖得主。
他在神经网络和深度学习领域有着巨大贡献,在80-90年代神经网络不被看好的情况下仍坚持,并预言“深度学习将在数据和算力增长后爆发”。
与前Deepmind创始人Geoffery Hinton(也是OpenAI前首席科学家Ilya Sutskever的老师)和蒙特利尔大学教授Yoshua Bengio被并称为AI三巨头。
|
|