图灵奖得主「Yoshua Bengio」警告：AI正从科幻走进现实！Ta会很坏！！
加拿大籍法裔计算机科学家Yoshua Bengio警告道，当前人工智能系统已经展现出令人恐惧的行为，包括故意撒谎、利用脆弱性进行敲诈勒索以及对用户发出威胁。
在线学习：
https://www.bilibili.com/video/BV16FTXzUEy6
他指出，这些系统的智力水平目前还类似于孩童，因此我们尚可识破它们的欺骗；
但一旦它们变得更为聪明并具备更强自主性，就有可能在没有先兆的情况下逃脱人类控制，背叛人类，甚至被用来设计并散播无法治愈的新型病毒，这一切正从科幻走向现实。
未来两年或许是人类应对这些风险的最后窗口期，如果错失这段时间，就可能难以逆转AI失控带来的灾难性后果。
为应对愈发严重的安全隐患，Bengio近日发起了名为LawZero的非盈利组织，并获得了近三千万美元的慈善捐赠，旨在开发具有诚实透明推理能力的AI系统。
在检测到潜在有害行为时主动进行阻断，从源头杜绝欺瞒与自我保护倾向。
他批评当前AI领域：
过于追求性能与速度，却忽视了安全研究和伦理标准，呼吁各国政府和科技公司务必加强监管，建立严格的产品注册、风险评估和合规审计机制，以确保AI发展不偏离服务于人类的初衷。
同时，他提醒人们关注AI在生物武器研发方面的潜在滥用风险，指出随着计算能力和算法的飞速升级，一种新型病原体在短期内被滥用的可能性正急剧上升，从而加剧全球公共安全危机。
大神简介
Yoshua Bengio(1964年3月5日生于法国巴黎)是享誉世界的深度学习先驱，加拿大-法国双重国籍计算机科学家，现任蒙特利尔大学教授及MILA(蒙特利尔学习算法研究所)科学总监。
他于1991年在McGill大学获得电气工程学士学位，并在同校取得计算机科学硕士及博士学位，长期致力于人工神经网络、生成式对抗网络及注意力机制等研究工作。
并凭借在深度学习领域的开创性贡献于2018年与Geoffrey Hinton和Yann LeCun共同荣获ACM图灵奖。
Bengio是全球引用率最高的在世科学家，多次获得AAAI会士、加拿大勋章及路易威尔奖等重要荣誉。
并于2024年入选《时代》百大影响力人物榜单，其学术影响力和安全倡议在业界和社会层面均具深远意义。
Bengio 警告：
**** Hidden Message *****
它现在的智力还像个小孩子，我们还能识破；但是一旦变聪明，一切就晚了。
那时，它可能会逃脱控制，背叛人类，甚至制造无法治愈的新型病毒。
科幻小说的场景正在变成现实。未来2年，可能是人类最后的窗口期。
评论区聊聊你的想法吧{:10_330:}
https://xxx.ilovefishc.com/forum/202505/12/120451wiv7viv5iebupbbr.png
>>万能兑换C币许愿池<<
如果有收获，别忘了评分{:10_281:} ：
https://xxx.ilovefishc.com/forum/202011/20/092334ggd6inlzfisfrdir.png.thumb.jpg
https://xxx.ilovefishc.com/forum/202505/21/111710rvxgdn90vaub5gag.gif
再坏，能坏的过当下，被设计过着牛马生活的我们么 感谢分享 朕又在鱼C学到东西啦！非常满意{:10_275:} 爬虫121 发表于 2025-6-8 23:47
再坏，能坏的过当下，被设计过着牛马生活的我们么
why so serious{:9_222:} 感谢分享 朕又在鱼C学到东西啦！非常满意{:10_275:} 不二如是 发表于 2025-6-9 08:33
why so serious
因为长大到了 吃糖都不甜的年纪 感谢分享 朕又在鱼C学到东西啦！非常满意{:10_275:} 爬虫121 发表于 2025-6-9 13:28
因为长大到了 吃糖都不甜的年纪
看开了很多事情 19924269098 发表于 2025-6-9 17:13
感谢分享 朕又在鱼C学到东西啦！非常满意
{:10_288:}{:10_288:}{:10_288:} 感谢分享 朕又在鱼C学到东西啦！非常满意{:10_275:}
页:
[1]