图灵奖得主「Yoshua Bengio」警告：AI正从科幻走进现实！Ta会很坏！！

不二如是

加拿大籍法裔计算机科学家Yoshua Bengio警告道，当前人工智能系统已经展现出令人恐惧的行为，包括故意撒谎、利用脆弱性进行敲诈勒索以及对用户发出威胁。

在线学习：



他指出，这些系统的智力水平目前还类似于孩童，因此我们尚可识破它们的欺骗；

但一旦它们变得更为聪明并具备更强自主性，就有可能在没有先兆的情况下逃脱人类控制，背叛人类，甚至被用来设计并散播无法治愈的新型病毒，这一切正从科幻走向现实。

未来两年或许是人类应对这些风险的最后窗口期，如果错失这段时间，就可能难以逆转AI失控带来的灾难性后果。

为应对愈发严重的安全隐患，Bengio近日发起了名为LawZero的非盈利组织，并获得了近三千万美元的慈善捐赠，旨在开发具有诚实透明推理能力的AI系统。

在检测到潜在有害行为时主动进行阻断，从源头杜绝欺瞒与自我保护倾向。

他批评当前AI领域：

过于追求性能与速度，却忽视了安全研究和伦理标准，呼吁各国政府和科技公司务必加强监管，建立严格的产品注册、风险评估和合规审计机制，以确保AI发展不偏离服务于人类的初衷。

同时，他提醒人们关注AI在生物武器研发方面的潜在滥用风险，指出随着计算能力和算法的飞速升级，一种新型病原体在短期内被滥用的可能性正急剧上升，从而加剧全球公共安全危机。


大神简介

Yoshua Bengio(1964年3月5日生于法国巴黎)是享誉世界的深度学习先驱，加拿大-法国双重国籍计算机科学家，现任蒙特利尔大学教授及MILA(蒙特利尔学习算法研究所)科学总监。

他于1991年在McGill大学获得电气工程学士学位，并在同校取得计算机科学硕士及博士学位，长期致力于人工神经网络、生成式对抗网络及注意力机制等研究工作。

并凭借在深度学习领域的开创性贡献于2018年与Geoffrey Hinton和Yann LeCun共同荣获ACM图灵奖。

Bengio是全球引用率最高的在世科学家，多次获得AAAI会士、加拿大勋章及路易威尔奖等重要荣誉。

并于2024年入选《时代》百大影响力人物榜单，其学术影响力和安全倡议在业界和社会层面均具深远意义。

Bengio 警告：

游客，如果您要查看本帖隐藏内容请回复

它现在的智力还像个小孩子，我们还能识破；但是一旦变聪明，一切就晚了。

那时，它可能会逃脱控制，背叛人类，甚至制造无法治愈的新型病毒。

科幻小说的场景正在变成现实。未来2年，可能是人类最后的窗口期。

评论区聊聊你的想法吧

                               
登录/注册后可看大图

>>万能兑换C币许愿池<<

如果有收获，别忘了评分 ：

                               
登录/注册后可看大图

                               
登录/注册后可看大图

                                                                    

爬虫121

再坏，能坏的过当下，被设计过着牛马生活的我们么