王小川谈AI安全:现在AI能力还很弱不会颠覆人类,近期不存在安全问题

 邮箱网  0条评论  3874次浏览  2024年06月14日 星期五 14:25

分享到: 更多
新浪科技讯 6月14日下午消息,今日举办的2024智源大会上,百川智能CEO王小川、智谱AI CEO张鹏、月之暗面CEO杨植麟、面壁智能联合创始人、CEO李大海共同出席《尖峰对话:通往AGI之路》环节。

对于AI安全问题,百川智能CEO王小川表示,安全有不同的内涵和外延,他将其分为三层安全:

第一是意识形态安全,做to c公众服务,要跟国家发展、国家意志保持一致,这是大家的一个基本功;

第二是比较远的安全,模型是不是把人类毁灭了,以后人就没了,然后机器掌握世界了,其实内心来想不希望发生的,就像核弹一样的把人类文明给搞没了。但是至于这个模型它是否比人更聪明,能够取代人做事情,这是个鼓励的一件事情。这个技术能够跟我们一块去拓展人类文明,这件事情是有意义的。

第三是现实安全,现在的AI能力还很弱,就不要想什么颠覆人类这么复杂的事,现实中在近期还不存在安全的问题。

标签:王小川AI

我的评论:

请  后发表评论。