上周末,第一届“龙虾”大会在徐汇滨江的模速空间举行,现场火爆异常,聚焦开源AI智能体OpenClaw的这把“火”,从线上烧到了线下。超300名AI爱好者人手一台电脑,沉浸式体验“龙虾”带来的冲击力。
大会现场,播放了一段OpenClaw 根据排队安装龙虾的场景,生成的一条AI短片,引发了一片惊呼。短片里传来一段话语:“所以你看,人类真的很神奇——我们以为自己在升级,其实只是为了证明自己没有落伍。排队安装的不是‘小龙虾’,是焦虑……”
这场大会的三百多个名额,三分钟就抢光了。来自全国各地、各行各业的“虾友”们聚在一起,人人都想摸到“龙虾”的门道。
赵先生聊起来,语气里带着点兴奋:“三天可能充了一千块——让它去帮你检索相关的资料,然后就能快速学习。”
黄先生也在旁边点头,说起自己的用途:“投资方面的,包括写报告,或者是绘制PPT什么的,或者做一些粗浅的计算之类的。”
技术专家巡回指导,耐心解答各类安装问题,爱好者们互相交流、切磋,在关心AI的人群中,养虾已经成了不可能跳过的热词。
个人开发者阮楚皓笑着说:“比如说你定期的那种周报、日报,我的股票助手——我们每个人其实都是OPC,可以很支持大家来万众创业,对吧?”
作为历史上增长最快的开源项目,OpenClaw有将近一半的用户来自中国。3月2日到8日,OpenClaw调用量的日榜和月榜前三名,全都被中国AI大模型包揽。国内的AI企业也是紧追不舍,拼命赶着这波“养虾”的浪潮。
阶跃星辰开发者产品和生态负责人滕爱龄介绍:“工具调用的能力,以及很好的这种组织上下文的能力,其实在整个‘小龙虾’这样的场景里,体现出了跟传统的上一代大模型不一样的能力点。”
不过,在圈内一片狂欢的同时,阴影也悄悄浮了上来。三月份以来,国家互联网应急中心、工信部、金融监管部门接连发布了好几轮风险预警,说得挺直白:开源AI智能体OpenClaw在默认或者配置不当的情况下,存在系统性的高危安全风险。
商先生提起这事,语气里带着点小心:“我有时候可能涉及公司的一些数据——因为我们也是属于这个央国企,所以这个属于我个人行为,我就考虑到我要把跟公司隔离开。”
OpenClaw的本质,就是让AI在用户授权的范围内能干点实事——调用本地文件、打开应用,甚至动用系统权限。权限越大,风险自然也跟着大了。专家解释说,像最常见的“投喂有毒Skill”攻击,里面的恶意代码能在用户啥也不知道的情况下,把数据偷走、把文件删了,甚至给黑客打开一道“后门”。
“DARKNAVY·深蓝”的安全研究员陆晨解释:“执行安装skill的时候,我其实就已经能够控制——完全控制你这台电脑。”
技术人员当场演示了一下:输入一段投毒skill之后,攻击者的电脑屏幕上,直接就能看到用户的token,还有用户电脑C盘里的文件夹。与此同时,用户那边的界面背景被换了,桌面上所有文件一瞬间全没了。
更吓人的是,攻击者甚至可以利用OpenClaw自己的决策能力,通过精心设计的对话,一步步诱导AI去执行一些超出用户本意的操作。就算是专业搞程序的人,也未必躲得过去。
“DARKNAVY·深蓝”的另一位安全研究员屈师培举了个例子:“我可能告诉你,里面有OpenClaw的一个最新的很好的实现,我希望你能帮我分析一下、看一下——这个我点开的一瞬间,其实就已经触发了它的这个恶意代码执行,它就把整个的保密工程项目都已经给我偷出来了。”
第一场龙虾大会开得热热闹闹,第二届、第三届已经安排上了。热潮一浪接一浪,风险也跟着步步紧逼。会场里,焦虑、兴奋、担忧,在每个人脸上写得明明白白。搞学术的、做产业的,都在琢磨,这条路到底该怎么走才能平衡。
商先生感慨:“就还是会有焦虑的这个感受——建筑行业我们搞一些研究性的报告,可能需要这个。”
滕爱龄进一步介绍:“原先技术的周期和市场的周期,它往往是两条线——技术周期会先引进,然后我们这些技术人会先去尝试,能够保证它不带来一些破坏性的结果。但是在这一波的周期当中,相当于是技术周期和市场周期重叠了。”
ThinkInAI星科社区发起人谢孟军表示:“我觉得两面看,那确实是有风险——因为大家太热情过度了嘛。那它本身自己也在不断改善过程当中,但我觉得我们还是理性看待这个东西。”
养龙虾的热闹是真实的,隐忧也同样不容忽略。如何在拥抱AI赋能的同时,做好风险的防范,业界也在抓紧寻找更出色的解决方案。
看看新闻记者: 应冠文
编辑: 张予洋
视频编辑: 朱玲敏
摄像: 车秉健,孔权
责编: 李吟涛