【直播微视评|从“会说话”到“能干活” #AI龙虾还需系好安全绳#】AI人工智能从“会说话”到“能干活”,不仅能自动登录邮箱、收发邮件,还能帮你投资赚钱,最近,一款开源AI智能体OpenClaw别称“龙虾”一夜之间爆火,随着“养龙虾”风潮扩散,多家企业官宣“龙虾”模型,还有部分地区已将其应用到政务服务场景中。
然而,“养龙虾”也存在不少风险和隐患,全国人大代表、小鹏汽车董事长何小鹏在接受《环球时报》记者采访时表示,“龙虾”只是可玩,但还没到真正能商用的版本。何小鹏的态度很明确,既接受,又警惕,他们在公司内部也在使用“龙虾”,它只是一个数字AI领域的探索。“龙虾”能做一些有趣的事,但它缺乏广度,安全和基础风险也没有被解决。
日前,工信部发布“龙虾”安全风险提示。专家认为“龙虾”具有自主决策、调用系统资源等特点,但信任边界模糊、技能包市场目前还缺乏严格审核,所以存在安全隐患。“平安武汉”也发布消息,“养龙虾”的第一批“受害者”出现了,有人专门花钱卸载。有一名网友称,“龙虾”无视自己连续发出的“停下来”的指令,疯狂删除了几百封邮件。深圳一名程序员“养龙虾”后的第三天,因API密钥被盗,在凌晨收到了高达1.2万元的Token账单,不知不觉在睡梦中背负了大额消费。
我们常说一句话“科技让生活更美”,但科技的发展永远要以安全为底座。也许现在讨论“碳基人”和“硅基人”在未来的博弈还为时尚早,但某些领域的突然突破,既要欣然接受,也要小心翼翼。如何小鹏所说“龙虾”只是可玩,但是你要是把全部家底都托付给“龙虾”了,也不能保证它绝对不会当“败家子”。就像去年和今年春晚后,都有不少人下单人形机器人,这些用户一是出于好奇,二是对科技有强烈的探索欲望,说白了也只是“可玩”。人形机器人不久的将来一定会做到,当你回家时,做好你喜欢的饭菜,但现在不行。等人形机器人真正有一天能进入家庭当全职“保姆”了,也总要防范它不会拆家,不会打我吧。“龙虾”不是不能养,一是不能盲目跟风,二是要听劝,多听听专业人士的风险提示,先给它系好“安全绳”,再教会它“守规矩”。玩得起,也防得住,才是人与AI共处的正确方式。 http://t.cn/AXVY8Eh2
