6月9日消息,近期,国家互联网应急中心(CNCERT)经综合研判发现,部分智能体技能包(Skills)以“大模型越狱”“挖矿赚钱”等名义公开传播,诱导用户突破大模型安全限制或非法占用设备资源进行挖矿。
此类恶意Skills可能引发多重安全风险:导致模型生成违法信息、用户账号被依法封禁、设备性能下降,甚至使用户被动卷入洗钱等违法犯罪活动,严重侵害个人合法权益,危害网络安全。
为此,CNCERT提醒广大用户及相关运营单位提高警惕,加强Skills来源审查与行为监控,及时清除可疑组件,防范由此引发的安全风险。
为有效应对智能体Skills带来的安全风险,建议:
个人用户从官方渠道获取Skills,切勿安装或使用任何宣称可“越狱”“突破限制”的技能包;审慎授予权限并遵循最小化原则,及时回收敏感权限,定期清理不再使用的Skills与敏感对话记录,同时开启多因素认证以保护账户安全。
企业用户建立Skills准入白名单机制,入库前做好安全检查,优先在隔离网络部署智能体,按照数据敏感性对智能体分级管理,并实施数据脱敏与临时授权策略。
凡《网络安全与数据治理》(原《信息技术与网络安全》)录用的文章,如作者没有关于汇编权、翻译权、印刷权及电子版的复制权、信息网络传播权与发行权等版权的特殊声明,即视作该文章署名作者同意将该文章的汇编权、翻译权、印刷权及电子版的复制权、信息网络传播权与发行权授予本刊,本刊有权授权本刊合作数据库、合作媒体等合作伙伴使用。同时,本刊支付的稿酬已包含上述使用的费用,特此声明。