近日,针对大模型智能体(Agent)的快速发展,中国信通院及相关监管部门发布了关于 OpenClaw 开源智能体的安全建议,并正式启动了 Claw 系列标准的编制工作。以下是核心内容整理:
一、 防范 OpenClaw 安全风险的“六要六不要”
为了确保开源智能体在应用过程中的安全性,建议遵循以下原则:
六要:
- 要进行多层级的身份验证。
- 要对敏感权限进行严格审计。
- 要建立实时的行为监控体系。
- 要保持开源内核的高频更新。
- 要对输出结果进行内容安全过滤。
- 要制定完善的应急响应预案。
六不要:
- 不要直接授予智能体系统级高权限。
- 不要在不受限的环境下运行未经验证的插件。
- 不要将包含个人隐私的数据直接用于模型微调。
- 不要忽视智能体在多步推理中的逻辑漏洞。
- 不要盲目信任自动生成的代码逻辑。
- 不要在缺乏人工审核的情况下执行重大指令。
—
二、 行业动态:信通院启动智能助理标准编制
中国信通院已正式启动智能助理智能体(Claw)系列标准的编制工作。该标准旨在:
- 规范技术框架:统一智能体接口、通讯协议及调用标准。
- 提升安全能力:建立针对智能体特有的安全评估模型。
- 促进产业落地:为企业应用智能体提供可量化的参考指标,推动生态健康有序发展。
标签:#OpenClaw #智能体 #信通院 #AI安全 #大模型标准 #人工智能