大咖聊峰会|AI驱动安全 共建数字经济新生态
www.fjsen.com
2025-04-29 23:06:45
来源:福建日报社全媒体传播中心
360集团高级副总裁、数智化集团CEO 殷宇辉则认为,进入大模型时代,安全面临范式转变,需要建立双重防护机制来应对大模型安全的三大威胁:首先是模型本体安全,比如AI产品上线24小时即遭遇提示注入攻击,这里攻击者不一定非要是黑客,攻击门槛大大降低;其次是供应链生态风险,需保证确保软件供应链的完整性、可用性、保密性;最后是智能体风险,可以调用各类工具、操控电脑,容易被人恶意构建、恶意控制。
“AI的进化必须建立在可信可控的基石之上——这不仅需要技术创新,更需构建包含政策法规、行业标准、技术伦理的立体防护网。”他建议,通过多源数据构建安全大模型,实践“以模治模”的防御理念,从模型训练到推理的全链路安全检测,支持对模型服务的相关组件识别、生态链漏洞扫描和多语言代码审计,确保大模型系统安全。他表示,360正将安全能力从技术层面向治理维度延伸,通过牵头组建“大模型安全联盟”,推动建立行业级测试标准与红蓝对抗机制。