直通屏山|福建|时评|大学城|台海|娱乐|体育|国内|国际|专题|网事|福州|厦门|莆田|泉州|漳州|龙岩|宁德|南平|三明
您所在的位置: 东南网 > 原创新闻 > 正文
大咖聊峰会|AI驱动安全 共建数字经济新生态
www.fjsen.com 2025-04-29 23:06:45 陈楠 来源:福建日报社全媒体传播中心

360集团高级副总裁、数智化集团CEO 殷宇辉则认为,进入大模型时代,安全面临范式转变,需要建立双重防护机制来应对大模型安全的三大威胁:首先是模型本体安全,比如AI产品上线24小时即遭遇提示注入攻击,这里攻击者不一定非要是黑客,攻击门槛大大降低;其次是供应链生态风险,需保证确保软件供应链的完整性、可用性、保密性;最后是智能体风险,可以调用各类工具、操控电脑,容易被人恶意构建、恶意控制。

“AI的进化必须建立在可信可控的基石之上——这不仅需要技术创新,更需构建包含政策法规、行业标准、技术伦理的立体防护网。”他建议,通过多源数据构建安全大模型,实践“以模治模”的防御理念,从模型训练到推理的全链路安全检测,支持对模型服务的相关组件识别、生态链漏洞扫描和多语言代码审计,确保大模型系统安全。他表示,360正将安全能力从技术层面向治理维度延伸,通过牵头组建“大模型安全联盟”,推动建立行业级测试标准与红蓝对抗机制。

1  2  


责任编辑:周冬