东南网4月29日讯（本网记者 陈楠）今日，第八届数字中国建设峰会在福州开幕。本次峰会上，“万物皆可AI”掀起了新一轮的科技革命，但AI在迅速发展的同时，带来的风险与挑战也在快速迭代。与会的业内大咖们围绕如何以AI驱动安全，助力构建数字经济安全新生态展开探讨。

奇安信集团董事长齐向东在接受记者专访表示，大模型应用面对的安全挑战有三重。一是借助人工智能大模型，企业通过对设计、生产等数据进行加工处理，形成精华“小数据”，一旦“小数据”被窃取、泄露或篡改，企业多年积累的优势将瞬间崩塌。二是大模型融通百业，“裸奔”上线极有可能引发业务停摆的链式危机。当大模型深度融入智慧城市、工控系统、智慧政务等关键领域时，会将风险串联成网。三是过度依赖AI，一旦大模型决策失准会引发“蝴蝶效应”。

面对这些挑战，齐向东提出了筑牢AI安全的“关键”：要构建大模型安全“红域”，形成多维度边界隔离；加强权限强管控，以用户身份为新边界开展网络和数据安全防护；严把内容关，构建贯穿大模型全生命周期的内容安全治理机制；杜绝新隐患，以实战为导向加强大模型应用安全评估；运营可闭环，做到对安全威胁的实时监测和应急处置。

“用AI对抗AI，增补面向大模型攻击及异常行为的检测手段，形成安全运营的闭环。把握好这几个关键，能确保人工智能大模型应用安全落地，发挥出驱动数字经济发展的正向价值。”齐向东表示。

360集团高级副总裁、数智化集团CEO 殷宇辉则认为，进入大模型时代，安全面临范式转变，需要建立双重防护机制来应对大模型安全的三大威胁：首先是模型本体安全，比如AI产品上线24小时即遭遇提示注入攻击，这里攻击者不一定非要是黑客，攻击门槛大大降低；其次是供应链生态风险，需保证确保软件供应链的完整性、可用性、保密性；最后是智能体风险，可以调用各类工具、操控电脑，容易被人恶意构建、恶意控制。

“AI的进化必须建立在可信可控的基石之上——这不仅需要技术创新，更需构建包含政策法规、行业标准、技术伦理的立体防护网。”他建议，通过多源数据构建安全大模型，实践“以模治模”的防御理念，从模型训练到推理的全链路安全检测，支持对模型服务的相关组件识别、生态链漏洞扫描和多语言代码审计，确保大模型系统安全。他表示，360正将安全能力从技术层面向治理维度延伸，通过牵头组建“大模型安全联盟”，推动建立行业级测试标准与红蓝对抗机制。