7月4日，由全球數字經濟大會組委會主辦、中國信息通信研究院承辦的2025全球數字經濟大會數字生態(tài)建設專題論壇在北京舉行。騰訊云李濱代表團隊做了主題分享，深入解析大模型面臨的安全風險與技術挑戰(zhàn)，并系統(tǒng)分享構建與AI共生的智能安全防護體系的實踐路徑與策略。

大會同步公布中國信通院2025年度第二期“磐安”優(yōu)秀案例遴選結果。憑借創(chuàng)新技術架構與實戰(zhàn)成效，騰訊云以NDR產品能力為基礎打造的態(tài)勢感知全流量檢測與響應項目案例，獲評綜合領域優(yōu)秀案例，成為數字生態(tài)安全建設的標桿實踐。

隨著AI技術的發(fā)展，機器已經能夠超越圖靈測試的標準，開始以更加人性化的方式與用戶進行交流。以大模型生成技術為核心的人工智能正逐漸成為推動經濟增長的新引擎，為解決各行各業(yè)的痛點提供了創(chuàng)新的解決方案。AI技術作為新的生產驅動力，正引領企業(yè)數字化轉型進入“大模型時代”。

但 AI 熱潮背后，黑灰產暗流涌動，從個人隱私、企業(yè)資產到交通醫(yī)療等關鍵領域，AI 安全防線正面臨系統(tǒng)性沖擊。騰訊云安全總結了大模型企業(yè)應用十大常見安全風險，涵蓋樣本投毒、提示詞注入攻擊、第三方代碼或開源模型帶來的供應鏈風險，以及自動化Agent權限濫用、模型推理被劫持等新型AI應用威脅。這些風險貫穿于企業(yè)應用大模型的各個環(huán)節(jié)，構成關鍵挑戰(zhàn)。李濱指出，大模型安全風險并非孤立存在，而是從數據采集、處理、模型訓練、部署到最終應用的整個AI技術生命周期中端到端傳導的。

面對AI賦能的攻擊新范式，傳統(tǒng)安全防御體系已顯乏力，構建適應AI時代的新型防御體系，已成為數字安全領域的當務之急。面對大模型的安全挑戰(zhàn)，騰訊在大模型的應用覆蓋了從底層技術研究、企業(yè)服務到終端應用的全鏈路的解決方案。依托于騰訊在大模型上的“全局視角”，騰訊安全建立了一套系統(tǒng)性的框架，對整個人工智能以及大模型的安全進行完備的風險分析，通過業(yè)務流和技術棧兩個維度，來分析人工智能在本體安全、運行環(huán)境和基礎設施，應用環(huán)境中和應用環(huán)境周邊發(fā)生的一些風險缺陷。

在風險控制框架之下，騰訊也建立了大模型相關整體安全治理架構，從數據采集、模型訓練、代理部署到業(yè)務應用的全流程，均滿足監(jiān)管要求，為企業(yè)提供安全、可控、可靠的服務。

圍繞大模型生命周期各階段風險，騰訊構建了包含五大重點的大模型安全防護整體架構，針對性制定安全防護措施與策略：一是聚焦邊界API與用戶輸入輸出安全，通過安全管控機制防范該邊界的注入攻擊等風險，防止不當內容的輸入輸出及數據泄露；二是強化模型基礎設施安全防護與態(tài)勢管理；三是實施智能體行為與意圖安全管控；四是加強智能體與MCP的身份及特權防護；五是推進數據安全全流程治理。

在模型應用邊界安全方面，基于行業(yè)痛點騰訊研發(fā)LLM-WAF大模型防火墻。LLM-WAF提供多模型、多場景、高并發(fā)環(huán)境下的全鏈路防護能力，支持實時檢測并攔截針對大模型的算力濫用、提示詞攻擊及數據泄露風險，助力企業(yè)構建可信、穩(wěn)定、可持續(xù)的大模型服務生態(tài)。

在大模型安全態(tài)勢管理方面，騰訊推出AI-SPM大模型安全態(tài)勢管理產品以應對大模型專項安全治理場景。該系統(tǒng)通過網絡掃描和主機端檢測，提供資產識別、風險檢測、攻擊示警等核心能力，幫助用戶進行大模型安全專項治理，保護大模型基礎設施運行環(huán)境，及時發(fā)現(xiàn)和處置安全風險。

在數據與內容安全上，數據層面是基于騰訊混元大模型，圍繞大模型的生命周期，根據不同階段的風險制定對應安全防護措施，通過數據分類分級、動態(tài)脫敏等技術保障數據安全；內容安全上則是借助天御內容風控平臺，從大模型內容安全綜合防控，接口輸入、內容預處理、模型識別、策略輔助、平臺調度分析、人工標注運營6個維度為大模型的訓練和推理提供有效支撐。

在攻防對抗與情報方面，騰訊云安全建立了大模型安全Red Team對抗機制，基于騰訊安全專家服務團隊，建立針對大模型的安全測試方法，主動發(fā)現(xiàn)大模型及生態(tài)存在的（漏洞）風險，持續(xù)驗證大模型應用的安全有效性。同時，在合法合規(guī)標準方面，騰訊云安全也積極參與大模型相關標準的制定工作，如參與起草《生成式人工智能應用安全測試標準》和《大語言模型安全測試方法》國際標準等，依托自研大模型混元為企業(yè)保駕護航。

騰訊以全局視角和實戰(zhàn)經驗為基礎，圍繞大模型全生命周期構建起系統(tǒng)性安全治理框架，并通過LLM-WAF、AI-SPM、Red Team機制等核心技術手段，推動防護能力向縱深演進。

未來，騰訊將繼續(xù)攜手各方力量，持續(xù)完善大模型安全標準與防護能力，共筑可信、可控、可持續(xù)的AI安全防線，讓人工智能真正成為驅動社會進步的可靠引擎。