近日，百度安全憑借在人工智能安全領域的創(chuàng)新實踐和突出貢獻，連續(xù)入選工業(yè)和信息化部兩項典型案例:作為單獨申報單位入選" 2024 年度網絡安全技術應用典型案例"支持項目名單，同時名列 151 項"人工智能賦能新型工業(yè)化典型應用案例"之中。

2024 年度網絡安全技術應用典型案例 & 人工智能賦能新型工業(yè)化典型應用案例

作為AI安全領域的領軍企業(yè)，百度安全始終堅持以技術創(chuàng)新引領行業(yè)發(fā)展。在大模型技術快速迭代的背景下，百度大模型安全解決方案敏銳把握行業(yè)需求，從多模態(tài)內容安全、端側內容安全、數(shù)據(jù)安全、模型安全等多個維度，構建了全方位的大模型安全防護體系。此次同時入選工信部兩項典型案例，不僅是行業(yè)對百度安全技術創(chuàng)新的肯定，更是對百度安全持續(xù)面向行業(yè)提供更加全面、可靠的大模型安全保障解決方案的認可。

在多模態(tài)內容安全領域，百度安全創(chuàng)新性地提出了"模態(tài)對齊"和"視覺理解"的原生安全方案。該方案融合了前沿的視覺理解技術和自然語言處理能力，通過區(qū)域分割和聚合分析技術實現(xiàn)精細化的風險識別。

多模態(tài)內容安全

針對端側大模型場景，百度安全深入理解終端環(huán)境下的特殊需求，構建了一套精簡而全面的安全架構。從多模態(tài)審核到防越獄設計，從上下文提示詞保護到云端策略更新，實現(xiàn)了端上與云端的安全管控閉環(huán)。這一解決方案在手機廠商、PC廠商與智能IoT設備廠商等領域獲得廣泛認可。

端側大模型內容安全

在大模型數(shù)據(jù)安全方面，百度安全基于"零信任、零改造、全流程"理念，實現(xiàn)從語料數(shù)據(jù)管理到模型訓練、流轉、使用和私有化交付等環(huán)節(jié)的全方位保護。通過可信計算、數(shù)據(jù)全流程加密以及數(shù)據(jù)圍欄等技術，確保數(shù)據(jù)"可見不可用、可用不可得"，有效防范各類安全風險。

大模型數(shù)據(jù)安全

百度安全的創(chuàng)新實踐不僅體現(xiàn)在技術層面，更重要的是企業(yè)始終堅持將安全理念融入大模型全生命周期。從數(shù)據(jù)清洗、安全對齊、內生安全到安全圍欄，百度安全構建了一套完整的原生安全體系。特別在跨模態(tài)安全治理方面，百度安全通過視覺理解與文本語義的雙重審核，引入?yún)^(qū)域關注、跨模態(tài)對齊等機制，有效提升了對復合內容的風險管控能力。

未來，百度安全將繼續(xù)攜手行業(yè)合作伙伴，以技術創(chuàng)新推動大模型安全的健康發(fā)展，也將在大模型安全領域持續(xù)投入，為各行各業(yè)提供更加專業(yè)、可靠的安全服務，助力人工智能產業(yè)的可持續(xù)發(fā)展，為構建更加安全可信的AI應用環(huán)境貢獻力量。

（推廣）