(相關資料圖)

7月7日下午，2023世界人工智能大會（WAIC）“聚焦·大模型時代AIGC新浪潮—可信AI”論壇在上海世博中心紅廳舉行，“產學研用”界共同發起AIGC可信倡議。 本文圖均為主辦方供圖大模型時代的AI如何確保安全向善？7月7日下午，2023世界人工智能大會（WAIC）“聚焦·大模型時代AIGC新浪潮—可信AI”論壇在上海世博中心紅廳舉行。中國信通院、上海人工智能實驗室、武漢大學、螞蟻集團等多家單位共同發起《AIGC可信倡議》，得到數十家單位參與，與會專家圍繞人工智能可能引發的經濟、安全、隱私和數據治理等問題，提出構建AIGC可信發展的全球治理合作框架，采用安全可信的數據資源、技術框架、計算方法和軟件平臺等，全面提升AIGC可信工程化能力，最大限度確保生成式AI的安全、透明、可釋。

AIGC安全成為當前人工智能研究發展的重要議題。中國科學院院士何積豐發表《可信人工智能展望》主題演講時認為，“不能再將人工智能視為簡單的技術工作，而是成為整個組織的變革引擎。可信人工智能要致力于保障數據安全可信、系統行為可追責、算法模型可解釋、網絡環境可信、法律倫理可信等問題。”

圖像是信息的主要載體之一，利用AI進行圖像造假的行為，是AI可信化發展需要應對的重點問題。論壇上，合合信息帶來的AI圖像內容安全技術方案引起關注。該方案可精準定位截圖篡改痕跡，對生成式圖片進行智能判別，防止不法分子利用技術手段非法爬取圖片上的信息。

合合信息智能創新事業部總經理唐琪介紹，去年的世界人工智能大會上，合合信息首次展示了“PS篡改檢測”技術，在識別證件、票據等各類重要商業材料中的PS痕跡方面具有了“火眼金睛”。今年，AI圖像篡改檢測“黑科技”持續優化升級，應用面也拓展至“截圖篡改檢測”。升級后的AI圖像篡改檢測技術可檢測包括轉賬記錄、交易記錄、聊天記錄等多種截圖，無論是從原圖中“摳下”關鍵要素后移動“粘貼”至另一處的“復制移動”圖片篡改手段，還是“擦除”“重打印”等方式，圖像篡改檢測技術均可“慧眼”識假。

合合信息AI圖像篡改檢測技術應用效果展示

“重打印”篡改圖片檢測示例：給定一張圖片，輸入到合合信息篡改檢測模型中，便能夠判別這張圖像是否被篡改，并且定位出篡改圖像的篡改區域。論壇現場還發布了由中國信通院、清華大學、螞蟻集團聯合編撰的《可信AI技術和應用進展白皮書（2023）》。該報告基于統一的可信AI認知維度，梳理總結可信AI發展現狀，提煉了面向新階段的大模型和AIGC引發的新需求，形成以技術為保障的可信AI評估體系和工具，探索新一代可信人工智能發展。(本文來自澎湃新聞，更多原創資訊請下載“澎湃新聞”APP)