(相關(guān)資料圖)

7月7日下午，2023世界人工智能大會（WAIC）“聚焦·大模型時代AIGC新浪潮—可信AI”論壇在上海世博中心紅廳舉行，“產(chǎn)學(xué)研用”界共同發(fā)起AIGC可信倡議。 本文圖均為主辦方供圖大模型時代的AI如何確保安全向善？7月7日下午，2023世界人工智能大會（WAIC）“聚焦·大模型時代AIGC新浪潮—可信AI”論壇在上海世博中心紅廳舉行。中國信通院、上海人工智能實(shí)驗(yàn)室、武漢大學(xué)、螞蟻集團(tuán)等多家單位共同發(fā)起《AIGC可信倡議》，得到數(shù)十家單位參與，與會專家圍繞人工智能可能引發(fā)的經(jīng)濟(jì)、安全、隱私和數(shù)據(jù)治理等問題，提出構(gòu)建AIGC可信發(fā)展的全球治理合作框架，采用安全可信的數(shù)據(jù)資源、技術(shù)框架、計算方法和軟件平臺等，全面提升AIGC可信工程化能力，最大限度確保生成式AI的安全、透明、可釋。

AIGC安全成為當(dāng)前人工智能研究發(fā)展的重要議題。中國科學(xué)院院士何積豐發(fā)表《可信人工智能展望》主題演講時認(rèn)為，“不能再將人工智能視為簡單的技術(shù)工作，而是成為整個組織的變革引擎?？尚湃斯ぶ悄芤铝τ诒Ｕ蠑?shù)據(jù)安全可信、系統(tǒng)行為可追責(zé)、算法模型可解釋、網(wǎng)絡(luò)環(huán)境可信、法律倫理可信等問題?！?/p>

圖像是信息的主要載體之一，利用AI進(jìn)行圖像造假的行為，是AI可信化發(fā)展需要應(yīng)對的重點(diǎn)問題。論壇上，合合信息帶來的AI圖像內(nèi)容安全技術(shù)方案引起關(guān)注。該方案可精準(zhǔn)定位截圖篡改痕跡，對生成式圖片進(jìn)行智能判別，防止不法分子利用技術(shù)手段非法爬取圖片上的信息。

合合信息智能創(chuàng)新事業(yè)部總經(jīng)理唐琪介紹，去年的世界人工智能大會上，合合信息首次展示了“PS篡改檢測”技術(shù)，在識別證件、票據(jù)等各類重要商業(yè)材料中的PS痕跡方面具有了“火眼金睛”。今年，AI圖像篡改檢測“黑科技”持續(xù)優(yōu)化升級，應(yīng)用面也拓展至“截圖篡改檢測”。升級后的AI圖像篡改檢測技術(shù)可檢測包括轉(zhuǎn)賬記錄、交易記錄、聊天記錄等多種截圖，無論是從原圖中“摳下”關(guān)鍵要素后移動“粘貼”至另一處的“復(fù)制移動”圖片篡改手段，還是“擦除”“重打印”等方式，圖像篡改檢測技術(shù)均可“慧眼”識假。

合合信息AI圖像篡改檢測技術(shù)應(yīng)用效果展示

“重打印”篡改圖片檢測示例：給定一張圖片，輸入到合合信息篡改檢測模型中，便能夠判別這張圖像是否被篡改，并且定位出篡改圖像的篡改區(qū)域。論壇現(xiàn)場還發(fā)布了由中國信通院、清華大學(xué)、螞蟻集團(tuán)聯(lián)合編撰的《可信AI技術(shù)和應(yīng)用進(jìn)展白皮書（2023）》。該報告基于統(tǒng)一的可信AI認(rèn)知維度，梳理總結(jié)可信AI發(fā)展現(xiàn)狀，提煉了面向新階段的大模型和AIGC引發(fā)的新需求，形成以技術(shù)為保障的可信AI評估體系和工具，探索新一代可信人工智能發(fā)展。(本文來自澎湃新聞，更多原創(chuàng)資訊請下載“澎湃新聞”APP)