AI安全-認(rèn)知與對抗系列
需求背景
隨著新一代信息技術(shù)的快速發(fā)展,深度合成、AIGC等技術(shù)作為人工智能領(lǐng)域的新應(yīng)用正在快速普及。基于深度學(xué)習(xí)的DeepFake類造假技術(shù)(如視頻換臉、聲音偽造)的逐步成熟,導(dǎo)致造假的技術(shù)門檻和成本逐步降低;AIGC技術(shù)的進(jìn)步也加劇了AI生成內(nèi)容技術(shù)被濫用的風(fēng)險(xiǎn)。深度合成及AIGC等新技術(shù)的濫用將造成大量通過AI生成的虛假的、具備政治立場的、誘導(dǎo)性的文本、圖片及音視頻被制造出來,勢必對社會認(rèn)知、知識產(chǎn)權(quán)、網(wǎng)絡(luò)安全、國防安全、社會安全等帶來嚴(yán)重威脅和重大挑戰(zhàn)。
在政策法規(guī)方面,為規(guī)范互聯(lián)網(wǎng)信息服務(wù)深度合成使用以及生成式人工智能生成數(shù)據(jù)的有效管理,促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展、推進(jìn)網(wǎng)絡(luò)空間治理、維護(hù)社會公平穩(wěn)定發(fā)展,國家互聯(lián)網(wǎng)信息辦公室協(xié)同相關(guān)部門分別發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》以及《生成式人工智能服務(wù)管理辦法(征求意見稿)》。
在技術(shù)訴求方面,深度偽造及AIGC生成內(nèi)容的精準(zhǔn)檢測問題亟待解決,為國家相關(guān)部門對這些技術(shù)濫用的監(jiān)管與治理提供有力抓手。