近日，一系列由AI生成的配音視頻在網(wǎng)絡(luò)上引發(fā)關(guān)注，其逼真程度令人驚訝，不僅畫面栩栩如生，聲音特征也與真人幾乎無異，短時間內(nèi)便收獲了過億次的播放量。然而，這些視頻中的內(nèi)容與畫面中的公眾人物毫無關(guān)聯(lián)，現(xiàn)已被平臺下架。
AI技術(shù)的發(fā)展降低了深度偽造和低價量產(chǎn)的門檻，AI生成影像、換聲及換臉視頻大量出現(xiàn)。這些視頻雖吸引眼球，但背后隱藏的風險卻不容忽視。
當前，虛假信息的制造和傳播已成為全球性問題，以假亂真的AI合成技術(shù)讓普通人在信息甄別上陷入困境。《2024年人工智能安全報告》顯示，基于AI的深度偽造欺詐在2023年激增30倍，對網(wǎng)絡(luò)安全和社會安全構(gòu)成嚴重威脅。虛假信息的泛濫，不僅擾亂了網(wǎng)絡(luò)空間的正常秩序，更可能將負面情緒從虛擬世界傳導至現(xiàn)實，加劇社會焦慮。
應(yīng)對深度偽造等亂象，需要多方協(xié)作、共同治理。目前，我國已出臺《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法律法規(guī)，從源頭加強內(nèi)容管理。同時，《人工智能生成合成內(nèi)容標識辦法（征求意見稿）》的發(fā)布，也標志著國家層面正加大對AI技術(shù)的監(jiān)管力度。只有讓AI在合法合規(guī)的框架內(nèi)健康發(fā)展，才能讓人們真正享受到技術(shù)變革帶來的紅利，推動人工智能產(chǎn)業(yè)良性發(fā)展。
作為信息傳播的重要一環(huán)，平臺運營商和服務(wù)提供者也應(yīng)承擔起相應(yīng)的責任，對AI生成內(nèi)容劃定紅線，嚴禁違法違規(guī)、侵權(quán)欺詐內(nèi)容的傳播，并添加顯著提示標識，防范虛假信息擴散。此外，利用數(shù)字水印、時間戳、哈希函數(shù)等技術(shù)手段，既能提高信息真實性的可驗證性，也是防范虛假信息傳播的有效手段。作為內(nèi)容消費者，受眾也應(yīng)保持警惕，提高辨別AI生成內(nèi)容的能力，避免偏聽偏信。 （李秋旸）
轉(zhuǎn)自：中國經(jīng)濟網(wǎng)-《經(jīng)濟日報》
【版權(quán)及免責聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個人觀點，不代表本網(wǎng)觀點和立場。版權(quán)事宜請聯(lián)系：010-65363056。
延伸閱讀
上半年汽車工業(yè)多項經(jīng)濟指標創(chuàng)新高
