法治日報記者 王衛(wèi)

　　近期，美國流行樂歌星泰勒·斯威夫特的“AI偽造照片”事件掀起軒然大波，甚至驚動了美國白宮。雖然利用AI技術(shù)制作虛假信息早已有之，但隨著生成式AI在過去一年多時間內(nèi)的快速發(fā)展，對視頻、圖片、音頻進(jìn)行深度造假技術(shù)更加成熟且普遍，造假的成本也更加低廉。如何在發(fā)展、利用生成式AI的同時，有效監(jiān)管和減少深度偽造產(chǎn)生的虛假信息，成為全球關(guān)注的一個重要議題。

　　眼見不一定為實

　　“深度偽造”技術(shù)利用機器的深度學(xué)習(xí)，實現(xiàn)圖像、聲音、視頻的篡改、偽造和自動生成，產(chǎn)生高度逼真且難以甄別的效果。

　　近日，大量由AI生成的泰勒虛假色情、血腥照片在多個社交平臺瘋傳，瀏覽量已超過千萬，引發(fā)社交媒體震動，也引起了美國白宮的注意。實際上這不是泰勒第一次成為AI“深度偽造”的受害者。就在不久前，有人使用AI技術(shù)仿造了她的聲音和形象來為商品進(jìn)行推廣，讓消費者誤以為這是泰勒代言的商品。

　　白宮新聞秘書卡琳·讓-皮埃爾表示：“我們對媒體發(fā)布的關(guān)于泰勒照片（更確切地說是虛假圖像）流傳的報道感到震驚，這種情況令人擔(dān)憂。雖然社交媒體平臺在內(nèi)容管理方面作出了自己的獨立決定，但我們認(rèn)為他們在執(zhí)行自己規(guī)則方面可以發(fā)揮重要作用，以防止錯誤信息和未經(jīng)同意的真實人物的私密圖像傳播。”她還補充稱，“執(zhí)法不到位對于女性影響更大，畢竟她們是網(wǎng)絡(luò)騷擾的主要目標(biāo)”。

　　除了泰勒，同樣深受其害的還大有人在。

　　印度當(dāng)?shù)孛襟w《經(jīng)濟時報》1月15日報道，此前一段視頻顯示，印度的板球傳奇人物坦杜卡支持一款名為Skyward Aviator Quest的游戲應(yīng)用程序，并稱他的女兒通過使用該應(yīng)用程序預(yù)測游戲結(jié)果，每日收入高達(dá)18萬盧比。這名板球運動員回應(yīng)稱，“這些視頻是假的，技術(shù)濫用現(xiàn)象猖獗，令人不安。請大家積極舉報此類視頻、廣告和應(yīng)用程序。社交媒體平臺需要保持警惕并響應(yīng)投訴。他們的行動對于阻止錯誤信息和深度偽造的傳播至關(guān)重要。”

　　去年11月，美國新澤西一所中學(xué)30多名女生的照片被篡改和傳播，她們呼吁學(xué)校和政府采取措施；西班牙某小鎮(zhèn)的女學(xué)生也發(fā)現(xiàn)自己的“裸照”在學(xué)校和社區(qū)里流傳，給她們的身心帶來不小沖擊，當(dāng)?shù)鼐桨l(fā)現(xiàn)這都是有人使用廉價應(yīng)用程序炮制而成。

　　有報道指出，在全球化時代，社交媒體成了滋生虛假信息的溫床，憑借一段原始語音、一張原始圖片，犯罪分子就可以編造出一段真假難辨的謠言。每個人都有可能成為“AI惡意操作”的受害者。

　　影響政治社會秩序

　　“深度偽造”技術(shù)不斷被濫用，而“反深度偽造”技術(shù)仍未成熟，這一局面或?qū)€人隱私、行政執(zhí)法、司法取證等多方面帶來困擾和威脅，引發(fā)社會憂慮和信任危機。

　　國際社會認(rèn)為，“深度偽造”技術(shù)首先給個人和企業(yè)帶來損害。制作虛假色情視頻是“深度偽造”技術(shù)最常見的運用方式之一。“深度偽造”技術(shù)可能侵害肖像權(quán)、隱私權(quán)和知識產(chǎn)權(quán)等權(quán)利，也可能被用來實施詐騙、敲詐勒索等違法犯罪活動。2019年，全球首例AI詐騙案發(fā)生在英國，一名詐騙者利用先進(jìn)的AI語音模仿軟件，假扮公司高層，成功騙取了一家英國能源公司總經(jīng)理的22萬歐元。

　　其次是國家安全和公共安全受到威脅。美國專家西特倫舉例說，“深度偽造”可能會影響美國大選，制造出一些候選人沒做過的“錯事”，這些影響是不可估量的。2018年4月，一段主角為美國前總統(tǒng)奧巴馬的視頻，在推特上獲得200多萬次的播放和5萬多個點贊。奧巴馬在視頻中抨擊時任總統(tǒng)特朗普。但實際上并非出自奧巴馬。2018年5月，特朗普宣布中止全球氣候變化協(xié)議，隨后被比利時某政黨利用“深度偽造”技術(shù)篡改，做出一個“特朗普宣告比利時政府也應(yīng)退出”的假視頻，引起比利時民眾的公憤。

　　第三是引發(fā)社會憂慮和信任危機。專家認(rèn)為，“深度偽造”會加深公眾對政府的不信任感。隨著公眾意識到“深度偽造”的危害，他們會對一般的真實視頻產(chǎn)生懷疑，更容易把真實視頻當(dāng)作虛假視頻，迷失在真假信息之中，對官方澄清也會持懷疑態(tài)度。“泰勒是影響力很大的明星，要是我們普通人也被深度偽造了不雅照可怎么辦？”“AI發(fā)展得太快太恐怖了，我都不敢想如果是我那真的是跳進(jìn)黃河也洗不清了。”“支持AI立法，濫用危害太大了。”“這真的和我們的生活息息相關(guān)，AI照片視頻的人類面部表情已經(jīng)很像真人了，聲音也能模仿得一樣，這樣的騙局讓普通人難以分辨。”這些聲音傳達(dá)出了公眾對AI“深度偽造”技術(shù)發(fā)展的強烈不安。

　　及時完善立法

　　盡管AI技術(shù)給我們的生活帶來了新的挑戰(zhàn)，但國際社會普遍認(rèn)為，不能“因噎廢食”，拒絕發(fā)展相關(guān)技術(shù)。在技術(shù)進(jìn)步的過程中，其本身就可以用來對抗“深度造假”行為。

　　專家學(xué)者、相關(guān)領(lǐng)域的企業(yè)機構(gòu)想過不少應(yīng)對辦法。比如在傳播之前標(biāo)明“數(shù)字出處”。去年12月，一款名為mist的隱形圖片水印在網(wǎng)上發(fā)布，該水印用于抵抗AI模型對圖片的訓(xùn)練和抓取，這一水印能夠極大程度干擾AI模型，使之生成的圖片遭受不同程度的破壞。此外，也有開發(fā)者建議讓AI生成平臺、公司給相關(guān)的AI生成軟件加上隱形水印機制，以快速識別AI并進(jìn)行溯源，各個社交平臺也應(yīng)以技術(shù)手段加強對于疑似AI生成圖、文、視頻內(nèi)容的識別功能。

　　還可以利用技術(shù)手段檢測偽造。2018年6月，美國達(dá)特茅斯學(xué)院和紐約州立大學(xué)奧爾巴尼分校的計算機科學(xué)家宣布開發(fā)了一個程序，通過在視頻中觀察研究對象眨眼時眼瞼運動是否異常，來檢測“深度造假”。當(dāng)然，在攻防過程中，“深度造假”技術(shù)可能隨著檢測技術(shù)演進(jìn)而不斷升級。

　　另有專家認(rèn)為，除了技術(shù)解決方法之外，法律手段也要有所作為。在以技術(shù)制約技術(shù)的同時，及時完善立法，不斷加強執(zhí)法，對一些技術(shù)解決不了的問題應(yīng)該立法重罰，追究刑事責(zé)任。比如規(guī)定制作或分享“深度仿冒品”，構(gòu)成誹謗、欺詐或盜用他人肖像等民事和刑事違法行為等。早在2019年，中國便發(fā)布了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，旨在防止傳播利用基于深度學(xué)習(xí)、虛擬現(xiàn)實等新技術(shù)新應(yīng)用制作的假新聞音視頻（即深度偽造）。

　　“深度偽造”是人工智能“深度學(xué)習(xí)”技術(shù)進(jìn)步的產(chǎn)物。它有許多有價值的應(yīng)用，例如出于教育目的而制作歷史人物的音頻或視頻。但是，“深度偽造”也可能被用于險惡目的。如何控制技術(shù)向善除惡，是一個需要不斷學(xué)習(xí)的課題。各國應(yīng)加強交流合作，通過技術(shù)和法律等手段，規(guī)避人工智能相關(guān)風(fēng)險，使之健康有序發(fā)展。