Deepfakes（深度偽造，最初源于一個名為“deepfakes”的Reddit社交網(wǎng)站用戶，該用戶于2017年12月在?Reddit?社交網(wǎng)站上發(fā)布了將斯嘉麗·約翰遜等女演員的面孔映射至其他表演者身上的偽造視頻。Deepfake目前在國際上并沒有公認的統(tǒng)一定義，美國在其發(fā)布的《2018?年惡意偽造禁令法案》中將“deep fake”定義為“以某種方式使合理的觀察者錯誤地將其視為個人真實言語或行為的真實記錄的方式創(chuàng)建或更改的視聽記錄”，其中“視聽記錄”即指圖像、視頻和語音等數(shù)字內(nèi)容。）正在模糊真實和想象之間的界限，但其后果可能對金融服務(wù)行業(yè)造成災(zāi)難性的影響，這是金錢、個人數(shù)據(jù)和長期聲譽的融合。首席信息官和網(wǎng)絡(luò)安全專家如何看待人工智能的黑暗面這一點的呢？
圖源：TERO VESALAINEN（圖片上傳者，可以譯為用戶TERO VESALAINEN，或者TERO VESALAINEN）?/ SHUTTERSTOCK
曾幾何時，我們信奉那句格言——眼見為實?，F(xiàn)在，時代變了。當(dāng)人工智能以超速發(fā)展——從一個簡單的算法進化到一個復(fù)雜的系統(tǒng)時，deepfakes作為其中更為混亂的產(chǎn)物出現(xiàn)了。
deepfakes，現(xiàn)在作為一個名詞使用（例如，This is a?‘deepfake’/這是一個‘深度偽造’），實際上指的是使用人工智能來制作或修改電影、圖像或音頻，使它們看起來真實，但事實上是被篡改或合成的。（睿觀：可以回味一下《阿甘正傳》）
后果如滾雪球般蔓延擴大——2022年，一段孟買能源公司首席執(zhí)行官宣布大幅提價的deepfake音頻病毒性傳播，因引起股東的恐慌，一度導(dǎo)致公司股價暴跌。雖然這個謠言很快被揭穿，但這是一個令人警醒的現(xiàn)實——deepfakes可以在一瞬間侵蝕數(shù)十年建立起來的信任。
一、“不信任”因素
隨著現(xiàn)實與仿真之間的界限變得模糊，沒有哪個行業(yè)比?FSI（Financial Service Institution，金融服務(wù)機構(gòu)，是一個廣泛的術(shù)語，涵蓋了提供各種金融服務(wù)的實體，包括銀行、證券公司、保險公司等。這些機構(gòu)提供的服務(wù)可能包括貸款、投資、保險、資產(chǎn)管理等，旨在滿足個人和企業(yè)的金融需求。）受到的信任侵蝕更大。當(dāng)Zerodha（是一家印度的在線折扣經(jīng)紀公司，提供股票交易和投資服務(wù)。）首席執(zhí)行官Nikhil Kamath（尼基爾·卡馬斯）分享了一段他自己的深度偽造視頻時，很明顯，即使是我們中最理性的人也可能被愚弄。
他指出：“目前，像?Digilocker（是一個由印度政府推出的應(yīng)用程序，旨在為公民提供一個簡單且安全的數(shù)字文檔存儲解決方案。它是Digital India計劃的一部分，該計劃是印度政府的一項旗艦項目，旨在將印度轉(zhuǎn)變?yōu)橐粋€數(shù)字驅(qū)動的社會和知識經(jīng)濟體。DigiLocker的目標是實現(xiàn)無紙化治理，提供了一個平臺，用于以數(shù)字方式發(fā)行和驗證文件及證書，從而消除對實體文檔的使用。通過DigiLocker，用戶可以在移動設(shè)備上訪問他們的文件和證書。）或Aadhaar（是印度政府發(fā)起的一個身份識別項目，旨在為所有公民提供獨特的數(shù)字身份號碼。該項目始于2009年，通過結(jié)合人口統(tǒng)計和生物統(tǒng)計信息，為印度13億人口中的12.1億人發(fā)放了12位的數(shù)字身份號碼。Aadhaar不僅為許多人首次提供了官方身份，還幫助他們開設(shè)銀行賬戶、獲得護照、駕照以及政府福利。由于Aadhaar需要10個指紋和2個虹膜掃描，因此很難被偽造，有效解決了過去印度存在的利用假身份獲取政府補貼的問題。此外，Aadhaar項目通過數(shù)字身份證的發(fā)放，幫助解決了印度的一個主要問題，即缺乏正式身份證明文件和身份信息難以核對的問題。）這樣的服務(wù)是通過將身份證明文件上的人臉與個人面部匹配來批準的。隨著deepfakes的改進，我認為驗證對方是真人還是人工智能生成的將變得更加困難?！?/span>
Axis Mutual Fund（是印度最大的資產(chǎn)管理公司之一，提供多元化的投資解決方案。）的首席技術(shù)官?Vamsi Ithamraju（梵姆西·伊塔姆拉珠）重申：“設(shè)想一下，一個深度偽造視頻冒充商業(yè)領(lǐng)袖，所稱的虛假信息，可能會影響股票價格或市場動態(tài)。這對經(jīng)濟可能產(chǎn)生嚴重后果。”
這些情景對公民產(chǎn)生了令人不安的影響，尤其是在印度這樣的國家，高速互聯(lián)網(wǎng)和通信應(yīng)用允許照片和視頻在幾秒鐘內(nèi)被分享，而幾乎沒有經(jīng)過驗證。
二、遵守規(guī)則
沒有有效的基礎(chǔ)，就無法建立公眾對技術(shù)的信任。需要有治理和監(jiān)控系統(tǒng)來保持與技術(shù)相同的快速步伐。
首席信息官們一致認為，強有力的政府機構(gòu)是確保深度偽造技術(shù)可以留在公共領(lǐng)域而不損害組織、聲譽和經(jīng)濟的前進方向。
Godrej Capital（是一個多元化的金融服務(wù)提供商，專注于投資管理和金融服務(wù)。）的首席技術(shù)官?Jyothirlatha B（喬提拉塔·B）表示：“政府可能需要建立監(jiān)管機構(gòu)來監(jiān)督人工智能的道德使用并強制遵守，而公眾宣傳活動將教育個人了解深度偽造的風(fēng)險?！彼J為，增強的驗證協(xié)議，如多因素認證和生物識別驗證，可以降低被深度偽造利用的風(fēng)險。
Ark Legal（是一家提供專業(yè)法律服務(wù)的公司。）的技術(shù)法專家兼合伙人Khushbu Jain（赫什布·詹恩）認為，解決deepfakes帶來的風(fēng)險需要多管齊下的監(jiān)管方法，以及由多方利益相關(guān)者合作牽頭的公眾意識。
然而，她承認僅靠法律是不夠的。Khushbu Jain（赫什布）說：“一個優(yōu)先考慮透明度、包容性和主動自我監(jiān)管的人工智能道德治理框架必須補充更強的法律威懾力?！?/span>
三、道德難題
隨著人工智能在現(xiàn)代生活中根深蒂固，任何關(guān)于其疏忽或犯罪影響的擔(dān)憂很快被視為反進步。
然而，首席信息官們非常清楚deepfakes帶來的道德難題。Bajaj Alliance General Insurance（是一家提供綜合保險服務(wù)的公司，提供一系列保險產(chǎn)品，包括健康保險、汽車保險和旅行保險等。）高級總裁KV Dipu（KV·迪普）引用了McKinsey（麥肯錫咨詢公司，是世界級領(lǐng)先的全球管理咨詢公司，由美國芝加哥大學(xué)商學(xué)院教授詹姆斯·麥肯錫，James O’McKinsey，于1926年在美國創(chuàng)建。自1926年成立以來，公司的使命就是幫助領(lǐng)先的企業(yè)機構(gòu)實現(xiàn)顯著、持久的經(jīng)營業(yè)績改善，打造能夠吸引、培育和激勵杰出人才的優(yōu)秀組織機構(gòu)。麥肯錫采取“公司一體”的合作伙伴關(guān)系制度，在全球44個國家有80多個分公司，共擁有7000多名咨詢顧問。麥肯錫大中華分公司包括北京、香港、上海與臺北四家分公司,?共有40多位董事和250多位咨詢顧問。在過去十年中，麥肯錫在大中華區(qū)完成了800多個項目，涉及公司整體與業(yè)務(wù)單元戰(zhàn)略、企業(yè)金融、營銷/銷售與渠道、組織架構(gòu)、制造/采購/供應(yīng)鏈、技術(shù)、產(chǎn)品研發(fā)等領(lǐng)域。）的報告，該報告強調(diào)，雖然人工智能可以將運營效率提高30%，但它也帶來了與數(shù)據(jù)隱私、算法偏見和透明度相關(guān)的重大道德挑戰(zhàn)。
HDFC Retirement Tech（是印度HDFC集團旗下專注于退休解決方案的技術(shù)公司，提供退休規(guī)劃和相關(guān)技術(shù)服務(wù)。）的首席技術(shù)官?Ajay Poddar（阿杰伊·波達爾）堅信，能力越大，責(zé)任越大。他說：“為了避免聲譽受損和法律問題，組織在進行人工智能創(chuàng)新時應(yīng)該考慮道德影響。”他將自己的策略歸類如下：
l道德準則與透明度
l風(fēng)險緩解與評估
l人力監(jiān)督/問責(zé)制
為了應(yīng)對過多的道德困境和隱私風(fēng)險，Vamsi Ithamraju（梵姆西·伊塔姆拉珠）提出了Explainable AI/XAI（可解釋人工智能，?是一種人工智能技術(shù)，旨在開發(fā)能夠解釋其預(yù)測和決策的AI系統(tǒng)，從而增強人工智能的透明度、可解釋性和可信賴性。這一技術(shù)的出現(xiàn)主要是為了克服傳統(tǒng)AI模型被視為“黑盒”的問題，即其內(nèi)部決策過程難以被人類所理解和信任。隨著深度學(xué)習(xí)的快速發(fā)展，尤其是神經(jīng)網(wǎng)絡(luò)模型的廣泛應(yīng)用，AI模型的復(fù)雜性和不可解釋性成為了制約其進一步應(yīng)用和信任的關(guān)鍵因素。因此，可解釋AI技術(shù)應(yīng)運而生，通過提供模型決策的解釋和理由，幫助用戶更好地理解和信任AI系統(tǒng)的輸出?？山忉孉I的實現(xiàn)方式包括但不限于使用白盒模型，如決策樹、線性回歸和邏輯回歸，這些模型的結(jié)構(gòu)和決策路徑相對簡單，可以直接解釋特征對輸出的影響。對于復(fù)雜的黑盒模型，如深度神經(jīng)網(wǎng)絡(luò)和隨機森林，則通過使用局部解釋模型無關(guān)的方法/LIME、SHapley Additive exPlanations/SHAP和對比解釋等方法來解釋模型的預(yù)測結(jié)果。此外，通過可視化技術(shù)，如特征重要性圖、部分依賴圖和決策路徑圖等，也可以幫助用戶更好地理解模型的決策依據(jù)。），這是一套允許人類用戶理解和信任機器學(xué)習(xí)算法創(chuàng)建的結(jié)果和輸出的過程和方法。
Explainable AI/XAI有助于消除人工智能的“黑箱”本質(zhì)，允許開發(fā)者將人工智能的不透明特性變得透明，并確保其正確運行，必要時進行更改。它已成為實施負責(zé)任的人工智能的基本原則之一，包括公平性、模型可解釋性和問責(zé)制。
四、探索解決方案
金融業(yè)尤其容易受到攻擊，因為它的目標是兩種資產(chǎn)——數(shù)據(jù)和資金。事實證明，利用人們的困惑和恐懼感來詐騙比突破防火墻更有利可圖。這些策略也使得追蹤deepfake攻擊背后的罪魁禍首變得更加困難。
正如Ajay Poddar（阿杰伊·波達爾）為我們總結(jié)的那樣，我們需要在監(jiān)管和創(chuàng)新之間取得平衡。
他說：“監(jiān)管機構(gòu)可以實施某些規(guī)則，比如對Deepfake相關(guān)犯罪進行更嚴厲的處罰，特別是貨幣處罰。組織和平臺應(yīng)該有義務(wù)披露圖像或視頻是Deepfake的，并加上水印?！彼€強調(diào)了道德人工智能發(fā)展對打擊惡意Deepfake傳播的重要性。
最終，所有首席信息官都一致認為，構(gòu)建深度偽造防御的最強大的支柱是公眾意識，這需要媒體素養(yǎng)。信息、圖像和視頻的分發(fā)方式已經(jīng)不可逆轉(zhuǎn)地改變了，渠道和平臺不再擁有像以往那樣的中心性和監(jiān)控。媒體已經(jīng)超越了地理和人口的邊界，隨著人們在網(wǎng)上分享生活，金錢、聲譽和職業(yè)都岌岌可危。
首席信息官們一致認為，這是制定標準的關(guān)鍵時期，這些標準將作為未來的防御，因為deepfakes試圖用仿制品抹去現(xiàn)實。最后，網(wǎng)絡(luò)律師和政策專家Prashant Mali（普拉尚特·馬利）博士警告我們，如果不通過立法和嚴格執(zhí)行來審查deepfake，人工智能可能造成的混亂可能會破壞我們的社會結(jié)構(gòu)?！罢畱?yīng)該投資于用方言教育普通人了解deepfakes，讓印度農(nóng)村也能接觸到?！?/span>
作者：Qiraat Attar（奇拉特·阿塔爾）
譯者：寶藍
【睿觀：我們可以為 deepfake 技術(shù)的評價提供以下二維指標體系、指標定義及計分方式:
1.道德準則與透明度
1.1 道德準則遵守度定義: 衡量 deepfake 技術(shù)在開發(fā)和應(yīng)用過程中對相關(guān)道德準則的遵守程度。計分方式: 0-10分，0分表示完全不遵守，10分表示完全遵守。
1.2 信息透明度定義: 評估 deepfake 內(nèi)容的來源、制作過程和目的的公開程度。計分方式: 0-10分，0分表示完全不透明，10分表示完全透明。
2.風(fēng)險緩解與評估
2.1 潛在危害評估完整性定義: 衡量對 deepfake 技術(shù)潛在風(fēng)險和負面影響的評估全面性。計分方式: 0-10分，0分表示完全未評估，10分表示評估非常全面。
2.2 風(fēng)險緩解措施有效性定義: 評估為降低 deepfake 技術(shù)風(fēng)險所采取措施的有效程度。計分方式: 0-10分，0分表示完全無效，10分表示非常有效。
3.人力監(jiān)督/問責(zé)制
3.1 人工審核覆蓋率定義: 衡量 deepfake 內(nèi)容經(jīng)過人工審核的比例。計分方式: 0-100%，表示經(jīng)過人工審核的內(nèi)容占總內(nèi)容的百分比。
3.2 問責(zé)機制健全度定義: 評估在 deepfake 內(nèi)容造成問題時，追究責(zé)任的機制完善程度。計分方式: 0-10分，0分表示完全沒有問責(zé)機制，10分表示問責(zé)機制非常健全。
二維指標體系涵蓋了道德、透明度、風(fēng)險管理和人力監(jiān)督等關(guān)鍵方面，可以全面評估 deepfake 技術(shù)的應(yīng)用。每個維度下的兩個指標分別從不同角度對該維度進行量化評估。通過這些指標，可以對 deepfake 技術(shù)的使用進行更客觀、系統(tǒng)的評價，有助于促進該技術(shù)的負責(zé)任發(fā)展和應(yīng)用?！?/span>
