歐洲議會(huì)和理事會(huì)已達(dá)成共識(shí)：歐盟的AI法案將以風(fēng)險(xiǎn)為基礎(chǔ)對(duì)AI系統(tǒng)進(jìn)行規(guī)范，并包括基礎(chǔ)模型和生成式AI。對(duì)企業(yè)而言，這可能意味著需要承擔(dān)更多的義務(wù)，也規(guī)定了的沙盒（數(shù)據(jù)化測試）環(huán)境為實(shí)驗(yàn)提供了自由空間。以下是AI法案的主要要點(diǎn)、專家意見（優(yōu)缺點(diǎn)），以及CIO如何準(zhǔn)備以合規(guī)的方式進(jìn)行創(chuàng)新，同時(shí)將視野擴(kuò)展到數(shù)據(jù)治理、風(fēng)險(xiǎn)管理和新技能的探討。
來源：Shutterstock / Arsenie Krasnevsky
歐盟AI法案的最終文本尚未出爐，但已有一個(gè)臨時(shí)協(xié)議：歐盟理事會(huì)主席和歐洲議會(huì)的談判代表就規(guī)范人工智能的歐洲法案達(dá)成了協(xié)議?，F(xiàn)在，對(duì)企業(yè)及其CIO來說，是時(shí)候跟上步伐了。
這一協(xié)議是在激烈的談判后達(dá)成的，該立法過程始于兩年前，在此期間，還不得不面對(duì)一個(gè)顛覆性的新問題：生成式人工智能。在風(fēng)險(xiǎn)防范導(dǎo)向的歐洲議會(huì)立場與一些成員國（包括意大利和法國）傾向于放寬規(guī)定的立場發(fā)生了沖突，這些國家支持給予實(shí)驗(yàn)和創(chuàng)新以自由，以試圖在歐盟內(nèi)部創(chuàng)建能夠與目前統(tǒng)治該領(lǐng)域的美國大公司（一個(gè)非常雄心勃勃的目標(biāo)）競爭的巨頭。
“人工智能對(duì)企業(yè)競爭力來說是越來越重要的工具”，Anitec-Assinform的總經(jīng)理Eleonora Faina表示?！?/span>如果引入清晰且可執(zhí)行的規(guī)則，那么對(duì)市場而言，規(guī)定是積極的。但我們要強(qiáng)調(diào)的是，僅有的規(guī)則是不夠的?，F(xiàn)在我們需要政策制定者致力于支持AI投資的政策，并促進(jìn)技能的傳播。”
“對(duì)歐洲議會(huì)草案達(dá)成的協(xié)議是歐盟監(jiān)管者嘗試在一個(gè)對(duì)經(jīng)濟(jì)非常重要的技術(shù)領(lǐng)域中尋找規(guī)則與創(chuàng)新平衡的最大努力之一”，國際法律事務(wù)所Dentons的合伙人、歐洲知識(shí)產(chǎn)權(quán)、數(shù)據(jù)和技術(shù)共同負(fù)責(zé)人Giangiacomo Olivi觀察到?！皬谋Ｗo(hù)權(quán)利的角度看，AI法案應(yīng)該被視作是積極的。同樣重要的是，它定義了也必須被歐盟外部但在歐洲提供服務(wù)的公司遵循的標(biāo)準(zhǔn)。然而，Olivi補(bǔ)充說，“嚴(yán)格規(guī)范AI領(lǐng)域的行業(yè)發(fā)展可能會(huì)為歐洲企業(yè)創(chuàng)建障礙，因?yàn)槠渌麌?，包括美國，沒有如此嚴(yán)格的規(guī)定。提高規(guī)范門檻可能會(huì)造成競爭劣勢——盡管歐盟可能沒有美國和中國那樣的投資能力。”
一、可能“成本高昂”的AI法案
Anitec-Assinform的評(píng)述反映了這種分歧：對(duì)保護(hù)措施的積極評(píng)價(jià)，但對(duì)嚴(yán)格的規(guī)定體系表示疑慮。
“關(guān)于AI法案的臨時(shí)協(xié)議是朝著負(fù)責(zé)任的AI邁出的重要一步，這體現(xiàn)在采用基于風(fēng)險(xiǎn)的方法，其中最關(guān)鍵的AI應(yīng)用必須經(jīng)過認(rèn)證以確保其質(zhì)量和安全性”，F(xiàn)aina表示。同時(shí)，“我們與歐洲其他協(xié)會(huì)如Digital Europe一起注意到，承擔(dān)AI法案合規(guī)成本可能對(duì)中小企業(yè)和初創(chuàng)企業(yè)構(gòu)成重大挑戰(zhàn)，這可能會(huì)減緩歐盟大陸的創(chuàng)新能力。”
對(duì)于將引入的Foundation Models（FM，基礎(chǔ)模型）規(guī)則（這些模型是生成式AI應(yīng)用，如ChatGPT的GPT模型的基礎(chǔ)）也有類似的討論：“在這里，規(guī)定試圖跟上技術(shù)進(jìn)步：關(guān)于FM的規(guī)定是在提交法規(guī)提案后引入的，并且在沒有進(jìn)行整個(gè)文本的影響評(píng)估的情況下進(jìn)行了談判”，F(xiàn)aina指出?！斑@個(gè)過程的風(fēng)險(xiǎn)是引入不成比例且從技術(shù)角度難以實(shí)現(xiàn)的規(guī)則，使得在歐洲開發(fā)和投資AI變得更加困難。”
無論如何，AI法案不會(huì)“一夜之間”變?yōu)楝F(xiàn)實(shí)，而需要經(jīng)過長時(shí)間的代表性法案發(fā)布、最佳實(shí)踐識(shí)別和具體標(biāo)準(zhǔn)編寫階段?！拔覀儙缀蹩梢哉f，它的結(jié)構(gòu)更像是指令而不是條例”，F(xiàn)aina注釋。“然后確保AI法案能夠與其他現(xiàn)有法規(guī)整合而不產(chǎn)生沖突至關(guān)重要，特別是與通用數(shù)據(jù)保護(hù)條例（GDPR），但這對(duì)整個(gè)歐洲數(shù)字法規(guī)體系都是適用的。”
【睿觀：歐盟AI法案背景——?dú)W盟AI法案是一項(xiàng)具有歷史性的立法，旨在規(guī)范在歐洲范圍內(nèi)開發(fā)、部署和使用人工智能系統(tǒng)的方式。通過將AI系統(tǒng)分類為風(fēng)險(xiǎn)等級(jí)，該法案對(duì)于高風(fēng)險(xiǎn)的AI應(yīng)用提出了更為嚴(yán)格的要求，包括透明度、數(shù)據(jù)的質(zhì)量和安全性，以及對(duì)可追溯性和人類監(jiān)督的要求。法案還特別強(qiáng)調(diào)對(duì)生成式AI（如GPT-3等基礎(chǔ)模型驅(qū)動(dòng)的應(yīng)用）的監(jiān)管，這是近年來AI技術(shù)進(jìn)步的一個(gè)顯著特點(diǎn)。
AI法案試圖為保護(hù)基本權(quán)利和自由、保障社會(huì)安全，同時(shí)促進(jìn)人工智能技術(shù)的創(chuàng)新和應(yīng)用提供一個(gè)平衡框架。盡管如此，許多企業(yè)、行業(yè)協(xié)會(huì)和政策制定者都在關(guān)注其執(zhí)行可能帶來的挑戰(zhàn)和成本，特別是對(duì)于中小企業(yè)而言。
隨著歐盟各機(jī)構(gòu)在法案的最終文本上達(dá)成一致，接下來將進(jìn)入法案實(shí)施和執(zhí)行的準(zhǔn)備階段。一方面，它確立了歐洲在全球AI治理中的領(lǐng)導(dǎo)地位；另一方面，也對(duì)全球AI生態(tài)系統(tǒng)的發(fā)展方向和監(jiān)管環(huán)境提出了新的要求和標(biāo)準(zhǔn)?！?/em>
二、歐盟的標(biāo)準(zhǔn)保護(hù)了歐盟企業(yè)，但也是一把雙刃劍。
正是通用數(shù)據(jù)保護(hù)條例（GDPR）激發(fā)了對(duì)CIO的重要思考。
“許多人將歐盟的數(shù)據(jù)保護(hù)法稱為模范，被其他司法管轄區(qū)模仿，這在一定程度上是正確的”，Dentons的Olivi強(qiáng)調(diào)。“歐洲條例確實(shí)提高了對(duì)個(gè)人數(shù)據(jù)保護(hù)的重視。然而，也存在不太有利的可能性：在隱私保護(hù)上的競爭以及某種數(shù)據(jù)保護(hù)主義。這限制了分享，而分享在技術(shù)進(jìn)步中是至關(guān)重要的。如果其他國家效仿歐洲模式，頒布嚴(yán)格的人工智能（AI）規(guī)則，我們可能會(huì)結(jié)束在控制政策中，這使得訪問數(shù)據(jù)變得更加困難，阻礙了組織的創(chuàng)新能力”。
一方面，歐洲規(guī)則創(chuàng)建了一個(gè)所有在歐洲活躍的企業(yè)都必須遵守的公平競爭環(huán)境：沒有任何企業(yè)可以在歐盟推廣不尊重基本權(quán)利和歐盟規(guī)定標(biāo)準(zhǔn)的創(chuàng)新。另一方面，這并不等同于對(duì)創(chuàng)新的激勵(lì)，Olivi注意到。“總會(huì)有更重要的主體，因?yàn)樗麄儞碛懈嗟臄?shù)據(jù)”，專家聲明。“AI法案無法限制他們的權(quán)力和供應(yīng)商鎖定的風(fēng)險(xiǎn)。但至少，它設(shè)立了一些門檻”。
【睿觀：通用數(shù)據(jù)保護(hù)條例（General Data Protection Regulation，簡稱GDPR）是歐盜盟于2016年4月通過，并于2018年5月25日開始實(shí)施的一項(xiàng)重要數(shù)據(jù)保護(hù)法規(guī)。GDPR對(duì)個(gè)人數(shù)據(jù)的保護(hù)提出了全新且嚴(yán)格的規(guī)定，適用于所有在歐盟境內(nèi)處理個(gè)人數(shù)據(jù)的組織，無論這些組織是否位于歐盟境內(nèi)。GDPR對(duì)“個(gè)人數(shù)據(jù)”定義極為廣泛，幾乎涵蓋了所有能夠直接或間接識(shí)別到個(gè)人身份的信息。
1.加強(qiáng)個(gè)人隱私權(quán)利：GDPR為個(gè)人提供了更多控制自己個(gè)人數(shù)據(jù)的權(quán)利，如訪問權(quán)、更正權(quán)、刪除權(quán)（被稱為“被遺忘權(quán)”）、數(shù)據(jù)可攜權(quán)等。
2.確保數(shù)據(jù)處理的透明度：要求數(shù)據(jù)處理者在收集個(gè)人數(shù)據(jù)時(shí)提供清晰、詳細(xì)的信息，包括數(shù)據(jù)收集的目的、數(shù)據(jù)存儲(chǔ)的期限等，并且需要獲得數(shù)據(jù)主體的明確同意。
3.加強(qiáng)數(shù)據(jù)安全性：規(guī)定了數(shù)據(jù)處理者必須采取恰當(dāng)?shù)募夹g(shù)和組織措施來保護(hù)個(gè)人數(shù)據(jù)，減少數(shù)據(jù)泄露或?yàn)E用的風(fēng)險(xiǎn)。
4.實(shí)施數(shù)據(jù)保護(hù)默認(rèn)原則和隱私設(shè)計(jì)：要求從技術(shù)和組織層面預(yù)設(shè)隱私保護(hù)，即在設(shè)計(jì)產(chǎn)品和服務(wù)時(shí)就要考慮數(shù)據(jù)保護(hù)。
5.加強(qiáng)對(duì)數(shù)據(jù)處理者和數(shù)據(jù)控制者的責(zé)任：每個(gè)處理個(gè)人數(shù)據(jù)的實(shí)體都要為其處理活動(dòng)的合法性、公正性和透明性負(fù)責(zé)。
6.跨境數(shù)據(jù)傳輸?shù)膰?yán)格規(guī)制：對(duì)于將數(shù)據(jù)傳輸?shù)綒W盟之外的行為，GDPR設(shè)定了嚴(yán)格的條件和要求。
7.違規(guī)高額罰款：對(duì)違反GDPR規(guī)定的組織和個(gè)人，GDPR規(guī)定了嚴(yán)厲的處罰措施，最高罰款可達(dá)全球年?duì)I業(yè)額的4%或2000萬歐元（兩者取高者）。
三、歐盟AI法案預(yù)計(jì)的內(nèi)容是什么？
歐盟人工智能立法包含的范圍是AI系統(tǒng)，其中AI法案采用了由經(jīng)合組織（OECD）開發(fā)的全球標(biāo)準(zhǔn)。生成AI系統(tǒng)輸出的輸入可以由機(jī)器（例如傳感器）或人（如對(duì)ChatGPT的提示）提供。內(nèi)容被視為一種輸出類型：這使得生成式AI歸入AI法案的管轄范圍。
歐盟立法者采取了基于風(fēng)險(xiǎn)的方法：風(fēng)險(xiǎn)越高，規(guī)則越嚴(yán)格?；蛘哒f：義務(wù)越多。對(duì)于有限風(fēng)險(xiǎn)的AI系統(tǒng)，需遵守透明度要求。如果對(duì)人權(quán)和社會(huì)的風(fēng)險(xiǎn)更大（如在HR系統(tǒng)、醫(yī)療設(shè)備、公共服務(wù)公司網(wǎng)絡(luò)等方面），則會(huì)有關(guān)于數(shù)據(jù)治理和數(shù)據(jù)隱私、網(wǎng)絡(luò)安全、風(fēng)險(xiǎn)管理、人類監(jiān)督等方面的義務(wù)。
AI法案通過監(jiān)管沙箱和“現(xiàn)實(shí)世界測試”來促進(jìn)創(chuàng)新，這是由各國國家機(jī)構(gòu)建立的，在產(chǎn)品上市前發(fā)展和訓(xùn)練AI。
該法案還預(yù)計(jì)將建立一個(gè)圍繞人工智能的新的行政架構(gòu)，包括一個(gè)內(nèi)置于歐洲委員會(huì)的AI辦公室，負(fù)責(zé)監(jiān)督更先進(jìn)的AI模型，并推動(dòng)定義新的標(biāo)準(zhǔn)和測試程序，以及確保AI法案的實(shí)施。辦公室將得到一個(gè)獨(dú)立專家小組的支持，這個(gè)小組將就GPAI模型提供建議。成員國將由AI委員會(huì)代表組成，該機(jī)構(gòu)是歐委會(huì)的協(xié)調(diào)和咨詢機(jī)構(gòu)。
【睿觀：GPAI 指的是全球伙伴關(guān)系人工智能（Global Partnership on Artificial Intelligence），它是由多國政府聯(lián)合發(fā)起的一個(gè)國際性組織，旨在實(shí)現(xiàn)關(guān)于人工智能（AI）的負(fù)責(zé)任開發(fā)和使用，促進(jìn)對(duì)AI技術(shù)的理解，并討論AI的社會(huì)影響、道德和法律問題。GPAI力圖通過國際合作，推動(dòng)負(fù)責(zé)任的AI研發(fā)和政策的制定，以確保人工智能技術(shù)的發(fā)展和應(yīng)用能夠惠及所有人并尊重人權(quán)和民主價(jià)值觀。
GPAI模型不是指特定的技術(shù)模型或算法，而是指這個(gè)組織推崇和采用的一系列原則、框架和合作方式，用以實(shí)現(xiàn)其目標(biāo)。這包括鼓勵(lì)開放、透明的研究和創(chuàng)新，促進(jìn)AI系統(tǒng)的可解釋性和可審查性，以及在全球范圍內(nèi)創(chuàng)建有關(guān)AI應(yīng)用的道德和法律標(biāo)準(zhǔn)的共識(shí)。
GPAI通過匯集來自不同國家的政府、私營部門、學(xué)術(shù)界和民間組織的代表，建立一個(gè)多邊框架，以共同承諾和努力，面對(duì)人工智能的挑戰(zhàn)和機(jī)遇。這個(gè)專家小組就是作為該組織結(jié)構(gòu)的一部分，為GPAI提供知識(shí)支持和建議，確保在AI發(fā)展的方向和管理上遵循同一原則和價(jià)值觀。】
不合規(guī)的后果可能是高達(dá)750萬歐元或全球營業(yè)額的1.5%，至多3500萬歐元或全球營業(yè)額的7%，具體取決于企業(yè)的大小和違規(guī)的嚴(yán)重性。
AI法案的最終文本預(yù)計(jì)將于2024年初在歐盟官方公報(bào)上發(fā)布。該法將在兩年后生效，但某些具體條款將在六個(gè)月內(nèi)實(shí)施，而關(guān)于GPAI的規(guī)則將在12個(gè)月內(nèi)實(shí)施。
【睿觀：2024年3月17日，法國經(jīng)濟(jì)部長勒梅爾表示，應(yīng)該建立“歐盟人工智能共同體”，以便更好地協(xié)調(diào)歐盟各國資源，在人工智能領(lǐng)域?qū)崿F(xiàn)創(chuàng)新。此前的3月13日，歐洲議會(huì)全體會(huì)議通過《人工智能法案》，標(biāo)志著歐盟掃清了立法監(jiān)管人工智能的最后障礙。歐洲媒體預(yù)測，法案或?qū)⒂?月29日獲歐盟理事會(huì)最終通過，預(yù)計(jì)6月生效。將人工智能系統(tǒng)分為四類：在法國斯特拉斯堡舉行的歐洲議會(huì)全體會(huì)議上，歐洲議會(huì)正式投票通過并批準(zhǔn)歐盟《人工智能法案》。這也是全球首部人工智能法案。
法案對(duì)人工智能系統(tǒng)的定義和適用范圍進(jìn)行了明確界定。人工智能系統(tǒng)是“一種基于機(jī)器的系統(tǒng)，設(shè)計(jì)為以不同程度的自主性運(yùn)行，在部署后可能表現(xiàn)出適應(yīng)性，并且為了明確或隱含的目標(biāo)，從其接收的輸入中推斷如何生成可影響物理或虛擬環(huán)境的輸出，如預(yù)測、內(nèi)容、建議或決定”。
法案的適用范圍較為廣泛，即便企業(yè)是歐盟范圍外人工智能技術(shù)的供應(yīng)商，但使用其人工智能技術(shù)的產(chǎn)品或提供服務(wù)在歐盟范圍內(nèi)，也需要適用法案的相關(guān)規(guī)定。
法案的主要內(nèi)容將人工智能系統(tǒng)根據(jù)風(fēng)險(xiǎn)評(píng)估分為四類，包括不可接受的風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)與最小風(fēng)險(xiǎn)。對(duì)于不同風(fēng)險(xiǎn)等級(jí)，法案采取了不同程度的監(jiān)管措施。對(duì)于不可接受風(fēng)險(xiǎn)的人工智能，法案嚴(yán)厲禁止，并對(duì)違反者最高處以上一財(cái)年全球營業(yè)額7%或3500萬歐元的罰款；對(duì)于高風(fēng)險(xiǎn)的人工智能，法案規(guī)定了一套完整的全流程風(fēng)險(xiǎn)管理措施；對(duì)于有限風(fēng)險(xiǎn)的人工智能，法案要求履行公開透明義務(wù)；對(duì)于最小風(fēng)險(xiǎn)的人工智能，法案不作干預(yù)。其中，針對(duì)高風(fēng)險(xiǎn)類別，法案規(guī)定了從人工智能上市前到上市后的全流程風(fēng)險(xiǎn)管理措施。
人工智能系統(tǒng)的定義與法案適用范圍的明確，對(duì)于確保法案的有效實(shí)施至關(guān)重要。這有助于避免監(jiān)管盲區(qū)，確保所有涉及人工智能的活動(dòng)都受到法律制約。同時(shí)，也為相關(guān)企業(yè)和研究機(jī)構(gòu)提供明確指導(dǎo)，推動(dòng)人工智能領(lǐng)域的合規(guī)發(fā)展。】
四、CIO現(xiàn)在（不是單獨(dú)）可以做什么？
對(duì)于CIO來說，AI法案的到來現(xiàn)在意味著什么？盡管實(shí)施預(yù)計(jì)在接下來的兩年內(nèi)進(jìn)行，但Dentons的Olivi認(rèn)為行動(dòng)的時(shí)機(jī)是現(xiàn)在：CIO需要思考創(chuàng)新治理，并考慮到，在中大型企業(yè)中，面對(duì)如此復(fù)雜的影響和風(fēng)險(xiǎn)的技術(shù)系統(tǒng)，CIO不能處理所有事務(wù)。
“對(duì)于使用或計(jì)劃使用AI系統(tǒng)的組織，我的建議是立即開始處理影響問題，通過映射他們的流程并評(píng)估他們對(duì)新規(guī)則的合規(guī)性，”O(jiān)livi說?！靶枰獙?shí)施一套AI治理策略，這必須與商業(yè)目標(biāo)一致：實(shí)際上，需要了解AI在企業(yè)哪些領(lǐng)域可以帶來最大的益處，幫助實(shí)現(xiàn)戰(zhàn)略目標(biāo)”。
AI治理需要與數(shù)據(jù)治理（無論是個(gè)人還是非個(gè)人數(shù)據(jù)）對(duì)齊，因此，需要符合歐盟的相關(guān)規(guī)定，從GDPR開始。還需要實(shí)施一套內(nèi)部程序框架，以確保只有“合規(guī)的開發(fā)者”能夠從事AI工作，只有符合規(guī)定的模型被開發(fā)和使用。此外，還需要風(fēng)險(xiǎn)管理策略（例如，供應(yīng)商盡職調(diào)查）和對(duì)AI系統(tǒng)在其整個(gè)生命周期中的監(jiān)控和監(jiān)督。這直接影響到通過新招聘或?qū)緝?nèi)部人員進(jìn)行重新技能培訓(xùn)來獲取的技能。
從這個(gè)“待辦事項(xiàng)清單”可以明顯看出，CIO需要與其他公司團(tuán)隊(duì)緊密協(xié)作。雖然任務(wù)繁多，但如果想要優(yōu)先排序，“待辦事項(xiàng)”，最好從獲取跨學(xué)科視角的AI及相關(guān)領(lǐng)域技能開始。專家們的另一項(xiàng)建議是繼續(xù)研究技術(shù)，并與法律團(tuán)隊(duì)一起關(guān)注全球?qū)用娴陌l(fā)展：隨著AI法案的出臺(tái)，其他國家可能會(huì)緊隨其后制定更多規(guī)定，這是CIO無法忽視的。
【睿觀：對(duì)中國人工智能領(lǐng)域發(fā)展的參考與借鑒意義
歐盟的AI法案設(shè)立了一個(gè)基于風(fēng)險(xiǎn)的方法來分類和管控不同的AI應(yīng)用，強(qiáng)調(diào)合規(guī)性和對(duì)基本權(quán)利的尊重，同時(shí)通過建立監(jiān)管沙箱和現(xiàn)實(shí)世界測試來促進(jìn)創(chuàng)新。這個(gè)框架讓企業(yè)在利用AI技術(shù)時(shí)有明確的法律指引，既保護(hù)了消費(fèi)者的權(quán)益也為AI的健康發(fā)展提供了環(huán)境。
對(duì)于中國的人工智能領(lǐng)域，歐盟的AI法案提供了重要的參考價(jià)值。隨著中國在AI領(lǐng)域的快速發(fā)展，合規(guī)性、數(shù)據(jù)保護(hù)、消費(fèi)者權(quán)益等問題逐漸突顯。通過參考?xì)W盟的做法，中國可以構(gòu)建適合本土發(fā)展的AI法律和監(jiān)管框架，既促進(jìn)技術(shù)創(chuàng)新和經(jīng)濟(jì)增長，又確保公民權(quán)益得到保護(hù)，實(shí)現(xiàn)技術(shù)發(fā)展和社會(huì)責(zé)任的平衡。同時(shí)，鑒于歐盟市場對(duì)中國企業(yè)開放，了解和遵守這些國際標(biāo)準(zhǔn)對(duì)于希望在歐洲開展業(yè)務(wù)的中國AI企業(yè)來說至關(guān)重要?！?/span>
