你好，歡迎您來(lái)到福建信息主管(CIO)網(wǎng)! 設(shè)為首頁(yè)|加入收藏|會(huì)員中心
歐盟人工智能法案聯(lián)合報(bào)告員Drago? Tudorache?表示，各種規(guī)模的公司可能犯的最大錯(cuò)誤是將一致性置于創(chuàng)新之前。
來(lái)源：JORISVO / SHUTTERSTOCK
歐盟的《人工智能法案》是一項(xiàng)旨在確保人工智能以人為本和值得信賴的法規(guī)，距離成為現(xiàn)實(shí)僅一步之遙。該文件預(yù)計(jì)將于6月初在《官方公報(bào)》上公布，并將在20天后生效。
該法規(guī)有望成為世界上第一部針對(duì)人工智能的綜合性法律，旨在在鼓勵(lì)技術(shù)進(jìn)步和保護(hù)歐洲消費(fèi)者權(quán)利之間保持平衡。
內(nèi)部市場(chǎng)專員蒂埃里·布雷頓（Thierry Breton）說(shuō)：“我們正在盡可能少地、盡可能多地進(jìn)行監(jiān)管，對(duì)人工智能模型采取相稱的措施，”并補(bǔ)充說(shuō)，《人工智能法案》“將成為歐盟初創(chuàng)企業(yè)引領(lǐng)全球可信賴人工智能競(jìng)賽的跳板”，也將使中小型企業(yè)受益。“我們正在使歐洲成為世界上值得信賴的人工智能的最佳場(chǎng)所，”他說(shuō)。
《人工智能法案》主要影響人工智能工具的開(kāi)發(fā)者以及高風(fēng)險(xiǎn)人工智能系統(tǒng)的部署者，適用于歐盟內(nèi)外的公共和私人組織，只要其人工智能系統(tǒng)在歐洲市場(chǎng)使用或銷售或影響歐洲公民。除少數(shù)例外情況外，它將在生效24個(gè)月后適用于所有歐盟成員國(guó)，到今年年底，必須遵守禁止某些人工智能做法的規(guī)則。
此外，有關(guān)通用人工智能模型、治理和處罰的法規(guī)將在法律生效后12?個(gè)月開(kāi)始，對(duì)高風(fēng)險(xiǎn)系統(tǒng)的要求將在法律生效后?36?個(gè)月開(kāi)始。
“在進(jìn)入恐慌模式之前，組織需要了解這項(xiàng)立法實(shí)際上改變了什么，”聯(lián)合報(bào)告員德拉戈什·圖多拉什說(shuō)，他與布蘭多·貝尼菲一起擔(dān)任歐洲議會(huì)人工智能法案的首席談判代表。“絕大多數(shù)人工智能都不會(huì)受到該法案的影響，因?yàn)樗l(fā)生在法規(guī)未確定為風(fēng)險(xiǎn)領(lǐng)域的領(lǐng)域。”
該文件主要關(guān)注的人工智能系統(tǒng)屬于不可接受的風(fēng)險(xiǎn)和高風(fēng)險(xiǎn)類別。前者包括被禁止的人工智能應(yīng)用程序，例如根據(jù)社會(huì)經(jīng)濟(jì)地位評(píng)估個(gè)人的應(yīng)用程序。歐盟還禁止執(zhí)法部門在公共場(chǎng)所進(jìn)行實(shí)時(shí)遠(yuǎn)程生物識(shí)別，也禁止在工作場(chǎng)所和學(xué)校進(jìn)行情緒識(shí)別。后一類涵蓋關(guān)鍵基礎(chǔ)設(shè)施、考試評(píng)分、機(jī)器人輔助手術(shù)、可能拒絕貸款的信用評(píng)分以及簡(jiǎn)歷分類軟件等領(lǐng)域。
使用高風(fēng)險(xiǎn)系統(tǒng)并知道他們將受到該法律影響的組織應(yīng)該開(kāi)始準(zhǔn)備?！叭绻且患议_(kāi)發(fā)人工智能系統(tǒng)的公司，那么可以預(yù)見(jiàn)到所有與技術(shù)文檔和數(shù)據(jù)集透明度有關(guān)的義務(wù)，”Tudorache說(shuō)。
此外，希望將人工智能納入其商業(yè)模式的公司應(yīng)確保他們信任他們集成的技術(shù)，首先要徹底了解他們部署的系統(tǒng)，以防止出現(xiàn)并發(fā)癥。
組織可能犯的最大錯(cuò)誤是未能認(rèn)真對(duì)待《人工智能法案》，因?yàn)樗哂衅茐男裕?duì)許多商業(yè)模式產(chǎn)生巨大影響。“我預(yù)計(jì)《人工智能法案》將產(chǎn)生比GDPR更大的漣漪，”德國(guó)瑞生（Latham & Watkins）隱私主管兼合伙人蒂姆·威比圖爾（Tim Wybitul）說(shuō)。
一、適應(yīng)移動(dòng)目標(biāo)
隨著《人工智能法案》開(kāi)始重塑歐洲技術(shù)格局，行業(yè)領(lǐng)導(dǎo)者正試圖駕馭其影響。丹妮爾·雅各布斯（Danielle Jacobs）是比利時(shí)最大的首席信息官和數(shù)字技術(shù)領(lǐng)導(dǎo)者協(xié)會(huì)Beltug的首席執(zhí)行官，她一直在與同事們討論《人工智能法案》，他們確定了幾個(gè)關(guān)鍵的挑戰(zhàn)和行動(dòng)。
例如，許多比利時(shí)首席信息官希望對(duì)他們的員工進(jìn)行教育，并建立意識(shí)計(jì)劃，專注于探索使用人工智能的最有效方法。
Jacobs說(shuō)，在人工智能方面，每家公司都是早期采用者，因?yàn)榄h(huán)境在不斷發(fā)展。“沒(méi)有既定的最佳實(shí)踐或IT計(jì)劃，”她說(shuō)，這使得《人工智能法案》的準(zhǔn)備工作變得復(fù)雜。
她的一些同事對(duì)商業(yè)環(huán)境中通常使用的人工智能工具（例如用于轉(zhuǎn)錄會(huì)議的工具）表達(dá)了安全和隱私方面的擔(dān)憂。其他人則認(rèn)為，員工使用的第三方工具并不總是被報(bào)告。
Jacobs補(bǔ)充說(shuō)，Beltug?建議組織從數(shù)據(jù)分類開(kāi)始，公司還應(yīng)該仔細(xì)審查與他們使用的?AI?應(yīng)用程序相關(guān)的權(quán)限。
這些步驟有助于清楚地了解AI?的使用地點(diǎn)和方式。這種明確性至關(guān)重要，因?yàn)榇蠖鄶?shù)組織都低估了適用于《人工智能法案》的廣泛系統(tǒng)。 “他們經(jīng)常專注于他們認(rèn)為的'經(jīng)典人工智能'，而忽略了插件和其他集成的人工智能功能，”Wybitul說(shuō)。
他還建議公司仔細(xì)閱讀《人工智能法案》的全部?jī)?nèi)容?！斑@并不容易，因?yàn)榉煞浅?fù)雜，而且往往含糊不清，”他說(shuō)。“對(duì)其他歐盟法律的多次引用并沒(méi)有使這項(xiàng)任務(wù)變得更容易。
但Tudorache說(shuō)，文本的模糊性是一個(gè)特點(diǎn)，而不是一個(gè)錯(cuò)誤，因?yàn)樗试S靈活性。他解釋說(shuō)：“鑒于該技術(shù)的早期階段，我們認(rèn)識(shí)到我們沒(méi)有足夠的知識(shí)和經(jīng)驗(yàn)來(lái)確切地知道如何衡量這些模型的合規(guī)性，因此我們?cè)趯?shí)施中引入了靈活性?！拔覀冋J(rèn)為，允許監(jiān)管機(jī)構(gòu)和開(kāi)發(fā)商之間的互動(dòng)，并制定一個(gè)行為準(zhǔn)則，然后由歐盟委員會(huì)實(shí)施，這將是一件好事。你不會(huì)在歐盟層面的許多其他立法中找到這一點(diǎn)。”
除了《人工智能法案》之外，組織還必須隨時(shí)了解歐盟討論的其他法律和指令。歐盟政策專家Rob van Kranenburg?和?Gaelle Le Gars?表示，歐盟委員會(huì)于?2022?年?9?月發(fā)布了一項(xiàng)人工智能責(zé)任指令提案，該提案不會(huì)在本屆議會(huì)獲得通過(guò)，但可能會(huì)成為下一屆議會(huì)的優(yōu)先事項(xiàng)。
二、《人工智能法案》不包括的內(nèi)容
盡管《人工智能法案》長(zhǎng)達(dá)數(shù)百頁(yè)，但它并未涵蓋與人工智能相關(guān)的所有內(nèi)容?！白盍钊梭@訝的是，文本中很少涉及涉及機(jī)器人、車輛和無(wú)人機(jī)的自主和半自主系統(tǒng)的關(guān)鍵問(wèn)題，”Kranenburg說(shuō)?！罢恼轮兄挥袃纱蚊鞔_提到自治系統(tǒng)?！?/span>
勒加爾斯補(bǔ)充說(shuō)，鑒于歐洲和其他地方持續(xù)的軍事沖突，她和克拉嫩堡預(yù)計(jì)立法中會(huì)有更多的保護(hù)措施。
Tudorache認(rèn)為，雖然人工智能確實(shí)會(huì)成為戰(zhàn)爭(zhēng)的新趨勢(shì)，但歐盟監(jiān)管其軍事用途的能力有限?！皣?guó)防不是歐盟可以監(jiān)管的能力，”他說(shuō)?！斑@仍然是一項(xiàng)國(guó)家權(quán)限”，這意味著成員國(guó)應(yīng)該獨(dú)立制定和執(zhí)行自己的規(guī)則。圖多拉什補(bǔ)充說(shuō)，大多數(shù)歐洲國(guó)家都加入的軍事聯(lián)盟北約“已經(jīng)開(kāi)始就人工智能對(duì)戰(zhàn)爭(zhēng)的影響進(jìn)行非常嚴(yán)肅的辯論?！?/span>
至于航空、汽車和醫(yī)療設(shè)備等民用行業(yè)，這些行業(yè)已經(jīng)在歐盟內(nèi)部受到嚴(yán)格監(jiān)管，Tudorache補(bǔ)充道?！度斯ぶ悄芊ò浮分荚诩訌?qiáng)而不是重復(fù)現(xiàn)有法規(guī)，因此其基本原理是將《人工智能法案》與已經(jīng)建立的規(guī)則相結(jié)合，而不是強(qiáng)加額外的層次。
此外，該文件幾乎沒(méi)有涉及勞動(dòng)力市場(chǎng)，由于歐盟沒(méi)有能力監(jiān)管勞動(dòng)力市場(chǎng)，該部門將受到人工智能的深刻影響，Tudorache說(shuō)。這樣的決定也是在州一級(jí)做出的。
三、警告不要扼殺創(chuàng)新
一些人認(rèn)為，《人工智能法案》可能會(huì)使歐洲處于競(jìng)爭(zhēng)劣勢(shì)，因?yàn)槊绹?guó)和中國(guó)對(duì)人工智能的護(hù)欄較少。瑞士（一個(gè)非歐盟國(guó)家）的科技律師揚(yáng)·查諾基（Jan Czarnocki）表示，這項(xiàng)規(guī)定可能會(huì)阻止外國(guó)公司進(jìn)入歐洲市場(chǎng)，并阻礙當(dāng)?shù)貏?chuàng)新。
與這些擔(dān)憂相反，Tudorache認(rèn)為，監(jiān)管人工智能至關(guān)重要，《人工智能法案》應(yīng)該促進(jìn)而不是阻礙創(chuàng)新。他說(shuō)，事實(shí)上，各種規(guī)模的公司可能犯的最大錯(cuò)誤就是被這項(xiàng)立法所勸阻，并將一致性置于創(chuàng)新之前。
“首先，我們需要能夠創(chuàng)新，然后我們才能看到這種創(chuàng)新如何符合并尊重規(guī)范，”Tudorache補(bǔ)充道?！叭绻覀儗?chuàng)新歸入合規(guī)性，而不是相反，那將是一個(gè)錯(cuò)誤，因?yàn)樗鼛缀鯐?huì)對(duì)創(chuàng)新和創(chuàng)造力產(chǎn)生一種自我審查的態(tài)度，而這正是我們不希望通過(guò)這項(xiàng)法規(guī)實(shí)現(xiàn)的目標(biāo)。”
此外，Tudorache表示，該法規(guī)旨在以負(fù)責(zé)任的方式支持中小企業(yè)的發(fā)展?！拔艺J(rèn)為中小企業(yè)這個(gè)詞在《人工智能法案》中至少出現(xiàn)了40次，”他說(shuō)。“這似乎是因?yàn)橹行∑髽I(yè)有專門的規(guī)則，旨在促進(jìn)他們免費(fèi)訪問(wèn)[監(jiān)管]沙盒。這些允許企業(yè)在監(jiān)管機(jī)構(gòu)的監(jiān)督下測(cè)試創(chuàng)新產(chǎn)品、服務(wù)或商業(yè)模式。
Tudorache進(jìn)一步強(qiáng)調(diào)，《人工智能法案》將使公司與未來(lái)監(jiān)管機(jī)構(gòu)在國(guó)家和歐洲層面的持續(xù)互動(dòng)成為可能。
“重要的是將兩個(gè)世界結(jié)合在一起：那些負(fù)責(zé)實(shí)施立法的人，以及那些打算實(shí)施立法的人，”他說(shuō)。從我們的角度來(lái)看，這將使實(shí)施更加順利，合規(guī)性也更容易承擔(dān)。
【睿觀：《人工智能法案》對(duì)CIO（首席信息官）及其組織來(lái)說(shuō)是一個(gè)重要的轉(zhuǎn)折點(diǎn)，它標(biāo)志著歐洲在全球范圍內(nèi)對(duì)人工智能（AI）監(jiān)管的先行措施。該法案的目的在于促進(jìn)技術(shù)創(chuàng)新，同時(shí)確保人工智能的應(yīng)用發(fā)展是以人為本且值得信賴的。以下是幾個(gè)主要建議，幫助CIO應(yīng)對(duì)這一挑戰(zhàn)并充分利用《人工智能法案》：
深入理解法規(guī)內(nèi)容和影響：CIO需要確保他們與團(tuán)隊(duì)一起徹底理解《人工智能法案》的具體內(nèi)容、它對(duì)業(yè)務(wù)的影響以及必須遵守的關(guān)鍵合規(guī)日期。特別注意該法案對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)的定義及要求，以及對(duì)不可接受風(fēng)險(xiǎn)的限制。
評(píng)估當(dāng)前使用的AI技術(shù)：對(duì)現(xiàn)有和計(jì)劃中的AI項(xiàng)目進(jìn)行全面審查，識(shí)別哪些可能被歸類為高風(fēng)險(xiǎn)或不可接受風(fēng)險(xiǎn)。此過(guò)程包括評(píng)估所使用的數(shù)據(jù)、模型的決策邏輯、透明度及可解釋性。
建立合規(guī)框架：在業(yè)務(wù)流程中，特別是在研發(fā)流程中，建立一個(gè)用于監(jiān)督AI應(yīng)用合規(guī)性的框架。這可能需要建立新的流程或調(diào)整現(xiàn)有流程，以確保遵守既定的法規(guī)要求。
教育和培訓(xùn)：為IT團(tuán)隊(duì)和公司其它成員提供關(guān)于《人工智能法案》影響以及合規(guī)性要求的培訓(xùn)。通過(guò)提高意識(shí)，幫助他們理解人工智能使用中的風(fēng)險(xiǎn)和道德考量，從而在設(shè)計(jì)和部署AI項(xiàng)目時(shí)采取負(fù)責(zé)任的做法。
加強(qiáng)與AI供應(yīng)商的溝通：CIO應(yīng)確保與AI技術(shù)和服務(wù)供應(yīng)商進(jìn)行密切合作，了解他們的合規(guī)策略，確保外部提供的解決方案也符合歐盟的法規(guī)要求。
監(jiān)測(cè)和評(píng)估：制定持續(xù)監(jiān)測(cè)機(jī)制，隨時(shí)評(píng)估公司AI應(yīng)用的合規(guī)性，及時(shí)識(shí)別和糾正偏差?？紤]使用合規(guī)性檢查工具或框架來(lái)自動(dòng)化這一流程。
保持靈活性和準(zhǔn)備好變更：鑒于人工智能技術(shù)和法規(guī)環(huán)境的快速發(fā)展及其不確定性，《人工智能法案》強(qiáng)調(diào)了實(shí)施過(guò)程的靈活性。CIO應(yīng)建立適應(yīng)變化的能力，以應(yīng)對(duì)未來(lái)法規(guī)或技術(shù)標(biāo)準(zhǔn)的變化。
促進(jìn)創(chuàng)新與一致性的平衡：鼓勵(lì)團(tuán)隊(duì)在遵守法規(guī)的同時(shí)繼續(xù)推動(dòng)創(chuàng)新。利用監(jiān)管沙盒等機(jī)制，以負(fù)責(zé)任的方式探索和實(shí)驗(yàn)，同時(shí)保證合規(guī)。
總之，對(duì)CIO而言，《人工智能法案》既是挑戰(zhàn)也是機(jī)遇。通過(guò)積極準(zhǔn)備和采取負(fù)責(zé)任的管理方法，可以確保公司最大程度地利用AI的潛力，同時(shí)保護(hù)消費(fèi)者和社會(huì)的利益。】
