本報(bào)記者 曲忠芳 北京報(bào)道
備受關(guān)注的《人工智能法案》（AI Act）在歷時(shí)近2年的立法程序后終于邁出了關(guān)鍵性的一步。當(dāng)?shù)貢r(shí)間3月13日，歐洲議會(huì)正式投票通過并批準(zhǔn)歐盟《人工智能法案》，成為人類歷史上第一部針對(duì)人工智能技術(shù)的法案。
歐盟在官方網(wǎng)站明確寫道：“歐盟是世界上第一個(gè)嘗試制定人工智能法律的立法者。作為此類立法提案中的第一個(gè)，它可以為其他司法管轄區(qū)的人工智能監(jiān)管制定全球標(biāo)準(zhǔn)，就像GDPR（《通用數(shù)據(jù)保護(hù)條例》）對(duì)數(shù)據(jù)隱私所做的那樣，從而在世界舞臺(tái)推廣歐洲的技術(shù)監(jiān)管方式。”
北京高勤律師事務(wù)所合伙人、律師王源向《中國經(jīng)營報(bào)》記者指出，歐盟“玩的是陽謀”，在美國整體技術(shù)領(lǐng)先、中國商業(yè)模式比較先進(jìn)的情況下，歐洲在立法上搶先占領(lǐng)高地，在GDPR成功的基礎(chǔ)上，歐洲希望在人工智能領(lǐng)域延續(xù)其一直以來的“布魯塞爾效應(yīng)”，即歐盟通過單方面的市場(chǎng)規(guī)則能力，在無需其他國家、國家機(jī)構(gòu)協(xié)作的情況下，制定出全球市場(chǎng)遵循的規(guī)章制度，從而引領(lǐng)全球商業(yè)環(huán)境的形成，甚至推動(dòng)全球商業(yè)重要方面的“歐洲化”。
對(duì)我國立法的參考與借鑒
根據(jù)歐盟理事會(huì)官方發(fā)布的立法機(jī)構(gòu)示意圖，可以清晰地看出，在《人工智能法案》生效后，歐盟將增設(shè)一個(gè)“歐盟人工智能委員會(huì)”，由歐盟27個(gè)國家各派一名代表組成，從而協(xié)助歐盟委員會(huì)的工作。在歐盟人工智能委員會(huì)之下設(shè)立市場(chǎng)監(jiān)督機(jī)構(gòu)，以及歐洲數(shù)據(jù)保護(hù)專員公署（EDPS）和歐洲數(shù)據(jù)保護(hù)委員會(huì)（EDPB）。除此之外，在“歐盟委員會(huì)”之下新設(shè)一個(gè)“人工智能辦公室”，該辦公室還會(huì)設(shè)立“獨(dú)立科學(xué)小組”和“咨詢論壇”，相當(dāng)于兩個(gè)咨詢機(jī)構(gòu)。
王源指出，《人工智能法案》最早是由歐盟在2021年4月21日提出，進(jìn)入2023年后隨著新一輪生成式人工智能熱潮洶涌，立法推進(jìn)的節(jié)奏明顯加快。今年3月13日由歐洲議會(huì)通過后，還會(huì)有幾個(gè)程序性的環(huán)節(jié)，但整體結(jié)構(gòu)和內(nèi)容基本不會(huì)再變了。《人工智能法案》共180項(xiàng)條款，8萬字，將分階段實(shí)施，最早在《歐洲聯(lián)盟公報(bào)》上公布后的第20天起施行，而最晚生效后3年之內(nèi)全部適用。
從適用主體來看，《人工智能法案》明確標(biāo)出了66類主體及第三方主體，統(tǒng)一稱為“Operator”（經(jīng)營者/運(yùn)營者），涵蓋開發(fā)AI系統(tǒng)或通用AI模型的提供商、部署者、產(chǎn)品制造商、授權(quán)代表、分銷商、進(jìn)口商等。在王源看來，《人工智能法案》從人工智能責(zé)任鏈方面，將人工智能的提供者、進(jìn)口商、分銷商、部署者等整個(gè)價(jià)值鏈的各自責(zé)任分別列舉，尤其是對(duì)使用人工智能的部署者也規(guī)定了遵守使用說明這些詳細(xì)的義務(wù)。從地域來看，無論是否位于歐盟境內(nèi)，只要在歐盟銷售或使用人工智能產(chǎn)品均要遵守該法律。例如，在歐盟境外的AI模型被進(jìn)口到歐盟在當(dāng)?shù)厥袌?chǎng)投入或部署，同樣要遵守這一法律。
歐盟官網(wǎng)顯示，《人工智能法案》將與人工智能特定用途相關(guān)的風(fēng)險(xiǎn)劃分成了4個(gè)級(jí)別，包括“不可接受的”“高風(fēng)險(xiǎn)”“中等風(fēng)險(xiǎn)”“最小風(fēng)險(xiǎn)”，并相應(yīng)地制定了不同的規(guī)則。王源認(rèn)為，這體現(xiàn)出“抓大放小”的立法考量，對(duì)于挖掘潛意識(shí)的操縱和欺騙性技術(shù)、歧視性、生物特征識(shí)別技術(shù)等一些人工智能行業(yè)絕對(duì)禁止的行為，將通行的國家投資和貿(mào)易規(guī)制手段引入到人工智能領(lǐng)域。
毫無疑問，《人工智能法案》的出臺(tái)在全球范圍內(nèi)對(duì)全行業(yè)產(chǎn)生一定的影響。針對(duì)我國在人工智能領(lǐng)域的立法工作，王源表示，歐盟《人工智能法案》至少在兩個(gè)方面可以提供借鑒意義：一是該法案的細(xì)致程度是可圈可點(diǎn)、環(huán)環(huán)相扣的，在立法之外還會(huì)出臺(tái)相應(yīng)的行為守則和標(biāo)準(zhǔn)等配套指南，也就是說“有了法律之后，還要告訴應(yīng)該怎么做”；二是值得指出的一點(diǎn)是，歐盟在《人工智能法案》中專門規(guī)定了“支持創(chuàng)新的措施”，其中提到政府主導(dǎo)的人工智能監(jiān)管“沙盒”，可以由中小企業(yè)參與。目前，我國中小企業(yè)在各項(xiàng)政策中處于較弱勢(shì)地位，從技術(shù)及商業(yè)創(chuàng)新的角度，建議給中小企業(yè)提供更多的機(jī)會(huì)。
對(duì)我國出海企業(yè)的影響與提示
記者觀察到，近幾年來，隨著全球各個(gè)國家和地區(qū)在個(gè)人信息保護(hù)、數(shù)據(jù)網(wǎng)絡(luò)安全等方面的立法進(jìn)程普遍加快，大型科技企業(yè)以及中小型企業(yè)內(nèi)部越來越重視安全與合規(guī)問題，尤其是在“出?！焙蜆I(yè)務(wù)向全球化拓展的過程中，安全合規(guī)更是第一道考驗(yàn)。
王源提醒，越來越多的國家已然意識(shí)到對(duì)人工智能立法監(jiān)管的重要性，這將成為未來的大趨勢(shì)。《人工智能法案》盡管距離全部生效實(shí)施還有一個(gè)時(shí)間差，但它對(duì)于各個(gè)行業(yè)的企業(yè)來說都會(huì)產(chǎn)生直接或間接的影響。對(duì)于AI系統(tǒng)、通用模型技術(shù)廠商，可能從產(chǎn)品設(shè)計(jì)之初就須將人工智能合規(guī)考慮進(jìn)去。使用AI系統(tǒng)、通用模型服務(wù)出海拓展市場(chǎng)的企業(yè)，要使用國內(nèi)的模型系統(tǒng)，還是使用當(dāng)?shù)氐姆?wù)，都會(huì)成為出海發(fā)展中要考慮的因素。
“要注意，《人工智能法案》有一個(gè)前提是適用于高風(fēng)險(xiǎn)的系統(tǒng)、有風(fēng)險(xiǎn)的系統(tǒng)模型，以及生成式人工智能系統(tǒng)，對(duì)于一般的人工智能模型并不怎么管。”王源舉例解釋，有些企業(yè)在招聘員工、篩選簡(jiǎn)歷面試過程中會(huì)通過AI視覺識(shí)別技術(shù)或模型來探測(cè)面試者的情緒，那它很有可能是違法的?！度斯ぶ悄芊ò浮穼?duì)于利用人工智能去探測(cè)人類潛意識(shí)或者對(duì)人群進(jìn)行分類方面有禁止性規(guī)定，只有在醫(yī)療場(chǎng)景可以使用。對(duì)于教培類的公司來說，如果其產(chǎn)品面向?qū)W校，用AI技術(shù)去分析學(xué)生的行為，哪些是可分析的，哪些是不可分析的，都應(yīng)當(dāng)格外慎重?？傊?，實(shí)時(shí)遠(yuǎn)程生物識(shí)別技術(shù)是明確被禁止的，這意味著公司不能利用AI技術(shù)在歐盟境內(nèi)的公共場(chǎng)合進(jìn)行人臉識(shí)別。
假如一個(gè)企業(yè)屬于高風(fēng)險(xiǎn)AI的提供商，那么《人工智能法案》明確提出了在歐盟境內(nèi)必須履行的義務(wù)，涉及使用明顯、清晰的數(shù)字CE標(biāo)識(shí)，建立質(zhì)量管理體系，文件保存10年、自動(dòng)生成日志至少保存6個(gè)月，糾正和召回不合規(guī)的高風(fēng)險(xiǎn)AI系統(tǒng)，配合監(jiān)管調(diào)查，等等。同樣，對(duì)于通用AI模型提供者，法案中也明確了涵蓋技術(shù)文件、版權(quán)、摘要等方面的義務(wù)。在違法處罰方面，罰款金額與公司營業(yè)額掛鉤，對(duì)公司的最高罰款額可達(dá)到其上一財(cái)年全球市場(chǎng)的年?duì)I業(yè)總額。
