2024年7月12日，《歐盟官方公報》正式印發(fā)了具有里程碑意義的《歐洲人工智能法》的最終文本。
這項具有里程碑意義的立法包含180個序言、113條條款和13個附件，為歐盟境內(nèi)人工智能系統(tǒng)的開發(fā)、部署和使用建立了全面的框架。該法將在公布20天后，即當(dāng)?shù)貢r間8月1日，北京時間8月2日正式生效，并在立法上采取了分階段生效和基于風(fēng)險的方法。2025年8月2日開始，通用人工智能模型（GPAI）相關(guān)規(guī)定開始生效，提供者將須履行透明度等義務(wù)。
01｜分階段實施 （1）2024年11月2日之前，各成員國指定人工智能監(jiān)管機(jī)構(gòu)； （2）2025年2月2日開始，法案的一般規(guī)定和禁令規(guī)定將會生效，針對社會信用排名系統(tǒng)等具有“不可接受的風(fēng)險”的人工智能的禁令清單開始適用，并將于法律頒布實施后的六個月內(nèi)開始執(zhí)行； （3）2025年5月2日之前，歐盟人工智能辦公室將會發(fā)布行為準(zhǔn)則； （4）2025年8月2日開始，通用人工智能模型（GPAI）相關(guān)規(guī)定開始生效，提供者將須履行透明度等義務(wù)； （5）2026年2月2日之前，歐盟委員會需要提出建立后市場監(jiān)測計劃模板，并列出計劃所列要素清單； （6）2026年8月2日之前，法案將會全面生效，即法案內(nèi)其他內(nèi)容都將開始適用。包括附件三（高風(fēng)險人工智能系統(tǒng)列表）中定義的高風(fēng)險人工智能系統(tǒng)的全部義務(wù)。與治理和符合評估系統(tǒng)相關(guān)的基礎(chǔ)設(shè)施應(yīng)投入運行，成員國應(yīng)在國家一級至少建立一個人工智能監(jiān)管沙盒，該沙盒最遲應(yīng)在2026年8月2日投入使用； （7）2027年8月2日之前，對于高風(fēng)險人工智能系統(tǒng)相關(guān)的一些義務(wù)將開始適用。例如用于醫(yī)療設(shè)備、機(jī)械以及無線電設(shè)備的高風(fēng)險人工智能系統(tǒng)。在2025年8月2日之前已投放市場的通用人工智能模型的提供者應(yīng)采取必要步驟，以便在2027年8月2日之前遵守本條例規(guī)定的義務(wù)； （8）2028年11月之前，歐洲委員會應(yīng)當(dāng)就監(jiān)管權(quán)力下放問題起草一份報告; （9）2030年12月31日之前，在2027年8月2日之前已經(jīng)投放市場或投入使用的大型信息技術(shù)系統(tǒng)組成部分的人工智能系統(tǒng)應(yīng)當(dāng)符合本法規(guī)定。 02｜基于風(fēng)險的方法 歐盟人工智能法案采用基于風(fēng)險的劃分方法，根據(jù)人工智能系統(tǒng)對個人權(quán)利和安全的潛在影響將其分為四個層級。 （1）不可接受風(fēng)險(Unacceptable Risk)。定義為對安全、生計和基本權(quán)利構(gòu)成明顯威脅的人工智能系統(tǒng)，根據(jù)法案第5條禁止。例如，社會評分系統(tǒng)、利用特定個人或者人群脆弱性的系統(tǒng)、使用超越人意識的潛意識系統(tǒng)、在公共空間使用實時遠(yuǎn)程生物識別系統(tǒng)、針對個人的預(yù)測性警務(wù)系統(tǒng)、工作場所和教育機(jī)構(gòu)中的情緒識別系統(tǒng)。 （2）高風(fēng)險(High Risk)。定義為可能危害安全、基本權(quán)利或?qū)е轮卮蟛焕绊懙娜斯ぶ悄芟到y(tǒng)，受法案第6-51條規(guī)定的嚴(yán)格合規(guī)和透明度義務(wù)約束。例如，用于關(guān)鍵基礎(chǔ)設(shè)施、教育、就業(yè)、基本服務(wù)、執(zhí)法、移民管理和司法管理的人工智能等。判定高風(fēng)險需要依據(jù)人工智能系統(tǒng)的功能、預(yù)期目的和行為方式。此類高風(fēng)險人工智能系統(tǒng)的供應(yīng)商必須運行合格評定程序，然后才能在歐盟銷售和使用其產(chǎn)品。 （3）有限風(fēng)險(Limited Risk)。定義為需要特定透明度措施的人工智能系統(tǒng)。例如，聊天機(jī)器人，情緒識別系統(tǒng)等。法案第52-54條概述的透明度義務(wù)。此類系統(tǒng)受信息和透明度要求的約束，生成或操縱圖像、音頻或視頻內(nèi)容（深度偽造）的人工智能系統(tǒng)的部署者必須披露該內(nèi)容是人為生成或操縱的，特定情況除外（如被用于防止刑事犯罪時）。生成大量合成內(nèi)容的人工智能系統(tǒng)提供商必須實施足夠可靠、可互操作、有效和強(qiáng)大的技術(shù)和方法（如水?。?，以便能夠標(biāo)記和檢測輸出是由人工智能系統(tǒng)而不是人類生成或操縱的。 （4）最小風(fēng)險(Minimal Risk)。定義為對公民權(quán)利或安全構(gòu)成最小或無風(fēng)險的人工智能應(yīng)用。例如，人工智能支持的視頻游戲，垃圾郵件過濾器等。除現(xiàn)有法律外，無額外法律要求。根據(jù)歐盟委員會的說法，目前在歐盟使用或可能在歐盟使用的絕大多數(shù)人工智能系統(tǒng)都屬于低風(fēng)險系統(tǒng)。
概述
歐盟人工智能法案（EU Artificial Intelligence Act）是全球首部針對人工智能的全面立法，旨在建立一套統(tǒng)一的規(guī)范和監(jiān)管框架，以確保人工智能技術(shù)的發(fā)展和應(yīng)用能夠遵循公平、透明和可信的原則。
核心內(nèi)容
法案將人工智能系統(tǒng)根據(jù)其潛在風(fēng)險等級劃分為四類：
不可接受風(fēng)險：嚴(yán)重威脅人身安全或基本權(quán)利的系統(tǒng)，如社會評分系統(tǒng)，將被完全禁止。
高風(fēng)險：可能對人身安全、健康、環(huán)境或基本權(quán)利造成重大風(fēng)險的系統(tǒng)，如無人駕駛汽車、醫(yī)療診斷軟件等，需滿足嚴(yán)格的安全和透明度要求。
有限風(fēng)險：可能對人身安全、健康或環(huán)境造成輕微風(fēng)險的系統(tǒng)，如聊天機(jī)器人、語音助手等，需遵守透明度義務(wù)。
低風(fēng)險：基本不會對人身安全、健康或環(huán)境造成風(fēng)險的系統(tǒng)，如垃圾郵件過濾器、拼寫檢查器等，可自由使用。
主要規(guī)定
對高風(fēng)險人工智能系統(tǒng)的嚴(yán)格監(jiān)管：
需經(jīng)過合格的第三方機(jī)構(gòu)進(jìn)行一致性評估，并獲得歐盟委員會頒發(fā)的CE認(rèn)證。
需遵守詳細(xì)的透明度義務(wù)，包括公開其功能、數(shù)據(jù)來源和算法等信息。
需建立有效的風(fēng)險管理體系，并定期進(jìn)行安全測試和漏洞評估。
對人工智能系統(tǒng)的透明度要求：
用戶有權(quán)知曉其是否與人工智能系統(tǒng)互動，并獲得有關(guān)該系統(tǒng)如何運作的信息。
人工智能系統(tǒng)產(chǎn)生的結(jié)果應(yīng)以清晰、透明的方式呈現(xiàn)，并告知用戶該結(jié)果是由人工智能系統(tǒng)生成的。
禁止使用歧視性人工智能系統(tǒng)：
禁止基于種族、宗教、性別、性取向、政治觀點等因素設(shè)計或使用人工智能系統(tǒng)。
人工智能系統(tǒng)應(yīng)經(jīng)過測試，以確保其不會產(chǎn)生歧視性結(jié)果。
影響
歐盟人工智能法案的頒布將對全球人工智能產(chǎn)業(yè)產(chǎn)生深遠(yuǎn)影響，主要體現(xiàn)在以下幾個方面：
促進(jìn)以人為本的人工智能發(fā)展：法案將推動人工智能技術(shù)的研發(fā)和應(yīng)用更加注重人權(quán)、倫理和社會責(zé)任，促進(jìn)以人為本的人工智能發(fā)展。
提升人工智能系統(tǒng)的安全性和可信度：法案對高風(fēng)險人工智能系統(tǒng)的嚴(yán)格監(jiān)管將提升其安全性和可信度，降低其潛在風(fēng)險。
推動人工智能產(chǎn)業(yè)創(chuàng)新：法案將為人工智能產(chǎn)業(yè)發(fā)展提供更加清晰的法律框架，促進(jìn)人工智能產(chǎn)業(yè)創(chuàng)新升級。
