人工智能領域長期以來一直是富有想象力的故事的來源，現在已經轉變?yōu)橐婚T強大且不斷發(fā)展的學科。它正在成為社會轉型的主要催化劑。
來源：Supplied Art
【睿觀：人工智能（AI）的演變從科幻小說的猜測轉變?yōu)楝F實中的強大學科，成為社會轉型的主要催化劑。其發(fā)展經歷了從理論到實踐的飛躍，特別是在生成式AI和基礎模型領域取得了顯著成就。然而，AI的整合是一把雙刃劍，既有可能解決氣候建模、醫(yī)療等復雜問題，也引發(fā)了監(jiān)控、工作流失等倫理和社會問題。因此，建立道德框架和治理結構至關重要。
AI的變革潛力不僅在于技術進步，還在于其作為通用技術的能力，幾乎涵蓋所有人類活動領域。然而，其發(fā)展面臨信息過載、價值觀沖突等挑戰(zhàn)?？萍家蛩厝鐢祿Ｕ?、可持續(xù)性等也可能成為障礙。盡管如此，AI在科學爆炸中的作用，如自主多代理系統(tǒng)、量子計算等，預示著加速發(fā)現和知識進步的可能性。
長期愿景中，AI的開發(fā)和應用應有利于集體福祉和全球進步，需平衡技術進步與道德承諾。教育也應培養(yǎng)下一代批判性與AI互動的能力。總之，AI的變革潛力巨大，但其發(fā)展需在技術進步與倫理框架之間找到平衡，以確保其為社會帶來積極影響?！?/span>
這是每次我們閱讀有關人工智能（AI） 的最新進展和承諾時，我們都會想到的問題之一。關于?AI?進展的信息轟炸是持續(xù)的，并且來自多個方面，具有不同的目標;要么傳達過度的樂觀主義（例如超級智能、有意識的?AI?等），要么相反，描繪反烏托邦的場景（例如，將消滅人類的?AI）。無論哪種情況，通常與現實相去甚遠的觀點或信息，并且目標混亂，這往往會讓我們對?AI?及其真正的變革潛力產生錯誤的想法。?Tecnalia?最近發(fā)表的一篇題為“Can transformative AI shape a new age for our civilization？：?Navigating between speculation and reality”《變革性人工智能能否塑造我們文明的新時代？在推測與現實之間導航》的論文旨在闡明和澄清這個問題。
一、從猜測到現實：AI?的演變
人工智能及其能力自誕生以來一直是猜測的主題，僅限于科幻小說。今天，我們可以肯定地說，它已經成為一門成熟的學科，正在發(fā)展成為對我們的文明具有最大變革潛力的力量之一。近幾十年來，AI的演變已經從理論猜測走向了有形的成就?；诨A模型的最新系統(tǒng)，尤其是基于生成式?AI?的系統(tǒng)，不僅展示了卓越的功能，在策略游戲、自然語言處理和圖像識別等特定領域的表現也超過了人類。
然而，人工智能對我們文明的影響超出了其技術和算法成就。將其整合到從醫(yī)療保健到治理的關鍵社會職能中可能是一把雙刃劍。一方面，人工智能有望解決氣候建模、個性化醫(yī)療和經濟優(yōu)化等復雜問題。另一方面，它引發(fā)了對監(jiān)控、工作流失、算法偏見或危害民主價值觀等問題的擔憂。這凸顯了為AI?建立道德框架和堅實治理結構的緊迫性。
我們正處于文明水平可能向前飛躍的邊緣;盡管這一飛躍可能已經邁出了第一步，但它對我們社會的影響仍然不確定。它是否會導致前所未有的繁榮、災難性的結果，還是另一個將破裂的泡沫，不僅取決于技術進步，還取決于我們的文明如何決定利用和監(jiān)管這一具有無與倫比的變革潛力的強大工具。
變革性進步的想法并不新鮮。歷史上提供了催化劃時代變化的創(chuàng)新例子，例如工業(yè)革命期間蒸汽機的發(fā)明或信息時代互聯(lián)網的興起。然而，AI與以前的進步的不同之處在于它有可能作為一種通用技術，其能力幾乎涵蓋人類活動的所有領域。隨著研究的進步，人們越來越多地關注人工智能是否不僅代表著一項重大的技術進步，而且代表著文明本身的重大變化。盡管圍繞?AI?的興奮是顯而易見的，但它帶來的道德、社會和生存挑戰(zhàn)也是如此。
二、以道德為基石：塑造?AI?的發(fā)展
要評估人工智能是否真的代表了我們文明的轉折點，我們必須提高我們的觀點，否則，我們就有可能將其視為另一種技術，失去當前環(huán)境所要求的視野。在這個愿景中，道德必須是一個關鍵工具，從一開始就是人工智能設計和實施不可或缺的一部分，而不是事后才想到的。道德如何看待人工智能對于它發(fā)展成為一種真正的變革性技術并隨后融入我們的文明至關重要。這種看法不僅影響其采用和監(jiān)管，還影響幾乎所有人類方面關鍵領域的應用開發(fā)。
此外，它還幫助我們了解我們的行為和決定的影響和后果，以及我們的利益、道德價值觀和我們文明的未來。在一個不斷變化的世界中，我們人性的某些方面，我們的本質，必須保持不變，而人工智能會改變我們周圍的一切。要知道應該保持哪些方面以及如何維護，我們必須將道德作為幫助我們權衡變革的工具。我們需要符合我們價值觀的AI，而不僅僅是由經濟利益驅動。如果擁有一個觸手可及的多功能工具，有可能克服我們文明面臨的一些最緊迫的挑戰(zhàn)，而只剩下它賺錢的能力，那將是一種恥辱。
然而，將道德應用于AI?并非沒有挑戰(zhàn)。首先，在試圖建立統(tǒng)一的道德框架時，道德方法的多樣性可能會產生沖突，因為不同的方法可能在同一情況下建議不同的甚至相互矛盾的行動。此外，道德不是普遍的，可能會因文化和社會背景的不同而有很大差異;在一種文化中被認為是道德的東西在另一種文化中可能并不道德。
這種可變性使全球道德標準的制定和實施變得復雜，因為有必要考慮并尊重這些文化和社會差異。正是在這里，我們發(fā)現《歐洲人工智能法案》旨在調和其監(jiān)管框架中的不同道德觀點。這是主要監(jiān)管機構對AI?的首次全面監(jiān)管，可以看作是政府、開發(fā)者、公司和公眾之間社會契約的正式化。
“機器是否會思考的問題與潛艇是否會游泳的問題一樣重要”——Edsger W. Dijkstra
三、人類與機器：重新思考智能
盡管幾乎每個月都在發(fā)生巨大進步，但人工智能在很大程度上仍然依賴于人類，缺乏完全的自主性和人類能力，例如完全理解其行為或完全感知其環(huán)境的復雜推理。實現人工智能的精髓，無論是以通用人工智能（AGI） 的形式，還是以有意識或類似實體的形式，是大型科技公司和全能實驗室一段時間以來一直在向我們展示的競賽。這是短期或中期銷售的產品，但我們擔心隨著這種?AI?的功能被構思出來，它將不得不等待或部分排除;這一次更接近小說而不是科學。
如果可能的話，一些稀釋的版本將作為最終成就出售給我們，就像OpenAI?公司為自己設定的目標一樣：“高度自主的系統(tǒng)，在最經濟成本的工作中超越人類”;盡管這仍然是一個了不起的進步。今天，對于這種精髓的定義和范圍還沒有達成共識，因此我們將受到任何出售給我們的東西的擺布。此外，我們可能不需要這種精髓來擁有改變我們文明的?AI。飛機不像鳥那樣飛，潛艇不像抹香鯨那樣游泳或潛水，但盡管它們與生物學不同，但兩者都是里程碑。
因此，關于真正變革性?AI?的爭論可能不在于它是否能像人類一樣思考或有意識，而是關于它能夠自主有效地跨不同領域（“通用”）執(zhí)行復雜任務的能力。重要的是要認識到，機器的價值和有用性并不取決于它們精確復制人類思想和認知能力的能力，而是取決于它們通過不同方法獲得相似或更好結果的能力。盡管人腦在很大程度上啟發(fā)了當代?AI（例如神經網絡）的發(fā)展，但它不一定是設計高級?AI?的決定性模型。也許通過將?AI?的開發(fā)從嚴格的神經仿真中解放出來，研究人員可以探索優(yōu)化不同目標、約束和能力的新型架構和方法，從而有可能克服人類認知在某些情況下的局限性。這種概念上的靈活性凸顯了人工智能作為一項創(chuàng)新的潛力，它不受生物學的限制，而是會借鑒它。
在我們甚至能夠在短期內考慮這種變革性的AI?之前，還面臨著許多挑戰(zhàn)。在實現變革性?AI?的道路上，一些可能成為絆腳石的人為因素包括：我們收到的信息過載、可能與我們的人類價值觀不一致、我們可能獲得的負面看法、將?AI?視為我們的競爭對手、對人類經驗的過度依賴、可能認為?AI?中的道德是徒勞的， 例如，信任的喪失、過度監(jiān)管、研究和應用的努力被稀釋、人類過時的想法或“人工智能統(tǒng)治”的可能性。然而，這也意味著科技因素可能成為我們在實現真正變革性的人工智能之前必須克服的障礙，例如：數據悖論、難以識別人工智能新功能的出現、“世界建模”（World Modeling）、可持續(xù)性和物理限制方面的挑戰(zhàn)，或者計算的理論基礎對擁有人類水平人工智能的可能性缺乏共識， 以及其他因素。
然而，確實有一些“綠芽 ”表明它可能成為可能;而且可能不是通過單獨觀察它們，而是通過它們中的許多之間的交集，仿佛這是一個連鎖反應，相互反饋。
“問題不在于10?年后的?AI?會是什么樣子，而在于我們希望它變成什么樣子”—?Peter Norvig
四、AI?在科學爆炸中的作用
從科學技術的角度來看，我們有自主多代理系統(tǒng)、神經計算的進步、交互式人工智能、專用硬件的進步、高度復雜的虛擬環(huán)境、因果建模、開放世界學習、自我改進學習和自我學習，或量子計算等。如果我們從非科學技術的角度來看，我們可以談論跨學科方法的整合、全球合作的進步、對人工智能的重大投資，或者數據生成和處理（學習）新方法的出現。但真正表明通過AI?在文明層面進行轉變的是可能的“科學爆炸”，或者正如?Dario Amodei（Anthropic?的首席執(zhí)行官兼聯(lián)合創(chuàng)始人）最近所說，“壓縮的?21?世紀”。人工智能開始在科學中發(fā)揮越來越廣泛的作用，跨越眾多領域，既是科學進步的催化劑，也是研究過程中的重要工具（例如?AlphaFold、LucaProt、“人工智能科學家”等）。這一發(fā)展可能標志著一個新時代的開始，其特點是加速發(fā)現，推動知識前沿的進步，并取得克服當前方法局限性的成果。這種加速有可能應對關鍵的社會挑戰(zhàn)，例如氣候變化、公共衛(wèi)生以及綠色和數字化轉型等。
五、重新定義意識和身份
最后，我們想關注我們認為相關的一個方面：實現具有此類特征的AI?后會發(fā)生什么？指導我們與這種顛覆性技術互動的倫理和哲學框架可能會出現深刻的變化，這可能需要新形式的哲學思考。這一事實可能會挑戰(zhàn)當前的意識和身份概念。例如，功能主義理論認為，意識可以由過程定義，而不是由生物基礎定義，這意味著重新解釋笛卡爾二元論，并根據非生物實體的理性和自我意識將“人格”的概念擴展到非生物實體。從道德的角度來看，人工智能是否能成為道德主體會受到質疑。根據責任理論，那些擁有權力的人對他們所影響的生命形式負有道德義務。因此，具有變革能力的?AI?可以承擔起對人類和自身存在的責任。更極端和未來主義的立場，例如尼克·博斯特羅姆 （Nick Bostrom） 領導的超人類主義運動，將人工智能視為人類進化的邏輯階段，如果它們與人類價值觀不一致，就會面臨生存風險。哲學家尤瓦爾·諾亞·赫拉利 （Yuval Noah Harari） 等作家認為，可能會出現一種“人工智能宗教”，它將賦予這些實體近乎神圣的地位，重新定義當前的宗教和哲學體系。在這種情況下，可能會出現一種“元哲學”或“元宗教”，以調和人類與合成智能，改變我們對目標和道德的觀念。
六、長期愿景：AI?促進集體福祉
最后，我們想強調在AI?開發(fā)和應用中采用長期愿景的相關性。我們提出了一種戰(zhàn)略方法，確保?AI?系統(tǒng)的設計和使用有利于集體福祉和作為一個文明的全球進步。實現這一目標需要平衡技術進步與堅實的道德承諾，并培養(yǎng)一種教育，使子孫后代能夠批判性地、有效地與這些技術互動。
Jesús López Lobo擁有計算機工程學位（德烏斯托大學，2003?年）、高級人工智能碩士學位（UNED，2014?年）和移動網絡信息和通信技術博士學位（巴斯克大學?UPV/EHU，2018?年）。 他目前是?TECNALIA?應用研究中心的科學研究員，也是加泰羅尼亞開放大學 （UOC） 的合作教授。他的使命是探索、開發(fā)和轉移人工智能領域的科學技術解決方案，為社會和組織創(chuàng)造價值。他的專業(yè)領域傾向于自適應?AI，它解決了機器學習系統(tǒng)的動態(tài)和不斷變化的環(huán)境所帶來的挑戰(zhàn)。 他還對?AI?的倫理、AI?的治理以及?AI?與人類價值觀的一致性等主題感興趣。最后，他參與了多個研究和創(chuàng)新項目，在高影響力期刊和會議上發(fā)表了多篇科學文章，并為人工智能在國內和國際層面的傳播做出了貢獻。
Javier del Ser Lorente是一名電信工程師（巴斯克大學?UPV/EHU，2003?年）、控制工程和工業(yè)電子學博士（納瓦拉大學，2006?年）、信息和通信技術博士（阿爾卡拉德埃納雷斯大學，2013?年）。 他目前是?TECNALIA?的人工智能科學和技術主任，也是巴斯克大學 （UPV/EHU） 的杰出教授。他的研究興趣集中在工業(yè)、醫(yī)療保健、交通和移動出行等眾多領域新興范式的應用人工智能（特別關注值得信賴和負責任的人工智能、在開放世界中學習和可解釋的人工智能）。 他在期刊和會議上發(fā)表了?470?多篇文章，指導了?19?篇博士論文，編輯了?4?本書，發(fā)明了?9?項專利，并指導了多個應用研究項目。 他是?IEEE?的高級會員，并因其研究生涯而獲得多個獎項。他被斯坦福大學列入全球最具影響力的人工智能研究人員前?2%?名單（自?2021?年起），并且一直是為西班牙政府制定人工智能研發(fā)和創(chuàng)新戰(zhàn)略的團隊的一員（2019?年）。
