隨著數(shù)據(jù)集蓬勃發(fā)展，那些思維方式不同的人的參與仍然稀缺。然而，為了減少偏見和缺陷，正在朝著代表性方面取得進展。
圖源：Roman Samborskyi / Shutterstock
在如今這個時代，我們每天都會談論或聽到AI——它為何強大，又為何存在潛在危險。我們早已度過了對其大肆炒作的階段，如今生活在一個人工智能已成為生活中更長久存在的世界。
在此背景下，對于如何讓人工智能更具包容性和道德性，以及誰該為無數(shù)用戶的安全負責，每個人都有自己的看法。鑒于新模型構(gòu)建和推向市場的速度，安全和道德同樣至關(guān)重要，還需要進行監(jiān)督，以確保模型公平、無偏見且公正。
有許多重大問題亟待探討，上個月在巴黎舉行的首屆國際安全與道德人工智能協(xié)會會議上就提出了不少。學術(shù)界、民間社會、行業(yè)、媒體和政府的專家們討論并辯論了人工智能安全與道德方面的最新進展，但并未審視神經(jīng)多樣性視角在人工智能開發(fā)中的體現(xiàn)。這是一個重大疏忽，尤其是考慮到僅在美國就有7000萬人的學習和思維方式不同，其中包括許多科技行業(yè)人士。
技術(shù)應該為所有人服務，那么，如果在開發(fā)階段不考慮神經(jīng)多樣性，我們?nèi)绾未_保未來的人工智能模型易于使用且無偏見呢？這都始于開發(fā)階段。
人工智能的易用性：不再是新鮮事物
好消息是我們并非從零開始，但要讓易用性成為道德且具包容性的人工智能開發(fā)的代名詞，仍有很長的路要走。在過去的幾年里，我們看到像蘋果和谷歌這樣的公司做出了有意識的努力，它們推出了諸如蘋果的實時語音和眼動追蹤，以及谷歌的引導框架和?Lookout?等移動應用。但科技領域的易用性仍被視為小眾需求。
這就是為什么Understood助手被開發(fā)和訓練的原因，該助手由專注于學習和思維方式有差異人群的專家打造，目標是讓我們龐大的內(nèi)容庫更易于使用。例如，它具備語音轉(zhuǎn)文本功能來提問，其清晰簡潔的回復是按照八年級的閱讀水平編寫的。
但還有很多工作要做，對一些組織來說這將是一場艱苦的戰(zhàn)斗。圍繞包容性的討論仍充滿爭議，而與此同時，人工智能繼續(xù)在內(nèi)容、商業(yè)以及人們的生活方式等方面占據(jù)主導地位。不過，我們必須優(yōu)先考慮并尊重每個人大腦構(gòu)造不同這一事實。以下是具體做法：
人工智能開發(fā)背后的數(shù)據(jù)和團隊必須反映認知多樣性：如果聊天機器人和人工智能模型一直被輸入有偏見和缺陷的數(shù)據(jù)，那么結(jié)果也必然會有偏見和缺陷。確保這些數(shù)據(jù)集可靠、具包容性且無偏見的最佳方法是納入認知多樣的開發(fā)者。一個神經(jīng)多樣性的團隊也更容易探索更廣泛的用例以及應用相關(guān)的風險。在開發(fā)階段讓神經(jīng)多樣性群體參與進來，就能夠打造一個理解并重視不同思維、學習和工作方式的團隊。這對所有用戶都有益。
公司應從多樣化的人才庫中招聘：根據(jù)Gartner的研究，75%的組織，其決策團隊若體現(xiàn)出多樣化和包容性的文化——尤其注重認知多樣性，在生產(chǎn)力、創(chuàng)新和財務狀況方面都取得了積極成果。Accenture的一份報告也支持這一觀點，該報告發(fā)現(xiàn)，如果美國勞動力中殘疾人士比例再增加1%，美國的經(jīng)濟產(chǎn)出最高可提高250億美元。
用戶需要能幫助他們生存和發(fā)展的技術(shù)：EY的新數(shù)據(jù)發(fā)現(xiàn)，85%的神經(jīng)多樣性員工認為生成式人工智能創(chuàng)造了一個更具包容性的工作場所，因此更多公司有責任擴大招聘范圍，吸納更多員工，并提供他們發(fā)展所需的工具，從而打造公平競爭環(huán)境，生成更準確、更完善的數(shù)據(jù)集。生成式人工智能在幫助神經(jīng)多樣性員工完成生產(chǎn)力、質(zhì)量保證和時間管理等簡單任務方面也能發(fā)揮很大作用。安永的同一份報告還發(fā)現(xiàn)，由于生成式人工智能，65%的受訪者對工作更有信心，64%?的人在工作中思路更清晰，61%的人因人工智能有助于消除工作中的困擾障礙而感到寬慰，30%的人在工作中感受到更多接納。
隨著領先公司逐步接近在2027年實現(xiàn)AGI，盡早從戰(zhàn)略層面介入塑造人工智能領域的格局至關(guān)重要。但我們必須謹記，人工智能的快速發(fā)展需要我們謹慎對待。在很多情況下，問題遠比答案要多。不過，至關(guān)重要的是，我們要關(guān)注并優(yōu)先處理人工智能在安全和包容性方面的問題，確保這項技術(shù)能夠滿足那些學習和思維方式存在差異的群體的需求，不辜負他們的期待。
作者：Rahul Rao（拉胡爾·拉奧）
紐約大學畢業(yè)生Rahul Rao（拉胡爾·拉奧）是總部位于紐約的非營利組織Understood.org的聯(lián)合主席兼首席技術(shù)官。
譯者：寶藍
