來自數(shù)據(jù)分析和機(jī)器學(xué)習(xí)算法的洞察力可能是無價(jià)的，但錯(cuò)誤可能會犧牲你的聲譽(yù)、收入或品牌。以下這些典型的數(shù)據(jù)分析和人工智能的失誤案例說明了您可能面對的問題。
圖源：CHARLES TAYLOR（圖片上傳者，可以譯為用戶CHARLES TAYLOR，或者CHARLES TAYLOR） / SHUTTERSTOCK
2017年The Economist（《經(jīng)濟(jì)學(xué)人》）宣稱，數(shù)據(jù)而不是石油，已經(jīng)成為世界上最寶貴的資源。從那以后，這句話就一直在重復(fù)。各個(gè)行業(yè)的組織都一直在并將繼續(xù)在數(shù)據(jù)和分析方面進(jìn)行大量投資。但就像石油一樣，數(shù)據(jù)和分析也有它們的陰暗面。
根據(jù)首席信息官的《State of the CIO 2023/2023年首席信息官狀況報(bào)告》，34%的IT領(lǐng)導(dǎo)者表示，今年數(shù)據(jù)和業(yè)務(wù)分析將推動(dòng)其組織的最大IT投資。26%的IT領(lǐng)導(dǎo)者表示，機(jī)器學(xué)習(xí)/人工智能將推動(dòng)最多的IT投資。從機(jī)器學(xué)習(xí)算法驅(qū)動(dòng)的分析和行動(dòng)中獲得的洞察力可以給組織帶來競爭優(yōu)勢，但錯(cuò)誤可能會在聲譽(yù)、收入甚至生命方面付出代價(jià)。
了解您的數(shù)據(jù)及其告訴您的內(nèi)容很重要，但理解您的工具、了解您的數(shù)據(jù)并牢記組織的價(jià)值觀也很重要。
以下是過去十年中一些備受矚目的分析和人工智能失誤案例，以說明可能出現(xiàn)的問題。
一、ChatGPT幻覺法庭案件
2023年，large language models/大型語言模型(LLMs，是使用深度學(xué)習(xí)算法處理和理解自然語言的基礎(chǔ)機(jī)器學(xué)習(xí)模型。這些模型在大量文本數(shù)據(jù)上進(jìn)行訓(xùn)練，以學(xué)習(xí)語言中的模式和實(shí)體關(guān)系。LLM可以執(zhí)行多種類型的語言任務(wù)，例如翻譯語言、分析情緒、聊天機(jī)器人對話等。)取得的進(jìn)展，激發(fā)了幾乎所有行業(yè)對生成人工智能變革潛力的廣泛興趣。OpenAI（在美國成立的人工智能研究公司，核心宗旨在于“實(shí)現(xiàn)安全的通用人工智能，AGI”，使其有益于人類。OpenAI于2015年由一群科技領(lǐng)袖，包括山姆·阿爾特曼、彼得·泰爾、里德·霍夫曼和埃隆·馬斯克等人創(chuàng)辦。）的ChatGPT（Chat Generative Pre-trained Transformer，是人工智能技術(shù)驅(qū)動(dòng)的自然語言處理工具，它能夠通過理解和學(xué)習(xí)人類的語言來進(jìn)行對話，還能根據(jù)聊天的上下文進(jìn)行互動(dòng)，真正像人類一樣來聊天交流，甚至能完成撰寫郵件、視頻腳本、文案、翻譯、代碼，寫論文等任務(wù)）一直是這種興趣激增的中心，預(yù)示著生成性人工智能如何擁有顛覆幾乎每個(gè)商業(yè)角落的工作本質(zhì)的能力。
但這項(xiàng)技術(shù)要想可靠地接管大多數(shù)業(yè)務(wù)流程之前，還有很長一段路要走。正如律師Steven A. Schwartz（史蒂文·A·施瓦茨）在2023年利用ChatGPT研究針對Colombian airline Avianca（哥倫比亞阿維安卡航空公司，包括中美洲航空公司/TACA，是拉丁美洲最大的航空公司之一。公司在波哥大、利馬和圣薩爾瓦多均設(shè)有航運(yùn)樞紐，為美洲和歐洲的多個(gè)國家／地區(qū)提供服務(wù)。）的訴訟先例后，驚恐地發(fā)現(xiàn)自己在與聯(lián)邦法官P. Kevin Castel（P·凱文·卡斯特爾）辯論時(shí)陷入困境時(shí)所了解到的那樣。
Schwartz（施瓦茨）是Levidow， Levidow & Oberman（Levidow， Levidow & Oberman律師事務(wù)所）的律師，他使用OpenAI生成人工智能聊天機(jī)器人尋找之前的案例，以支持Avianca（阿維安卡航空公司）雇員Roberto Mata（羅伯托·馬塔）因2019年受傷而提起的訴訟。然而唯一的問題是什么？在摘要中提交的案件中至少有六起不存在。在5月提交的一份文件中，Castel（卡斯特爾）法官指出，Schwartz（施瓦茨）提交的卷宗包含虛假的姓名和案卷編號，以及虛假的內(nèi)部引文和引文。
在一份宣誓聲明中，Schwartz（施瓦茨）告訴法庭，這是他第一次使用ChatGPT作為法律研究來源，他“沒有意識到其內(nèi)容可能是虛假的”。他承認(rèn)，他還沒有確認(rèn)該人工智能聊天機(jī)器人提供的消息來源。他還表示，他“非常遺憾利用生成人工智能來補(bǔ)充本文所進(jìn)行的法律研究，如果沒有對其真實(shí)性的絕對驗(yàn)證，未來將永遠(yuǎn)不會這樣做?！?/p>
截至2023年6月，Schwartz（施瓦茨）可能面臨最高法院的制裁。
二、人工智能算法可以識別除新冠肺炎以外的一切東西
自新冠肺炎爆發(fā)以來，許多組織一直在尋求應(yīng)用機(jī)器學(xué)習(xí)(ML)算法，以幫助醫(yī)院更快地診斷或分診患者。但根據(jù)英國數(shù)據(jù)科學(xué)和人工智能國家中心Turing Institute（艾倫·圖靈研究所，是一家英國國家數(shù)據(jù)科學(xué)和人工智能研究所。總部位于倫敦大英圖書館，于2015年創(chuàng)建。2017年，將人工智能納入了研究范圍。該研究所以艾倫·圖靈的名字命名，他在理論和應(yīng)用數(shù)學(xué)、工程和計(jì)算方面的開創(chuàng)性工作被認(rèn)為是數(shù)據(jù)科學(xué)和人工智能領(lǐng)域的關(guān)鍵學(xué)科。由五所創(chuàng)始大學(xué)——?jiǎng)颉鄱”?、牛津、UCL和華威——以及英國工程和物理科學(xué)研究委員會在2015年創(chuàng)建了艾倫圖靈研究所。2018年，八所新大學(xué)——利茲大學(xué)、曼徹斯特大學(xué)、紐卡斯?fàn)柎髮W(xué)、倫敦瑪麗女王大學(xué)、伯明翰大學(xué)、埃克塞特大學(xué)、布里斯托爾大學(xué)和南安普頓大學(xué)加入了該研究所。）的說法，預(yù)測工具幾乎沒有什么區(qū)別。
《MIT Technology Review/麻省理工學(xué)院技術(shù)評論》記錄了許多失敗，其中大部分源于工具訓(xùn)練或測試方式的錯(cuò)誤。使用錯(cuò)誤標(biāo)記的數(shù)據(jù)或來源不明的數(shù)據(jù)是常見的罪魁禍?zhǔn)住?/p>
劍橋大學(xué)的機(jī)器學(xué)習(xí)研究員Derek Driggs（德里克·德里格斯）和他的同事們在《Nature Machine Intelligence/自然機(jī)器智能》雜志上發(fā)表了一篇論文，探討了使用深度學(xué)習(xí)模型診斷病毒的方法。該論文確定該技術(shù)不適合臨床使用。例如，Driggs（德里格斯）的研究小組發(fā)現(xiàn)他們自己的模型存在缺陷，因?yàn)樗窃跀?shù)據(jù)集上進(jìn)行訓(xùn)練的，其中包括掃描時(shí)躺著的患者和站起來的患者這個(gè)變量。由于躺著的患者更有可能患重病，因此該算法學(xué)會了根據(jù)患者在掃描中的位置來識別新冠肺炎風(fēng)險(xiǎn)。
類似的例子包括用包含健康兒童胸部掃描的數(shù)據(jù)集訓(xùn)練的算法。該算法學(xué)會了識別兒童，而不是高危患者。
三、Zillow減記了數(shù)百萬美元，由于算法購房災(zāi)難而裁員
2021年11月，在線房地產(chǎn)市場Zillow（是一家提供免費(fèi)房地產(chǎn)估價(jià)服務(wù)的網(wǎng)站，創(chuàng)建于2006年，主要向網(wǎng)民提供各類房地產(chǎn)信息查詢服務(wù)。用戶可以直接在網(wǎng)頁上縮放衛(wèi)星地圖尋找標(biāo)的，或利用郵政編碼和街道進(jìn)行搜尋。）告訴股東，它將在未來幾個(gè)季度逐步結(jié)束Zillow Offers（Zillow的數(shù)字炒房業(yè)務(wù)。從2006 年問世以來，Zillow就將技術(shù)作為自己的核心優(yōu)勢，獨(dú)家上線的Zestimate功能，可以基于大數(shù)據(jù)來提供房屋售賣和出租價(jià)格的估值，也讓Zillow成為最受資本市場追捧的科技公司之一。Zillow Offers，也依靠Zestimate算法，預(yù)測房屋在幾個(gè)月后的價(jià)值，從賣家手中收來房子，然后Zillow進(jìn)行裝修維護(hù)后賣給下一家。這種商業(yè)模式，靠的就是準(zhǔn)確預(yù)測房價(jià)，實(shí)現(xiàn)低買高賣。但現(xiàn)實(shí)是Zillow往往會給出高于同行的報(bào)價(jià)，有媒體統(tǒng)計(jì)過，Zillow的報(bào)價(jià)比競爭對手Opendoor、Offerpad都要高。此外，Zillow囤積了大量的房產(chǎn)，從2018年4月以來購買了27000套房屋，但截至2021年9月底僅售出了17000套，最近不得不將余下的數(shù)千套房屋“揮淚大甩賣”。）的業(yè)務(wù)，并裁減公司25%的員工，約2000名員工。房屋翻轉(zhuǎn)單元的困境是其用來預(yù)測房價(jià)的機(jī)器學(xué)習(xí)算法錯(cuò)誤的結(jié)果。
Zillow Ofers是一個(gè)項(xiàng)目，該公司基于機(jī)器學(xué)習(xí)算法得出的房屋價(jià)值的“Zestimate”，對房產(chǎn)進(jìn)行現(xiàn)金報(bào)價(jià)。當(dāng)時(shí)的想法是要翻新這些房產(chǎn)，并迅速翻賣它們。但Zillow的一位發(fā)言人告訴CNN（美國有線電視新聞網(wǎng)。特納廣播公司/TBS特德·特納于1980年6月創(chuàng)辦，通過衛(wèi)星向有線電視網(wǎng)和衛(wèi)星電視用戶提供全天候的新聞節(jié)目，總部設(shè)在美國佐治亞州的亞特蘭大。）該算法的中值錯(cuò)誤率為1.9%，而對于場外房屋，錯(cuò)誤率可能會高得多，高達(dá)6.9%。
據(jù)CNN（美國有線電視新聞網(wǎng)）報(bào)道，自2018年4月推出以來，Zillow通過Zillow Offers購買了2.7萬套房屋，但到2021年9月底，只售出了1.7萬套。新冠肺炎疫情和家庭裝修勞動(dòng)力短缺等Black swan events（黑天鵝事件。指非常難以預(yù)測，且不尋常的事件，通常會引起市場連鎖負(fù)面反應(yīng)甚至顛覆。它存在于自然、經(jīng)濟(jì)、政治等各個(gè)領(lǐng)域，雖然屬于偶然事件，但如果處理不好就會導(dǎo)致系統(tǒng)性風(fēng)險(xiǎn)，產(chǎn)生嚴(yán)重后果?！盎蚁！笔桥c“黑天鵝”相互補(bǔ)足的概念，“灰犀牛事件”是太過于常見以至于人們習(xí)以為常的風(fēng)險(xiǎn)，“黑天鵝事件”則是極其罕見的、出乎人們意料的風(fēng)險(xiǎn)。）導(dǎo)致了算法的準(zhǔn)確性問題。
Zillow表示，該算法導(dǎo)致其無意中以高于目前估計(jì)的未來售價(jià)的價(jià)格購買房屋，導(dǎo)致2021年第三季度的庫存減記3.04億美元。
Zillow聯(lián)合創(chuàng)始人兼首席執(zhí)行官Rich Barton（里奇·巴頓）在宣布這一消息后在與投資者舉行的電話會議上表示，可能會調(diào)整算法，但最終風(fēng)險(xiǎn)太大。
四、英國因超過電子表格數(shù)據(jù)限制，損失了數(shù)千例冠狀病毒病例
2020年10月，負(fù)責(zé)統(tǒng)計(jì)新冠肺炎感染病例的英國政府機(jī)構(gòu)Public Health England(PHE，英國公共衛(wèi)生局)透露，9月25日至10月2日期間，近16000例冠狀病毒病例未報(bào)告。罪魁禍?zhǔn)资钦l？Microsoft Excel（一般指Microsoft Office Excel。 Microsoft Excel是Microsoft為使用Windows和Apple Macintosh操作系統(tǒng)的電腦編寫的一款電子表格軟件。直觀的界面、出色的計(jì)算功能和圖表工具，再加上成功的市場營銷，使Excel成為最流行的個(gè)人計(jì)算機(jī)數(shù)據(jù)處理軟件。）中的數(shù)據(jù)限制。
PHE（英國公共衛(wèi)生局）使用自動(dòng)化流程將新冠肺炎陽性實(shí)驗(yàn)室結(jié)果作為CSV文件（Comma-Separated Values，字符分隔值/逗號分隔值。其文件以純文本形式存儲表格數(shù)據(jù)，數(shù)字和文本。純文本意味著該文件是一個(gè)字符序列，不含必須像二進(jìn)制數(shù)字那樣被解讀的數(shù)據(jù)。）傳輸?shù)綀?bào)告儀表盤和聯(lián)系人跟蹤所用的Excel模板中。不幸的是，Excel電子表格中每個(gè)工作表最多可以有1048576行16384列。此外，PHE以列而不是行的形式列出了案例。當(dāng)這些案例超過了16384列的限制時(shí)，Excel在底部截?cái)嗔?5841條記錄。
這個(gè)“小故障”并沒有阻止接受檢測的個(gè)人收到他們的結(jié)果，但它確實(shí)阻礙了接觸者追蹤工作，使得英國National Health Service (NHS，英國國家醫(yī)療服務(wù)體系。承擔(dān)著保障英國全民公費(fèi)醫(yī)療保健的責(zé)任。旨在為所有英國納稅人提供統(tǒng)一標(biāo)準(zhǔn)的醫(yī)保，是英國政府最大的福利支出。也是英國福利制度的象征。)更難識別和通知與受感染患者密切接觸的個(gè)人。在10月10日的一份聲明中，PHE（英國公共衛(wèi)生局）的臨時(shí)首席執(zhí)行官M(fèi)ichael Brodie（邁克爾·布羅迪）表示，NHS(英國國家醫(yī)療服務(wù)體系)檢測和追蹤系統(tǒng)以及PHE（英國公共衛(wèi)生局）迅速解決了這一問題，并立即將所有未決病例轉(zhuǎn)移到NHS(英國國家醫(yī)療服務(wù)體系)檢測與追蹤接觸者追蹤系統(tǒng)。
PHE（英國公共衛(wèi)生局）制定了一項(xiàng)“快速緩解措施”，可以拆分大型文件，并對所有系統(tǒng)進(jìn)行了全面的端到端審查，以防止未來發(fā)生類似事件。
五、醫(yī)療保健算法未能標(biāo)記出黑人患者
2019年，發(fā)表在《Science/科學(xué)》（是American Association for the Advancement of Science/美國科學(xué)促進(jìn)會，簡稱：AAAS，出版的一份學(xué)術(shù)期刊，為世界權(quán)威的學(xué)術(shù)期刊之一?！犊茖W(xué)》是發(fā)表最好的原始研究論文、以及綜述和分析當(dāng)前研究和科學(xué)政策的同行評議的期刊之一。該雜志于1880年由愛迪生投資1萬美元?jiǎng)?chuàng)辦，于1894年成為AAAS的官方刊物。全年共51期，為周刊，全球發(fā)行量超過150萬份。）雜志上的一項(xiàng)研究顯示，美國各地的醫(yī)院和保險(xiǎn)公司用來識別需要“high-risk care management/高風(fēng)險(xiǎn)護(hù)理管理”項(xiàng)目的患者的醫(yī)療預(yù)測算法，不太可能挑出黑人患者。
高風(fēng)險(xiǎn)護(hù)理管理項(xiàng)目計(jì)劃為慢性病患者提供訓(xùn)練有素的護(hù)理人員和初級保健監(jiān)測，以預(yù)防嚴(yán)重并發(fā)癥。但該算法實(shí)施起來發(fā)現(xiàn)，比起黑人患者，白人患者更有可能被推薦參加這些項(xiàng)目。
研究發(fā)現(xiàn)，該算法將醫(yī)療保健支出作為確定個(gè)人醫(yī)療保健需求的代理指標(biāo)。但根據(jù)《Scientific American/科學(xué)美國人》（是美國的一本科普雜志，始于1845年8月28日，起先是每周出版，后改為每月出版；作為《自然》的姐妹出版物，《科學(xué)美國人》涵蓋的受眾包括企業(yè)主、高級經(jīng)理人、決策者和意見領(lǐng)袖，與《自然》的學(xué)術(shù)受眾形成互補(bǔ)。）的說法，病情較重的黑人患者的醫(yī)療成本與更健康的白人患者的費(fèi)用不相上下，這意味著即使他們的需求更大，他們獲得的風(fēng)險(xiǎn)得分也更低。
該研究的研究人員認(rèn)為，可能有幾個(gè)因素起了作用。首先，有色人種的收入更有可能較低，即使他們有保險(xiǎn)，這也可能使他們不太可能獲得醫(yī)療保健。隱性偏見也可能導(dǎo)致有色人種獲得較低質(zhì)量的護(hù)理。
雖然該研究沒有指明算法或開發(fā)人員的名字，但研究人員告訴《Scientific American/科學(xué)美國人》，他們正在與開發(fā)者合作解決這一問題。
六、數(shù)據(jù)集訓(xùn)練微軟聊天機(jī)器人發(fā)布種族主義的推文
2016年3月，Microsoft（微軟，是一家美國跨國科技企業(yè)，1975年4月4日創(chuàng)立。公司總部設(shè)立在華盛頓州雷德蒙德/Redmond，鄰近西雅圖，以研發(fā)、制造、授權(quán)和提供廣泛的電腦軟件服務(wù)業(yè)務(wù)為主。最為著名和暢銷的產(chǎn)品為Windows操作系統(tǒng)和Office系列軟件，是全球最大的電腦軟件提供商、世界PC/Personal Computer/個(gè)人計(jì)算機(jī)，軟件開發(fā)的先導(dǎo)。）獲悉，使用推特交互作為機(jī)器學(xué)習(xí)算法的訓(xùn)練數(shù)據(jù)可能會產(chǎn)生令人沮喪的結(jié)果。
Microsoft（微軟）在社交媒體平臺上發(fā)布了人工智能聊天機(jī)器人Tay（微軟聊天機(jī)器人。微軟公司于2016年3月23日在推特社交平臺上發(fā)布的人工智能聊天機(jī)器人）。該公司將其描述為“對話理解”的實(shí)驗(yàn)。其想法是，聊天機(jī)器人將扮演一個(gè)十幾歲女孩的角色，并通過Twitter（推特，是一家美國社交網(wǎng)絡(luò)及微博客服務(wù)的公司，致力于服務(wù)公眾對話。）結(jié)合機(jī)器學(xué)習(xí)和自然語言處理與個(gè)人互動(dòng)。Microsoft（微軟）為它植入了匿名的公共數(shù)據(jù)和一些由喜劇演員預(yù)先編寫的材料，然后讓它從社交網(wǎng)絡(luò)上的互動(dòng)中學(xué)習(xí)和發(fā)展。
在16個(gè)小時(shí)后，這個(gè)聊天機(jī)器人發(fā)布了超過9.5萬條推文，這些推文很快就變成了公然的種族主義、厭女主義和反猶太主義。Microsoft（微軟）迅速暫停了這項(xiàng)服務(wù)進(jìn)行調(diào)整，并最終停止了服務(wù)。
事件發(fā)生后，Microsoft Research & Incubations/微軟研究與孵化公司副總裁(then corporate vice president of Microsoft Healthcare/時(shí)任微軟醫(yī)療保健公司副總裁)Peter Lee（皮特·李）在微軟官方博客上的一篇帖子中寫道：“我們對Tay無意中發(fā)出的攻擊性和傷害性推文深表歉意，這些推文既不代表我們是誰，也不代表我們的意圖，更不能代表我們是如何設(shè)計(jì)Tay的?！薄?/p>
Lee（李）指出，Tay的前身，Xiaoice（小冰，人工智能框架。是一套完整的、面向交互全程的人工智能交互主體基礎(chǔ)框架，又叫Avatar Framework/小冰框架。它包括核心對話引擎、多重交互感官、第三方內(nèi)容的觸發(fā)與第一方內(nèi)容生成，和跨平臺的部署解決方案。自發(fā)布以來，小冰框架是人工智能的技術(shù)創(chuàng)新，小冰是全球承載交互量最大的完備人工智能框架之一，技術(shù)覆蓋自然語言處理、計(jì)算機(jī)語音、計(jì)算機(jī)視覺和人工智能內(nèi)容生成等人工智能領(lǐng)域。小冰框架系統(tǒng)是微軟北京、蘇州及東京研發(fā)團(tuán)隊(duì)成就的世界上最具創(chuàng)新性的人工智能技術(shù)之一。）由Microsoft（微軟）于2014年在中國發(fā)布，在Tay發(fā)布之前的兩年里，已經(jīng)成功地與超過4000萬人進(jìn)行了對話。Microsoft（微軟）沒有考慮到的是，會有一群Twitter（推特）用戶會立即開始向Tay發(fā)表種族歧視和歧視女性的評論。該機(jī)器人很快就從這些材料中吸取了渣滓，并將其整合到自己的推文中。
“盡管我們已經(jīng)為系統(tǒng)的濫用做了許多準(zhǔn)備，我們也對這次具體的攻擊進(jìn)行了關(guān)鍵的監(jiān)督。但結(jié)果仍是，Tay在Twitter（推特）上發(fā)布了非常不恰當(dāng)和應(yīng)受譴責(zé)的文字和圖片，”Lee（李）寫道。
七、亞馬遜的人工智能招聘工具只推薦男性
和許多大公司一樣，Amazon（亞馬遜公司，簡稱亞馬遜，網(wǎng)絡(luò)電子商務(wù)公司。是美國最大的一家網(wǎng)絡(luò)電子商務(wù)公司，位于華盛頓州的西雅圖。是網(wǎng)絡(luò)上最早開始經(jīng)營電子商務(wù)的公司之一，亞馬遜成立于1994年，一開始只經(jīng)營網(wǎng)絡(luò)的書籍銷售業(yè)務(wù)，現(xiàn)在則擴(kuò)及了范圍相當(dāng)廣的其他產(chǎn)品，已成為全球商品品種最多的網(wǎng)上零售商和全球第二大互聯(lián)網(wǎng)企業(yè)，在公司名下，也包括了AlexaInternet、a9、lab126、和Internet Movie Database/互聯(lián)網(wǎng)電影數(shù)據(jù)庫，IMDB等子公司。亞馬遜及其它銷售商為客戶提供數(shù)百萬種獨(dú)特的全新、翻新及二手商品，如圖書、影視、音樂和游戲、數(shù)碼下載、電子和電腦、家居園藝用品、玩具、嬰幼兒用品、食品、服飾、鞋類和珠寶、健康和個(gè)人護(hù)理用品、體育及戶外用品、玩具、汽車及工業(yè)產(chǎn)品等。）渴求能夠幫助其人力資源職能部門篩選最佳候選人的工具。2014年，Amazon（亞馬遜）開始研發(fā)人工智能招聘軟件來做到這一點(diǎn)。但只有一個(gè)問題：該制度非常傾向于男性候選人。2018年，Reuters（路透社，是世界上最早創(chuàng)辦的通訊社之一，也是英國最大的通訊社和西方四大通訊社之一。路透社是世界前三大的多媒體新聞通訊社，提供各類新聞和金融數(shù)據(jù)，在128個(gè)國家運(yùn)行。路透社提供新聞報(bào)導(dǎo)給報(bào)刊、電視臺等各式媒體，并向來以迅速、準(zhǔn)確享譽(yù)國際。另一方面，路透社提供工具和平臺，例如股價(jià)和外幣匯率，讓交易員可以分析金融數(shù)據(jù)和管理交易風(fēng)險(xiǎn)；同時(shí)路透社的系統(tǒng)讓客戶可以經(jīng)由因特網(wǎng)完成買賣，取代電話或是紐約證券交易所的買賣大廳等人工交易方式，它的電子交易服務(wù)串連了金融社群。由德國人Paul Julius Reuter/保羅·朱利葉斯·路透1850年在德國亞琛創(chuàng)辦，次年遷往英國倫敦。）爆料稱Amazon（亞馬遜）已經(jīng)取消了該項(xiàng)目。
Amazon（亞馬遜）的系統(tǒng)給候選人的星級評分從1分到5分。但該系統(tǒng)核心的機(jī)器學(xué)習(xí)模型是根據(jù)提交給Amazon（亞馬遜）的10年簡歷進(jìn)行訓(xùn)練的——其中大部分來自男性。由于這些培訓(xùn)數(shù)據(jù)，該系統(tǒng)開始篩選簡歷中包含“女性”一詞的短語，甚至降級了所有女子學(xué)院的候選人。
當(dāng)時(shí)，Amazon（亞馬遜）表示，其招聘人員從未使用該工具來評估候選人。
該公司試圖編輯該工具，使其保持中立，但最終決定由于不能保證不會學(xué)習(xí)其他歧視性的候選人排序方式，最終結(jié)束了該項(xiàng)目。
八、目標(biāo)分析侵犯了隱私
2012年，零售巨頭Target（塔吉特公司，美國折扣店零售企業(yè)。前身為戴頓赫德森公司，于1962年成立，2000年改稱現(xiàn)名。公司以多樣化的零售方式為經(jīng)營策略，主營一般商品的零售業(yè)務(wù)。擁有折扣店100多家、社區(qū)型百貨店200多家和數(shù)十家高檔時(shí)尚店?？偛吭O(shè)在明尼蘇達(dá)州明尼阿波利斯。入選2023年《財(cái)富》美國500強(qiáng)排行榜，排名第33位。）的一個(gè)分析項(xiàng)目展示了公司可以從客戶的數(shù)據(jù)中了解到多少信息。據(jù)《New York Times/紐約時(shí)報(bào)》（有時(shí)簡稱為“The Times/時(shí)報(bào)”是一份在美國紐約出版的日報(bào)，在全世界發(fā)行，有相當(dāng)高的影響力，美國高級報(bào)紙、嚴(yán)肅刊物的代表。由于風(fēng)格古典嚴(yán)肅，它有時(shí)也被戲稱為“The Gray Lady/灰色女士”。它最初的名字是《The New-York Daily Times/紐約每日時(shí)報(bào)》，創(chuàng)始人是亨利·賈維斯·雷蒙德和喬治·瓊斯。）報(bào)道，2002年，Target（塔吉特）的營銷部門開始考慮如何確定顧客是否懷孕。這一調(diào)查路線開啟了一個(gè)預(yù)測性分析項(xiàng)目，這一項(xiàng)目導(dǎo)致該零售商無意中向一個(gè)十幾歲女孩的家人透露她懷孕了。這反過來又會導(dǎo)致各種各樣的文章和營銷博客引用這一事件作為避免“令人毛骨悚然的因素”建議的一部分。
Target（塔吉特）的營銷部門想要識別孕婦，因?yàn)樵谏哪承r(shí)期——其中最重要的是懷孕——人們最有可能從根本上改變他們的購買習(xí)慣。如果Target（塔吉特）能在那個(gè)時(shí)期接觸到客戶，舉個(gè)例子，它就可以在這些客戶身上培養(yǎng)新的行為，讓他們轉(zhuǎn)向Target（塔吉特）購買雜貨、衣服或其他商品。
和所有其他大型零售商一樣，Target（塔吉特）公司一直在通過購物者代碼、信用卡、調(diào)查等方式收集其客戶的數(shù)據(jù)。它將這些數(shù)據(jù)與人口統(tǒng)計(jì)數(shù)據(jù)和它購買的第三方數(shù)據(jù)相結(jié)合。通過對所有這些數(shù)據(jù)的綜合分析，使Target（塔吉特）的分析團(tuán)隊(duì)能夠確定，Target（塔吉特）銷售的大約有25種產(chǎn)品可以一起進(jìn)行分析，以生成“妊娠預(yù)測”分?jǐn)?shù)。然后，市場營銷部門就可以用優(yōu)惠券和市場營銷信息來瞄準(zhǔn)獲得高分的客戶。
進(jìn)一步的研究表明，研究客戶的生殖狀況可能會讓其中一些客戶感到毛骨悚然。據(jù)《New York Times/紐約時(shí)報(bào)》報(bào)道，該公司并沒有放棄其定向營銷，而是開始在廣告中混合他們知道孕婦不會買的東西——包括在尿布廣告旁邊的割草機(jī)廣告——以讓廣告組合對顧客來說感覺是隨意的。
作者：Thor Olavsrud（托爾·奧拉夫斯魯?shù)拢?/p>
Thor Olavsrud（托爾·奧拉夫斯魯?shù)拢镃IO.com供稿，包括數(shù)據(jù)分析、商業(yè)智能和數(shù)據(jù)科學(xué)方面。他目前住在紐約。
