“組織在針對(duì)客戶體驗(yàn)實(shí)施人工智能時(shí)可能犯的最大錯(cuò)誤之一是，將效率置于道德、人性化的互動(dòng)之上”。AI能夠復(fù)制甚至有時(shí)超越人類的能力。但這些技術(shù)必須遵循的道德原則是什么，人們在實(shí)踐中又是如何應(yīng)用它們呢？以確保AI技術(shù)能夠安全、可靠、公平地服務(wù)于人類。
圖源：Shutterstock
我們都有過這樣的經(jīng)歷。你的筆記本電腦壞了，你錯(cuò)過了航班，或者你需要打電話給保險(xiǎn)公司。你希望通過快速交談解決問題，但相反，你遇到的是一個(gè)沒有同情心的空洞聲音，給出照本宣科的問題和答案，讓你在一個(gè)又一個(gè)的選項(xiàng)列表中選擇，讓你比開始時(shí)更加沮喪。
在這樣破碎的客戶體驗(yàn)之后，你開始提出更難的問題，比如這種技術(shù)中可能嵌入了哪些偏見，它是如何處理我的數(shù)據(jù)的，它多久被審計(jì)一次以確保公平和透明，它真的能被教導(dǎo)以道德的方式行事嗎？
隨著人工智能在客戶服務(wù)中扮演更大的角色，這些問題變得越來越緊迫——首席信息官和其他高管也很清楚這一點(diǎn)。參與CX Network（是客戶體驗(yàn)行業(yè)中最知名的公司之一，成立于2012年，旨在支持專業(yè)人士縮小客戶期望和實(shí)際體驗(yàn)之間的差距。該公司通過提供廣泛的有洞察力的報(bào)告和視頻，以及吸引人的播客、網(wǎng)絡(luò)研討會(huì)和新聞，來推動(dòng)企業(yè)的領(lǐng)導(dǎo)力，從而徹底改變客戶服務(wù)行業(yè)。CX Network納入了營銷、數(shù)字、洞察力、服務(wù)和客戶體驗(yàn)領(lǐng)域的全球決策者，通過激發(fā)創(chuàng)新和項(xiàng)目突破，確定行業(yè)方向。該平臺(tái)主持認(rèn)證的網(wǎng)絡(luò)研討會(huì)和播客，向最相關(guān)的觀眾群轉(zhuǎn)達(dá)當(dāng)前的行業(yè)標(biāo)準(zhǔn)。此外，CX Network關(guān)于客戶體驗(yàn)的視頻和報(bào)告幫助營銷人員優(yōu)化他們的CX戰(zhàn)略并實(shí)現(xiàn)特定的業(yè)務(wù)目標(biāo)。）的Global State of CX 2024/《2024年全球客戶體驗(yàn)狀況》調(diào)查的來自世界各地的三分之二的客戶體驗(yàn)從業(yè)者、服務(wù)領(lǐng)導(dǎo)者、分析師和顧問都同意或強(qiáng)烈同意他們越來越關(guān)注人工智能的道德使用及其未來發(fā)展。
除此之外，38%的人認(rèn)為透明度是客戶今天最關(guān)心的問題之一，而55%的人強(qiáng)烈認(rèn)為數(shù)據(jù)隱私和安全是客戶的主要關(guān)注點(diǎn)。
人工智能正在迅速改變客戶服務(wù)，它不再僅僅是模仿人類的互動(dòng)，而是關(guān)于創(chuàng)造公平且感覺自然的體驗(yàn)。Royal Holloway, University of London（倫敦大學(xué)皇家霍洛威學(xué)院，?是一所位于英國大倫敦地區(qū)薩里郡艾格鎮(zhèn)的公立綜合性大學(xué)，簡稱“皇家霍洛威”或“RHUL”。該學(xué)院成立于1886年，維多利亞女王親自授予其皇家特許狀并主持了開校典禮。1900年，皇家霍洛威學(xué)院加入倫敦大學(xué)，成為獨(dú)立組成學(xué)院之一，專門進(jìn)行科學(xué)教學(xué)與研究的五所院校之一。）的數(shù)字營銷高級(jí)講師、數(shù)字組織和與社會(huì)研究中心主任Nisreen Ameen（尼斯林·阿明）說：“組織在針對(duì)客戶體驗(yàn)實(shí)施人工智能時(shí)可能犯的最大錯(cuò)誤之一是，將效率置于道德、人性化的互動(dòng)之上。”
印度Mudra Institute of Communications（MICA，?是位于印度艾哈邁達(dá)巴德的一所著名教育機(jī)構(gòu)，專注于營銷和傳播領(lǐng)域的教育和研究。MICA成立于1991年，被印度經(jīng)濟(jì)時(shí)報(bào)評(píng)為“最好的教育品牌”，并且在戰(zhàn)略營銷和傳播領(lǐng)域享有極高的國際聲譽(yù)，是全球排名前20的營銷學(xué)院之一。該機(jī)構(gòu)不僅在印度國內(nèi)，而且在國際上都有著廣泛的影響力，是印度乃至全球營銷教育的重要基地之一。）的AGK營銷主席教授Varsha Jain（瓦爾莎·賈恩）對(duì)此表示贊同?！叭祟惐仨汄?qū)動(dòng)人工智能，而人工智能不應(yīng)該驅(qū)動(dòng)人類，”她補(bǔ)充道。
對(duì)于負(fù)責(zé)增強(qiáng)客戶體驗(yàn)的CIO和其他高管來說，真正的挑戰(zhàn)在于教導(dǎo)AI更加人性化，并確保它以同情心和公平感來正確、有道德地行事。
一、制定一套原則
近年來，首席信息官和他們工作的公司已經(jīng)找到了幾種在客戶支持中利用人工智能的方法。尤其是銀行和其他金融機(jī)構(gòu)，正在整合人工智能以簡化客戶互動(dòng)并提高服務(wù)效率。例如，許多機(jī)構(gòu)使用人工智能驅(qū)動(dòng)的聊天機(jī)器人來處理日常任務(wù)，如查詢余額、交易歷史，甚至貸款申請(qǐng)，釋放出人類助手（崗位）來處理更復(fù)雜的問題。人工智能還被用于欺詐檢測，分析交易模式，并實(shí)時(shí)標(biāo)記可疑活動(dòng)，比手動(dòng)系統(tǒng)更快、更準(zhǔn)確。ING Group（International Netherlands Groups，ING荷蘭國際集團(tuán)。是一家全球化的金融服務(wù)集團(tuán)，源自荷蘭。它由Nationale-Nederlanden和NMB Postbank Group于1991年合并而成，擁有超過155年的歷史。ING Group的總部設(shè)在荷蘭阿姆斯特丹，在全球60多個(gè)國家擁有金融服務(wù)網(wǎng)絡(luò)，服務(wù)超過5000萬客戶。是全球排名第11大的資產(chǎn)管理公司。）的首席分析官巴Bahadir Yilmaz（巴哈迪爾·伊爾馬茲）表示，僅該跨國公司面向客戶的聊天機(jī)器人在荷蘭每天就能處理多達(dá)5000個(gè)查詢，并且它還增加了生成式人工智能功能以提高客戶滿意度和轉(zhuǎn)移率。
他補(bǔ)充說，ING在AI方面有這樣一套分步指導(dǎo)原則：
公平性——確保決策過程不受偏見影響。
可解釋性——確保目標(biāo)受眾能夠理解這些邏輯。
透明度——解釋并證明模型開發(fā)的整個(gè)過程。
責(zé)任性——為每個(gè)做出的決策確定責(zé)任。
安全性——確保模型不產(chǎn)生意外結(jié)果。
在人工智能開發(fā)過程中擁有健全的道德標(biāo)準(zhǔn)和政策可以有所幫助。Ameen（阿明）說：“這確保了道德考慮從一開始就融入人工智能系統(tǒng)的結(jié)構(gòu)中，而不是事后才想到?！?/span>
首席信息官以及首席技術(shù)官應(yīng)該倡導(dǎo)衡量他們的人工智能驅(qū)動(dòng)服務(wù)的人性化程度，因?yàn)橥ǔＧ闆r下，我們更傾向于改進(jìn)我們決定衡量的東西，Jain（賈恩）補(bǔ)充道。
二、建立人性化團(tuán)隊(duì)
許多組織在考慮在客戶服務(wù)支持中使用人工智能時(shí)是從削減成本的角度出發(fā)。但據(jù)AirHelp（是一家專門幫助乘客進(jìn)行航空索賠的公司。它成立于2013年，主要為遭遇航班延誤、取消或超額預(yù)訂的乘客提供服務(wù)，幫助他們進(jìn)行航空索賠。AirHelp的服務(wù)旨在“代替客戶處理整個(gè)索賠過程并包攬所有相關(guān)的文書工作”。該公司通過在線填寫包括個(gè)人信息和航班號(hào)的表格來幫助乘客索賠，如果乘客的航班被取消、延誤或者超額預(yù)訂，AirHelp將協(xié)助乘客進(jìn)行索賠。追回的賠款并不全歸客戶所有，AirHelp會(huì)收取賠款金額的25%作為服務(wù)傭金。）首席技術(shù)官Tim Boisvert（蒂姆·博斯韋爾特）稱，他們公司并非完全如此。
AirHelp幫助航空公司乘客獲得航班延誤、取消或超售的航班獲得賠償，其人工智能驅(qū)動(dòng)的聊天系統(tǒng)因能有效處理常見的與服務(wù)相關(guān)的詢問而受到認(rèn)可。
“我們基于聊天的人工智能客服的目標(biāo)不是取代人類，或減少我們對(duì)人類客戶服務(wù)代理的投資，”他說，“因此，我們沒有將其設(shè)置得讓客戶在需要時(shí)（AI客服）難以與人類交談。我們的客戶提出的很多問題都可以很容易地通過人工智能和機(jī)器人回憶起來，但我們已經(jīng)努力防止用戶感覺與我們的客戶服務(wù)代理隔閡?！?/span>
在設(shè)計(jì)基于聊天的人工智能系統(tǒng)時(shí)，有一個(gè)規(guī)則是要確切知道它能做什么和不能做什么，這樣才不會(huì)讓客戶感到沮喪。
“我們的客戶服務(wù)機(jī)器人旨在向客戶提供某些類型的信息，而不是陷入認(rèn)為有某種版本的機(jī)器人可以接近取代人類代理與人們之間關(guān)系的誘惑，”Boisvert（博斯韋爾特）說。構(gòu)建簡單的出口，或者在客戶尋找機(jī)器人無法輕易提供的東西時(shí)主動(dòng)將客戶引導(dǎo)給人類，這是該公司遵循的另一個(gè)原則。
AirHelp還使用其他人工智能驅(qū)動(dòng)的工具來解讀航空公司發(fā)送的有關(guān)客戶索賠狀態(tài)更新的自動(dòng)消息，或分析客戶上傳的登機(jī)牌和電子機(jī)票中的信息。
Boisvert（博斯韋爾特）說：“這兩項(xiàng)措施都大大減輕了我們代理的負(fù)擔(dān)，從他們的任務(wù)中去除了瑣碎的工作，使他們能夠更多地專注于在具有挑戰(zhàn)性或非標(biāo)準(zhǔn)的情況下直接與客戶合作。”
【睿觀：AirHelp本質(zhì)上是一個(gè)連接乘客與航空公司的平臺(tái)，它利用了歐盟等地關(guān)于航班延誤、取消和超售的嚴(yán)格規(guī)定。其商業(yè)模式主要包括以下幾個(gè)方面：
索賠服務(wù):
乘客提交信息:?乘客只需提供航班信息和其他相關(guān)細(xì)節(jié)，AirHelp就會(huì)評(píng)估其是否有資格獲得賠償。
評(píng)估和處理:?AirHelp的人工智能系統(tǒng)會(huì)對(duì)這些信息進(jìn)行初步篩選，并由專業(yè)團(tuán)隊(duì)進(jìn)行更深入的評(píng)估。
代表乘客索賠:?如果符合條件，AirHelp會(huì)代表乘客向航空公司提出索賠，并負(fù)責(zé)整個(gè)索賠過程。
成功收費(fèi):?只有在成功獲得賠償后，AirHelp才會(huì)從賠償金額中抽取一定比例的服務(wù)費(fèi)。
訂閱服務(wù):
AirHelp Plus:?提供更全面的服務(wù)，包括航班延誤的費(fèi)用報(bào)銷、法律援助等。
會(huì)員制:?通過會(huì)員訂閱，AirHelp可以獲得穩(wěn)定的收入來源，并為用戶提供更個(gè)性化的服務(wù)。
數(shù)據(jù)分析:
航班數(shù)據(jù):?AirHelp收集大量的航班數(shù)據(jù)，用于分析航班延誤的原因、航空公司的賠付情況等。
用戶數(shù)據(jù):?通過用戶行為分析，AirHelp可以更好地了解用戶的需求，優(yōu)化服務(wù)。
行業(yè)洞察:?這些數(shù)據(jù)還可以為航空公司提供有價(jià)值的反饋，幫助他們改善服務(wù)。
AirHelp的成功之處
AirHelp之所以能夠在市場上脫穎而出，主要得益于以下幾個(gè)方面：
自動(dòng)化流程:?人工智能的應(yīng)用大大提高了索賠處理的效率，縮短了處理時(shí)間。
專業(yè)團(tuán)隊(duì):?AirHelp擁有一支經(jīng)驗(yàn)豐富的法律團(tuán)隊(duì)，能夠處理復(fù)雜的索賠案件。
用戶體驗(yàn):?簡潔的用戶界面和透明的收費(fèi)標(biāo)準(zhǔn)，提升了用戶滿意度。
市場營銷:?通過社交媒體、搜索引擎優(yōu)化等方式，AirHelp成功地吸引了大量用戶。
AirHelp對(duì)航空業(yè)的影響
AirHelp的出現(xiàn)對(duì)航空業(yè)產(chǎn)生了深遠(yuǎn)的影響：
提升乘客權(quán)益意識(shí):?AirHelp的宣傳讓越來越多的乘客了解到自己的權(quán)利，并敢于維護(hù)自己的權(quán)益。
推動(dòng)航空公司改善服務(wù):?為了避免大量的賠償，航空公司不得不更加重視航班的準(zhǔn)點(diǎn)率和乘客服務(wù)。
促進(jìn)行業(yè)透明度:?AirHelp的索賠數(shù)據(jù)可以反映出不同航空公司的服務(wù)質(zhì)量，促進(jìn)行業(yè)的良性競爭。
總結(jié)：AirHelp的成功證明了科技創(chuàng)新在傳統(tǒng)行業(yè)中的巨大潛力。通過利用人工智能和大數(shù)據(jù)，AirHelp不僅為乘客提供了便利的服務(wù)，也促進(jìn)了航空行業(yè)的健康發(fā)展?！?/span>
ING的人工智能驅(qū)動(dòng)聊天機(jī)器人也與人類緊密合作。“ING有同事審查每一次對(duì)話，以確保系統(tǒng)不使用歧視性或有害的語言，或產(chǎn)生hallucinate（幻覺，指模型生成不基于實(shí)際數(shù)據(jù)或與現(xiàn)實(shí)顯著不同的內(nèi)容的現(xiàn)象。），”Yilmaz（伊爾馬茲）說，“無論人工智能如何部署，有一點(diǎn)始終是正確的，那就是人是我們流程的核心?！?/span>
目前，這是正確的做法，倫理學(xué)者們表示同意。“人工智能非常有幫助，但需要在人類的嚴(yán)格監(jiān)督下使用，”Jain（賈恩）說。
三、留意偏見
人工智能可以通過多種方式加以利用，包括用于客戶獲取目的。例如，ING使用生成式人工智能工具來創(chuàng)建個(gè)性化的營銷活動(dòng)，為外籍人士、年輕夫婦和Gen Z（Z世代，指的是1995年至2010年間出生的一代人。這一代人是在數(shù)字和移動(dòng)技術(shù)高度發(fā)達(dá)的環(huán)境下成長起來的，是歷史上第一個(gè)完全沉浸在數(shù)字和移動(dòng)技術(shù)下成長起來的群體。Gen Z的平均年齡在16歲到26歲之間，他們是美國歷史上最年輕、種族最多樣化、人數(shù)最多的一代，占美國人口的27%。Gen Z群體性格鮮明，對(duì)于出海品牌來說，是一個(gè)日益重要的受眾人群，他們的消費(fèi)習(xí)慣和行為模式將重塑未來的消費(fèi)模式并改變零售業(yè)的格局。）量身定制內(nèi)容和優(yōu)惠。“始終在客戶同意的情況下，”Yilmaz（伊爾馬茲）說。
ING和Commonwealth Bank of Australia/CBA（?澳大利亞聯(lián)邦銀行，?是澳大利亞最大的商業(yè)銀行之一，總部位于悉尼。該銀行成立于1912年，擁有悠久的歷史和豐富的金融經(jīng)驗(yàn)。澳大利亞聯(lián)邦銀行在全球范圍內(nèi)擁有大量的客戶和業(yè)務(wù)，致力于為客戶提供高質(zhì)量的金融服務(wù)。銀行注重創(chuàng)新和科技投入，不斷推出新的金融產(chǎn)品和服務(wù)，以滿足客戶的需求。業(yè)務(wù)范圍廣泛，包括個(gè)人銀行業(yè)務(wù)、商業(yè)銀行業(yè)務(wù)、機(jī)構(gòu)銀行業(yè)務(wù)以及財(cái)富管理等多個(gè)領(lǐng)域。該銀行還積極拓展海外業(yè)務(wù)，尤其是在亞太地區(qū)，如中國、印度、印尼和越南等，通過參股、并購等方式擴(kuò)大其影響力。）都使用人工智能驅(qū)動(dòng)的工具來提高網(wǎng)絡(luò)安全，并為他們的客戶創(chuàng)造更安全的銀行體驗(yàn)，特別是那些處于弱勢環(huán)境中的客戶。
“我們可以掃描不尋常的交易活動(dòng)，識(shí)別被認(rèn)為是高風(fēng)險(xiǎn)的模式和實(shí)例，以便銀行可以進(jìn)行調(diào)查和采取行動(dòng)?！?/span>CBA人工智能實(shí)驗(yàn)室卓越中心負(fù)責(zé)人Luiz Pizzato（路易斯·皮扎托）表示，“我們已經(jīng)使用人工智能來保護(hù)客戶免受欺詐和詐騙，實(shí)時(shí)響應(yīng)自然災(zāi)害地區(qū)的客戶，甚至通過我們的福利查找工具，將客戶與他們有權(quán)獲得的超過12億美元的政府福利和退稅聯(lián)系起來?！?/span>
在處理客戶數(shù)據(jù)的情況下，組織應(yīng)該優(yōu)先考慮用戶隱私和數(shù)據(jù)保護(hù)，確保組織符合最新的法規(guī)。
同樣至關(guān)重要的是確保用戶隱私和數(shù)據(jù)保護(hù)始終是核心焦點(diǎn)?！坝捎谌斯ぶ悄芟到y(tǒng)通常依賴于大量的個(gè)人數(shù)據(jù)，保護(hù)這些信息對(duì)于維護(hù)信任和維護(hù)道德標(biāo)準(zhǔn)至關(guān)重要。”Ameen（阿明）說，“這意味著要實(shí)施嚴(yán)格的數(shù)據(jù)保護(hù)措施，并對(duì)數(shù)據(jù)使用保持透明。”
另一個(gè)重要的焦點(diǎn)應(yīng)該是確保人工智能的開發(fā)、決策和應(yīng)用的包容性。這意味著讓多元化的團(tuán)隊(duì)參與創(chuàng)建人工智能系統(tǒng)，并使用廣泛的數(shù)據(jù)和觀點(diǎn)來訓(xùn)練和改進(jìn)它們。
當(dāng)然，組織需要致力于定期測試他們的人工智能是否存在任何潛在的偏見，并采取措施來糾正它們——首席信息官應(yīng)該對(duì)此保持警惕。“偏見可能在人工智能開發(fā)和部署的各個(gè)階段悄然潛入，從數(shù)據(jù)收集到算法設(shè)計(jì)，”Ameen（阿明）說，“定期審計(jì)和偏見測試應(yīng)該是一個(gè)持續(xù)的過程，要有相應(yīng)的機(jī)制來解決和糾正發(fā)現(xiàn)的任何偏見?！?/span>
四、讓人工智能具有代表性
當(dāng)涉及到使用人工智能來增強(qiáng)客戶體驗(yàn)時(shí)，領(lǐng)導(dǎo)者所承擔(dān)的責(zé)任是巨大的。Ameen（阿明）說：“首席信息官和高管們可以通過在領(lǐng)導(dǎo)層面倡導(dǎo)道德舉措并培養(yǎng)負(fù)責(zé)任的創(chuàng)新文化來實(shí)現(xiàn)更人性化的人工智能。”他補(bǔ)充說，他們應(yīng)該與人工智能專家密切合作，并為所有員工投資包容性道德培訓(xùn)。
“至關(guān)重要的是，高管們必須在人工智能開發(fā)團(tuán)隊(duì)中優(yōu)先考慮多樣性，例如，積極雇用在人工智能工作中代表性不足的女性和少數(shù)族裔人士，”她表示，“確保在人工智能相關(guān)決策和代表性數(shù)據(jù)集中具有多樣化的觀點(diǎn)對(duì)于創(chuàng)建公平、無偏見的人工智能系統(tǒng)的關(guān)鍵，這些系統(tǒng)能夠有效地為所有用戶服務(wù)?！?/span>
由于我們在教導(dǎo)人工智能變得人性化方面還不是特別高效，因此實(shí)施機(jī)制以收集關(guān)于人工智能驅(qū)動(dòng)的客戶交互的反饋并增強(qiáng)這種能力變得更加重要。
她說：“這包括實(shí)時(shí)反饋選項(xiàng)、專注于人工智能體驗(yàn)的客戶調(diào)查，以及對(duì)服務(wù)日志的分析。”建立焦點(diǎn)小組和專門的渠道來報(bào)告與人工智能相關(guān)的問題可以幫助獲得關(guān)于何時(shí)應(yīng)解決道德問題的寶貴見解。
Boisvert（博斯韋爾特）補(bǔ)充說，首席信息官、首席技術(shù)官和首席執(zhí)行官不應(yīng)該從人工智能可以簡單地取代事物的假設(shè)開始，然后發(fā)現(xiàn)在某些情況下，人工智能根本不合適。他建議從另一個(gè)極端開始：假設(shè)沒有人工智能能像人類一樣人性化。
“尋找提供小或邊際價(jià)值的具體場景，并將其整合進(jìn)去，”Boisvert（博斯韋爾特）說，“永遠(yuǎn)不要讓工作流程完全依賴人工智能，以至于基于人工智能的系統(tǒng)與客戶的任何直接通信都不能由人類審查和批準(zhǔn)?！?/span>
Yilmaz（伊爾馬茲）同意這一觀點(diǎn)，他說人工智能不是立即釋放商業(yè)利益的解決方案。
“如果你有一個(gè)無法運(yùn)行的業(yè)務(wù)流程，注入人工智能元素只會(huì)讓事情更加復(fù)雜，限制價(jià)值實(shí)現(xiàn)，”他補(bǔ)充說，“當(dāng)業(yè)務(wù)、技術(shù)、數(shù)據(jù)和分析團(tuán)隊(duì)共同努力簡化流程并創(chuàng)造我們客戶想要的體驗(yàn)時(shí)，才會(huì)創(chuàng)造真正的價(jià)值。”
作者：Andrada Fiscutean（安德拉達(dá)·菲斯庫坦）
國際科技記者，在Ars Technica、Vice Motherboard、ZDNet、Nature、CSO Online等網(wǎng)站上發(fā)表專題報(bào)道。擁有超過20年的電臺(tái)記者工作經(jīng)驗(yàn)，10年的科技記者工作經(jīng)驗(yàn)和4年的電視新聞配音工作經(jīng)驗(yàn)。
譯者：寶藍(lán)
