隨著智能AI的飛速發(fā)展，以下是一些選擇人工智能智能體構建平臺的建議，以便您、您的團隊以及供應商能夠同時開展創(chuàng)新。
圖源：Shutterstock / Ground Picture
作為一名首席信息官，今年您的IT團隊很可能正迅速從評估和部署獨立的第三方人工智能軟件包，轉向在面向客戶和內部的業(yè)務應用程序中集成定制的人工智能智能體，以實現(xiàn)更高的自動化水平和工作效率。
他們可能正在使用至少一個人工智能代理構建平臺，甚至可能還有其他幾個平臺。由于包括人工智能智能體構建平臺在內的所有人工智能工具都在不斷創(chuàng)新和更新，而且通常是每日更新，因此在選擇這些工具并確定一個常用平臺時，有幾件事值得牢記。鑒于此，以下是一些需要考慮的要點，這些要點超越了功能和價格等基本因素，但仍可能是成功的關鍵決定因素。
如果從智能體構建環(huán)境本身說起，智能體供應商通常在實踐過程中不斷學習和創(chuàng)新。他們通常對LLM（大型語言模型。是使用深度學習算法處理和理解自然語言的基礎機器學習模型。這些模型在大量文本數(shù)據(jù)上進行訓練，以學習語言中的模式和實體關系。LLM可以執(zhí)行多種類型的語言任務，例如翻譯語言、分析情緒、聊天機器人對話等。）供應商和模型非常熟悉，了解不同模型的優(yōu)缺點。然而，他們可能在用戶界面和以客戶為中心的構建環(huán)境方面技能較少。他們的整個工作室環(huán)境可能經(jīng)常變化，所以您可能在創(chuàng)建智能體的同時，還要遷移到他們工作室的新版本。
確保他們的環(huán)境直觀易用，便于在其中測試智能體，并且為智能體提供諸如短期和長期記憶等增強選項。此外，還應具備負責任人工智能的功能——可反思性、基于事實性和上下文相關性，以及安全人工智能的功能——公平性與無偏差性、toxicity check（是指檢測智能體在生成內容時是否包含有毒內容的過程。有毒內容可能包括仇恨言論、侮辱性語言或其他不道德的表述，這些內容可能會對用戶造成負面影響。為了確保智能體生成的內容安全、無害，toxicity check 成為了一個重要的環(huán)節(jié)。）、human-in-the-loop（人在回環(huán)/人在回圈/人機回圈等。具體來說就是設計某種機制讓機器/算法和人互動協(xié)作來更好的處理某件事情。針對智能產(chǎn)品的設計而言，這個概念被引入所要解決的問題就是在算法準確率跟用戶要求還有不小差距的情況下，將人引入到這個循環(huán)中，讓人去處理算法拿不準的問題，通過修正、提供反饋、輸入更多知識來彌補或改進算法，共同完成任務。在這個互動過程中讓人和機器發(fā)揮各自的優(yōu)勢，相互增強。）和PII redaction（個人身份信息刪除，?是指在使用智能體處理數(shù)據(jù)時，自動識別并刪除個人身份信息/PII的過程。這一過程對于保護個人隱私和數(shù)據(jù)安全至關重要。）。您還需要能夠一目了然地查看作為訂閱一部分的已使用積分情況，以及一些增值功能，例如使用人工智能改進智能體角色和指令的能力。
二、詳盡的API文檔
一旦在人工智能智能體構建平臺中構建好智能體，下一步就是使用API（應用程序編程接口，是一些預先定義的函數(shù)，目的是提供應用程序與開發(fā)人員基于某軟件或硬件的以訪問一組例程的能力，而又無需訪問源碼，或理解內部工作機制的細節(jié)。）調用，將這些智能體集成到您自己的應用程序中。不僅要尋找詳細的API層面文檔，還要有更高級別的信息，例如動態(tài)配置智能體的步驟說明等。清晰的文檔能夠幫助您的信息技術團隊快速上手，了解從環(huán)境設置、RAG（即檢索增強生成，是一種自然語言處理模型，旨在改進各種NLP任務的表現(xiàn)，包括問答、摘要生成等。）創(chuàng)建與訓練、智能體創(chuàng)建到智能體交互與查詢的必要步驟順序。
他們還需要關于如何監(jiān)控和報告token（令牌，在計算機科學和自然語言處理/NLP中，是指文本被分解成的最小單位或基本元素。這些單位可以是單詞、詞組、標點符號、字符或子詞。在NLP中，tokens是模型處理文本的基本單位，用于幫助機器理解和處理自然語言。）使用情況的清晰文檔，以及如何監(jiān)控和顯示歷史查詢、人工智能智能體性能、安全性能以及與其他系統(tǒng)的集成情況。有了這些信息，通?？梢詫㈤_發(fā)和測試時間減半，因為您的IT團隊和智能體供應商之間為解決問題和疑問而進行的來回溝通會大大減少。
三、獲取專業(yè)服務和支持
由于智能體構建環(huán)境因持續(xù)創(chuàng)新而不斷變化，供應商提供專業(yè)服務和支持非常重要，這樣他們就能在實施過程中協(xié)助您的團隊，這有助于增強對其技術的信心并建立信任。
尋找那些提供豐富支持且愿意與您的團隊合作，幫助您完成智能體開發(fā)的供應商。如果您能夠接觸到他們的領導團隊，那就更好了，他們可以就如何最佳利用其平臺以及如何利用各種計劃提供戰(zhàn)略建議，如與AWS（亞馬遜云計算服務，是亞馬遜提供的是全球最全面、應用最廣泛的云平臺，從全球數(shù)據(jù)中心提供超過 200 項功能齊全的服務。）的合作計劃及其自身的聯(lián)盟計劃。
四、確保系統(tǒng)正常運行時間
人工智能智能體基礎設施的系統(tǒng)正常運行時間通?？梢酝ㄟ^API調用進行監(jiān)控，這對成功部署至關重要。由于許多人工智能智能體構建平臺都是初創(chuàng)公司，您可能會發(fā)現(xiàn)，在他們遷移到平臺的新版本，或者對API、智能體、RAG以及工具環(huán)境進行其他更改時，環(huán)境偶爾會出現(xiàn)一些停機時間。
尋找內置的監(jiān)控方式，例如通過API調用，或者能夠輕松聯(lián)系公司人員進行故障排除的方式。在人工智能智能體性能監(jiān)控方面，您需要關注響應時間、準確性和智能體可用性。關于錯誤率，要檢查智能體遇到的錯誤頻率和類型，例如錯誤響應、hallucinations（幻覺，指模型生成不基于實際數(shù)據(jù)或與現(xiàn)實顯著不同的內容的現(xiàn)象。）以及信息檢索錯誤。在某些情況下，智能體可能會丟失上下文信息，因此查看短期和長期記憶等設置，并確切了解智能體在其上下文記憶中保留多少推理信息非常重要。
五、探索產(chǎn)品路線圖
在解決了構建和部署生產(chǎn)級智能體的上述考量因素后，您還需要探究供應商的產(chǎn)品路線圖。例如，如果他們的智能體目前僅提供文本輸出，他們是否有計劃發(fā)展為支持音頻、圖像和視頻的多模態(tài)輸出？在您自己的部署中是否可能會需要這一功能？
對第三方工具的支持和集成能力也至關重要。例如，如果供應商的智能體目前支持與用于社交媒體發(fā)布的X（是由埃隆·馬斯克創(chuàng)建的一個社交媒體平臺，前身為推特。2023年7月23日，馬斯克宣布將推特更名為X，并更新了平臺標識。X平臺目前主要面向美國用戶，提供了“沉浸式視頻之家”功能，用戶可以通過滑動屏幕翻閱系統(tǒng)推薦的短視頻，體驗與TikTok等平臺相似的短視頻信息流服務。）工具集成，他們是否有計劃支持與LinkedIn（領英，啟動于2003年5月，是一個面向職場的社交平臺，總部設于美國加利福尼亞州的森尼韋爾。該公司于2011年5月20日在紐約證券交易所上市。網(wǎng)站的目的是讓注冊用戶維護他們在商業(yè)交往中認識并信任的聯(lián)系人，俗稱“人脈”。用戶可以邀請他認識的人成為“Connections/關系”圈的人。截至2020年5月，領英的用戶總量已經(jīng)達到6.9億以上，在中國擁有超過5000萬名用戶。2014年2月25日，領英簡體中文版網(wǎng)站正式上線，并宣布中文名為“領英”。）集成？在推出新功能時，他們是否有現(xiàn)成的示例？
好消息是，人工智能智能體構建平臺正日益完善，界面更直觀、文檔更豐富、集成性更強且用例更多。創(chuàng)新的步伐令人驚嘆，公司創(chuàng)始人常常天不亮就開始工作，只為跟上發(fā)展的節(jié)奏。如果您與一個強大的人工智能智能體構建平臺合作，就能讓您的信息技術團隊減少在人工智能底層技術方面的精力投入，更多地專注于業(yè)務規(guī)則、用戶界面以及集成工作，這些將確保您的智能體部署取得成功。
作者：Nicholas D. Evans（尼古拉斯·D·埃文斯）
Nicholas D. Evans（尼古拉斯·D·埃文斯）是Thinkers360的創(chuàng)始人，Thinkers360是全球首屈一指的B2B思想領袖和影響者市場，也是專門從事創(chuàng)新管理和新興技術的咨詢公司Innovators360的創(chuàng)始人。他是《Consulting Magazine/咨詢雜志》終身成就獎獲得者，之前曾擔任普華永道、畢馬威、Unisys和Gartner的高管。
譯者：寶藍
【睿觀：選擇人工智能智能體構建平臺時，除了基本的功能和價格因素外，還需要考慮以下幾個關鍵因素，以確保您、您的團隊和供應商能夠高效協(xié)作，推動創(chuàng)新：
評估智能體構建環(huán)境：?確保平臺環(huán)境直觀易用，提供必要的增強選項（如記憶功能），具備負責任和安全人工智能的特性，并且能夠清晰地展示使用情況和提供增值功能。
詳盡的API文檔：?平臺需要提供詳細的API文檔，包括高級別的配置說明，幫助您的IT團隊快速上手并高效地集成智能體。文檔還應包含監(jiān)控和報告token使用情況、查詢歷史、智能體性能、安全性能以及與其他系統(tǒng)集成的信息。
獲取專業(yè)服務和支持：?選擇提供豐富支持并愿意與您的團隊合作的供應商，他們能夠協(xié)助您完成智能體開發(fā)，增強您對技術的信心。如果能夠接觸到他們的領導團隊，獲取戰(zhàn)略建議，那就更理想了。
確保系統(tǒng)正常運行時間：?監(jiān)控人工智能智能體基礎設施的系統(tǒng)正常運行時間至關重要。選擇具有內置監(jiān)控功能或易于聯(lián)系支持人員進行故障排除的平臺。關注響應時間、準確性和智能體可用性等性能指標，并檢查錯誤率、幻覺和信息檢索錯誤等問題。
探索產(chǎn)品路線圖：?了解供應商的產(chǎn)品路線圖，例如是否計劃支持多模態(tài)輸出、第三方工具集成等。選擇與您的需求和未來發(fā)展方向一致的平臺。
人工智能智能體構建平臺正在不斷發(fā)展，選擇一個強大的平臺將有助于您的IT團隊減少在底層技術方面的投入，更多地關注業(yè)務規(guī)則、用戶界面和集成工作，從而確保智能體部署的成功?！?/span>
