作者：凱文?麥克勞克林、艾倫?霍爾姆斯

　　長期以來，IBM、賽富時等企業都會在官網部署聊天機器人，用于接待訪客并輔助其獲取更多產品相關信息。近年來，生成式人工智能為這類聊天機器人注入了新活力，使其不再局限于套用預設好的少量固定回復。

　　但部分技術供應商卻難以約束這些人工智能聊天機器人，導致它們頻頻偏離預設主題。例如，本月早些時候，估值達 100 億美元的初創企業 Sierra 就曾向蓋璞公司致歉。該公司由前賽富時首席執行官布萊特?泰勒聯合創立，其開發的軟件為蓋璞官網聊天機器人提供技術支持，然而這個聊天機器人卻在回復中涉及了情趣用品、性玩具以及納粹德國等本不該觸碰的話題。

　　本周一，我還發現，人工智能搜索初創企業 Glean，以及主營軟件開發人員應用代碼管理服務的 AutoRabit 公司，其官網聊天機器人同樣會回應與自身業務毫無關聯的問題。

　　當被問及一場 20 人左右的節日派對需要購置多少伏特加時，Glean 的聊天機器人建議購買 2 至 3 瓶。它還會回應派對賓客若不慎受傷該如何處理的醫療及法律咨詢請求。AutoRabit 的聊天機器人則更為 “肆無忌憚”，在被問及裸蓋菇素（俗稱 “魔法蘑菇”）相關問題時，它甚至建議初次使用者服用較小劑量。

　　盡管這些聊天機器人并未就此類話題提供深入解答，但按理來說，它們本就不該回應這類問題。這種隨意作答的情況表明，相關企業或許需要對聊天機器人進行優化調整，以避免產生不當回復。（Glean 公司發言人回應稱，涉事聊天機器人并非由該公司技術提供支持，且企業已升級 “安全防護與管控措施，確保非業務相關回復被過濾，杜絕此類事件再次發生”。）

　　在線訂餐平臺 OpenTable 的客戶服務聊天機器人則顯得克制得多，對于與餐廳無關的話題，它大多會拒絕回應。不過，當被問及一場 20 人左右、參與者均為海量飲酒者的派對需要準備多少龍舌蘭酒時，它還是給出了答復 ——“數瓶即可”。

　　這些案例表明，即便生成式人工智能熱潮已席卷三年，部分企業在將這項技術整合到自身產品的過程中，仍在解決一些基礎性的技術缺陷。

　　微軟小娜 “擠進” 千家萬戶的電視屏幕

　　微軟小娜的用戶規模不及其他人工智能聊天機器人 —— 據企業公布的數據顯示，其月活躍用戶約為 1 億，而 ChatGPT 的月活用戶已超 8 億。不過，微軟與 LG 電子達成的一項全新合作，正將這款應用推向數百萬臺電視終端。

　　但問題在于，部分用戶并非真心希望自家電視上出現小娜應用。令他們倍感沮喪的是，這款應用無法被卸載。上周末，已有數千名紅迪網用戶吐槽了這一問題。

　　LG 電子在宣傳材料中將這項新功能描述為 “便捷的節目搜索工具”，例如用戶可以向小娜提問 “有哪些體育賽事可以觀看”，它會給出 “NBA 季后賽” 等相關答案。

　　從理論上看，消費者理應會覺得這項功能實用便捷，但目前尚難判斷，由此引發的用戶不滿是否會讓這次合作得不償失。—— 艾倫?霍爾姆斯