FT商學院

我們是AI機器中的新搗蛋鬼

用戶在現實世界中對產品的使用方式,往往與設計者的初衷大相徑庭。

我有一位親戚在新冠疫情期間曾在醫療服務熱線工作,聽到過一些奇怪的故事。她的工作是幫助來電者完成在封鎖期間被數百萬人使用的快速側向流檢測。但有些來電者顯然對操作流程感到困惑。「我已經把試管裏的液體喝下去了。接下來我該怎麼辦?」有一位來電者這樣問道。

這種用戶困惑或許正是一個常見技術難題的極端例子:普通人在現實世界中使用某項產品或服務的方式,往往與設計者在實驗室中的設想大相徑庭。

有時候,這種誤用可能是有意爲之,無論結果好壞。例如,倡導組織無國界記者組織(Reporters Without Borders)曾試圖通過在《Minecraft》遊戲伺服器上隱藏被禁內容,來保護幾個專制國家的言論自由。與此同時,犯罪分子則利用家用3D印表機製造無法追蹤的槍枝。不過,大多數情況下,誤用是無意的,比如新冠檢測。我們可以稱之爲「無意誤用問題」,簡稱「小惡魔」(imp)。如今,機器中的新搗蛋鬼,或許正是聊天機器人的「小惡魔」。

您已閱讀24%(402字),剩餘76%(1241字)包含更多重要資訊,訂閱以繼續探索完整內容,並享受更多專屬服務。
版權聲明:本文版權歸FT中文網所有,未經允許任何單位或個人不得轉載,複製或以任何其他方式使用本文全部或部分,侵權必究。
設置字型大小×
最小
較小
默認
較大
最大
分享×