科技界正熱議人工智慧代理將如何增強，甚至取代人類在職場中的作用。然而，現實中的代理型人工智慧距離其所承諾的未來還相去甚遠。當研究實驗室Anthropic讓一個人工智慧代理運營一家簡單的自動化商店時，結果如何？它虧了錢，憑空「想像」出一個虛構的銀行賬戶，還經歷了一場「身份危機」。全球的店主們可以暫時放心——至少目前如此。
Anthropic 開發了一些全球最強大的生成式人工智慧模型，助推了新一輪科技投資熱潮。值得稱道的是，該公司還通過對模型在現實世界中的應用進行壓力測試，揭示了其侷限性。在最近的一項名爲 Project Vend 的實驗中，Anthropic 與 AI 安全公司 Andon Labs 合作，在其舊金山總部運營了一臺自動售貨機。這項爲期一個月的實驗展現了一個「比我們預想的更加令人好奇」的共創世界。
您已閱讀23%（405字），剩餘77%（1373字）包含更多重要資訊，訂閱以繼續探索完整內容，並享受更多專屬服務。