全球領先的人工智慧公司正面臨一項難題：如何讓AI模型準確展示其運作機制。專家指出，這一問題將是未來監管強大AI系統的關鍵所在。
Anthropic、谷歌、OpenAI和伊隆•馬斯克(Elon Musk)的xAI等科技集團開發了一種名爲「思維鏈」的技術，要求它們的人工智慧「推理」模型一步一步地解決問題，同時展示它們是如何計算出對查詢的回應的。
雖然各家公司研究人員表示，這一過程確實帶來了許多有價值的洞見，幫助他們開發出更優的AI模型，但他們也發現了一些「行爲異常」的情況——即生成式AI聊天機器人給出的最終回答，與其推理過程中展現出的步驟和邏輯並不一致。
您已閱讀16%（276字），剩餘84%（1445字）包含更多重要資訊，訂閱以繼續探索完整內容，並享受更多專屬服務。