人工智慧

殺手機器人將是人類噩夢

FT社評:人工智慧發展之快,可以想見機器將可完全代替人類進行殺戮,並將提升國家發動戰爭的意願。人工智慧的性質使人無法預見自動武器發展的終點。不管進行多少精密的編程,也無法限制其後果。最好不要踏上這樣的旅程。

人類是一個嗜血的物種。根據學者史蒂文•平克(Steven Pinker)的說法,在歷史的大部分時間裏,被同類所殺是人類的頭號死因。文明基本上是人的暴力本能被逐漸束縛住的故事。其中一個部分是有血有肉的人持續從戰場撤出,前線逐漸被遠距武器和空中軍事力量拉遠,公衆對於傷亡的容忍程度也下降了。

可以說,美國的主要進攻武器是無人機,操縱者安坐於千里之外對目標進行打擊。考慮到技術進步之快,無需腦洞大開,我們就能預見到機器將可完全代替人類進行殺戮。在迄今仍被視爲人類專屬的活動領域裏,人工大腦已有良好表現。電腦將被交託駕駛汽車或者診斷疾病的任務。因此,在做出殺戮的決策上,演算法智慧或許也將超越人類智慧。

這種可能性,促使1000多名人工智慧專家在一封公開信中呼籲立即停止發展「致命自動武器系統」。他們敦促稱,現在就行動,否則被他們不可避免地稱爲「殺手機器人」的武器將和卡拉什尼科夫步槍(Kalashnikov,即AK-47)一樣廣爲流傳並造成同樣致命的危害。

您已閱讀37%(422字),剩餘63%(731字)包含更多重要資訊,訂閱以繼續探索完整內容,並享受更多專屬服務。
版權聲明:本文版權歸FT中文網所有,未經允許任何單位或個人不得轉載,複製或以任何其他方式使用本文全部或部分,侵權必究。
設置字型大小×
最小
較小
默認
較大
最大
分享×