威廉斯(Robert Williams)住在底特律郊外，今年6月某天在家被警方逮捕，理由是臉部識別軟體認爲他涉嫌一起偷竊案——一名黑人闖入珠寶店，偷走了一些手錶。閉路電視攝影機只拍到一點點嫌犯，而且非常不清楚。雖然警方知道，他們所使用的臉部識別軟體有高達96%的錯誤率，而且軟體也顯示，對威廉斯只有六七成的把握，警方依舊去逮捕他，而且將之拘留了30個小時，直到他被證明無辜。這個事件曝露了AI的偏差，認爲大多數的嫌犯可能是寬鼻樑、低眉毛，從偏見出發，導致臉部識別軟體錯誤百出。
AI怎麼可能有偏見？麥克阿瑟「天才獎」得主Trevor Paglen 今年9月在倫敦佩斯畫廊(Pace)的個展直接面對這個問題。從AI的訓練過程出發，探討「受訓過」的AI如何反映並延續了種族主義、父權制和階級分化等社會不平等。不論是治安單位，還是大型企業，利用AI做臉部識別以及監控可能導致什麼危險。
被Artnet 稱爲「超級英雄式的實證主義藝術家」，Paglen的專長是透過看得見，來調檢視不見的。他不但爲了親眼看到埋在海底的網路電纜而去學潛水，還由於對美國公安局的「深入觀察」，參與史諾登紀錄片《第四公民》（Citizenfour）的拍攝。 他在佩斯畫廊展覽的主題是《盛開》。「這是我在今年春天，當世界充滿危機，充滿了恐懼悲傷時創作的。疫情不但揭露生命的脆弱，也揭露出制度的脆弱。」Paglen在越洋電話中解釋，他所住的紐約雖然像個空城，但春天的花朵壓倒性地綻放，呈現出大自然的爆發力。「在藝術史上，花朵代表了多層的意義，既可能象徵脆弱，生命的短暫，也能夠代表生命的降臨。」然而，不像在公園所看到的，展覽中花朵看起來相當不自然，尤其是它的顏色。Paglen 解釋，花朵的顏色是AI分析了不同的影像之後所生成的，是AI眼中而不是現實生活中的顏色。