【產業趨勢】當AI出現偏見，人類該如何應對？
隨著AI越來越蓬勃發展，一股反省AI的影響、以及討論「人性化AI」的思潮也開始崛起，AI可能存在偏見，是研究人員最戒慎恐懼的問題之一。AI會有偏見嗎？那這個偏見是如何產生的呢？當偏見產生後，人類又該如何應對？
讓AI負責任、有道德！
微軟近期宣佈將暫停銷售能夠預測情緒、性別或年齡的臉部辨識技術，並計畫逐步從現有用戶中淘汰此服務，以避免歧視和不公平等潛在問題。其實早在兩年前，微軟便開始發起調查以制定「負責任的AI標準」，最近則發表了《微軟負責任AI標準第二版》，揭露對AI偏見的調查結果。
微軟臉部辨識AI已被企業用於面試評估等場景之中，然而該技術大多是以白人男性的資料為基礎開發，當涉及到不同種族或性別時可能導致有偏見的判斷和歧視。人們表達自己的方式依照文化、地區、個體的不同，其實存在相當大的差異，這導致基於資料限制情況訓練出來的AI判斷可能不夠準確，如果依照臉部表情判斷情緒則會出現更大的問題。此外，AI的性別判斷通常是男或女二擇一，這與美國當前多元性別的價值觀相互矛盾。因此，微軟計畫限制臉部辨識技術的使用，以確保一切遵守他們的AI道德準則。藉由相關限制，也替人臉辨識的使用及部署增加一道額外的審查程序，以確保它們符合微軟的AI標準，從而使社會及高價值用戶受益。
AI辨識問題重重，歐美開始加強規範
多年來，關於AI偏見問題的爭議一直存在。微軟曾在推特上發布聊天機器人Tay和網友互動，希望在對話過程中提高AI能力，然而不到一天便因為吸收網路上的極端言論，變成支持納粹、種族歧視的AI而被迫下架。微軟的Azure Face API等辨識工具被諸多學者和專家認為不太準確，容易誤判女性及有色人種。亞馬遜先前也曾爆出，內部曾經嘗試開發一套篩選履歷的AI，但因為吸收了過往亞馬遜招募時重男輕女的傾向，只要是女性求職者便會被降低權重，這嚴重問題也導致其從未被實際應用。
雖然微軟不再銷售用於判斷情緒、性別及年齡的人臉辨識技術，但這些技術仍然被用於研發Seeing AI技術來幫助視覺障礙人士了解周遭環境，用語音方式描述周圍的物體，以便視障者掌握其身處的環境。微軟也在企業通訊軟體Teams中加入情緒分析功能，幫助用戶確定其客戶可能的反應。
隨著AI技術的應用越來越廣泛，歐美國家紛紛開始制定法規，更嚴格地對AI進行審視。歐盟將自駕技術、AI招募、銀行貸款、入學評核等領域確定為可能影響人們基本權利的「高風險」領域。未來，各公司在採用人臉辨識技術產出應用的同時，都必須要小心相關規範，以免觸犯法規，同時，也都應該以更高的標準來審視AI的運用於道德方面的影響。
AI克服人類執法偏見 預知犯罪準確率高達90%
受到美國國防高等研究計劃署 （DARPA）贊助並刊登於〈Nature Human Behaviour〉的芝加哥大學研究，和警察合作開發了一套新型的演算法模型，不僅糾正警方在執法中的偏見，還預測一個地區在未來一周的犯罪情況，準確率高達到90%。此模型利用暴力和財產這兩個主要犯罪類別進行訓練在套入洛杉磯、費城和舊金山等城市的犯罪數據後，其預測力相當出色。芝加哥大學研究團隊的模型之所以準確率如此的高，是因為他們使用了成千上萬個社會學模組計算特定時間和空間的犯罪風險，所以有效排除偏見與狹隘因素以提升預測準確率。
雖然上述研究發表的AI模型有絕佳的預測準確率，但在過去的案例中，經常被使用的犯罪預測系統往往存在種族偏見，例如近年芝加哥警察局使用的另一套算法推測誰容易被捲入槍擊事件，結果發現，在被模型判定為潛在犯罪者的人中，將近一半是從來沒有非法持有槍枝的人，而且有13%從未犯嚴重罪行。因此，大多數的人們對於AI執法還是存有懷疑的態度，其所產生的偏見讓人難以信任。
消除偏見 資料與數據本質才是根本問題
所以，AI真的有偏見嗎？
其實AI會產生偏見並不是有意塑造，假如資料庫中的女性大多面帶微笑，在機器學習的過程中便很容易把女性和笑容直接連結成對應的特徵，但這並非真正應該用於進行建模的特徵。說到底，造成AI偏見的原因還是出自於那些被提供進AI模型的「資料」。機器學習與深度學習技術的根本就在「數據」，像這些以數據為基礎的技術就如同一面鏡子，它會真實反映收錄資料的內涵，當研究人員沒有注意到資料庫含有刻板印象和偏誤時，無形中便是允許了不平等存在於資料數據中，只有刻意去觀察才得以消除。
在我們生活的這個世界上，因為人與人之間的差異性與不了解，原本就容易產生刻板印象、歧視與偏見，有許多無意識的偏見充斥在我們的生活中。當人們試圖以人工智慧(AI)來建構新的世界時，偏見會因此而消失嗎？一切還是不出那句老話：系統是人們建構的，科技始終來自於人性，當人們沒有主動意識到偏見的存在時，偏見就會不小心被嵌入AI中。AI科技為人類帶來了無限的可能，但是於此同時，在這過程中，人們亦需要小心翼翼的運用它所為我們帶來的方便，並確保在人類世界發生的不公平，不會被複製到AI的世界中。
【參考資料】
Infinities
數位無限軟體(InfinitiesSoft)專注於為企業解決虛擬化、容器化、微服務、邊緣運算、混合雲管理、異質IT環境與人工智慧帶來的挑戰，整合異質雲管與熱門的開源AI深度學習架構和開發工具環境，提供一站購足的AI機器學習雲平台方案AI-Stack。
