隨著人工智能（AI）技術的廣泛應用，確保AI技術沒有偏見變得越來越重要。IBM計劃發(fā)布一個大型的、無偏見的人臉圖像數(shù)據(jù)集，以推動無偏見的人臉識別研究。

與以往相比，人類社會對人工智能系統(tǒng)中的偏見問題更加關注，尤其是用于識別和分析人臉圖像的系統(tǒng)。在IBM，科研人員采取以下措施來確保以負責任的方式來創(chuàng)建并訓練面部識別技術：

（1）導致面部分析領域出現(xiàn)偏見的最大問題之一是缺乏訓練系統(tǒng)的各種數(shù)據(jù)。因此，科研人員打算在2018年秋天公開以下數(shù)據(jù)集，以作為技術行業(yè)和研究界的工具：

IBM研究院（IBM Research）的科學家正在構(gòu)建的一個超過100萬張圖像的注釋數(shù)據(jù)集，可以用于提高對面部分析偏見的理解。圖像將使用屬性進行注釋，利用Flickr圖像中的地理標記來平衡來自多個國家/地區(qū)的數(shù)據(jù)和主動學習工具，以減少樣本選擇偏差。目前，可用的最大面部屬性數(shù)據(jù)集包含20萬個圖像，因此這個具有一百萬個圖像的新數(shù)據(jù)集將是一個巨大的進步。

一個最多包含3.6萬張圖像的注釋數(shù)據(jù)集—其中膚色、性別和年齡呈均勻分布，由IBM Research注釋，能夠為人們評估其技術提供更加多樣化的數(shù)據(jù)集。這將為算法設計人員識別和解決面部分析系統(tǒng)中的偏見提供特別幫助。解決偏見問題的第一步是確認存在偏見--這就是該數(shù)據(jù)集的目標所在。

（2）2018年早些時候，IBM極大地增強了用于面部分析的Watson視覺識別服務的準確性，這使得面部分析的錯誤率降低了近十倍。IBM正在舉辦一個技術研討會（由IBM Research與馬里蘭大學合作），以確定并減少將于2018年9月14日與ECCV 2018聯(lián)合使用的面部分析系統(tǒng)中的偏見。使用IBM面部圖像數(shù)據(jù)集的競賽結(jié)果將公布在該研討會上。此外，IBM的研究人員將繼續(xù)與廣大的利益相關者、用戶和專家合作，以了解可能影響AI決策的其他偏見和漏洞，從而不斷改善系統(tǒng)。

人工智能擁有改善人們生活和工作方式的重要力量，但前提是對人工智能系統(tǒng)的開發(fā)和培訓是負責任的，且該類系統(tǒng)能夠產(chǎn)生讓我們信任的結(jié)果。確保系統(tǒng)接受平衡的數(shù)據(jù)培訓和消除偏見對建立這種信任至關重要。

隨著對AI應用的不斷增加，防止偏見進入AI系統(tǒng)正在成為最受關注的問題。IBM相信任何技術--無論多么準確--都不能夠或不應該取代人類的判斷力、直覺和專業(yè)知識。像人工智能這樣的先進創(chuàng)新技術的威力在于它們能夠增強而非取代人類的決策能力。因此，任何使用AI的組織（包括視覺識別或視頻分析功能）都必須對使用AI的團隊進行培訓，以了解偏見（包括隱性和無意識的偏見），對其進行監(jiān)控，并知道如何消除偏見。