|
當聽到類似“蕩婦”等侮辱性言論時，人類或者反擊、或者沉默。 但在人工智能語音助手的世界，蘋果的Siri會說“I‘d blush if I could”（如果我能，我會臉紅）；亞馬遜的Alexa說“謝謝你的反饋”；谷歌語音助手說“我不明白”......如果你對它們進一步提出更“露骨”的要求時，它們也鮮有直接拒絕的。（目前這些都已作修正） 近日，聯合國教科文組織發表了一份長達145頁的題為《如果我能，我會臉紅》的報告（以下簡稱報告），批評目前大多數AI語音助手中存在性別偏見，“因為它們幾乎都有著女性的名字和聲音，并被設置成千篇一律的、順從的女性形象。” AI強化性別偏見 報告中一份對4家公司的語音助手的調查顯示，當聽到用戶的性騷擾言論時，語音助手的回應往往模糊且溫順。幾乎沒有語音助手給出否定回答，或是將用戶的言論標記為不合適。 “這就發出了一個信號，暗示女性是樂于助人、溫順、取悅他人的，用戶只需按下按鈕，發出生硬的語音命令就可以了。”報告認為。 聯合國教科文組織性別平等部門負責人珂拉特表示，這種強行設定的服從形象，會影響人們與女性聲音交流的方式，以及女性面對他人要求時的回應模式。 這也就意味著，“女性”AI可能強化人類社會的性別偏見。 事實上，早在1964年，聊天機器人Eliza的語音助理的預設聲音為女聲。目前，除了Siri、Cortana等，國內領先的智能語音助手同樣存在此類現象，比如百度的“小度”、阿里的“天貓精靈”和小米的“小愛同學”等。 中國科學院自動化研究所研究員、北京智源人工智能研究院人工智能倫理與安全研究中心主任曾毅告訴《中國科學報》，AI語音助手中性別偏見的問題并不是由算法本身造成的，而是產品設計者的選擇，直接反應了人類自身的傾向。 盡管現代性別觀念中倡導“男女平等”，但現實社會依然普遍對女性有著刻板印象，即通常認為女性是溫和順從的，有足夠的耐心和理解力。 曾毅說，“人工智能產品研發者的最初動機可能來自所謂的‘大多數用戶的偏好’，但在無形中卻造成了性別偏見，而AI無非是對數據特征和屬性的學習。實際上目前的AI模型與技術仍然很難像人一樣理解‘偏見’的真正意義及其后果。” 看來，人工智能已經學會了人類“性別歧視”那一套，而這種偏見在其他領域中也得以充分“展現”。 比如，亞馬遜基于人工智能技術的簡歷篩選與招聘系統“自己學會”優選男性求職者，而女性簡歷會被自動減掉分數，該項目已在去年被迫關停；職業平臺LinkedIn通過復雜的人工智能算法向用戶推薦工作時，多為男性求職者推薦高收入職業，而很少向女性推薦高收入職業等。 “此類人工智能系統的應用不但不能推進人類的福祉，而且直接對人類造成了傷害，在人工智能產品與服務的發展中應當被糾正的。”曾毅表示。 AI開發者性別失衡或致“偏見”產生 報告認為，產品開發者嚴重的性別比例失衡是產生“偏見”的一個原因。 一項國內調查發現，中國程序員群體的男女比例近12：1。上述報告也提到，在人工智能開發人員中，僅12%是女性；軟件開發人員中的女性比例低至6%；信息通信技術專利申請人中的男女性別比例為13：1。 “傳統的性別社會化教育形成了這樣一個大體的社會分工，使得AI、計算機領域多以男性為主導。”人工智能與新媒介技術與文化研究專家、北京大學教授吳靖表示。 |
|
|
