5月27日，一名身居德國的中國程序員“@將記憶深埋”（以下簡稱“深埋”）發(fā)布微博稱，他和他的團隊開發(fā)出了一個能夠識別“從事不可描述行業(yè)的小姐姐”的程序。據(jù)稱，他們通過從1024、91、sex8、PronHub、xvideos等色情網(wǎng)站上抓取照片或視頻并進行數(shù)字畫像，再與Facebook、Instagram、TikTok、抖音、微博等社交媒體上的數(shù)據(jù)進行交叉比對，已經(jīng)成功在全球范圍內(nèi)識別出十萬多“退休小姐姐”。
開發(fā)這一程序的想法始于去年?！拌b于很多人都在說程序員是各種小姐姐的接盤俠”，“為碼農(nóng)朋友們做一個初步過濾”。
“深埋”強調(diào)，為防止源數(shù)據(jù)的濫用和規(guī)避法律風險，這一程序“全程采用eID認證身份和只進行查詢者人臉識別認證后查詢本人信息”。在他看來，該程序的社會價值遠遠大于入侵特定人群隱私所帶來的風險。
然而，根據(jù)歐盟2018年5月25日實施的《通用數(shù)據(jù)保護條例》（GDPR），個人數(shù)據(jù)的收集需要事先征得本人同意，且必須合法、透明、有特定目的地處理數(shù)據(jù)?！禡IT科技評論》援引一位德國律師的說法，上述程序如收費使用，開發(fā)者可能面臨長達三年的監(jiān)禁。
因承受不了輿論壓力，“深埋”最終在5月31日發(fā)布微博，聲稱自己已經(jīng)執(zhí)行該程序的數(shù)據(jù)刪除命令。他將本次事件歸咎于自己的低情商，“如果刪掉去年那條微博，或如同一些網(wǎng)友說的那樣換個說法，比如‘看看你有沒有被渣男偷拍’之類的（可能就不會引起這么大的爭議）?！蹦壳埃麆h除了有關(guān)這一程序的所有微博。
實際上，這并不是第一個被認為是監(jiān)視和控制女性身體的程序。在此之前，就有人開發(fā)出了將AV演員和女明星換臉的deepfakes算法，還有人專門建立了性工作者的數(shù)據(jù)庫。程序員群體成為“厭女癥 ”的高發(fā)區(qū)，很大程度上是因為女性難以在計算機技術(shù)領(lǐng)域獲得話語權(quán)，性別刻板印象和性別歧視在該領(lǐng)域長久存在。
2013年，在一次計算機行業(yè)女性年會上，F(xiàn)acebook首席運營官謝麗爾·桑德伯格首次公開提到女性在科技行業(yè)的困境以及性別差異越來越大這一事實，并且警告稱科技行業(yè)女性人數(shù)正在下降。隨后，盡管支持女性參與計算機技術(shù)領(lǐng)域工作的項目不斷涌現(xiàn)，改變科技行業(yè)性別不公平狀況的進展仍然緩慢。
谷歌2019年的多元化報告顯示，其全球范圍內(nèi)的女性員工比例為33.2%，技術(shù)人員中女性占比為25.7%，相比2015年提升了3.6%。蘋果發(fā)布的多元化報告則顯示，從2014年到2018年，公司雇傭的女性員工占比從30%增加到33%，技術(shù)人員中女性占比從20%增加到23%。將范圍縮小至中國，Codeforge發(fā)布的2015上半年中國程序員調(diào)查報告顯示，女性程序員占比僅有不到20%。
近年來，人們驚訝地發(fā)現(xiàn)，AI“學會了”性別歧視：性別偏見在數(shù)據(jù)庫里普遍存在，如果沒有數(shù)據(jù)洞察和糾偏，它只會被人工智能進一步放大。
Amazon的一個團隊自2014年開始一直在嘗試使用人工智能審查求職者的簡歷，結(jié)果發(fā)現(xiàn)它對男性應(yīng)聘者的評分更高。原來，AI深度學習的樣本來自Amazon公司過去10年內(nèi)收到的所有簡歷，其中原本男性申請者就偏多，最終錄取者也以男性居多。這使得AI形成了男性應(yīng)聘者比女性更優(yōu)秀的認知。由于無法保證在性別、種族等方面做到公平，Amazon最終解散了這一團隊。
“沒有事實上的技術(shù)中立。對機器來說，中立的就是占統(tǒng)治地位的?！眲虼髮W未來研究所教授魯恩·奈如普（Rune Nyrup）如是說。
