AI誤刪賬號、人工客服缺位：Meta用戶陷入“解封死循環”

漢森夫婦的英語教學賬號被封

鳳凰網科技訊 北京時間7月22日，據《紐約時報》報道，Meta現在越來越多的使用AI來審核內容，希望取代人工審核員，但是卻出現了一些AI誤刪用戶賬號的情況。為了解除封鎖，用戶需要提出申訴，但是他們的申訴對象還是AI。

今年3月的一個夜晚，卡米爾·漢森(Camille Hanson)被一條通知驚醒。她通過臉書和Instagram上的賬號與丈夫一起經營向非英語母語者教授英語的業務，擁有近100萬粉絲，但是這些賬號現在被標記為待刪除。Meta稱，她違反了有關欺詐和欺騙行為的社區準則。

“我只不過是個英語老師?！?0歲的漢森回憶道。她對欺詐和欺騙的指控感到困惑?！拔业降鬃鲥e了什么？”她自問。

通知稱，她可以提出申訴，于是她點擊按鈕開始申訴流程。一周后，她收到了另一條通知：她的申訴被駁回。

“你的所有信息都將被永久刪除，”Meta在回復中稱，“你無法再針對這一決定提出新的復核請求。”

漢森夫婦

漢森的丈夫、42歲的卡爾文(Calvin)在葡萄牙家中接受采訪時說，“這感覺就像你開了一家實體店，結果有人直接把你的辦公室或者店面給關了”。

AI能擔當大任？

漢森一家的遭遇是一起AI出錯引發的案例。這項技術正越來越多地負責判定哪些賬號違反了Meta的內容規則，同時還要處理對這些決定的申訴。更令人苦惱的是，像漢森夫婦這樣的用戶往往很難聯系到Meta的任何人來弄清楚該怎么辦。

今年3月，Meta宣布計劃將更多權力交給AI機器人，由它們來決定封禁哪些賬號或刪除哪些有害圖片。數月后，該公司裁撤了數千名員工，其中包括那些從事這些工作的人員。

用戶已在網上組織起來，最近有超過6萬人簽署了一份請愿書，要求Meta提供更多關于封禁賬號的信息，并讓人工來審核申訴。Reddit以及其他平臺上的一些社區，也充斥著Meta用戶對該公司AI系統的大量投訴。

Meta使用AI審核內容

Meta發言人丹尼爾·羅伯茨(Daniel Roberts)反駁了AI在處理賬號方面比人類更差的觀點，表示該公司新的AI審核工具比人工員工少犯13%的錯誤，并多發現10%的違規內容。羅伯茨稱，在《紐約時報》向Meta標記的五個賬號中，全部都是由該公司舊的AI審核工具封禁的。

“我們致力于減少執行錯誤，并幫助個人保護他們的賬號。AI在這兩方面都在取得成效?！彼f。

Meta已多次遭遇AI出問題的狀況。今年5月，黑客利用其AI客服聊天機器人的漏洞，攻擊了3.4萬個Instagram賬號，其中包括奧巴馬的前白宮賬號。同月，員工因一項追蹤鍵盤敲擊以訓練AI的程序而發起抗議，導致Meta暫停了該計劃。

上周，26名前Meta員工在一項訴訟中稱，公司利用一種AI算法將他們解雇，該算法針對的是殘疾員工。Meta發言人表示：“人力資源管理和組織決策過去和現在都是由人做出的，而不是AI?！?/p>

用戶倡導組織“人優先于平臺”(People Over Platforms)提供賬號恢復服務，該組織今年發起了一份在線請愿書，以迫使Meta改變其賬號審核政策。Meta曾指控許多簽署請愿書的人分享兒童剝削材料，隨后將他們封禁。用戶認為，這一指控是“雪上加霜”。

申訴無門

這正是Meta去年對雅典娜·羅德尼(Athenia Rodney)提出的指控。羅德尼是“六月節紐約”(JuneteenthNY)組織的負責人，該團體旨在紀念美國奴隸制的終結。去年，Meta封禁了她在臉書和Instagram上的所有個人及工作賬號。

Meta的通知寫道：“我們的技術發現您的賬號或賬號上的活動不符合我們的規則。因此，我們的技術采取了行動?！?/p>

羅德尼

羅德尼表示，她無法理解Meta做出這一決定的理由，因為她所在組織發布的內容都是“適合家庭觀看的內容”。賬號被封后，她翻遍了“六月節紐約”的照片檔案，試圖找出可能觸發AI機器人的帖子，但一無所獲。

隨后，羅德尼回憶起，在Meta注銷她的賬號前不久，該公司曾提醒她，有來自西雅圖和新加坡的可疑登錄，盡管她住在亞特蘭大。這表明她的賬號可能已經遭到黑客入侵。

羅德尼迅速更改了密碼，但她用于各種業務和個人用途的六個Instagram和臉書賬號仍被封禁。

她表示，為了恢復這些賬號，她提交了身份證明文件，向美國商業改進局和聯邦貿易委員會提出投訴，聯系了州消費者保護辦公室，并在領英上給Meta員工發消息。但所有努力都沒有奏效。

自那以后，“六月節紐約”不得不說服贊助商，證明自己是一個已存在近二十年的合法組織。

“我們的贊助商會查看我們的社交媒體頁面，確認我們是一個正規組織，已經做了17年了，”羅德尼說，“可現在呢，他們一進我們的賬號，看到只有500個粉絲，就會說你們根本沒做那么久，你們是冒牌貨?！?/p>

誤封

在《紐約時報》向Meta指出這5個被封禁的賬號后，Meta表示，公司進行了調查，并發現其中兩個賬號被封是由于遭到黑客入侵，另一個賬號則是因為合理原因被封禁。Meta表示，被黑客入侵的賬號之所以被正確封禁，是因為黑客違反了有關兒童安全的政策。

隨后，Meta恢復了這兩個被黑客入侵的賬號，其中包括羅德尼的“六月節紐約”賬號。該公司表示，在被指出的五個賬號中，有兩個賬號被誤封，其中包括漢森夫婦的賬號。

羅伯托·蘇亞雷斯(Roberto Suarez)是一名Instagram網紅，在今年被封號之前已積累了超過50萬粉絲。他是收到Meta郵件通知賬號已恢復的人之一，連同他的照片、粉絲、消息等一并找回。他開始重新向數月未聞其音的粉絲發布內容。

蘇亞雷斯賬號連續被封

幾周后，Meta又給他發了一封郵件?！澳馁~號已被暫停，”郵件寫道，聲稱他的內容違反了版權法，“如果您不采取行動，您的賬號將被永久禁用。”

蘇亞雷斯否認違反任何版權。在《紐約時報》就此次新封禁提出詢問后不久，他的賬號再次被恢復。

漢森女士也收到了Meta的郵件，告知她的賬號已恢復。

“我們審核了您的賬號，發現上面的活動確實符合我們關于欺詐和欺騙的社區準則，因此您可以再次使用Instagram了，”郵件中寫道，“很抱歉我們搞錯了?！?作者/簫雨)

更多一手新聞，歡迎下載鳳凰新聞客戶端訂閱鳳凰網科技。想看深度報道，請微信搜索“鳳凰網科技”。