根據(jù)人權(quán)觀察組織（Human Rights Watch）日前公布的一項調(diào)查，世界銀行資助的一種用于確定哪些家庭應(yīng)該在約旦獲得經(jīng)濟援助的算法，可能將符合條件的人排除在外。

這個名為 Takaful 的算法系統(tǒng)使用一種保密的計算方法，對 57 個社會經(jīng)濟指標進行加權(quán)，將申請援助的家庭按照貧困程度排名。然而，申請人表示，這種計算方法并不能反映現(xiàn)實情況，而且過于簡單化了人們的經(jīng)濟狀況，有時是不準確或不公平的。Takaful 已經(jīng)花費了 10 多億美元，世界銀行正在為中東和非洲的其他八個國家的類似項目提供資金。

(資料圖片僅供參考)

（來源：HUMAN RIGHTS WATCH）

人權(quán)觀察發(fā)現(xiàn)了算法系統(tǒng)的幾個根本問題，這些問題導(dǎo)致了偏見和不準確。例如，申請人被問及他們消耗了多少水和電，這是進入排名系統(tǒng)的兩個指標。

該報告的作者得出結(jié)論，這些不一定是可靠的貧困指標。一些接受采訪的家庭認為，他們擁有一輛車的情況影響了他們的排名，即使這輛車很舊、是上班交通所必需的。

報告寫道，“這種統(tǒng)計客觀性的外表掩蓋了一個更復(fù)雜的現(xiàn)實：人們所承受的經(jīng)濟壓力和他們所處的困境往往是算法看不到的。”

報告援引阿卜杜勒哈馬德（Abdelhamad）的話說：“所問的問題并沒有反映出我們所處的現(xiàn)實?！彼莾蓚€孩子的父親，每月收入僅有 250 第納爾（353 美元），生活入不敷出。

Takaful 還用帶有性別歧視的法律法規(guī)強化了已有的性別歧視狀況。現(xiàn)金援助只提供給約旦公民，同時算法考慮的一個指標是家庭規(guī)模，而與非公民結(jié)婚的約旦男子可以將公民身份傳給配偶，但反過來約旦女性不能。對于這些女性來說，這導(dǎo)致可報告的家庭規(guī)模較小，使她們不太可能獲得援助。

該報告基于人權(quán)觀察在過去兩年中進行的 70 次采訪，而不是定量評估，因為世界銀行和約旦政府沒有公開披露 57 項指標的清單、指標的加權(quán)明細，也沒有公開有關(guān)算法決策的全面數(shù)據(jù)。

人權(quán)觀察的人工智能和人權(quán)研究員、該報告的作者阿莫斯·托（）表示，這些發(fā)現(xiàn)表明對于使用算法決策的政府項目來說，有必要提高它的透明度。許多受訪家庭對排名方法表示不信任和困惑。他說：“約旦政府有責任讓其更加透明。”

人工智能倫理和公平的研究人員呼吁對福利系統(tǒng)中越來越多的算法進行更多的審查。美國紐約大學(xué)教授梅雷迪思·布魯薩德（）說：“當你開始為這個特定的目的構(gòu)建算法，以決定誰有權(quán)獲得時，總是會發(fā)生需要幫助的人被排除在外的情況。”

她說：“這似乎是又一個糟糕設(shè)計的例子，它最終限制了最需要援助的人獲得援助?！?

世界銀行資助了該項目，該項目由約旦國家援助基金管理，該基金是政府的一個社會保護機構(gòu)。針對該報告，世界銀行表示，計劃于 2023 年 7 月發(fā)布有關(guān) Takaful 計劃的更多信息，并重申其“致力于推進普遍社會保障的實施，并努力確保所有人都能獲得社會保障?！?

該組織鼓勵在 Takaful 等涉及資金的項目中使用數(shù)據(jù)技術(shù)，稱其提高了成本效益，提高了分配的公平性。

支持：Ren

排版：朵克斯

關(guān)鍵詞：