- +1
美媒:美“天網(wǎng)”算法有誤,數(shù)千人或被錯(cuò)當(dāng)恐怖分子甚至錯(cuò)殺

1年前,美國媒體曝出美國國家安全局(NSA)將電影《終結(jié)者》中的“天網(wǎng)”(SKYNET)計(jì)劃搬進(jìn)現(xiàn)實(shí),這一代號為“天網(wǎng)”的高端秘密項(xiàng)目并不是電影中消滅人類的系統(tǒng),而是利用元數(shù)據(jù)來確認(rèn)恐怖分子。
不過,現(xiàn)實(shí)世界的“天網(wǎng)”或面臨著錯(cuò)殺無辜的風(fēng)險(xiǎn)。美國知名科技博客媒體Ars Technica網(wǎng)站2月16日報(bào)道稱,“天網(wǎng)”計(jì)劃因其算法有誤,或已導(dǎo)致數(shù)千名無辜的巴基斯坦人因被視為恐怖分子,甚至因此遭錯(cuò)殺。
誰是恐怖分子?用大數(shù)據(jù)來判斷
2015年,新聞?wù){(diào)查網(wǎng)The Intercept揭秘了NSA的“天網(wǎng)”計(jì)劃,該計(jì)劃的主要消息依據(jù)是“棱鏡門”揭秘者愛德華·斯諾登(Edward Snowden)此前披露的一系列文件。
“天網(wǎng)”計(jì)劃于2007年開始研發(fā),其來源于5個(gè)云研究組織的共同努力,其中主要包括3個(gè)NSA的下屬組織——信號情報(bào)局、研究局以及技術(shù)局。該計(jì)劃的合作伙伴還包括麻省理工學(xué)院林肯實(shí)驗(yàn)室以及哈佛大學(xué),來自旅行和流動(dòng)分析中心(TMAC)的團(tuán)隊(duì)也參與了該計(jì)劃。
“天網(wǎng)” 通過一些設(shè)定好的邏輯來識別和跟蹤恐怖分子,依賴地理空間、地理時(shí)間、生活模式以及旅行分析對大規(guī)模的DNR(撥叫號碼識別)數(shù)據(jù)進(jìn)行分析,以識別出可疑活動(dòng)。在一個(gè)有記錄的案件中,NSA的這一計(jì)劃利用某國境內(nèi)手機(jī)用戶的通訊記錄來追蹤其活動(dòng),一旦發(fā)現(xiàn)這些行動(dòng)與恐怖嫌犯的相匹配,就會升起一面小旗幟,被列為“懷疑對象”。“天網(wǎng)”系統(tǒng)還能夠查清那個(gè)人在到達(dá)每個(gè)目的地之后給誰打過電話,并密切關(guān)注其可疑行動(dòng),例如頻繁交換SIM卡、只接收來電、大規(guī)模刪除短信或在每周固定時(shí)間外出等。
“天網(wǎng)”算法有誤,或致無辜者被錯(cuò)殺
一份名為《天網(wǎng):基于機(jī)器學(xué)習(xí)的情報(bào)檢測》的文檔指出,NSA使用來自巴基斯坦GSM(全球移動(dòng)通信系統(tǒng))運(yùn)營商的5500多萬手機(jī)通話記錄的元數(shù)據(jù)來測試系統(tǒng)。 據(jù)美國新聞?wù){(diào)查局消息,自2004年起,約有2500-4000人因被美國政府認(rèn)定為恐怖分子而遭殺害,其中一部分于2011-2012年被殺害的恐怖分子是由“天網(wǎng)”判定的。
Ars Technica報(bào)道稱,由于“天網(wǎng)”算法有誤,數(shù)千名無辜的巴基斯坦人可能莫名其妙地成為“恐怖分子”,甚至可能因此喪生。
美國人權(quán)數(shù)據(jù)分析小組主任帕特里克·巴爾(Patrick Ball)狠批該項(xiàng)目的元數(shù)據(jù)算法是“徹頭徹尾的胡說八道”:“這一計(jì)劃非常可笑,‘天網(wǎng)’計(jì)劃中的元數(shù)據(jù)有漏洞,其算法并不科學(xué)?!?/p>
分析稱,“天網(wǎng)”中的元數(shù)據(jù)(比如位置信息、通話記錄等等)準(zhǔn)確性不高,可能目標(biāo)人士實(shí)際所處的位置已經(jīng)變化了,這些數(shù)據(jù)僅僅只能用作參考。所有元數(shù)據(jù)的信息拼湊出某個(gè)懷疑對象的日常生活狀態(tài)可能與實(shí)際狀況不符。
此前,半島電視臺記者艾哈邁德·穆法克·扎伊丹(Ahmad Muaffaq Zaidan)被列為重要的恐怖分子。他是半島電視臺駐伊斯蘭堡分社主任,曾經(jīng)采訪過基地組織、塔利班組織的多數(shù)要員,因此掌握了大量恐怖組織的重要信息。由于時(shí)常與恐怖組織打交道,艾哈邁德的行動(dòng)被“天網(wǎng)”計(jì)劃列為恐怖分子,而艾哈邁德本人斷然否認(rèn)了這一指控,并憤慨地表示:“通過通訊錄、通話記錄、位置信息就斷定我或者其他記者是‘恐怖分子’,這是對事實(shí)的荒謬曲解,完全是對個(gè)人隱私的侵犯!”





- 報(bào)料熱線: 021-962866
- 報(bào)料郵箱: news@thepaper.cn
互聯(lián)網(wǎng)新聞信息服務(wù)許可證:31120170006
增值電信業(yè)務(wù)經(jīng)營許可證:滬B2-2017116
? 2014-2025 上海東方報(bào)業(yè)有限公司