誰來審核決定人生的算法？
2018-08-16 來源：raincent
計(jì)算機(jī)科學(xué)家們驚呆了。他們以為他們給了計(jì)算機(jī)一個(gè)不可能完成的任務(wù)：想出一種讓機(jī)器蜘蛛在腳不碰到地面的情況下行走的方法。但算法找到了一種繞過這種限制的方法。把機(jī)器蜘蛛翻轉(zhuǎn)過來，這樣它就能把肘關(guān)節(jié)當(dāng)做腳來行走了。
就如本例所示，計(jì)算機(jī)算法非常善于根據(jù)明確的成功定義進(jìn)行優(yōu)化。然而，在我們的日常生活中使用的很多算法和人工智能(AI)應(yīng)用給出的結(jié)果并沒那么非凡，是否成功取決于發(fā)問者是誰。
在社會(huì)的相當(dāng)大部分都關(guān)心算法結(jié)果的某些案例中(比如在面部識(shí)別技術(shù)這一正在成長(zhǎng)的領(lǐng)域，或者在量刑中)，算法提供的結(jié)果已被證明是不準(zhǔn)確和有偏見的。隨著人工智能進(jìn)入我們社會(huì)中越來越多的關(guān)鍵領(lǐng)域，這日益成為一個(gè)問題。
在歐洲努力在人工智能研發(fā)方面趕上美國和中國的同時(shí)，歐洲也理解人工智能存在的風(fēng)險(xiǎn)和道德陷阱，尤其是在算法出錯(cuò)或做出有偏見的決策方面。
今年5月底生效的《通用數(shù)據(jù)保護(hù)條例》(GDPR)要求使用算法來自動(dòng)化決策過程的數(shù)據(jù)控制者解釋相關(guān)決策的邏輯。GDPR第71條甚至隱藏著這樣一條要求：使用“適當(dāng)?shù)臄?shù)學(xué)或者統(tǒng)計(jì)程序”來避免或減少源于錯(cuò)誤或者不準(zhǔn)確的風(fēng)險(xiǎn)。
這些要求的執(zhí)行情況還有待觀察，但歐盟似乎接受了算法問責(zé)制，包括對(duì)算法的審核，力求避免人工智能決策不當(dāng)帶來的惡果。
在法國，埃馬紐埃爾•馬克龍(Emmanuel Macron)政府宣布，向社會(huì)公開所有為政府用途開發(fā)的算法，這樣整個(gè)社會(huì)能核實(shí)這些算法得到了正確的使用。
公開算法是否是一個(gè)適用于所有形式和用途的人工智能的解決方法?理論上確實(shí)如此，但這種方法在實(shí)際操作上存在明顯缺陷——畢竟，不是每個(gè)人都看得懂代碼。此外，企業(yè)和政府似乎都不是很情愿公開算法、用來訓(xùn)練算法的數(shù)據(jù)或者從數(shù)據(jù)得出的推論。
理由很簡(jiǎn)單。首先，暴露算法可能會(huì)使你喪失競(jìng)爭(zhēng)優(yōu)勢(shì)。此外，公開算法可能會(huì)讓精通技術(shù)的人詳細(xì)了解決策過程，讓他們實(shí)際上擁有蒙騙系統(tǒng)的能力。
公開算法的接受度不高的另一個(gè)原因是，披露算法可能會(huì)暴露關(guān)于決策過程有效性和準(zhǔn)確度的令人不快的真相。如果不對(duì)算法進(jìn)行獨(dú)立審核，你可以繼續(xù)置身于幸福的無知境界，并且在面對(duì)負(fù)面后果的時(shí)候做出說得通的否認(rèn)。
盡管法國政府在算法開放方面的積極做法可能在算法問責(zé)制上走得太遠(yuǎn)，但是對(duì)算法進(jìn)行獨(dú)立審核的理由是不言自明的。歐洲在設(shè)定人工智能戰(zhàn)略時(shí)，算法問責(zé)制(或者更準(zhǔn)確地說是算法責(zé)任制)應(yīng)該是一個(gè)關(guān)鍵考慮因素。政府和企業(yè)必須能夠證明，它們?cè)诎讶斯ぶ悄軕?yīng)用推向社會(huì)前，先進(jìn)行了徹底的測(cè)試和外部審核。
驚嘆于算法對(duì)一個(gè)理論問題提出新穎的解決方法是一回事，對(duì)算法的糟糕決策在不經(jīng)意間毀了某人的人生感到意外就是另一回事了。
本文作者著有《數(shù)學(xué)殺傷性武器》(Weapons of Math Destruction)。Considerati的巴爾特•舍默爾(Bart Schermer)對(duì)此文有貢獻(xiàn)。
譯者/徐行
標(biāo)簽： 代碼
版權(quán)申明：本站文章部分自網(wǎng)絡(luò)，如有侵權(quán)，請(qǐng)聯(lián)系：west999com@outlook.com
特別注意：本站所有轉(zhuǎn)載文章言論不代表本站觀點(diǎn)！
本站所提供的圖片等素材，版權(quán)歸原作者所有，如需使用，請(qǐng)與原作者聯(lián)系。
