在現(xiàn)代人工智能領(lǐng)域，所有的話題似乎都離不開三位與加拿大大學(xué)有聯(lián)系的研究人員。

第一位是在多倫多大學(xué)任教的70歲英國人Geoffrey Hinton，他開創(chuàng)了被稱為“深度學(xué)習(xí)”的分支學(xué)科，如今已經(jīng)成為了人工智能的同義詞。第二位是57歲的法國人Yann LeCun，他在上世紀(jì)80年代在Hinton的實(shí)驗(yàn)室工作，現(xiàn)在在紐約大學(xué)任教。第三位是54歲的Yoshua Bengio，出生在巴黎，在蒙特利爾長大，現(xiàn)在在蒙特利爾大學(xué)任教。這三個人是密友也是合作者，以至于人工智能領(lǐng)域的人都稱他們?yōu)?ldquo;加拿大黑手黨”。

不過，在2013年，Hinton加入了谷歌，F(xiàn)acebook也聘請了LeCun。兩人都保持著自己的學(xué)術(shù)地位并繼續(xù)教學(xué)，而Bengio在蒙特利爾大學(xué)建立了世界上最好的人工智能項(xiàng)目之一，他被認(rèn)為是最后一個學(xué)術(shù)純粹主義者。

Bengio不是一個天生的實(shí)業(yè)家。他舉止非常謙遜，有一點(diǎn)駝背，看起來在電腦屏幕前呆了很長時間。雖然他為幾家公司提供咨詢服務(wù)，并且一直被邀請加入其中，但Bengio堅持要追求有激情的項(xiàng)目，而不是那些最有可能盈利的項(xiàng)目。

“你應(yīng)該注意到了他的志向有多遠(yuǎn)大，他的價值觀有多好，”他的朋友Alexandre Le Bouthillier說，他是一家名為Imagia的人工智能初創(chuàng)公司的聯(lián)合創(chuàng)始人。“科技領(lǐng)域的一些人忘記了人性的一面，但Yoshua沒有。他真的希望這個科學(xué)突破能夠幫助社會。”

 

 

然而，Bengio堅持的觀點(diǎn)已經(jīng)變成了一種孤獨(dú)的努力。亞馬遜、Facebook、谷歌和微軟等大型科技公司都在投資或收購新型初創(chuàng)企業(yè)，并且吸收大學(xué)里的頂尖人才，保證他們在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位。華盛頓大學(xué)的人工智能教授Pedro Domingos說，他每年都會詢問學(xué)術(shù)聯(lián)系人，問他們是否有學(xué)生想申請博士后。他說，他最后一次問Bengio的時候，“他說，我甚至在畢業(yè)前就已經(jīng)留不住他們了。”Bengio受夠了這種狀況，想要阻止人才流失。

2015年9月一個溫暖的午后，Bengio和他的四個關(guān)系最好的同事在Le Bouthillier蒙特利爾的家中會面。這次會議本來是Bengio多年前成立的技術(shù)轉(zhuǎn)讓公司的戰(zhàn)略會議，但是Bengio對他的領(lǐng)域的未來感到深深的焦慮，他也認(rèn)為是時候提出一些他一直在思考的問題了：是否有可能創(chuàng)建一個能夠幫助創(chuàng)業(yè)公司和大學(xué)的企業(yè)，而不是傷害它們——并且可能對整個社會有益?如果可以的話，那么這個企業(yè)能否在這個以科技為主導(dǎo)的世界里具有競爭力呢?

Bengio特別想聽聽他的朋友Jean-Fran?ois Gagné的觀點(diǎn)，他是一位精力充沛的連續(xù)創(chuàng)業(yè)者，比Bengio小15歲。Gagné早些時候把自己聯(lián)合創(chuàng)始的公司賣給了一家名為JDA Software的公司;在那里工作了三年之后，Gagné離開了這家公司，成為了加拿大風(fēng)險投資公司Real Ventures的常駐企業(yè)家。在三個小時的會議結(jié)束，太陽開始下山的時候，他告訴Bengio和其他在場的人：“好吧，我要制定一個商業(yè)計劃。

那年冬天，Gagné和他的同事Nicolas Chapados蒙特利爾大學(xué)的小辦公室拜訪了Bengio。

他提議共同創(chuàng)立一家初創(chuàng)公司，為創(chuàng)業(yè)公司和其他資源不足的組織以及無力建立自己的AI部門的公司提供人工智能技術(shù)。這家初創(chuàng)公司的關(guān)鍵賣點(diǎn)將是，它擁有全球最具天賦的勞動力：它將支持Bengio實(shí)驗(yàn)室和其他頂尖大學(xué)的研究人員每月為該公司工作幾個小時，同時保持他們的學(xué)術(shù)地位。這樣一來，企業(yè)就能以很低的價格獲得頂尖人才，大學(xué)也能留住他們的研究人員，而他們主要的客戶將有機(jī)會與更厲害的對手競爭。每個人都會受益，除了科技巨頭。

1

當(dāng)Bengio和Gagné開始他們的討論時，最大的科技公司還沒有卷入備受矚目的AI倫理問題中——關(guān)于人工智能在軍事和預(yù)測性警務(wù)方面的有爭議的銷售，以及種族和其他偏見在產(chǎn)品中的體現(xiàn)——這些問題很快就會給他們帶來負(fù)面的影響。但即便如此，內(nèi)部人士也清楚地知道，大型科技公司正在部署人工智能，來擴(kuò)充他們的實(shí)力和財富。

理解這一點(diǎn)需要知道人工智能與其他軟件有所不同。首先，世界上的人工智能專家相對較少，這意味著他們可以將薪水控制在六位數(shù);這使得建立一支由人工智能專家組成的龐大團(tuán)隊(duì)，對除最富有的公司以外的所有人來說都過于昂貴。其次，人工智能通常比傳統(tǒng)軟件需要更高的計算能力，這可能是非常昂貴的，而且好的數(shù)據(jù)是很難獲得的，除非你碰巧是一個技術(shù)牛人，幾乎可以無限制地訪問這兩者。

Bengio說：“最近以來，人工智能的運(yùn)作方式有些問題……這使得專業(yè)知識、財富和權(quán)利集中在了少數(shù)公司手里。”更好的資源會吸引更好的研究人員，這將帶來更好的創(chuàng)新，帶來更多的收入，從而可以繼續(xù)購買更多的資源。他補(bǔ)充道：“它似乎能夠自我壯大。”

Bengio最早與人工智能的接觸，預(yù)示著大型科技公司的崛起。20世紀(jì)70年代，他在蒙特利爾長大，特別喜歡科幻小說，像Philip K. Dick的《Do Androids Dream of Electric Sheep?》。在大學(xué)里，Bengio主修計算機(jī)工程;他在麥吉爾大學(xué)讀研究生時，偶然讀到了Geoff Hinton的一篇論文。他非常震驚，這讓他想起了他小時候深愛的科幻故事。“噢，天吶!這就是我想做的事情，”他后來回憶道。

 

 

多年以后，Bengio與Hinton和LeCun一起成為了深度學(xué)習(xí)領(lǐng)域的重要人物，這一領(lǐng)域涉及被稱為神經(jīng)網(wǎng)絡(luò)的計算機(jī)模型。但他們的研究充滿了錯誤的開始和被挫敗的野心。從理論上講，深度學(xué)習(xí)是有吸引力的，但在實(shí)踐中卻沒有人能使它發(fā)揮得很好。“多年來，在機(jī)器學(xué)習(xí)會議上，神經(jīng)網(wǎng)絡(luò)都不受歡迎，而Bengio堅持在他的神經(jīng)網(wǎng)絡(luò)上不停地工作，”科羅拉多大學(xué)的教授Mozer回憶道，“我當(dāng)時想，可憐的Bengio，他太不入流了。”

在20世紀(jì)后期，研究人員開始意識到為什么深度學(xué)習(xí)效果不佳。訓(xùn)練高水平的神經(jīng)網(wǎng)絡(luò)需要比之前更強(qiáng)的計算能力。此外，神經(jīng)網(wǎng)絡(luò)需要良好的數(shù)據(jù)才能學(xué)習(xí)，而在消費(fèi)互聯(lián)網(wǎng)興起之前，它們還沒有足夠的數(shù)據(jù)可以用來學(xué)習(xí)。

到20世紀(jì)末，一切都發(fā)生了變化，很快，大型科技公司開始應(yīng)用Bengio和他的同事們的技術(shù)來實(shí)現(xiàn)商業(yè)上的里程碑：語言翻譯、語音識別、人臉識別。當(dāng)時，Bengio的兄弟Samy也在谷歌工作，他也是人工智能研究人員。Bengio很想跟隨他的兄弟和同事一起去硅谷，但在2016年10月，他、Gagné、Chapados和Real Ventures共同推出了自己的創(chuàng)業(yè)公司：Element AI。投資該公司的DCVC公司的管理合伙人Matt Ocko說：“在過去的五年里，Bengio在任何人工智能平臺上都沒有實(shí)質(zhì)性的所有權(quán)，除了Element AI。”“他以自己的名譽(yù)支持這家公司。”

為了贏得客戶，Element AI依賴于其研究人員的明星效應(yīng)，其投資方的聲譽(yù)，以及承諾比大型科技公司更能提供個性化的服務(wù)。但該公司的高管們也站在另一個角度：在這個時代，谷歌競爭向軍方出售人工智能，F(xiàn)acebook曾傳出影響選舉的丑聞，亞馬遜正在吞噬全球經(jīng)濟(jì)，而Element AI將自己定位為一個不那么貪婪的、更合乎道德的人工智能公司。

2

從谷歌的員工對其向五角大樓提供人工智能的決定提出反抗，就能看出科技公司在軍事上使用人工智能技術(shù)的立場已經(jīng)成為了一種道德的試金石。Bengio和他的聯(lián)合創(chuàng)始人在早期就發(fā)誓永遠(yuǎn)不會為了進(jìn)攻的軍事目的而建造人工智能。

但今年早些時候，韓國研究型大學(xué)韓國科學(xué)技術(shù)院宣布，它將與韓國大型企業(yè)集團(tuán)韓華(Hanwha)的防務(wù)部門合作，建立軍事系統(tǒng)。盡管Element AI與韓華有聯(lián)系，但Bengio還是簽署了一封公開信，抵制韓國研究所，直到它承諾“不會開發(fā)不由人類控制的自主武器”。Gagné還謹(jǐn)慎地寫信給韓華，強(qiáng)調(diào)Element不會與研發(fā)自主武器的公司合作。Gagné和科學(xué)家們很快得到了保證：韓國科學(xué)技術(shù)院和韓華不會這樣做。

自主武器既不是人工智能面臨的唯一道德挑戰(zhàn)，也不是最嚴(yán)重的挑戰(zhàn)。紐約大學(xué)教授Kate Crawford主要研究人工智能的社會影響。她寫道，對于人工智能會成為未來的威脅的所有“苦惱”，分散了人們對現(xiàn)有問題的注意力，因?yàn)?ldquo;性別歧視、種族主義和其他形式的歧視正在被植入機(jī)器學(xué)習(xí)的算法中”。由于人工智能模型是根據(jù)工程師提供的數(shù)據(jù)進(jìn)行訓(xùn)練的，因此數(shù)據(jù)中的任何偏差都會對一個給定的模型帶來不好的影響。

Tay是由微軟在Twitter上發(fā)布的AI聊天機(jī)器人，目的是了解人類的對話方式，它很快就開始發(fā)表種族主義言論，比如“希特勒是對的”。微軟表示道歉，并將Tay撤銷，并表示正在努力解決數(shù)據(jù)中的歧視問題。谷歌的一個人工智能功能是根據(jù)自拍照來幫助用戶找到他們對應(yīng)的藝術(shù)角色，而這一功能根據(jù)刻板印象把非裔美國人匹配成奴隸，把亞裔美國人匹配為斜眼睛的藝伎。這可能是由于人工智能在訓(xùn)練時過度依賴于西方藝術(shù)作品。

像這樣的問題是由于全球范圍內(nèi)的偏見，但這并不能給人工智能領(lǐng)域帶來幫助。因?yàn)橄啾扔诎兹撕蛠喴崮行哉贾鲗?dǎo)地位的更廣泛的計算機(jī)科學(xué)界，人工智能領(lǐng)域的多樣性則更加不足。

 

 

Element AI 的員工中有33%為女性，領(lǐng)導(dǎo)崗位中有35%為女性，技術(shù)崗位中則有23%，這比許多大型科技公司的比例要高。Element AI的員工來自多于25個國家，但公司沒有按種族劃分員工，在我訪問期間，看到的主要是白人和亞裔，尤其是高層。

Bengio表示，他對目前的情況感到“羞愧”，并試圖解決這個問題，并擴(kuò)大了招聘范圍，并且為來自弱勢群體的學(xué)生提供了資助。與此同時，Element新聘請了一位人事副總裁Anne Mezei，她將多樣性和包容性作為首要任務(wù)。為了解決其產(chǎn)品可能存在的倫理道德問題，Element正在聘請倫理學(xué)家作為研究員，與開發(fā)人員一起工作。

然而，道德挑戰(zhàn)依然存在。在早期的研究中，Element AI基于自己的數(shù)據(jù)開發(fā)了一些產(chǎn)品，例如，問答工具部分基于內(nèi)部共享文件進(jìn)行訓(xùn)練。運(yùn)營主管Martel告訴我，由于Element AI管理人員不能確定如何道德地使用人工智能來進(jìn)行面部識別，他們計劃通過安裝攝像頭來對自己的員工進(jìn)行實(shí)驗(yàn)，這些攝像頭將在員工的許可下，捕捉他們的面部表情。管理人員將對員工的感受進(jìn)行調(diào)查，從而提高他們對道德維度的理解。 “我們想通過自己來解決這個問題，”Martel說。

Bengio相信科學(xué)家的工作就是繼續(xù)探索人工智能的發(fā)現(xiàn)。他說，政府應(yīng)該更積極地監(jiān)管這一領(lǐng)域，同時使分配財富的方式更平等，投資于教育和社會保障網(wǎng)絡(luò)，以減輕人工智能帶來的不可避免的負(fù)面影響。華盛頓大學(xué)教授Domingos說：“我認(rèn)為Bengio相信人工智能是可以合乎道德的，他的公司可以成為合乎道德的人工智能公司。”“但坦率地說，Bengio有點(diǎn)天真。很多技術(shù)人員都有點(diǎn)天真，他們有這種烏托邦式的觀點(diǎn)。”

Bengio不贊同這個描述。“作為科學(xué)家，我相信我們有責(zé)任與公民社會和政府接觸，”他說，“以我們所信仰的方式影響思想和心靈。”

3

 

 

盡管如此，Bengio可能比其他任何一個學(xué)者都有影響力，他培養(yǎng)了下一代研究人員。(他的一個兒子也成為了人工智能研究員;另一個成為了音樂家。)盡管他是Element的聯(lián)合創(chuàng)始人之一，但Bengio承認(rèn)他并沒有在辦公室里花很多時間;他一直專注于人工智能研究的前沿領(lǐng)域，而這些領(lǐng)域遠(yuǎn)不是商業(yè)應(yīng)用。

盡管科技公司一直專注于讓人工智能更好地完成它所做的工作——識別模式并從中得出結(jié)論——但Bengio想要跳過這些基礎(chǔ)，并開始建造更受人類智能啟發(fā)的機(jī)器。他猶豫著，不愿描述那可能是什么樣子。但我們可以想象，在未來，機(jī)器不僅可以在倉庫中移動產(chǎn)品，還可以在現(xiàn)實(shí)世界中導(dǎo)航。他們不只是對命令做出反應(yīng)，而是理解和同情人類。他們不僅會識別圖像，還會創(chuàng)造藝術(shù)。為了實(shí)現(xiàn)這一目標(biāo)，Bengio一直在研究人類大腦是如何運(yùn)作的。

雖然Bengio相信像人類一樣的人工智能是可能的，但他對埃隆·馬斯克等人所強(qiáng)調(diào)的關(guān)于機(jī)器會超越人類的道德?lián)鷳n感到不耐煩。Bengio更感興趣的是人類建造和使用人工智能的道德選擇，“最大的危險之一是人們會以不負(fù)責(zé)任的方式或者惡意的方式對待人工智能——我指的是為了他們的個人利益，”他曾經(jīng)在一次采訪中說。其他科學(xué)家也有Bengio這樣的感受，然而，隨著人工智能研究的繼續(xù)，它仍然由世界上最強(qiáng)大的政府、公司和投資者提供資金支持。Bengio的大學(xué)實(shí)驗(yàn)室很大程度上是由大型科技公司資助的。

在一次關(guān)于大型科技公司的討論中，Bengio告訴我，“我們希望Element AI能像這些巨頭一樣大。”當(dāng)我質(zhì)疑他是否會繼續(xù)保持他所譴責(zé)的那種財富和權(quán)力的集中時，他回答說：“這個想法不僅僅是創(chuàng)建一家公司，成為世界上最富有的人。這是為了改變世界，改變商業(yè)的運(yùn)作方式，讓它不那么集中，讓它更民主。”

標(biāo)簽： 谷歌 互聯(lián)網(wǎng) 網(wǎng)絡(luò)

版權(quán)申明：本站文章部分自網(wǎng)絡(luò)，如有侵權(quán)，請聯(lián)系：west999com@outlook.com
特別注意：本站所有轉(zhuǎn)載文章言論不代表本站觀點(diǎn)！
本站所提供的圖片等素材，版權(quán)歸原作者所有，如需使用，請與原作者聯(lián)系。