自從阿法狗戰(zhàn)勝人類頂級棋手之后，深度學(xué)習(xí)、人工智能變得再一次火熱起來。有些人認為，深度學(xué)習(xí)的再一次興起是源于硬件的提升、數(shù)據(jù)量的增多以及高效算法的研究。這并不完全精確，有一個基本的誤解是更大的數(shù)據(jù)會產(chǎn)生更好的機器學(xué)習(xí)結(jié)果。然而，更大的數(shù)據(jù)池/倉庫并不一定有助于模型學(xué)習(xí)到更深刻的見解。正確的答案是，要把重心專注于數(shù)據(jù)的質(zhì)量、價值以及多樣性，而不僅僅是數(shù)據(jù)的規(guī)模——“深度數(shù)據(jù)”(deep data)比大數(shù)據(jù)(big data)好。

隨著研究的進行，人們對大數(shù)據(jù)的炒作逐漸在減弱。云計算、Hadoop及其變種已經(jīng)能夠解決一些大數(shù)據(jù)的問題。但是“大數(shù)據(jù)”是指許多人仍在花費大量資金建設(shè)更大的基礎(chǔ)設(shè)施來處理、保存和管理的龐大數(shù)據(jù)庫。這種盲目追求“大”的做法，在基礎(chǔ)設(shè)施和人力資源方面產(chǎn)生了巨大的、且本可避免的成本。

目前，越來越多的聲音討論是否從“大數(shù)據(jù)”轉(zhuǎn)向為“深度數(shù)據(jù)”了，我們現(xiàn)在需要更加的明智和思考全面，而不是收集所有可能的數(shù)據(jù)來實現(xiàn)“大數(shù)據(jù)”。我們現(xiàn)在需要讓一些數(shù)據(jù)落實到位，并尋求數(shù)量和質(zhì)量的多樣性，這將給我們帶來許多長期的收益。

被神話的大數(shù)據(jù)

要理解從“大”到“深”的這種轉(zhuǎn)變，讓我們首先看一下我們對大數(shù)據(jù)的一些錯誤觀念：

♦ 可以并且應(yīng)該捕獲和存儲所有數(shù)據(jù);

♦ 更多數(shù)據(jù)總是有助于構(gòu)建更準確的預(yù)測模型;

♦ 存儲更多的數(shù)據(jù)，其存儲成本幾乎為零;

♦ 更多數(shù)據(jù)的計算成本幾乎為零;

以下是現(xiàn)實：

♦ 來自物聯(lián)網(wǎng)和網(wǎng)絡(luò)流量的數(shù)據(jù)仍然超過了我們目前具備的捕獲所有數(shù)據(jù)的能力。有些數(shù)據(jù)必須在攝取時被丟棄。我們需要變得聰明，這就需要我們根據(jù)價值對數(shù)據(jù)進行分類;

♦ 重復(fù)一千次的相同數(shù)據(jù)示例并不會提高預(yù)測模型的準確性;

♦ 存儲更多數(shù)據(jù)的成本不僅僅是網(wǎng)絡(luò)服務(wù)向用戶收取的費用(比如云盤)，這也是查找和管理多個數(shù)據(jù)源的額外復(fù)雜性以及員工移動和使用該數(shù)據(jù)的隱藏代價，這些成本通常高于存儲和計算費用。

人工智能算法對計算資源的需求甚至可以快速超越彈性云基礎(chǔ)設(shè)施。雖然計算資源可以線性增長，但計算需求可以超線性增長，甚至指數(shù)級增長。

相信這些神話的問題在于，我們將以一種在紙上或長期看來都很好的方式構(gòu)建信息系統(tǒng)，但在即時時間框架內(nèi)過于繁瑣，無法發(fā)揮作用。

大數(shù)據(jù)的四個問題

以下是在數(shù)據(jù)方面盲目相信“越多越好”時存在的四個問題：

♦ 更多相同的數(shù)據(jù)是沒有作用的。為人工智能構(gòu)建機器學(xué)習(xí)模型時，訓(xùn)練示例的多樣性至關(guān)重要，原因是模型是根據(jù)數(shù)據(jù)來試圖確定概念邊界。例如，如果模型試圖通過使用年齡和職業(yè)來定義“退休工人”的概念，那么32歲的注冊會計師的重復(fù)示例對該模型并沒有什么好處，因為它們表示的含義都是沒有退休。在65歲的概念邊界獲得示例并了解退休如何隨職業(yè)而變化對模型會更有幫助;

♦ 嘈雜的數(shù)據(jù)可能會傷害模型。如果新數(shù)據(jù)中存在錯誤或者不精確，那么它只會混淆模型試圖學(xué)習(xí)的兩個概念之間的界限。在這種情況下，更多的數(shù)據(jù)將無濟于事，實際上可能會降低現(xiàn)有模型的準確性;

♦ 大數(shù)據(jù)讓一切都變慢了。在數(shù)TB的數(shù)據(jù)上構(gòu)建模型可能比在數(shù)GB的數(shù)據(jù)上構(gòu)建模型花費一千倍的時間，或者它可能需要一萬倍的時間，這都取決于學(xué)習(xí)算法。數(shù)據(jù)科學(xué)就是快速實驗，快速實驗，快速更新以獲得較為合適的模型;

♦ 大數(shù)據(jù)可實現(xiàn)的模型。任何預(yù)測模型的最終目標都是創(chuàng)建一個可以為業(yè)務(wù)部署的高度準確的模型。有時使用來自數(shù)據(jù)池深處更加模糊的數(shù)據(jù)可能會導(dǎo)致更高的準確性，但所使用的數(shù)據(jù)對于實際部署可能是不可靠的。最好有一個不太準確的模型，它可以快速運行并可供企業(yè)使用。

能做得更好的四件事

以下是我們可以采取的一些措施來對抗大數(shù)據(jù)的“黑暗面”，并將大數(shù)據(jù)思維轉(zhuǎn)向深度數(shù)據(jù)思維：

♦ 了解準確性/執(zhí)行權(quán)衡。數(shù)據(jù)科學(xué)家常常認為目標是獲得更準確的模型。而是要根據(jù)準確性和部署速度，以明確的ROI預(yù)期啟動項目;

♦ 使用隨機樣本構(gòu)建每個模型。如果你的數(shù)據(jù)集足夠大，那么你就沒有理由一次性全部使用整個數(shù)據(jù)集。如果數(shù)據(jù)集具有良好的隨機抽樣功能，那么我們就可以使用來自大數(shù)據(jù)集中的小樣本構(gòu)建模型，并進行準確預(yù)測。小樣本使得模型迭代更新更加快速，然后使用整個數(shù)據(jù)庫構(gòu)建最終模型。

♦ 丟棄一些數(shù)據(jù)。如果對來自物聯(lián)網(wǎng)設(shè)備和其他來源的數(shù)據(jù)流感到不知所措，那么就可以聰明地隨意丟棄一些數(shù)據(jù)。這個方法適合于構(gòu)建模型的早期階段，如果到后期的話，這樣操作會使得后期工作一團糟。

♦ 尋找更多的數(shù)據(jù)源。人工智能最近的許多突破并非來自更大的數(shù)據(jù)集，而是源于機器學(xué)習(xí)算法利用到了以前無法獲得數(shù)據(jù)的能力。例如，二十年前，現(xiàn)在普遍存在的大型文本、圖像、視頻和音頻數(shù)據(jù)集在那個時代并不存在，因此，我們應(yīng)該不斷尋找產(chǎn)生這些新的數(shù)據(jù)的機會。

變得更好的四件事

如果我們轉(zhuǎn)換思路，專注于深度數(shù)據(jù)而不僅僅是大數(shù)據(jù)，這樣將享受到以下這些好處：

一切都會變得更快。使用較小的數(shù)據(jù)，對數(shù)據(jù)進行移動、實驗、訓(xùn)練和模型評估都會快得多;

需要更少的存儲和計算資源。專注于深度數(shù)據(jù)意味著我們將更加智能地使用更小的磁盤并通過云計算，這樣會直接降低基礎(chǔ)設(shè)施的成本，節(jié)省下來的資金就可以聘請更多數(shù)據(jù)科學(xué)家和人工智能專家;

減輕研究人員的壓力并變得更加快樂。在有了深度數(shù)據(jù)思維后，團隊將發(fā)現(xiàn)自己不太可能只是做一些打雜工作，比如制作數(shù)據(jù)集或者殺死那些占用所有云資源的錯誤程序等。同樣，數(shù)據(jù)科學(xué)家也會花更多的時間在構(gòu)建和測試模型上，而不是被數(shù)據(jù)移動或等待長時間的訓(xùn)練過程，這樣也會使其變得更快樂。

可以解決更難的問題。構(gòu)建一個人工智能模型并不是一個只有像巫師一樣的研究人員才能完成的神奇體驗。與其說人工智能是魔法，不如說是一種邏輯。這類似于一個藝術(shù)老師告訴他班上一半的學(xué)生，他們的分數(shù)將基于他們制作的藝術(shù)作品的數(shù)量，另一半的學(xué)生將根據(jù)他們最好的作品的質(zhì)量來評分。毫不奇怪，學(xué)生創(chuàng)作的藝術(shù)品數(shù)量會大大增加。令人震驚的是，在產(chǎn)量增多的同時，高品質(zhì)的產(chǎn)品也會出現(xiàn)——數(shù)量有時會產(chǎn)生質(zhì)量。在我們的例子中，在相同資源約束下嘗試的更多模型可能意味著更好的最佳模型。

大數(shù)據(jù)和支持它的技術(shù)突破極大地促進了許多公司在決策過程中成為數(shù)據(jù)驅(qū)動的動力。隨著人工智能的興起以及處理這些強大資源的能力，現(xiàn)在需要更加精確地根據(jù)我們的數(shù)據(jù)需求建立一種理解深度數(shù)據(jù)的思維，而不僅僅是大數(shù)據(jù)。

文章原標題《4 Myths of Big Data and 4 Ways to Improve with Deep Data》，譯者：海棠

標簽： isp 大數(shù)據(jù) 數(shù)據(jù)庫 網(wǎng)絡(luò) 云計算

版權(quán)申明：本站文章部分自網(wǎng)絡(luò)，如有侵權(quán)，請聯(lián)系：west999com@outlook.com
特別注意：本站所有轉(zhuǎn)載文章言論不代表本站觀點！
本站所提供的圖片等素材，版權(quán)歸原作者所有，如需使用，請與原作者聯(lián)系。