“Edge（邊緣）”和“Fog（霧）”是我們不斷聽到的新流行詞匯。什么是邊緣計算，又有哪些應(yīng)用場景？要談?wù)撨@些，我們需要了解邊緣計算的產(chǎn)生過程。讓我們從一節(jié)簡短的歷史課開始。

一、邊緣計算的歷史

在過去的幾十年中，計算基礎(chǔ)設(shè)施在集中式和分散式體系結(jié)構(gòu)之間經(jīng)歷了多次變遷。簡單講，顧名思義，集中式計算體系中，會有一臺中央計算機(jī)，其他多臺計算機(jī)可以通過終端訪問這臺計算機(jī)。而在分散式計算體系中，會有多臺獨(dú)立的計算機(jī)或機(jī)器，通過各種協(xié)議相互通信。

20世紀(jì)50年代，在商業(yè)計算開始時，集中式計算在大型、昂貴的主機(jī)系統(tǒng)中大行其道。自主機(jī)時代以來一直到1997年，計算體系架構(gòu)就經(jīng)歷了集中和分散的兩個周期。這時，家用臺式電腦已經(jīng)隨著硬件的降價而廣泛普及。這是最后一次分散化的進(jìn)程，此后便是著名的集中式云體系結(jié)構(gòu)，巨型的數(shù)據(jù)中心基本上承攬了所有的重要任務(wù)�，F(xiàn)在，邊緣計算正在敲門，為下一次換班做準(zhǔn)備。

云服務(wù)是當(dāng)前的集中式體系范例。幾乎所有的網(wǎng)絡(luò)內(nèi)容都是通過一個主要的數(shù)據(jù)中心提供的。研究人員從云端租借他們的私有服務(wù)器來測試他們的模型并進(jìn)行實(shí)驗(yàn)，企業(yè)在遠(yuǎn)程服務(wù)器中執(zhí)行業(yè)務(wù)邏輯。云服務(wù)為企業(yè)提供了一種便捷的資源獲取方式，無論是小企業(yè)還是大企業(yè)，都可以通過服務(wù)提供商獲得計算資源，而不是構(gòu)建自己的數(shù)據(jù)中心供使用。云服務(wù)的應(yīng)用隨處可見，AWS、DigitalSea、Azure、GoogleCloud、VMWare在開發(fā)人員中耳熟能詳。但是，情況在發(fā)生變化。是什么導(dǎo)致了對邊緣設(shè)備和邊緣計算更受重視的新趨勢？邊緣到底是什么？

二、定義邊緣計算

云服務(wù)與邊緣計算－圖表

在Aran Khanna的“邊緣深度學(xué)習(xí)”一文中，給邊緣設(shè)備下了一個非常簡潔的定義。“邊緣設(shè)備本質(zhì)上是位于數(shù)據(jù)中心之外的任何設(shè)備。”因此，“邊緣計算”是一種新的模式，將大量的計算和存儲資源放置在互聯(lián)網(wǎng)的邊緣，靠近移動設(shè)備或傳感器

邊緣設(shè)備可能是你現(xiàn)在使用的手機(jī)。可以是街道和銀行周圍的監(jiān)控攝像頭。他們也不一定是體積很小的的東西，自動駕駛汽車也被認(rèn)為是邊緣設(shè)備。就像Peter Levine所講的 ，使用這些設(shè)備，實(shí)時和現(xiàn)實(shí)世界的信息收集變得更加容易，并且隨著物聯(lián)網(wǎng)設(shè)備的普及，信息收集也越來越廣泛。此外，這些設(shè)備會生成許多真實(shí)世界的數(shù)據(jù)，如圖像和視頻。

邊緣設(shè)備不斷豐富的最大問題之一是產(chǎn)生的數(shù)據(jù)量越來越龐大。一個幀速率為10赫茲的監(jiān)視攝像機(jī)可以產(chǎn)生超過每秒250 MB數(shù)據(jù)。將飛行數(shù)據(jù)連網(wǎng)的飛機(jī)每天生成5TB的數(shù)據(jù)。自動駕駛汽車每天4TB數(shù)據(jù)。這些還僅是針對個人設(shè)備的統(tǒng)計。想象一下，如果這些設(shè)備中一部分將原始數(shù)據(jù)發(fā)送到集中式服務(wù)器，那通信量將有多大。在需要進(jìn)行準(zhǔn)實(shí)時處理的場景下，設(shè)備的帶寬和延遲問題是云計算結(jié)構(gòu)不再適用的原因之一。

另一個問題是能源消耗。Harvard SEAS的一位計算機(jī)架構(gòu)師David Brooks指出，在互聯(lián)網(wǎng)上傳輸一個比特位的能源消耗是500微焦耳。根據(jù)他的計算，2015年，每個月的手機(jī)數(shù)據(jù)使用量為3．7EB，從而達(dá)到500太瓦時的能源消耗，世界上2％的能源消耗用于移動電話的數(shù)據(jù)傳輸。而邊緣計算可以大大降低這種能源消耗。

白小白：

此處原文的數(shù)據(jù)是有問題的，或者說原文所引用的Brooks的原話是有問題的。這段數(shù)據(jù)來自視頻中3分50秒處開始， 5分鐘左右有個小笑點(diǎn)，也是關(guān)于500太瓦時這個數(shù)據(jù)的引用處。3．7EB是3．41＊10＾19Bit，從而是1．7＊10＾22Microjoule，即4．73＊10＾9KWh，即4．73Terawatt，而原文是500Terawatt。按2015年全球耗電21153TW（數(shù)據(jù)來源statista．com）來說，手機(jī)數(shù)據(jù)的耗電占0．27％，按照500TW計算則為2．36％。Anyway，文章主要想強(qiáng)調(diào)的是邊緣計算可以帶來的能源節(jié)約。

在使用云服務(wù)時，一個重要的考慮因素是隱私和安全性。數(shù)據(jù)泄露越來越普遍。以及必須確保用戶隱私的組織（如醫(yī)院）不能直接向其云服務(wù)發(fā)送原始數(shù)據(jù)。這就必須在邊緣層面進(jìn)行預(yù)處理。

邊緣計算金字塔

由于上述的場景和問題，邊緣計算應(yīng)運(yùn)而生。在這種體系結(jié)構(gòu)中，無論是以設(shè)備本地執(zhí)行計算的形式，還是通過在設(shè)備附近部署一個微型云的方式，或者兩種形態(tài)的組合方式，計算行為都在物理上更接近設(shè)備。由微型云組成的中間層有時也被稱為“霧”，而這些云有時被稱為“霧節(jié)點(diǎn)”。這種“云－霧－邊緣”架構(gòu)帶來了許多好處。其中四個主要優(yōu)點(diǎn)是延遲時間短、邊緣分析成本低、隱私策略的加強(qiáng)以及可靠性的提高。

與云相比，邊緣設(shè)備和霧節(jié)點(diǎn)在物理上更接近，通常只有一步之遙，而邊緣設(shè)備到中心云節(jié)點(diǎn)通常路途遙遠(yuǎn)。霧節(jié)點(diǎn)甚至可以通過有線連接到邊緣設(shè)備。這提供了更低的延遲和更高的帶寬，因?yàn)榕c中心云相比，霧節(jié)點(diǎn)連接到的設(shè)備數(shù)量要少得多。在霧節(jié)點(diǎn)中管理數(shù)據(jù)可以帶來更低的響應(yīng)時間消耗。

邊緣設(shè)備收集的數(shù)據(jù)是巨大的，特別是由高速率數(shù)據(jù)設(shè)備收集的數(shù)據(jù)．將所有這些數(shù)據(jù)發(fā)送到云端進(jìn)行分析和推斷會占用寶貴的帶寬，而且在許多情況下是不可能實(shí)現(xiàn)的。在邊緣設(shè)備或霧節(jié)點(diǎn)執(zhí)行諸如采樣和消隱之類的預(yù)處理可以大大減少正在傳輸?shù)臄?shù)據(jù)量，并允許將結(jié)構(gòu)化數(shù)據(jù)直接發(fā)送到中心云端存儲或進(jìn)一步處理。因此，以較低的成本，消耗較少的帶寬和能源是可以實(shí)現(xiàn)的。在本地節(jié)點(diǎn)上進(jìn)行的這種預(yù)處理還可以確保執(zhí)行必要的隱私策略，例如從醫(yī)院報告中編輯敏感和可識別的信息，以及模糊來自攝像機(jī)的面部信息。

哪里有海量數(shù)據(jù)，哪里就有機(jī)器學(xué)習(xí)。因此，邊緣設(shè)備和邊緣計算與機(jī)器學(xué)習(xí)有著密切的關(guān)系。例如，一個監(jiān)視攝像頭不斷地生成它所覆蓋的區(qū)域的圖像。這種相機(jī)可能會利用深度學(xué)習(xí)來識別人類或汽車等特定的物體，并且可以移動視角以保持監(jiān)視信息的完整。自動駕駛汽車需要根據(jù)從傳感器和攝像機(jī)接收到的數(shù)據(jù)來計算其下一個動作，所有這些因素都必須通過機(jī)器學(xué)習(xí)模型進(jìn)行適當(dāng)?shù)耐评�。一個有趣的用例是Chang等人關(guān)于使用機(jī)器學(xué)習(xí)進(jìn)行網(wǎng)絡(luò)邊緣緩存的工作。他們聲稱，通過準(zhǔn)確分析用戶在某一區(qū)域的行為，從移動電話和個人電腦等邊緣設(shè)備獲取數(shù)據(jù)，并在數(shù)據(jù)上構(gòu)建無監(jiān)督學(xué)習(xí)的集群，可以主動地將適當(dāng)?shù)膬?nèi)容緩存在用戶的邊緣設(shè)備中或在鄰近區(qū)域的云端，以獲得較低的延遲并節(jié)約能源。隨著物聯(lián)網(wǎng)應(yīng)用越來越富有創(chuàng)造力，并滲透到我們的日常生活中，機(jī)器學(xué)習(xí)在邊緣的應(yīng)用可能是無限的。

三、邊緣計算與機(jī)器學(xué)習(xí)的復(fù)雜性

一種用于在邊緣計算環(huán)境中進(jìn)行機(jī)器學(xué)習(xí)的示例模型

與中心云服務(wù)器或霧節(jié)點(diǎn)相比，邊緣設(shè)備的內(nèi)存要小得多，計算能力也要小得多。然而，大多數(shù)這些設(shè)備必須根據(jù)它們收集到的輸入信息做出近乎實(shí)時的決定。這些設(shè)備中的大多數(shù)不可能保存它們生成的數(shù)據(jù)，并使用這些數(shù)據(jù)來構(gòu)建機(jī)器學(xué)習(xí)模型。過去幾年，大多數(shù)應(yīng)用程序是處理推斷（注）的方式，是將數(shù)據(jù)上傳到云中，并通過云中的模型運(yùn)行輸入數(shù)據(jù) ，并將響應(yīng)結(jié)果返回到邊緣設(shè)備。然而，對于需要近乎實(shí)時響應(yīng)的應(yīng)用程序來說，這不是一個理想的解決方案。

白小白：

所謂推斷。舉例來說，就是給神經(jīng)網(wǎng)絡(luò)一堆貓的圖片進(jìn)行訓(xùn)練學(xué)習(xí)，當(dāng)給定一堆新的圖片時，模型從中找出貓的過程。當(dāng)然這只是人工智能的應(yīng)用場景之一，即圖像識別。關(guān)于人工智能和機(jī)器學(xué)習(xí)，更多的內(nèi)容，可以參考宋瀟男的文章《AI雜談：從洗衣機(jī)到老鼠屁股》和《一起來DIY一個人工智能實(shí)驗(yàn)室吧》 以及李廣珍博士的《擁抱人工智能，從機(jī)器學(xué)習(xí)開始》 。

在這種情況下，有幾種邊緣計算的方案可供選擇：

方案一：將訓(xùn)練好的模型放在邊緣設(shè)備

模型在遠(yuǎn)程機(jī)器中訓(xùn)練并部署到邊緣設(shè)備上，這樣，智能手機(jī)等移動設(shè)備具有足夠的計算能力和內(nèi)存來執(zhí)行模型和推理。在這種情況下，邊緣設(shè)備所收集的數(shù)據(jù)可以通過部署的模型運(yùn)行，并且可以實(shí)現(xiàn)近乎實(shí)時的推斷。然后，這些數(shù)據(jù)可以發(fā)送到云，并通過遷移學(xué)習(xí)，集成到現(xiàn)有的模型中，以提高其準(zhǔn)確性。聽起來不錯吧？不完全是。

白小白：

遷移學(xué)習(xí)，是將學(xué)習(xí)到的知識進(jìn)行存儲和轉(zhuǎn)移以解決新問題的方法。簡單講，學(xué)會了識別小汽車，就可以將相關(guān)知識轉(zhuǎn)移到識別卡車的模型中，至少關(guān)于輪子、后視鏡等存在一定的共通性。

亞馬遜的人工智能和該公司如何使用邊緣

方案二：對模型本身進(jìn)行瘦身（壓縮）

這些模型本身可能相當(dāng)大，特別是典型的具有無數(shù)參數(shù)和權(quán)重值過濾器的深度學(xué)習(xí)模型。這種大小可能使邊緣設(shè)備無力運(yùn)行經(jīng)過訓(xùn)練的模型，也可能阻礙設(shè)備生成和保存生成的數(shù)據(jù)的能力。然而，有一些技巧可以執(zhí)行。在云上訓(xùn)練的占用更多空間的模型可以采用“量化”的方式來進(jìn)行瘦身從而部署在邊緣設(shè)備上。量化過程基本上是將機(jī)器學(xué)習(xí)模型中權(quán)值的大小從32位浮點(diǎn)權(quán)值減少到16位或8位的精度。這不僅有助于簡化模型，而且還允許更快的執(zhí)行推斷，而不需要為邊緣設(shè)備創(chuàng)建不同的流水線和單獨(dú)建立不同的模型。這種方法的一個小缺點(diǎn)是精度略有降低，但在需要更快推理而非追求完美精確的應(yīng)用中，這可能是非常有益的。

白小白：

所謂流水線。是指機(jī)器學(xué)習(xí)的模型通常需要整合多個組成部分和環(huán)節(jié)在一起來輸出最終的結(jié)果，這個整合的過程即“流水線”，有點(diǎn)類似于軟件開發(fā)過程中，開發(fā)－＞編譯－＞部署－＞預(yù)生產(chǎn)－＞生產(chǎn)，數(shù)據(jù)科學(xué)也有源數(shù)據(jù)的提取轉(zhuǎn)換－＞預(yù)處理－＞特征選取－＞模型訓(xùn)練等一系列的過程。段尾作者給出的Tensorflow的“量化”的介紹地址已經(jīng)404了，在這個地址可以看到關(guān)于浮點(diǎn)精確性下降的量化解釋。

方法三：將模型能力限定在特定子域

在邊緣設(shè)備中進(jìn)行更快推斷的另一種方法是將模型的能力限制在特定的子域之上，這些子域僅服務(wù)于邊緣設(shè)備所應(yīng)執(zhí)行的任務(wù)。這方面的一個完美例子是Nikouei等人提出的輕量級CNN，該項(xiàng)目的目的是讓更多運(yùn)行在邊緣設(shè)備的人工智能作出更快和更好的推斷。文中所舉的示例中，邊緣設(shè)備是一個監(jiān)視攝像頭，用以檢測到人類。細(xì)節(jié)不作過多解釋，簡單講，L－CNN在不犧牲太多精確性的前提下保持了高性能，方法就是專門為人類檢測建立檢測方法，以減少不必要的過濾器。L－CNN能更有效地利用設(shè)備的資源。因此，建立一定的約束條件，機(jī)器學(xué)習(xí)可以很好的集成到邊緣計算中，以獲得更快、更低成本的推理能力。

方案四：Bonsai模型

L－CNN是為諸如Raspberry PI（基于Linux的單片機(jī)）一樣的內(nèi)存接近1GB的更智能的邊緣設(shè)備開發(fā)的。這個假設(shè)是可以接受的，畢竟處理圖像數(shù)據(jù)需要大量的資源。然而，我們可以為資源更稀缺的邊緣設(shè)備開發(fā)算法，這一點(diǎn)體現(xiàn)在Kumar等人開發(fā)的Bonsai樹算法中（。Bonsai是一種致力于解決資源高效型設(shè)備機(jī)器學(xué)習(xí)的算法，Bonsai（適用于通常在醫(yī)療、工業(yè)或農(nóng)業(yè)應(yīng)用中充當(dāng)傳感器的小得多的設(shè)備，模型大小小于2kb，可以匹配不同的應(yīng)用程序和數(shù)據(jù)集，由“基于在低維空間中學(xué)習(xí)到的單一、淺層、稀疏樹的新模型”實(shí)現(xiàn)。在邊緣設(shè)備上部署模型，而不是從云獲得推論，還具有離線功能的額外優(yōu)勢。

白小白：

Bonsai，盆景（盆栽）是在中國發(fā)明，之后傳到日本、越南和朝鮮特有的一種傳統(tǒng)藝術(shù)，約有一千二百多年歷史。按中文維基百科的解釋，是寓意于景，以觀四季。按Bonsai英文維基百科的解釋，是“在容器中制造一棵與完整的樹相同形態(tài)的小樹”。

四、邊緣計算的未來挑戰(zhàn)

邊緣計算的優(yōu)點(diǎn)和優(yōu)點(diǎn)

云時代的一個典型好處是集中化及其帶來的管理的便利性。隨著計算分布在許多節(jié)點(diǎn)和設(shè)備上，管理問題也隨之出現(xiàn)。此外，集中式系統(tǒng)更容易提供安全性。隨著網(wǎng)絡(luò)中設(shè)備數(shù)量的增加，網(wǎng)絡(luò)的安全性越來越難保證。對設(shè)備的物理篡改成為可能。在邊緣設(shè)備與霧節(jié)點(diǎn)之間或霧節(jié)點(diǎn)與中央云之間的數(shù)據(jù)傳輸中實(shí)施插入惡意代碼成為可能。當(dāng)然，隨著大家的努力，這些挑戰(zhàn)已經(jīng)得到解決，因此，在邊緣計算面前的道路似乎越來越清晰。

最后，云中心模式當(dāng)然不會消失。對于需要大量計算和存儲的許多其他用例，我們?nèi)匀恍枰獢?shù)據(jù)中心。然而，除非出現(xiàn)另一次重大的變革，邊緣計算仍舊是未來的方向。

邊緣計算云計算

標(biāo)簽： Google isp linux 安全 代碼 服務(wù)器 互聯(lián)網(wǎng) 通信 網(wǎng)絡(luò) 云服務(wù) 云服務(wù)器 云計算

版權(quán)申明：本站文章部分自網(wǎng)絡(luò)，如有侵權(quán)，請聯(lián)系：west999com@outlook.com
特別注意：本站所有轉(zhuǎn)載文章言論不代表本站觀點(diǎn)！
本站所提供的圖片等素材，版權(quán)歸原作者所有，如需使用，請與原作者聯(lián)系。