Cloud

什麼是邊緣運算(Edge Computing)?

by GIGABYTE
邊緣運算將原本完全由中心節點處理的大型服務,切割分散到邊緣節點,更接近用戶終端裝置,可加快資料的處理與傳送速度,減少延遲,更適合處理即時性的數據分析及服務。
當你不小心摸到很燙的鍋子,如果還需要大腦收集資料、進行辨識、做出判斷,才能反應,會發生怎樣的慘劇?把神經反應想成邊緣運算,大腦判斷作為雲端運算,即可踏出理解「邊緣運算(Edge Computing)」的第一步。

如同集中式大賣場無法取代住家附近的便利商店和公司內部的自動販賣機,個人電腦的普及、主從式架構的崛起、到將網路內容傳送給使用者的內容傳遞網路(CDN,Content Delivery Network),都是可被視為廣義且原始的邊緣運算。 《詞彙學習:什麼是內容傳遞網路(CDN)?
支撐邊緣運算的台柱
由小到大、由近至遠,近二十年來,每個軟硬體環節的技術演進,如碳酸鈣一點一滴的沈積成鐘乳石,一磚一瓦的建構出支撐邊緣運算的台柱。

● 因「根本不是定律」的摩爾定律而突飛猛進的半導體製程:
這年頭連用來發展嵌入式應用的系統單晶片,都擁有相當程度的運算效能,不僅足以作為小型個人電腦的大腦、滿足人工智慧的推論需求,更能達成某種程度的深度學習,亦不乏像Google Edge TPU之類,量身打造的推論用人工智慧處理器。 《詞彙學習:如果你還不了解什麼是人工智慧(AI)?

在可見的未來,可兼具系統主記憶體與資料儲存、斷電後資料也不會遺失的高效能非揮發性記憶體,如Intel的Optane(3D XPoint)和眾多廠商研發中的SST-MRAM(Spin Torque Transfer-MRAM)等,更將讓小型運算平台更加緊緻與節能,進一步提高可用性。

● 多樣化的低功耗無線網路:
不限於我們熟知的WiFi、藍芽與ZigBee,諸多低功耗廣域無線網路(LPWA,Low-Power Wide Area),距離從1公里遍及到50公里,像Sigfox、LoRaWAN、WiFi HaLow、Wi-SUN、NB-IoT和Ingenu等諸多規格,如雨後春筍般的紛紛問世,讓連接大量傳感器與邊緣運算裝置,變得更加便利。

● 機器對機器(M2M, Machine to Machine)通訊規格的標準化:
機器裝置與裝置之間,能直接透過網路溝通,不需要人爲干預,可自行完成任務,是「從溝通自動化進化到執行自動化」的物聯網觀念核心,而相對應的通訊協定則是其靈魂。

機器之間的通訊協定,從2000年標準化的ECHONET、2013年定為ISO(國際化標準組織)標準的MQTT(Message Queuing Telemetry Transport)、2014年IETF(網際網路工程任務組)的CoAP(Contrained Application Protocol)、到2014年Google的The Physical Web,發展越趨成熟。

● IPv6解決網路位址不足的宿疾:
1981年源自RFC791的IPv4僅能提供43億個位址,1998年RFC2460規範、在2012年啟用的IPv6,可提供近乎無限大(IPv4的10^28倍)的IP位址,讓萬物聯網成為可行的現實。
軟體定義網路SDN大幅地降低了網路維護、管理與更新的困難度。
● 軟體定義網路(SDN,Software-Defined Networking)利於集中式控管,降低頻寬成本:
一般人在佈建自家或小型辦公室網路時,或多或少困擾於安裝設定維護多種聯網設備,如個人電腦、WiFi無線存取點、無線路由器、乙太網路交換器或網路儲存裝置等,對於電信營運商、網路服務供應商和雲端服務業者來說,這麻煩就更不得了了。 《詞彙學習:什麼是軟體定義網路(SDN)?

SDN的精神在於透過軟體來改變網路架構與機能,分離網路設備的控制層與資料層,由取得全局視野的控制層,對網路設備下達指令,資料層僅負責傳輸封包,不再一台一台的去調整獨立的網路設備,以便集中式控管整個網路,有效運用網路頻寬,並提升網路使用率。

Google在2012年,早已採用OpenFlow協定打造B4網路,改其連結全球12座資料中心的G-Scale廣域網路的流量工程(Traffic Engineering),將頻寬利用率從30%激增到逼近100%,大幅降低頻寬成本。在大多數人還在高談SDN的當下,Google早就汲取其精神並將其實用化。後來其人工智慧TPU(Tensorflow Processing Unit)也是遠遠走在「熱門議題」之前,隱藏在背後的深意,不言可喻。

不限於資料中心,SDN同時也適用於很多網路應用領域,像資訊安全、無線網路、企業網路和電信網路等,經過歷年發展,都有其一席之地。當然,邊緣運算亦同,經由SDN實現「隨選隨用」以削減網路頻寬成本,也是邊緣運算訴求的重點之一。

● 運算容器化技術從雲端延伸到邊緣:
一般我們最常見的虛擬化技術應用,除了一台電腦上面的多工作業系統可同時執行多個應用程式的「行程虛擬化」,就是一台電腦跑好幾個作業系統的「系統虛擬化(或稱為「主機虛擬化」)」。

不過,近代雲端資料中心普遍採用的是輕量化的「容器(Container,Docker是最著名的容器軟體平台)」技術,透過容器進行資源隔離,只須裝載應用程式與對應的資源環境,無須塞入整套作業系統,不僅減少運算資源、記憶體空間與儲存容量的開銷,實現更敏捷的應用程式生命週期管理,更兼顧虛擬機器的隔離性與快速佈署服務的彈性。

容器技術也可被應用在從雲端中心節點,將應用程式、數據資料與服務提供,轉移到邊緣運算節點。此外,邊緣運算有著多樣化的應用場景,也帶來多樣化的開發工具與程式語言,開發人員勢必採用不同的語言,處理不同場景的問題。也因此,邊緣運算平台為了提供支援多種開發工具與程式語言的運行環境,具備隔離性的容器技術,就成為再也自然不過的必備需求。

像奇異(GE)創建的Predix工業互聯網軟體平台、AWS的IoT邊緣運算平台Greengrass,和微軟的Azure IoT Edge,都主要透過容器技術,將原本在雲端的工作負載,如人工智慧與分析作業,卸載至邊緣,如此一來,物聯網裝置就能以較少的時間與雲端通訊,保持資料同步,更快速地回應系統變更,甚至能夠在長期離線的狀況下,可靠地獨立運作。《詞彙學習:如果你想知道什麼是物聯網(IoT)?

對應不同的場景,適用的容器技術與架構也不見得相同,像最知名的容器叢集管理調度平台Kubernetes的IoT Edge,就同時K3S(在邊緣端安裝管理容器叢集)、KubeEdge(由雲端管理工作節點)和 Virtual Kubelet(由雲端管理邊緣端的容器叢集)三個專案,各司其職。
邊緣運算與雲端運算相輔相成
從邊緣端直接擷取、處理物聯網裝置訊息,進而做出回饋與反應,如此一來就不用讓所有資料都上到雲端,能夠即時且更有效率的處理、傳輸龐大的資料量。
假如我們擁有足以克服物理限制的無限計算量與超越光速的傳輸手段,把所有的工作通通丟給雲端資料中心,當然是最直接乾脆的手段。但世界上最遙遠的距離莫過於「等不及」,實體距離與服務延遲,一直雲端運算難以克服的物理性障礙,亟需邊緣運算互補實乃不得不然。 《詞彙學習:如果你還不知道什麼是雲端運算?

我們在前面有提到,行之有年的內容傳遞網路(CDN)即可視為邊緣運算的原始型態,存放網際網路資料的實體伺服器遍佈全球,為了確保服務品質,更快、更可靠地將音樂、圖片、影片、應用程式及其他檔案傳送給使用者,CDN業者在全球各地佈署作為內容快取機制的伺服器,降低傳輸內容的延遲,並進行負載平衡,維持一致性的使用者體驗。

但終端資料終將送回到雲端資料中心處理的傳統CDN,終究無法承受物聯網和人工智慧時代帶來的爆炸性資料量,真正貨真價實的邊緣運算,需能夠在本地端進行資料處理,減輕雲端資料中心的負擔,並讓服務延遲縮短到可被人類接受的程度。 

擁有足以克服物理限制的無限計算量與超越光速的傳輸手段,把所有的工作通通丟給雲端資料中心,當然是最直接乾脆的手段。但世界上最遙遠的距離莫過於「等不及」,實體距離與服務延遲,一直雲端運算難以克服的物理性障礙,亟需邊緣運算互補實乃不得不然。 

我們在前面有提到,行之有年的內容傳遞網路(CDN)即可視為邊緣運算的原始型態,存放網際網路資料的實體伺服器遍佈全球,為了確保服務品質,更快、更可靠地將音樂、圖片、影片、應用程式及其他檔案傳送給使用者,CDN業者在全球各地佈署作為內容快取機制的伺服器,降低傳輸內容的延遲,並進行負載平衡,維持一致性的使用者體驗。 

但終端資料終將送回到雲端資料中心處理的傳統CDN,終究無法承受物聯網和人工智慧時代帶來的爆炸性資料量,真正貨真價實的邊緣運算,需能夠在本地端進行資料處理,減輕雲端資料中心的負擔,並讓服務延遲縮短到可被人類接受的程度。 
虛擬實境VR因即時性的應用,需要較低的延遲跟大量資訊傳輸才能有好的呈現。
像擴增實境(AR,Augmented Reality)、虛擬實境(VR,Virtual Reality)、自動駕駛車輛和無人機等「即時性」的應用,就有賴於本地端的強大運算效能,並初步處理並聚合資料,轉換為有價值的資訊,再送回雲端資料中心進行更精細的分析,反饋給邊緣運算平台,兩者相輔相成,絕無「邊緣運算全面取代雲端運算」的道理,將邊緣視為雲端的「觸角」是比較貼近事實的觀點。

雲端亦能強化邊緣的安全性。微軟在2018年四月公佈了Azure Sphere物聯網安全性專案,整合微軟Pluton晶片安全技術的可連網微控制器 (MCU,Micro Controller Unit),安裝Linux核心的Azure Sphere作業系統後,可自動連結至Azure Sphere安全雲端服務,從雲端管理所有Azure Sphere物聯網裝置,全面性的監控資安威脅,並自動進行軟體更新,企圖建置從雲端服務一路延伸到邊緣運算的物聯網生態系統。

在這裡就不得不談談在電信領域,雲端與邊緣的整合。由歐洲電信標準協會(ETSI)在2012年提出的網路功能虛擬化(NFV,Network Function Virtualization),是一個與SDN思想有點相似、目的截然不同、但實務上高度互補的概念。NFV將多種不同類型的專用網路硬體,透過虛擬化技術,整合到通用的硬體平台(一般來說,意指標準的x86伺服器),以降低網路費用與營運成本。

過去幾年,以NFV架構為基礎,出現了將基地台的基頻處理(Baseband Processing)集中在雲端的Cloud RAN(Cloud Radio Access Network,雲端化的無線存取網路),在雲端資料中心集中處理並轉發大量基地台訊號,更有效率地平衡覆蓋率與負載量,利用標準伺服器平台提供網路功能,實現低成本部署,簡化網路設備與架構。

近年來,同為奠基於ETSI NFV架構的多接取邊緣運算(MEC,Multi-access Edge Computing),隨著5G行動網路即將商業運轉的浪潮,由MEC組成的微型資料中心,成為邊緣運算的熱門焦點。可佈建於不同位置的MEC邊緣運算平台,如佈署在基地台,即可就近提供極低延遲的服務,與Cloud RAN相輔相成。電信營運商亦可在NFV環境,融合分離控制層與資料層的SDN技術,除了最佳化網路性能,簡化不同網路硬體廠商的相容性管理,更易於操作與管理整個網路架構。 

了解更多:
《詞彙學習:如果你還不知道什麼是網路功能虛擬化(NFV)?
《詞彙學習:什麼是基頻處理(Baseband Processing)?
《詞彙學習:想了解什麼是雲端化無線存取網路(Cloud RAN)?
《詞彙學習:什麼是無線電接入網(RAN)?
《詞彙學習:帶你了解什麼是多接取邊緣運算架構(MEC)
行動邊緣運算(MEC)-「追求更好的網路體驗,實現5G MEC應用的彈性系統選擇」》
人工智慧是邊緣運算的天作之合
現今的人工智慧應用,主要分為「學習(Learning)」和「推論(Inference)」兩個階段,前者透過機器學習技術,利用大量樣本數據訓練演算法;後者則執行演算法,在應用的終端,解讀真實世界的數據。像自駕車、無人機、機器人、人臉辨識和城市交通號誌與車流量管理等「即時性」應用,不可能所有的判斷(如車子快要撞到人,飛機即將撞上建築物),都要等待雲端資料中心的決策,勢必需要本地端的運算能量,否則將毫無實用價值。 《詞彙學習:什麼是機器學習(Machine Learning)?
智慧交通對網路頻寬及延遲的要求極高,透過邊緣運算能滿足應用需求。
所以人工智慧會被視為邊緣運算的天作之合,不是沒有原因的,雲端資料中心負責需要龐大運算能量的學習,邊緣運算節點則使用其學習的成果,並反饋蒐集到的資料,協助雲端資料中心持續修正學習的內容。

假若你對這些看似遙不可及的應用無感,那倒是可以先瞧瞧人工智慧在遊戲方面的例子。這些年來,想要痛快的使用個人電腦暢玩狂吃效能如喝水的遊戲,往往得先耗費大量金錢砸在升級電腦硬體,尤其是所費不貲的高階顯示卡,也變相形成推廣遊戲的門檻。不過如果可以將部份的運算資源,轉嫁到遠端的資料中心,減輕個人電腦的負擔,那又將是何等美好的願景? 
 
NVIDIA的「深度學習超級取樣技術(DLSS,Deep Learning Super Sampling)」將原先在個人電腦顯示卡處理的「放大」與「取樣」過程,轉移給超級電腦處理,再套用回玩家的遊戲畫面,柔化畫面鋸齒邊緣,堪稱雲端與邊緣的完美協作案例。 

NVIDIA的Neural Graphics Framework超級電腦,會先蒐集來自眾多遊戲的數千張64倍超高取樣完美圖像,以及未開啟反鋸齒功能的原始版本,一併交給卷積神經網路(CNN,Convolutional Neural Networks)進行訓練,最後形塑成「可透過較低的效能、模擬出64倍取樣畫面品質」的通用模型,接著再加入某款遊戲的完美圖像到通用模型之中,利用同樣的方法進行針對化訓練,即可取得專屬某款遊戲的模型,然後透過驅動程式更新,推送給玩家訓練好的更新檔案。

玩家安裝更新檔案,並開始遊玩擁有DLSS模型的遊戲後,GeForce RTX顯示卡的Tensor Core(張量運算核心),就會利用先前超級電腦的學習成果,渲染出接近64倍取樣的畫面濾鏡,套用回玩家的遊戲畫面中,同時降低遊戲內部的渲染解析度,減輕運算負擔,讓玩家享受超高取樣反鋸齒畫面之際,亦可順暢的運行遊戲。

了解更多:
《詞彙學習:你想知道什麼是深度學習超級取樣技術(DLSS)嗎?
深度學習-「從深度學習到機器學習來瞭解人工智慧領域」
在邊緣平台進行高效能運算,將能加速能源開採品質與效率,更能簡化處理過程及配送等應用。
至於結合人工智慧與物聯網的AIoT,更是邊緣運算可大顯身手的場域,特別是佈署大量儀器設備的製造業與能源開採業,可透過龐大的物聯網邊緣運算平台(如IoT Gateway)蒐集整理數據,傳送到雲端資料中心進行深度學習,再反饋終端,執行設備參數最佳化。 《了解更多:AIoT-「你知道AIoT嗎? 談物聯網結合人工智慧的實務應用」》
以面對微型資料中心的態度,避免邊緣運算衍生的安全性管理問題
乍看之下,邊緣運算在資料的處理與傳輸上,雖然具備了「超低延遲」、「穩定可靠」、「顧及隱私」、「降低功耗」與「資料安全」等優勢,但實體層面的物理安全,卻是邊緣運算帶來的隱患。

這問題近似於企業管理大量個人電腦與網路設備的情境,但因為邊緣運算會回傳資料到雲端,甚至這些資料將作為人工智慧的訓練材料,並回饋給用戶,造成的潛在危害也更大。最起碼,沒人希望看到自動駕駛車輛靠著錯誤的訓練結果,開在道路上變成另類的公共安全威脅。

邊緣計算的硬體設備,通常佈署在規模較大的企業或工廠等廣闊空間中,也有可能位於尚未管制進出的辦公室和公共區域。表面上,邊緣運算讓前端的用戶設備,能夠更快地存取到需要的資料,而不必動輒勞駕後端的雲端資料中心。但一旦缺乏存取權限控制,邊緣運算設備將暴露於惡意破壞操作和簡單人為錯誤的雙重風險。

你可以想像一下,辦公室的清潔工意外地關閉某些設備,以及隨之而來的停機,所引發的一連串嚴重後果,企業資訊部門人員與親身經歷過類似災情的企業員工,都會對此有一股強烈的即視感。

另外,很多MIS公司或多或少都有類似的經驗:公司內有員工偷裝WiFi無線存取點或網路交換器等頻寬分享裝置,輕則損害公司的網路效能,重則癱瘓員工生產力之所繫的辦公室網路。非企業資訊部門人員也有可能為了加速專案而便宜行事,擅自安裝邊緣運算設備並將其連上網路,但並未告知相關部門,這也會增加資訊安全的風險。

簡而言之,理想中的邊緣運算平台環境,需要以面對「微型資料中心(MDC,Micro Data Center)」的態度,將一切維持運作所需的運算能量、儲存容量與網路資源,配置在不易被接觸的獨立空間,如可上鎖防止非法入侵的封閉機箱或專用房間,包含了必要的電源供應、冷卻系統、安全功能與管理工具,例如可遠端管理的監控攝影機或感測器,一有風吹草動,立即通知相關人士處理。關於應用軟體品質、運算資源隔離與網路架構規劃,也應一體適用,比照辦理。
使用者長期佩戴穿戴式裝置,生理資訊等都被不間斷地蒐集,若導入AI功能,還能透過AI演算法與深度學習網路分析這些個人資訊。
效能越來越強大的智慧型手機與穿戴式裝置,也是值得留意的邊緣運算平台,為了避免未經同意就被收集個人資訊,或著這些常不離身的用品,變成他人作惡的媒介,多多關照上面到底裝了哪些應用程式,被偷偷的啟動了哪些奇怪的功能,也是身為人工智慧時代的現代人,應該多花點心思以保護自己的重要事項。
適用於邊緣運算的伺服器:技嘉H242-Z10
總之,我們可將邊緣運算的諸多優點,歸納如下:
● 即時性:資料由本地端產生,能夠快速反應。
● 獨立性:在沒有網路連接時,系統亦能運作。
● 合規性:毋需傳送用戶資料,保護個人資料。
● 精簡性:終端先行處理資料,簡化後才上雲。
● 安全性:減少資料傳輸總量,降低安全風險。 

考量5G基礎設施所需要的邊緣運算平台伺服器,須兼備高運算密度、建議佈署與維護設計、易於遠端進行多重伺服器管理、確保在高溫高使用率下仍擁有耐用性與穩定度的高品質元件、與相容開放運算計畫(OCP,Open Compute Platform)的多樣化板卡擴充性,採用AMD第二代EPYC處理器(Rome)的技嘉H242-Z10,將是值得各位認真考慮的優質選擇。

邊緣運算是這幾年來隨著世人逐漸理解到「天高皇帝遠」的雲端運算,終究在大量的現實生活中「遠水救不了近火」,而慢慢流行的技術行銷名詞。但邊緣運算是果,不是因,我們不應先射箭再畫靶,為了邊緣運算而邊緣運算,而是先釐清我們究竟有哪些尚未被充分滿足的需求,可透過邊緣運算來實現。

詞彙學習:
Realtion Tags
多接取邊緣運算架構
邊緣運算
第五代行動通訊技術
Server
內容傳遞網路
軟體定義網路
網路功能虛擬化
基頻處理器
雲端化無線存取網路
深度學習超級採樣技術
開放運算計畫
WE RECOMMEND
RELATED ARTICLES
新北寶可夢瘋抓寶 單日湧入破10萬人 看技嘉高密度伺服器如何協助維護治安

大型活動瞬間湧入大量人潮,往往造成手機網路壅塞,即使透過電信公司的行動基地台加強訊號,也無法負荷龐大使用量;2019年工研院打造「行動專網影音指揮車」,建構類5G行動專網,解決商用網路塞車問題,協助新北市警局順暢傳輸、監控大型活動現場的即時影像,有效運用警力資源,提升活動維安效率。技嘉高密度伺服器,也協助該行動專網影音指揮車,降低資料中心的運算複雜性,將運算、儲存與網路結合成單一系統,建立共享運算和儲存資源,有效的集中管理及分配運用,通過簡化管理程序,提高資源利用率。

[數位導覽] 5G邊緣運算  開啟你的全新體驗

GIGABYTE 將為你開啟一趟5G生活圈的數位體驗,運用智慧城市情境,以5G三大特性: eMBB大頻寬、URLLC低延遲、mMTC巨量連結為基礎,呈現動態圖文的情境解說,如大型活動的即時沉浸式體驗、智慧車聯網及自駕車、及應用於智慧城市的新服務,同時掌握關鍵技術多接取邊緣運算(MEC, Multi-access Edge Computing)架構與技嘉邊緣運算平台在5G未來中所扮演的重要角色。

新一代通訊商機:3項高潛力 5G應用實例

5G通訊技術近期不斷地在各大產業間被談論著,似乎所有事物都要與5G連結上,才算跟上科技潮流! 談到5G技術必定會提到大頻寬、低延遲、大連結等特性。而5G的到來能改變未來生活的樣貌,我們直接從生活實例中更明確地了解什麼是5G吧! 而技嘉在5G新世代通訊中扮演什麼關鍵角色呢?

追求更好的網路體驗,實現5G MEC應用的彈性系統選擇

為實現5G MEC應用提供高穩定性、低延遲的計算平台,為更好的網路體驗,創造彈性靈活的系統選擇