大約十年前,云端運算概念開始風行,企業(yè)紛紛擁抱這個集中式運算架構,充份運用強大算力,執(zhí)行AI建模等需要消耗資源的工作,加速滿足一些進階應用目標。盡管云端運算蘊含許多優(yōu)勢,但也不乏缺點,特別是企業(yè)若將數(shù)據傳送到云端進行計算,不僅需要承擔吃重的傳輸費用,也無可避免承擔較高的延遲,偏偏有愈來愈多應用講求實時反應、對延遲極為敏感。
因此分布式計算概念逐漸興起,要求資源優(yōu)化配置,有些在云端、有些在邊緣,彼此間達到充份搭配與協(xié)調,進而降低端云之間數(shù)據傳輸、也避免對后臺造成繁重負擔。
研華IoT嵌入式平臺事業(yè)群副總經理張達文指出,綜觀以往上傳云端的數(shù)據,當中高達八成為影像,現(xiàn)在這個部份可透過邊緣端智能設備直接進行推論與判斷,此即為Edge AI;意謂今后不需繼續(xù)依賴云端處理大小事,僅傳輸必要信息上云端即可,大幅降低數(shù)據傳輸量,而云的任務便是學習與分析,至于數(shù)據的預處理與邏輯執(zhí)行的工作,邊緣端可勝任無虞。
張達文表示,現(xiàn)階段研華已推出完整Edge AI方案,包括VEGA系列AI加速卡、AIR系列AI推論系統(tǒng)以及EIS系列邊緣智能系統(tǒng);另為了協(xié)助企業(yè)快速透過其邊緣裝置結合運用研華Edge AI產品、進行深度學習推論,還提供Edge AI Suite軟件套件,內含Intel的OpenVINO工具包(兼具優(yōu)化推論效能、跨CPU/VPU/GPU優(yōu)化工作負載、提供逾20款預訓練模型等多重價值),及來自第三方產業(yè)伙伴(CyberLink)的人臉辨識、車牌辨識等AI SDK。
截至目前,研華以Edge AI解決方案為基礎,已經與系統(tǒng)集成商伙伴共同瞄準各領域用戶的痛點,藉由這些剛性需求連手推進許多應用。
以Edge AI為基底,催生瑕疵檢測、智能電梯等多重應用
張達文說,談到現(xiàn)今的Edge AI應用伙伴,主要分為兩大類。一類是系統(tǒng)集成商(SI),通常會直接引進研華的加速模塊或推論系統(tǒng),再搭配OpenVINO執(zhí)行系統(tǒng)整合,利用臉部辨識或車牌辨識等預訓練模型為基礎,快速打造最終的應用模型、快速落地到場域。
例如為工具機賦予在線執(zhí)行瑕疵檢測的能力,一旦發(fā)現(xiàn)不良品,旋即將訊息傳達至機械手臂控制器,由機械手臂將該物品移出產線。此外研華與與電梯制造業(yè)者完成概念驗證(POC),由AI辨識電梯訪客、并學習他平時造訪的樓層路徑,之后只要此人進電梯,便由系統(tǒng)自動按下樓層鍵,減少接觸按鈕機會、連帶降低COVID-19(新冠肺炎)感染機率。
同樣基于防疫,研華與SI伙伴合作開發(fā)一套適用校園的系統(tǒng),可架設于每一間班級教室,負責定時辨識所有學生的臉部并測量體溫。此外針對智慧零售場域,在研華及SI協(xié)助下,業(yè)主可利用攝影機結合臉部辨識模塊,快速掌握所有消費者圖譜(包含每個人的性別、年齡等),便于執(zhí)行精準營銷。
另一類伙伴為醫(yī)療設備制造商,比方說制作醫(yī)用超音波設備的業(yè)者,過去他們主要向研華購置嵌入式CPU模塊,如今為因應AI影像判斷的發(fā)展需求,需要在產品設計上預先納入FPGA或GPU,以便預留AI加速功能、為AI鋪路;所以將采購目標從CPU板轉為CPU+FPGA/GPU,大幅提升產品在應用上的未來性。
張達文透露,展望下一步,研華與SI伙伴將連手催生更多應用,例如長途貨運車駕駛的行為監(jiān)控,乃至餐廳的前臺監(jiān)控(幫助前臺服務員精確判斷何時上菜、收盤子、招呼客人等等,給予最貼心服務),都是可行的發(fā)展方向。
研華嵌入式物聯(lián)網伙伴峰會
2020年11月19~21日的研華嵌入式物聯(lián)網伙伴峰會,將首次以在線論壇的方式舉辦,并以邊緣智能、AI產業(yè)應用、嵌入式物聯(lián)網為核心議題。 攜手全球頂尖產業(yè)伙伴共同探討AIoT新時代、新思路與最佳實踐。我們將規(guī)劃九大主題論壇,并邀請30位以上產官學伙伴專講,例如Intel、微軟,NXP、思謀以及中國信通院等產業(yè)專家,各位將從論壇中學習到AIoT 科技趨勢并透過伙伴的分享,激發(fā)物聯(lián)網實踐新思路。