智能安防領域急需適用于邊緣計算的AI芯片

AI芯片在智能安防領域扮演著核心角色，芯片在很大程度上左右著安防系統的整體功能、技術指標、穩定性、能耗、成本等，并在安防行業未來發展方向上起到關鍵作用。目前安防監控領域主流的深度學習芯片是GPU，但GPU存在成本、效率、功耗等瓶頸，因此針對安防行業開發的FPGA/ASIC智能芯片成為新趨勢，而且要滿足即時、準確、低成本這些條件，才是未來能在智能安防應用中真正落地的AI芯片。相比于傳統視頻監控，邊緣計算+視頻監控最主要的變化是把被動監控變為主動分析和預警，因而解決了需要人工處理海量監控數據的問題。
 一、AI芯片是安防領域強需求
    在電子安防產品市場中，視頻監控系統占據了過半的份額，市場規模達到962億元，成為構建安防系統的核心。目前安防行業涉及多個領域，包括公安安防、智能家居、智能交通、智能制造、智慧城市等，主要需求還是來自于對人和車輛的檢索和識別，后期在行為識別方面的需求也會越來越大。在不久的將來，人工智能技術將會取代眾多傳統的安防技術，整個安防行業的發展已經到了比拼核心技術的關鍵節點。
目前市面上主流的人工智能攝像頭產品售價均為幾千元不等，是普通高清攝像頭的幾倍，其主要原因在于AI芯片成本居高不下。如何讓AI芯片成本降低，性能不斷提高，才是智能安防能否真正落地的關鍵。
二、邊緣計算是智能安防的主要瓶頸
    1.應用層面
    目前，產品落地上主要體現在視頻結構化、生物特征識別、物體特征識別等應用方向。安防系統每天產生的海量圖像和視頻信息造成了嚴重的信息冗余，識別準確度和效率不夠，并且可應用的領域較為局限。
　　視頻監控系統作為前后端分屬較為明顯的物聯網系統，在邊緣計算的應用方面有很大潛力。攝像機作為前端采集設備，目前不僅清晰度大大提高，而且對智能化需求也越來越強，因此行業內正在極力推進攝像機能夠實現對視頻圖像內容的實時處理，不但能夠極大地降低信息傳輸系統和后端設備的負擔，同時還能夠提升整個安防系統的響應速度，為安防領域一直提倡的"事前預警、事中制止、事后復核"理念走向現實提供最有利的技術支撐。
    2.云端的難題
    （1）數據傳輸成本高。隨著數據量激增，對傳輸帶寬壓力也不斷增加，邊緣端的無線傳輸模塊必須支持高速無線傳輸，這就需要更大的功耗，與邊緣端低功耗的需求是沖突的。
    （2）許多終端應用場景對延時非常敏感。比如平安城市中的異常行為檢查、人流量檢測等，都需要實時預警，延時較長是無法被接受的。
    （3）像智能家居等場景對安全和隱私的需求，也使得云計算的發展受限，在數據傳輸到數據中心前，通過網絡邊緣設備對數據進行分析處理，匿名和加密，可以無需將所有終端數據都傳輸給云端，進而有效地解決這些問題。
    3.技術層面
    現階段的人工智能，通常是指依賴于海量數據和深度學習，通過監督或非監督方式訓練而獲得的智能，代價是巨大的計算和存儲復雜度，隨著算法多樣性和復雜度的進一步提升，運算和存儲的代價都會大幅增長。傳統的解決方案是，大量的數據是在云端的數據中心被分析并決策后，再將結果發還給終端，也就是說，云端負責人工智能的部分，終端（也就是邊緣端）負責數據采集以及執行。

    三、邊端AI芯片的技術挑戰
    邊端AI芯片在實際應用終端需要深度神經網絡滿足存儲占用小、網絡精度高、計算速度快、電量消耗低等條件，才能真正發揮作用。例如在社會治安應用中，可根據治安、反恐、社區可疑人員等信息結合時間頻次信息等預測出可能出現的危險情況和安全隱患，從而組織治安力量更有針對性地進行社會管理，這些都需要網絡的準確性和實時性，而且邊緣端設備對體積和成本要求很高，不能接受占用很大的存儲空間和功耗。
    隨著深度神經網絡模型變得越來越復雜，其參數量和計算復雜度也相應增加，以AlexNet為例，該神經網絡包含超過六千萬個參數，對于單幅圖像進行分類的過程涉及到多達7.3億次浮點運算。如此高的運算代價，使得深度神經網絡在邊緣計算中遇到了極大的挑戰，而且邊緣端對時延和功耗較敏感，導致不同存儲介質間的頻繁數據傳輸應盡可能地避免，這就又限制了深度神經網絡模型的大小，如果能緩解馮諾依曼架構的瓶頸，盡可能減少甚至避免使用DRAM，減少存儲層級，將是一個非常理想的解決方案。但是，隨之而來的挑戰是深度神經網絡模型在保證精度的前提下必須足夠精簡。因此，如何解決深度神經網絡的加速與壓縮成為推動邊端AI芯片落地的核心技術難題之一。
    如何在網絡精度保持不變或略有下降的前提下減少網絡的計算量和存儲，如何實現更加有效的加速壓縮，也存在著許多困難和挑戰。首先，有些壓縮方法雖然能降低存儲，但由于其特殊存儲方式，需要解碼操作后才能用于網絡計算例如K-means聚類的網絡壓縮方法，雖然可以使用低比特的聚類中心的下標來存儲，但是在計算前需要對每一個權值用聚類中心所代表的浮點數替換，該類壓縮方法只能降低網絡對磁盤的占用，不能減少網絡對內存的消耗，因此不能降低功耗，也沒有真正做到加速。其次，對于目前基于CPU的計算平臺，許多加速方法雖然能達到很高的理論加速比，但實際加速效果遠低于理論，以網絡稀疏的加速方法為例，由于大部分元素為零，因此理論上有效計算量小，但由于無規則稀疏，非零元素在內存不連續，因此仍然需要頻繁訪問內存，并未實現真正加速。
    面對以上挑戰，定點量化的方式表現出明顯優勢。
　1.因為網絡在訓練好后，實際應用中并不需要全精度，量化就是指用更低的數值精度實現神經網絡的加速壓縮。
　2.量化的方式有多種，定點量化是相較其他幾種更為有效的，由于其在硬件如FPGA上能夠取得很高的運行效率。
　3.使用比特位數越低，加速效果越明顯。然而目前常用的定點量化方法，尤其是當量化比特數非常低的時候，如1比特或者2比特量化，很難達到與全精度（FP32）相近的性能，這也是量化技術發展過程中所面臨的挑戰。
    智能安防領域急需適用于邊緣計算的AI芯片，能滿足即時、準確、低成本、低功耗等高要求，通過AiRiA研究院研發的量化神經處理架構QNPU開發的硬件AI芯片，以及配套的一系列推理引擎等軟件，可以讓智能安防有望突破上述瓶頸，推動智能化安防監控設備更大范圍地普及。