減小尺寸、重量和功耗 (SWaP) 的要求也影響著人工智能 (AI) 和機器學習 (ML) 設計。
“將商業和消費者人工智能加速器硬件技術轉化為軍用/航空平臺通常需要的可部署、堅固耐用、尺寸、重量和功率(SWaP)受限的系統”是一項挑戰,Abaco Systems(阿拉巴馬州亨茨維爾)首席軟件工程師David Tetley說。
減少的SWaP往往與基于云的解決方案沒有協同作用,這些解決方案似乎具有無窮無盡的虛擬空間供應。
不幸的是,現實情況是“許多軍事系統都受到SWaP的限制,這挑戰了當今AI / ML解決方案的假設,”風河(加利福尼亞州阿拉米達)航空航天與國防副總裁Ray Petty解釋說。“當今的解決方案通常是在云或企業環境中開發的,假設可用連接(如帶寬和延遲)以及可用的計算資源(如可擴展性、內存和 CPU 靈活性)。
另一個挑戰是管理可能非常耗費資源的 ML 系統的資源。
值得慶幸的是,“我們看到最近獲得大量報道的大多數深度學習ML系統在訓練時都是非常資源密集型的,但在運行時并不是特別密集,”Charles River Analytics首席科學家Avi Pfeffer說。“這意味著如果它們非常適合該問題,它們是降低SWaP系統的不錯選擇;也就是說,有足夠的數據來訓練他們。
然而,在設計傳統上受SWaP約束的ML / AI密集型系統(如飛機)時,空間成為一個問題。
“我們一直致力于將人工智能應用于構建安全系統,例如用于檢測我們為空軍研究實驗室建造的飛機航空電子系統中運行的惡意軟件的系統,”Charles River Analytics(馬薩諸塞州劍橋)的首席科學家Terry Patten說。“我們發現,有關系統運行狀況的最佳信息來源之一,也是實時攻擊中緩解資源的最佳來源之一,是冗余,這對于減少SWaP的系統來說是有問題的。
在管理 SWaP 約束時,加固也可能很棘手。
“尺寸可能是最具挑戰性的制約因素之一,因為大型設備比小型設備更難加固,”Mercury Systems(馬薩諸塞州安多弗)首席產品經理Devon Yablonski說。“大多數經過高振動測試并以BGA形式提供的嵌入式部件都是低功耗部件,它們犧牲了其‘全尺寸’對應物的許多功能,而這些功能正是這些新的ML和AI應用程序所期望的功能。例如,當今許多處理器上的高帶寬內存(HBM)無法很好地處理高溫,因此在嵌入式芯片上并不常見。對內存的高速訪問對于ML和AI應用程序至關重要。
問題在于,用戶無法“在SWaP受限的系統中部署廣泛用于AI的高功率,服務器級CPU和GPU,因此我們需要使用移動級設備[因為它們的功耗更低,散熱設計更低],”Tetley解釋說。“理想情況下,這些設備包括特定的AI加速功能,可提供出色的每瓦IOPS [每秒推理操作]。這方面的一個例子是 NVIDIA 圖靈類 GPU 和 NVIDIA Xavier SoC [片上系統] 上的深度學習加速器。此外,您需要確保通過使用 NVIDIA 的 TensorRT 等工具高度優化您部署的神經網絡(或“推理引擎”)。這確保了軟件針對目標嵌入式硬件架構進行了理想優化,從而盡可能高效地運行。
通常,SWaP 要求與許多 ML 模型和解決方案不兼容。
Petty補充說,同樣重要的是要注意,“許多軍事系統的SWaP約束與這些假設不兼容,需要重構AI / ML解決方案。“然而,重構與AI / ML解決方案對工業控制,醫療和汽車等其他市場的適應是一致的,并且解決方案可以跨領域利用。
當然,在商業領域,人工智能/媒介與信息素養領域的統治君主“是世界上的Facebook、谷歌和亞馬遜,”Yablonski說。“他們對最小化尺寸、重量和功耗的要求有限,除了如果可以減少其中任何一個,他們可以構建更高效的數據中心。英特爾、英偉達、AMD等芯片供應商迎合了這些市場。盡管追求很重要,但防御的數量要低得多。要從商業領域獲得高性能芯片和產品,這些芯片和產品在我們的市場上具有生存能力,并考慮到功率限制(每臺計算機通常為100-200瓦)和尺寸限制,這是一項挑戰。
審核編輯:郭婷
-
人工智能
+關注
關注
1796文章
47666瀏覽量
240286 -
機器學習
+關注
關注
66文章
8438瀏覽量
133084
發布評論請先 登錄
相關推薦
評論