新聞中心

Intel在加速深度學習中提供“即時人工智慧”技術

 2017-09-15

人工智慧(Artificial Intelligence)和深度學習(Deep Learning)有望轉變人類與世界互動以及企業運作的方式,從而使人們做出更明智的決策,而英特爾技術正在實現這場變革。今天,英特爾將著重介紹全球最大的雲服務提供者之一是如何利用英特爾人工智慧技術來運行複雜的深度學習模型,這些模型實現了各種應用,從智慧手機上的人臉識別和語音辨識再到自動駕駛等等。

微軟選擇了英特爾® Stratix® 10 FPGA 作為其新的深度學習加速平臺(代號為 Project Brainwave)的關鍵硬體加速器。這種基於 FPGA 的深度學習加速平臺可以提供“即時人工智慧”技術,使雲基礎設施能夠以超低延遲來盡可能快速地處理和傳輸資料。在雲中,系統需要處理直播資料流程(包括視 頻,感測器或搜索查詢)並快速將資料傳送回使用者,因此提供即時人工智慧變得越來越重要。

 

Stratix 10 FPGA  SoC FPGA 使用了英特爾 14nm 制程工藝

在發佈的博客中,微軟詳細介紹了採用英特爾 FPGA 的 Project Brainwave 平臺如何以“前所未有”的高性能來靈活處理極具挑戰性的深度學習模型。微軟在 2017 年高效能晶片大會(Hot Chips 2017)上展示了基於 FPGA 的深度學習平臺,該盛會主要展示半導體技術領域中的最新成就。微軟是第一家在其公有雲基礎設施中部署 FPGA 的大型雲服務提供者,而其通過英特爾 Stratix 10 FPGA 實現的技術進步加速了深度神經網路(DNN),這種網路可以通過概念類似的方式複製人類大腦的“思維”。

 

人工智慧是一個快速發展的領域,需要多種技術來有效管理各種工作負載的需求。英特爾提供廣泛的技術以推動市場演進,包括英特爾至強® 處理器,英特爾® FPGA 和英特爾 Nervana™ ASIC 技術。與那些為運行單個工作負載而優化的專用深度學習硬體加速器相比,英特爾 FPGA 的高度靈活性讓使用者可以自訂硬體以滿足特定的工作負載需求,並可以隨著深度學習工作負載和使用模式的更改而快速地重新配置硬體。英特爾 Stratix 10 FPGA 結合了硬化處理器模組,這種模組可提供高水準的持續性能和效率,並可根據使用者的自訂來靈活的程式設計。

許多矽人工智慧加速器目前需要將多個請求分組(稱為“批次處理”)以實現高性能。微軟的 Project Brainwave 平臺利用英特爾 Stratix 10 技術,在單個請求上展示了超過每秒 39 萬億次浮點運算的性能,在雲中確立了即時人工智慧計算的新標準。Stratix 10 FPGA 為即時人工智慧計算確立了新的雲性能標準,具有創紀錄性的低延遲、高性能以及無需批量處理人工智慧請求的多種特點。

微軟研究院 NexT 的著名工程師 Doug Burger 說:“我們利用英特爾 FPGA 的高度靈活性快速整合創新,同時提供與許多基於 ASIC 的深度學習處理單元相當或更高的性能。微軟正努力在 Azure 雲中部署 Project Brainwave,以便客戶最終能夠以創紀錄式的高性能運行複雜的深度學習模型。”

通過加速模型訓練、快速評分和高度可擴展的基礎設施,基於英特爾技術的機器學習平臺將資料轉化為可操作的商業智慧。結合最新的英特爾至強可擴展處理 器,英特爾 FPGA 可自訂和程式設計以提供低延遲和靈活的精度,與單獨的英特爾® 至強™ 處理器相比,在深度學習推理方面每瓦特功耗具有更高的性能。