系統貓 #38 「來啦,你做了啊!」:從 ISSCC 2021 來看去年真的做出來的 Deep Learning Accelerators (二)IBM & Sony

【分享主題】「來啦,你做了啊!」:從 ISSCC 2021 來看去年真的做出來的 Deep Learning Accelerators (二)IBM & Sony
【活動時間】2021/4/26 (Mon.) 19:30 (19:00開放入場) 
【活動地點】Skymizer (台北市內湖區瑞光路 408 號 12 樓 -2)
【主題簡介】

國際固態電路會議又稱ISSCC ,於 2 月剛結束了 ISSCC 2021 全虛擬的國際會議,其中也有不少公司針對 Deep Learning 的應用來製作了許多新的晶片,我們看到與許多新的領域做結合、使用許多新的技術,並且在能源使用效率上,許多公司都突破10TOps/W的界線。在這幾次的分享會中,我們依序將給各位分享下面幾個團隊所發表的論文與成果:

(一)一般DLA晶片:Samsung、Renasas

(二)一般DLA晶片:IBM、Sony

(三)記憶體內運算技術(Compute-In-Memory):TSMC-NTHU團隊、UTAustin-Intel團隊、ITRI-NTHU團隊

------

此次演講會分享 Sony 最新的 CMOS Image Sensor (CIS) 發展及 IBM 針對伺服器市場設計的 Deep Learning Accelerator (DLA) 。

  1. Sony:作為全世界 CIS(CMOS Image Sensor) 市佔高達四成的領導廠商,Sony在本次的會議中發表了內含 Deep Learning Accelerator 的 CIS ,Sony 透過獨到的 Wafer 疊加設計,提高 Image Sensor 與 DLA 傳輸頻寬,可以達到 4.97 TOPS/W 的能耗比,最高可達 1.18 TOPS 。除此之外, Sensor 可以將 Model 判讀後的結果直接輸出,甚至不需要傳輸圖片只需要將判讀後的 features 往 CPU 傳遞,大幅減少後續傳輸的成本
  2. IBM:針對伺服器市場,IBM發表了 Training 和 Inference 兩用的 Deep Learning Accelerator ,透過 Iso-accuracy 的方式,對於 Training 使用 Hybrid-FP8 的 Precision ,對於 Inference 則使用 INT4 的 Precision ,再透過 On-chip Ring 的方式來做跨核心溝通,可以在 Training 上達成 3.5 TOPS/W 、在 Inference 上達成 16.5 TOPS/W 的能耗比

 


 

【講者簡介】

Peter Chang
Skymizer 共同創辦人,目前主要負責 Skymizer 技術行銷分析、虛擬平台開發,也曾是 SkyPat 單元效能測試平台的維護者。研究興趣包含:軟硬體協同設計、作業系統虛擬化、計算機結構。

 

【活動提醒】:
1. 場地需脫鞋,建議穿著方便穿脫的鞋子。
2. 座位有限,部分夥伴可能需要站著或席地而坐,建議提早到場才有座位喔。
3. 實體聚會前,歡迎來社團認識一下大家,接收活動第一手情報喔~
Cat System Workshop 長期徵求系統軟體、作業系統、編譯器、虛擬化、優化等相關技術的分享!其他與電腦科學相關的分享,也都可以投稿噢,投稿歡迎到 fb 社團或 telegram 私訊給四貓Facebook 社團:https://goo.gl/fR1AQZ 
telegram 群組:t.me/systemcat

4. 本場活動也會提供線上觀看連結,如有興趣但無法前來會場的朋友可以報名線上票,演講當日會透過 KKTIX 信件傳送 zoom 直撥連結。

5. 因疫情關係請入場配戴口罩及開QR Code 票卷給工作人員。入場前會量體溫及噴消毒酒精。

【特別感謝】:
本活動由 Skymizer 提供場地。

Skymizer / 台北市內湖區瑞光路408號12樓-2

Event Tickets

Ticket Type Sale Period Price
實體票

2021/03/29 00:00(+0800) ~ 2021/04/26 18:00(+0800) End of Sale
  • Free
線上票

Online event ticket

2021/03/29 00:00(+0800) ~ 2021/04/26 18:00(+0800) End of Sale
  • Free
Next Step