1-7.GPU與TPU
這次Gemini 3發表會的亮點,「推理能力」和「多模態」,都已經強勢登場了,而另一個在會中被拋出的重磅話題,令各界議論紛紛,至今仍餘波盪漾。
「黃仁勳的GPU帝國霸業,會不會被Google的TPU取而代之?」
GPU晶片原本只用來加速電腦遊戲的畫面切換,但在2000年初,其強大的平行運算功能,也被應用在科學研究上,於是NVIDIA在2006年推出了CUDA,使用C/C++的擴充語法,來程式化GPU的運算。
2012年,AlexNet使用GPU訓練CNN模型,以極大的差距贏得ImageNet競賽,黃仁勳此時嗅到了AI領域的蓬勃商機,遂挾其技術上壓倒性的優勢,一步步建立起龐大的GPU帝國。
圖1-7-1.ImageNet影像識別競賽是由李飛飛教授創辦。
這些年來,各科技巨頭大手筆採購GPU之餘,也不忘開發自家晶片,GPU耗電、散熱的弱點,當然是主打項目。Google十年磨一劍,卓然有成的TPU,早被放進自己的系統當中了。
在傳統的 CPU 或 GPU 中,每次運算都需要從記憶體讀取資料、進行計算,再把結果寫回記憶體。但TPU 採用了一種稱為「脈動陣列」(Systolic Array)的架構,資料在運算單元之間直接傳遞,不需要頻繁存取記憶體,大大提升了工作效能。
脈動陣列,是台灣中研院院士孔祥重,和他的研究生 Charles Leiserson 所提出的。孔院士和資訊所陳昇瑋研究員(已故),於 2017 年創立了「臺灣人工智慧學校」,現已有上萬的學員參與,結業生遍佈台灣各階層。
