Google的TPU芯片專門為云端AI應(yīng)用設(shè)計(jì)，可謂是為云而生。而TPU的設(shè)計(jì)過(guò)程又越來(lái)越多的利用了云的優(yōu)勢(shì)，可謂是生于云中。TPU所帶來(lái)的創(chuàng)新，不僅僅是芯片架構(gòu)，還反映在整個(gè)芯片研發(fā)的思路，方法，甚至是“文化”，而后者可能對(duì)整個(gè)產(chǎn)業(yè)都會(huì)帶來(lái)更為深遠(yuǎn)的影響。
傳統(tǒng)的芯片公司做芯片，目標(biāo)是規(guī)模量產(chǎn)和銷售，第一個(gè)風(fēng)險(xiǎn)就是芯片的規(guī)格不能滿足市場(chǎng)需求，做出來(lái)也沒(méi)用。有了規(guī)格之后，我們考慮的最多的就是成本（PPA和研發(fā)成本）和Time to Market，這讓我們?cè)谧鰐rade-off的時(shí)候束手束腳。如果不用擔(dān)心難伺候的客戶，不用擔(dān)心規(guī)格不對(duì)，而成本和ToM也不是最重要的因素，我們是不是終于可以大展拳腳了呢？
我們?cè)谘邪l(fā)一款芯片的過(guò)程中，從架構(gòu)設(shè)計(jì)到物理實(shí)現(xiàn)，需要很多步驟，其中的很多工作，比如仿真驗(yàn)證，需要大量的計(jì)算資源。而在現(xiàn)實(shí)中，計(jì)算資源總是有限的，我們要么Delay，要么放棄對(duì)驗(yàn)證質(zhì)量的追求。如果計(jì)算資源是“無(wú)限”的，我們還需要做這種無(wú)奈的取舍嗎？
當(dāng)看到[1]中的如下文字，我一下就想到了上述兩個(gè)場(chǎng)景，進(jìn)而非常理解Daniel Nenni所形容的在Google做芯片就像“小朋友進(jìn)了糖果屋”的感覺(jué)。
“A friend of mine now works for Google designing chips. Can you imagine what it is like designing chips for a company that does not sell the chips (cost and delivery are not the driving factor) and has a massive cloud at their disposal? To put it bluntly my friend was like a kid in a candy store. He can now design a much better quality chip without having to worry about lengthy simulation and verification runs. To be clear, you can bet Google chip designers get silicon right the first time, absolutely.”
Google TPU我介紹的很多了，2017年Google公布了第一代TPU的架構(gòu)，之后基本是每年更新一代，可以說(shuō)迭代速度非常之快。大家看TPU的論文，都會(huì)感覺(jué)它的架構(gòu)和設(shè)計(jì)似乎并不復(fù)雜，但我相信離開了Google，沒(méi)人能做到類似的成功。因?yàn)門PU的設(shè)計(jì)反映的是Google在Cloud/Data center軟硬件體系上的強(qiáng)大經(jīng)驗(yàn)和實(shí)力，它放在Google Cloud上就是合適。我最近的文章討論了Tesla的FSD芯片，它的前提也是這個(gè)芯片就是自己用的，不用考慮別人的需求。在這種情況下，我們來(lái)對(duì)比評(píng)價(jià)它的架構(gòu)設(shè)計(jì)就顯得沒(méi)什么意義了。Google不只做TPU，還有不少芯片項(xiàng)目。Apple早就把自研芯片作為最核心的研發(fā)了。其它能數(shù)得上的科技巨頭也無(wú)一例外的都在自研芯片，很多現(xiàn)在還不是巨頭的系統(tǒng)公司和應(yīng)用公司也開始自研芯片。這個(gè)趨勢(shì)會(huì)給整個(gè)半導(dǎo)體行業(yè)帶來(lái)很多變化，商業(yè)模式，生態(tài)和產(chǎn)業(yè)鏈，技術(shù)趨勢(shì)，研發(fā)模式，設(shè)計(jì)方法，甚至是”文化“。
而芯片研發(fā)模式的變革就引出了本文的第二個(gè)問(wèn)題：云上的芯片設(shè)計(jì)。還記得在17年我參加阿里云棲大會(huì)的一個(gè)討論，被問(wèn)就是關(guān)于在云上用EDA工具做芯片的問(wèn)題。應(yīng)該說(shuō)，當(dāng)時(shí)這種模式不論是在技術(shù)上還是商業(yè)模式上都還在探索階段。到現(xiàn)在再回看，這個(gè)探索到實(shí)用的過(guò)程似乎并不太長(zhǎng)。在今年的DAC(Design Automation Conference，EDA界的盛會(huì))上，Google和eSilicion有個(gè)聯(lián)合talk，”Doing EDA in the Cloud ? Yes, it’s possible !“[2]?！盬e often hear that the EDA industry is not yet ready for the cloud, usually due to objections about the nature of cloud-native technologies. However, the cloud seems like the ideal place to run chip designs: flexible compute resources available on demand, nearly infinite storage, and a pricing structure that avoids costs for idle resources. “可惜我沒(méi)有看到具體的材料。
實(shí)際上，Google在去年DAC上就做了名為”Google: Moving EDA to the Cloud - a Google-on-Google story“報(bào)告（這個(gè)可以在網(wǎng)上找到）。當(dāng)時(shí)就提到，在做TPU的過(guò)程中很自然的想到了利用云資源的優(yōu)勢(shì)。其實(shí)也不難理解，芯片設(shè)計(jì)中大量的時(shí)間是花在仿真驗(yàn)證上的，而這些仿真驗(yàn)證又很容易并行執(zhí)行。如果能在一段時(shí)間內(nèi)提供大量運(yùn)算資源，就可能大大減少總的驗(yàn)證時(shí)間，或者在有限時(shí)間內(nèi)做更充分的驗(yàn)證。由于這種需求是突發(fā)性的，一般的芯片設(shè)計(jì)公司不可能自己建立這樣的能力來(lái)滿足短暫的峰值需求。但對(duì)Cloud來(lái)說(shuō)，這就不算問(wèn)題了。所以才說(shuō)Google可以在需要的時(shí)候把”無(wú)限“的資源投到芯片設(shè)計(jì)，實(shí)現(xiàn)快速迭代（他們的原話是”敏捷開發(fā)“），同時(shí)更容易實(shí)現(xiàn)高質(zhì)量驗(yàn)證并保證一次投片成功。下圖是Google Could支持芯片驗(yàn)證的架構(gòu)，其中就明確提到了”Unlimited Simulations Running in Parallel“。
當(dāng)然，Google這么做可以說(shuō)非常自然，但對(duì)第三方芯片公司來(lái)說(shuō)，要利用這樣的平臺(tái)，還需要考慮很多因素的，比如數(shù)據(jù)安全的問(wèn)題。上述talk中也提到了這個(gè)話題，認(rèn)為安全性本身就是云廠商重點(diǎn)關(guān)注的問(wèn)題，它們?cè)诎踩陨系耐度氡纫话愎敬蟮枚?，因此在云上的安全性比本地的安全性更高。芯片?xiàng)目的數(shù)據(jù)和IP是芯片公司的最核心資產(chǎn)，大家對(duì)安全性的關(guān)注當(dāng)然很高。不過(guò)隨著這種模式越來(lái)越完善，相信這些障礙都是可以解決的，剩下的可能真是”文化“的問(wèn)題了?！痹粕献鲂酒翱梢运闶切酒邪l(fā)模式的重要?jiǎng)?chuàng)新，沿著這個(gè)思路，也可以引出很多有趣的話題，有機(jī)會(huì)我們進(jìn)一步討論吧。
最后，在Daniel的文章中，他提出了一個(gè)很有意思的問(wèn)題，大家可以也思考一下。
“For new chip design companies the cloud is an easy decision. For the older fabless companies that have years and years of non-cloud culture and non-cloud infrastructure it is a very difficult change. The question I have is how are they going to compete with the natural born cloud chip designers?”