臺積電高度看好AI相關應用帶來的動能，總裁魏哲家于4月法說會上修AI訂單能見度與營收占比，其中，訂單能見度從原預期2027年拉長到2028年。

臺積電認為，伺服器AI處理器今年貢獻營收將成長超過一倍，占公司2024年總營收十位數低段（low-teens）百分比，預期未來五年伺服器AI處理器年復合成長率達50%，2028年將占臺積電營收超過20%。

業界指出，AI需求強勁，亞馬遜AWS、微軟、Google、Meta等全球云端服務（CSP）四巨頭積極投入AI伺服器軍備競賽，使英偉達、超微等AI芯片大廠產品出現供不應求盛況，并對臺積電先進制程、先進封裝全力下單，以因應云端服務大廠龐大訂單需求，臺積電2024年與2025年CoWoS或SoIC等先進封裝產能都已全數被包下。

因應客戶龐大需求，臺積電正積極擴充先進封裝產能。業界推估，今年底臺積電CoWoS月產能上看4.5萬至5萬片，較2023年的1.5萬片呈現倍數成長，2025年底CoWoS月產能更將攀上5萬片新高峰。

SoIC方面，預期今年底月產能可達五、六千片，同樣較2023年底的2,000片倍數成長，并于2025年底沖上單月1萬片規模。由于大廠全數包下產能，臺積電相關產能利用率將維持高檔水準。

據了解，英偉達目前量產出貨主力H100芯片主要采用臺積電4納米制程，并采用CoWoS先進封裝，與SK海力士的高頻寬記憶體（HBM）以2.5D封裝形式供貨客戶。

至于英偉達新一代的Blackwell架構AI芯片雖然同樣采用臺積電4納米制程，惟是以加強版N4P生產，同時搭載更高容量及更新規格的HBM3e高頻寬記憶體，因此運算能力將比H100系列倍數成長。

另外，超微的MI300系列AI加速器則采用臺積電5納米與6納米制程生產，與英偉達不同之處在于，超微在先進封裝上，先行采用臺積電SoIC將CPU、GPU晶粒做垂直堆疊整合，再與HBM做CoWoS先進封裝，因此制程良率多了一道先進封裝難度較高的SoIC制程。

先進封裝，成未來決勝點

日前臺積電舉辦2024年科技研討會北美高峰會，會中亮相許多前沿技術，摩根大通在最新報告中強調，臺積電在技術創新和先進封裝領域的地位，未來在AI時代將起到關鍵作用，透過一系列技術突破，臺積電有望在未來幾年繼續保持在半導體產業的領先地位。

盡管如此，知識力專家社群創辦人曲博指出，晶體管越小，理論上芯片就越小，一片晶圓能做出來的芯片就會變多， 所以理論上單位成本會隨晶體管的縮小而降低。然而先進制程發展到一個程度之后，技術復雜度大幅增加，特別是極紫外光（EUV）一旦用下去，成本立刻暴增，導致進入3納米，成本不但下不來，反而是增加，更遑論未來進入2納米甚至1納米。

無論是晶體管縮小來到極限，抑或是成本因素的考量，未來半導體產業的重要發展，就是采用先進封裝技術把不同的芯片堆起來，讓晶體管的密度再增加。臺積電日前已推出其晶圓級系統（SoW）產品，該產品允許封裝大量芯片（邏輯芯片、復合SoIC封裝、HBM和其他芯片），以及在完整12英寸硅晶圓尺度上的電源和熱模組。與CoWoS和3DSoIC相比，先進封裝復雜性和能力的顯著提升，因為整個運算系統可能會被封裝在單一晶圓中。

但曲博也提醒，臺積電投入這一塊雖然花了很多功夫，但是先進封裝這個領域英特爾（Intel）其實技術也是很強的，大家一定要分清楚一件事， 在「先進封裝」上，臺積電并沒有絕對領先英特爾，臺積電是在「先進制程」上領先Intel。所以隨著先進封裝這個領域的重要性慢慢提高，臺積電并沒有大意的本錢。也可預見，臺灣相關先進封裝設備與技術的供應鏈廠商，未來應該會有不錯的成長空間。

生成式人工智能仰賴大型語言模型的訓練，現在的做法是分三階段，第一個階段是「預訓練」、第二個階段是「微調」（Find Tune）、最后一個階段是「推理」。預訓練需要大量的圖形處理器運算，，訓練一個月的成本就要1,000萬美金。但是微調就不一樣，微調是用大量的數據進行標注、微調參數而已，所以并不需要大量的算力， 而是需要大量的高頻寬記憶體（HBM）。

頂級GPU太貴、中小企業想用卻用不起，群聯電子本身也遇到相同痛點，遂開始投入研發，以自身于記憶體領域優勢，在近期推出平價版生成式AI解決方案。GPU決定算力、HBM則決定模型大小，群聯董事長潘健成就曾指出，群聯以SSD取代造價高昂的HBM系統，加上輝達消費級GPU打造，將傳統工作站升級為小規模AI伺服器，硬體成本大幅降低；盡管運算速度仍不如大型CSP運端運算，不過相當具備成本優勢；他打比方說道，例如臺北到高雄坐飛機其實最快、但是高鐵才是性價比最高的選擇。