AIはデータ量が異常なほど多く、これまで以上の処理性能が求められます。AI処理は、計算→データ読み込み→計算→・・・の繰り返しです。このため、GPUの演算能力そのものだけでなく、このサイクルを高速で回すための「データをどれだけ高速で運べるか」も重要になっています。
HBMとはHigh Bandwidth Memoryの略で、DRAMチップを垂直方向に積層した高帯域メモリです。GPUの直近に高帯域メモリを配置しているので、データ転送を高速化できます。
HBMはDRAMチップを垂直方向に積層していますが、どのようにチップの上下を繋げているのでしょうか?ここで活躍しているのが、TSVです。TSVとはシリコン貫通電極で、シリコンを貫通した電極なので上下面の導通が確保されています。これによりチップを積層できるのです。
TSVの中はどうなっているかご存じですか?実は、Cu(銅)が充填されています。Cuは導電性が高いため、貫通ビアにCuが充填されていると大きな電流を流すことができます。もし中に空洞(ボイド)があるとその分の電流密度が大きくなり、発熱、クラック、破損に繋がってしまいます。どれだけ高性能なGPUもHBM内のTSVの品質が悪いと性能を発揮できません。
TSVはAIの高性能化を実現する技術の1つです。
弊社ではTSVだけでなくTGVも対応しておりますので、お気軽にお問い合わせください。