GTCという、GPUのテクニカルなカンファレンスが今年も行われましたね。

詳細はコチラへ

今年行われたGTC2022で、初めてGTCのKeynoteを見ました。今回は、そのKeynoteを見て感じたことをまとめて見ました。

Mellanoxを買った理由が分かった

GPUで学習する際、1つのGPUで済む計算量なら、何も気にすることが無いですが、GPUを10個も100個も合わせて計算しないとどうしようもない計算量の学習することは多々あるかと思います。その際に、GPUから直接Networkにアクセスできる能力が、GPUに備わっていたとりしたら、とても都合がよく、高速かつ低レイテンシーで、別のGPUとデータのやりとりができるんだろなと感じました。

そこで、Mellanoxを買うことで、Infinibandが手に入ったり、NICが手に入ったり、スイッチも手に入る。とても都合が良い。だから買ったんだなって思いました。

ARMを買おうとした理由が分かった

ここ最近、GPUについて触れることが多く、そこで知ったのが「PCIe」は遅いという事実です。GPUへのデータ転送や演算結果の転送にPCIeを経由して出し入れすることは多いと思いますが、Bus幅が狭く、同時転送力が稼げないとのこと。

そこで、ARMを買うことで、GPUに都合が良いBusを構成したCPUを作ることが出来る。より高速にデータ転送ができるCPUを作ることが出来る。そういうことです。

独自のBusになるのはどうかと思いますが、より速い演算能力、より速いデータ転送能力を持てば、より速く計算を終えることが出来る。これはとても良いことなので、NVIDIAとして真剣に取り組んでいるんだろなと感じましたね。

最後に

AIだのディープラーニングだの、暗号資産だのGPUを使って演算することでメリットが出る計算は、それなりにあります。その世界に少し足を踏み込んだので、今回はGPUを取り上げた記事を書いてみました。すこしでも、ほーんって思って頂けますと幸いです。

たまには、こういった読み物も書くのもアリなのかなと思いまして、技術的な読み物をこれからも書いていく気力があれば載せていこうと思います。