AIは何でできているのか|中身の大きさと、動かすのに必要な装置
AIモデルの中身は、学習でできあがった大量の数値です。ニュースで見る「70B」「8B」はその数を表しています。モデルとは何か、大きさが何で決まるのか、その大きさが必要なGPUやサーバーの量をどう左右するのかを、専門用語を補いながら初めての方にも分かる形で整理します。
- AIの中身は、学習でできあがった大量の数値のかたまり
- 「70B」はその数値が700億個あるという意味
AI Infrastructure Column
推論、学習、ネットワーク、ストレージ、運用設計などの技術トピックを扱う仮カテゴリです。
AIモデルの中身は、学習でできあがった大量の数値です。ニュースで見る「70B」「8B」はその数を表しています。モデルとは何か、大きさが何で決まるのか、その大きさが必要なGPUやサーバーの量をどう左右するのかを、専門用語を補いながら初めての方にも分かる形で整理します。
AIを動かす作業は「学習」と「推論」に分かれ、必要な設備もコストの出方も異なります。それぞれが何をしている工程なのか、設備と費用がどう変わるのか、自社に必要なのはどちらかを、専門用語を補いながら初めての方にも分かる形で整理します。