AI学習速度 最大5倍 IBM、データセンターのサーバー間を光で通信
米IBMは9日、データセンターのサーバーの間の通信を光で行うことで、人工知能(AI)の学習を高速化する技術を開発したと発表した。電気を使った従来の通信手法に比べ、大規模言語モデル(LLM)の学習時間を最大で5倍速められる。
光学部品と半導体チップを同じ基板上に組み込み、電子の代わりに光を使ってデータをやりとりする「コ・パッケージド・オプティクス(CPO)」と呼ばれる分野で新技術を開発した。
2024年12月11日 日本経済新聞
光通信を使えば、熱対策にもなります。今やAIの学習コストは電力で、その電力の大半を冷却に使用しています。この電力消費を抑えることができれば、AI開発、利用のコストが大幅に減らすことができます。