最新 GenAI 技術
OpenAI × Broadcom、LLM最適化推論チップを発表──自社シリコンでNVIDIA依存を低減
サマリー
2026/06/24、OpenAI が Broadcom と共同開発した LLM 推論最適化チップを発表。自社ワークロードに特化した推論シリコンで、トークンあたりコストと供給リスクの両面から NVIDIA GPU 依存の低減を狙う。
モデル企業が「チップ企業」になる
OpenAI は2026年6月24日、Broadcom との共同開発による LLM 推論最適化チップを発表した。学習ではなく推論に焦点を絞り、自社モデルのサービング特性(長コンテキスト・エージェントの多段呼び出し)に合わせた設計とされる。
Google の TPU、Amazon の Trainium/Inferentia、Meta の MTIA に続き、フロンティア各社が推論コスト構造を自社シリコンで作り替える流れが確定的になった。GPU 調達競争と電力制約が続く中、推論の内製化はモデル価格の引き下げ余地に直結する。
エンタープライズにとっての意味
中期的には API 価格のさらなる下落が期待できる一方、ベンダーごとのインフラ差がレイテンシ・可用性・リージョン展開の差として表面化する。SLA を持つ本番システムでは、モデル性能だけでなくサービング基盤の実力を評価軸に加えるべき局面だ。
海外の最新技術動向を、自社の業務にどう翻訳するか。Meta Flow AI が伴走します。
出典