摘要： OpenAI與Broadcom在2026年6月24日發表OpenAI首顆自研LLM推理晶片Jalapeño。兩家公司宣稱從設計到量產約花九個月，並在關鍵推理基準上勝過NVIDIA GB300，但目前仍缺獨立評測。這項產品的重要性在於壓低推理成本與分散供應，訓練端的大量GPU需求則不在其宣稱範圍。
第一顆由 OpenAI 自行設計的 LLM 推理晶片 Jalapeño，於 2026 年 6 月 24 日由 OpenAI 和 Broadcom 一同發表。據兩家公司說法，從著手設計到進入量產只花了約九個月；他們還宣稱，它在關鍵推理基準上贏過 NVIDIA 的 GB300。
這份發表有兩處值得多看一眼：九個月，以及「宣稱」二字。九個月說明工程速度；「宣稱」則點出另一件事——基準數字眼下仍出自當事人，還沒有獨立評測佐證。
設計到量產，只花了九個月
半導體業界的經驗是，一顆晶片從完成設計到真正量產，往往要等上以年計的時間。Jalapeño 能把這段路壓縮到約九個月，和它選定的題目夠窄有關：身為推理晶片，它不必追訓練效能的最高峰，任務只是把確定的工作負載跑得更快、花得更少。題目一收斂，設計空間也跟著變窄。再加上 Broadcom 讓設計端與後段製造的交接變成單線直通，傳統上下游來回折騰的成本就此省下。
該怎麼解讀「贏過 GB300」這句話
先把話說準：GB300 是 NVIDIA 的高階加速器，「打贏 GB300」眼下則是 OpenAI 與 Broadcom 的自我宣稱。獨立評測問世前，這句話該視為宣示，而非既定事實。
儘管如此，宣示所指的方向本身就有資訊量：競爭的量尺正從「model 能力的高下」換成「每 token 推理成本的高下」。對營收靠 API 與訂閱規模撐起的公司來說，推理成本直接啃蝕毛利；把晶片設計收回自己手裡，等於重新握住這條成本曲線的主導權。
前沿實驗室為何親自下場做晶片
Jalapeño 並非單一個案，而是整股趨勢裡的一環。歸納起來，實驗室自己投入推理晶片研發的動機大致有三條：
- 成本：規模化之後，推理會成為最大筆也最持久的支出；自己設計晶片，單位成本就掌握在自己手上
- 最佳化：可以依據自家工作負載的特徵量身打造，不必接受通用晶片內建的取捨
- 供應：GPU 產能與地緣政治都存在變數，供應來源越多元，緩衝就越厚
這對 NVIDIA 與整體市場意味著什麼
這件事不代表 OpenAI 要與 NVIDIA 各走各路。Jalapeño 的定位是推理晶片，訓練端龐大的 GPU 需求本來就不在這次宣稱的範圍裡。該記下的訊號是：GPU 最大的買主，已經動手為自己分量最重的工作負載準備替代方案。
對 NVIDIA 而言，這預示最高層的客戶結構即將轉變：通用算力依舊是市場主體，但最重的推理負載會一塊一塊搬上自研的特殊用途晶片。對整個市場而言，這是算力堆疊走向分層的起點——前沿實驗室與雲端巨頭將自備專用晶片，NVIDIA 的地位繫於新平台能否維持夠快的演化速度。對開發者而言，短期內一切照舊；壓低推理價格的力量則會從晶片層開始累積，最終反映到 API 定價。