Amazon Bedrock

從澳洲呼叫 OpenAI 模型:Amazon Bedrock 全球跨區域推論的實作重點

澳洲團隊現在可以從雪梨或墨爾本區域,透過 Amazon Bedrock 的全球推論設定檔呼叫 GPT-5.6 Sol、Terra 與 Luna。本文整理三種 API 路徑、提示快取與 Codex OIDC 設定的實用細節。

從澳洲呼叫 OpenAI 模型:Amazon Bedrock 全球跨區域推論的實作重點 — 文章封面

澳洲的產品團隊現在有一個更簡單的方式使用 OpenAI 最新模型:從 Asia Pacific (Sydney) 或 Asia Pacific (Melbourne) 呼叫 Amazon Bedrock Runtime,由 Bedrock 自動把請求路由到支援的商業 AWS 區域。這代表應用程式不需要自己處理跨區域路由,也能取得更大的容量池。

AWS Machine Learning Blog 在 2026 年 9 月 2 日的文章中,詳細說明了 GPT-5.6 Sol、Terra 與 Luna 三個全球推論設定檔的用法。Sol 適合需要高度推理、程式碼生成與代理工作負載的情境;Terra 在效能與成本之間取得平衡,適合日常生產使用;Luna 則針對高流量、延遲敏感的應用提供快速且經濟的推論。三個模型都接受文字與圖片輸入,並支援最高 100 萬 token 的上下文視窗。

三種呼叫路徑,對應不同開發習慣

從澳洲區域呼叫 GPT-5.6 有三種方式:OpenAI Responses API、OpenAI Chat Completions API,以及 Amazon Bedrock Converse API。前兩者走 /openai/v1 路徑,適合已經使用 OpenAI SDK 的團隊;Converse API 則透過 AWS SDK 呼叫,適合原本就使用 boto3 的應用程式。

文章中提供的 Python 範例使用 aws-bedrock-token-generator 套件,從目前的 AWS 憑證產生短期 API key,避免在程式碼中存放靜態金鑰。以 Responses API 為例,只要把 OpenAI client 的 base_url 指向 https://bedrock-runtime.ap-southeast-2.amazonaws.com/openai/v1,並把 model 設為 global.openai.gpt-5.6-terra 即可。若要改用墨爾本區域,把 Region 換成 ap-southeast-4 就行。

提示快取:隱含與顯式兩種模式

GPT-5.6 在 Amazon Bedrock 上支援兩種提示快取模式。隱含快取預設開啟,不需要修改程式碼;顯式快取則讓開發者自行定義可重複使用的前綴、快取邊界與快取金鑰。對於頻繁重複使用系統提示或工具定義的應用程式,這能直接降低推論成本。AWS 的文章建議參考先前的 GPT-5.6 介紹文章來查看具體範例。

用 Codex 搭配 OIDC 驗證

Codex CLI 也可以使用相同的全球推論設定檔。文章以 codex-cli 0.149.1 搭配 GPT-5.6 Sol 在雪梨區域驗證。設定重點在於 ~/.codex/config.toml 中指定 model_provider = "amazon-bedrock-runtime",並在 AWS profile 中設定 credential_process 指向 OIDC 驗證輔助程式。

對於使用 Okta、Auth0、Microsoft Entra ID、Amazon Cognito 或 AWS IAM Identity Center 的組織,AWS 提供了範例 credential helper。它會用 OIDC token 交換短期 AWS 憑證,Codex 再透過標準 AWS 憑證鏈讀取,整個推論路徑使用 SigV4 簽署,不需要 API key。

部署前需要留意的限制

全球推論設定檔的成員與模型可用性可能會變動。AWS 建議在部署前查閱 Cross-Region inference support 文件確認最新狀態。此外,如果組織使用 service control policy (SCP),需要先確認 SCP 允許在選定的來源區域使用 GPT-5.6 全球推論設定檔。

對於已經在澳洲區域運行 AWS 工作負載的團隊,這條路徑把 OpenAI 模型帶進既有的 IAM、CloudWatch 與合規框架內,省去另外管理 API key 與跨區域路由的負擔。

參考來源

本文由 AI 協助自上述來源整理,經人工審核後發布。

分享X電郵