Menggunakan ChatGPT Work dan Codex dengan Amazon Bedrock

Konfigurasikan antarmuka lokal ChatGPT Work dan Codex agar menggunakan model OpenAI yang tersedia melalui Amazon Bedrock. Dalam penyiapan ini, klien lokal mengirimkan permintaan model ke Bedrock menggunakan autentikasi dan kontrol akses yang dikelola AWS.

Cara kerjanya

Saat Anda mengonfigurasi antarmuka lokal ChatGPT Work atau Codex dengan Amazon Bedrock sebagai penyedia model, Responses API yang dihosting OpenAI tidak berada dalam jalur permintaan. Klien lokal mengirimkan permintaan model ke Amazon Bedrock, dan Bedrock menyediakan implementasi Responses API yang kompatibel dengan OpenAI untuk model OpenAI yang didukung.

Sebelum memulai

Pastikan Anda memiliki:

• Kredensial untuk akun AWS yang ingin Anda gunakan.
• Akses ke model OpenAI yang didukung di Amazon Bedrock.
• Akses ke AWS Region tempat model yang dipilih tersedia.
• Izin AWS untuk memanggil model atau profil inferensi yang dipilih.

Periksa persyaratan IAM khusus model. Misalnya, GPT-6 Sol melalui Runtime juga memerlukan bedrock:InvokeModel pada proyek default akun. Lihat petunjuk penyiapan GPT-6 Sol dari AWS.

Mengonfigurasi penyedia

Codex memungkinkan Anda mengonfigurasi penyedia dengan menetapkan model_provider di ~/.codex/config.toml. Aplikasi desktop ChatGPT, Codex CLI, ekstensi IDE, dan SDK membaca lapisan konfigurasi lokal yang sama.

Pilih penyedia untuk endpoint Amazon Bedrock yang ingin Anda gunakan: Bedrock Runtime untuk inferensi lintas Region (CRIS), atau Bedrock Mantle untuk inferensi dalam Region.

Gunakan Bedrock Runtime untuk konfigurasi baru:

model_provider = "amazon-bedrock-runtime"
web_search = "disabled"

Gunakan Mantle untuk pencarian web yang dihosting

Untuk endpoint Bedrock Mantle:

model_provider = "amazon-bedrock"
web_search = "cached"

Pilih model

Codex menggunakan model_provider yang dikonfigurasi untuk menentukan model yang muncul di pemilih model: model yang didukung melalui endpoint Bedrock Runtime untuk amazon-bedrock-runtime, atau melalui endpoint Bedrock Mantle untuk amazon-bedrock.

Anda dapat menentukan model yang didukung secara opsional dalam berkas konfigurasi. Penyedia bawaan menyediakan katalog modelnya sendiri. Saat beralih endpoint, ubah penyedia beserta ID model yang ditentukan secara eksplisit.

Opsi autentikasi

Antarmuka lokal ChatGPT Work dan Codex mendukung dua jalur autentikasi Bedrock. Keduanya diperiksa dalam urutan berikut:

1. Bedrock API key.
2. Rantai kredensial AWS SDK.

Opsi 1: Bedrock API key

Atur Bedrock API key di lingkungan yang dibaca oleh klien lokal. Anda harus menentukan Region saat menggunakan autentikasi API key.

export AWS_BEARER_TOKEN_BEDROCK=<your-bedrock-api-key>
export AWS_REGION=us-east-2

Di Windows PowerShell:

$env:AWS_BEARER_TOKEN_BEDROCK = "<your-bedrock-api-key>"
$env:AWS_REGION = "us-east-2"

Opsi 2: Kredensial AWS SDK

Gunakan jalur ini jika organisasi Anda mengelola akses Bedrock melalui rantai kredensial AWS SDK. Klien lokal dapat menggunakan sumber kredensial AWS SDK standar berikut:

File konfigurasi AWS bersama

Konfigurasikan file AWS config dan credentials bersama:

aws configure

Variabel lingkungan

Atur variabel lingkungan kredensial AWS SDK standar:

export AWS_ACCESS_KEY_ID=<your-access-key-id>
export AWS_SECRET_ACCESS_KEY=<your-secret-access-key>
export AWS_SESSION_TOKEN=<your-session-token>

Kredensial AWS Management Console

Masuk dengan kredensial AWS Management Console:

aws login

AWS SSO atau profil bernama

Masuk dengan AWS SSO dan pilih profil bernama:

aws sso login --profile codex-bedrock
export AWS_PROFILE=codex-bedrock

Identitas terfederasi

Untuk SSO perusahaan atau federasi OIDC, konfigurasikan identitas terfederasi dengan credential_process di luar klien lokal dan biarkan AWS SDK menyelesaikan kredensial. Tempatkan proses masuk melalui browser, pertukaran token, penyimpanan cache, dan penyegaran dalam pembantu credential_process milik profil AWS Anda.

Aplikasi desktop dan ekstensi IDE

Aplikasi desktop dan ekstensi IDE mungkin tidak mewarisi variabel lingkungan dari shell. Masukkan nilai yang diperlukan ke ~/.codex/.env, lalu mulai ulang aplikasi atau ekstensi. Di Windows, jalur default adalah %USERPROFILE%\.codex\.env.

export AWS_BEARER_TOKEN_BEDROCK=<your-bedrock-api-key>
export AWS_REGION=us-east-2

Memverifikasi penyiapan

• Di Codex CLI, buka /status dan pastikan penyedia model cocok dengan endpoint Anda: amazon-bedrock untuk inferensi dalam Region melalui Mantle, atau amazon-bedrock-runtime untuk inferensi lintas Region Global atau Geo melalui Runtime.
• Di aplikasi desktop ChatGPT, pilih Work atau Codex dan mulai tugas baru setelah memulai ulang aplikasi.
• Di ekstensi IDE, mulai sesi baru setelah memulai ulang ekstensi.
• Pastikan model yang dipilih tersedia di AWS Region yang dikonfigurasi dan identitas AWS memiliki izin untuk mengaksesnya.

Kemudian kirim prompt singkat dalam tugas baru:

Reply with exactly: bedrock-ok

Respons yang diharapkan adalah bedrock-ok. Pastikan penyedia dan model di klien; respons saja tidak menunjukkan rute yang digunakan. Untuk validasi sebelum peluncuran, gunakan folder sementara dengan izin hanya baca, lalu verifikasi tugas alat lokal yang tidak berbahaya dan satu giliran lanjutan.

Model yang didukung

Gunakan ID profil inferensi untuk penyedia Bedrock Runtime atau ID model untuk penyedia Bedrock Mantle. Model atau profil yang dipilih harus tersedia di AWS Region Anda dan dapat diakses oleh identitas AWS Anda.

Inferensi lintas Region Global dan Geo menggunakan endpoint Bedrock Runtime

Global CRIS dapat merutekan permintaan ke AWS Region komersial yang didukung di seluruh dunia, sedangkan Geo CRIS merutekan permintaan dalam wilayah geografis profil. Pilih cakupan perutean yang sesuai dengan izin AWS dan persyaratan residensi data Anda.

Gunakan model_provider = "amazon-bedrock-runtime" dengan konfigurasi opsional model yang ditetapkan ke ID profil inferensi dari daftar berikut. Penyedia menggunakan https://bedrock-runtime.{region}.amazonaws.com/openai/v1, dengan {region} sebagai AWS Region sumber yang didukung tempat Anda mengirim permintaan. CRIS Global dan Geo menggunakan alamat endpoint ini.

CRIS Global

Model dan ID profil inferensi yang didukung:

• GPT-6 Astra: global.openai.gpt-6-astra
• GPT-6 Sol: global.openai.gpt-6-sol
• GPT-6 Luna: global.openai.gpt-6-luna

Misalnya, konfigurasikan Astra dengan Global CRIS di ~/.codex/config.toml:

model_provider = "amazon-bedrock-runtime"
model = "global.openai.gpt-6-astra"

CRIS Geo Amerika Serikat

Model dan ID profil inferensi yang didukung:

• GPT-6 Astra: us.openai.gpt-6-astra
• GPT-6 Sol: us.openai.gpt-6-sol
• GPT-6 Luna: us.openai.gpt-6-luna

Pemilih model Runtime bawaan Codex menampilkan varian Geo Amerika Serikat dan Global.

Ketersediaan model dan CRIS berbeda-beda menurut AWS Region sumber. Lihat Region dan model yang didukung untuk profil inferensi dari AWS, yang tertaut ke ID profil inferensi persis setiap model dan ketersediaan regionalnya, serta Ketersediaan regional berdasarkan model dari AWS sebelum memilih penyedia dan model.

Inferensi dalam Region menggunakan endpoint Bedrock Mantle

Gunakan model_provider = "amazon-bedrock" dengan ID model opsional. Penyedia menggunakan https://bedrock-mantle.{region}.api.aws/openai/v1.

Model dan ID model yang didukung:

• GPT-6 Astra: openai.gpt-6-astra
• GPT-6 Sol: openai.gpt-6-sol
• GPT-6 Luna: openai.gpt-6-luna

GPT-6 Sol dan Luna tersedia melalui Mantle di us-east-1 (N. Virginia). Ketersediaan model berbeda-beda menurut AWS Region. Lihat AWS ketersediaan regional berdasarkan model sebelum memilih penyedia dan model. Untuk GPT-6 Astra, lihat halaman model Bedrock untuk GPT-6 Astra.

Ketersediaan fitur

Konfigurasi ini mendukung alur kerja ChatGPT Work dan Codex lokal. Layanan ChatGPT Work di web, Codex cloud, serta fitur yang bergantung pada layanan cloud yang dihosting OpenAI atau penemuan yang dikelola di cloud saat ini belum tersedia. Pencarian web yang dihosting tidak tersedia di Runtime; gunakan Mantle jika Anda membutuhkannya.

Codex Security CLI menggunakan konfigurasi penyedianya sendiri. Ikuti panduan penyiapan Amazon Bedrock untuk CLI tersebut, bukan pengaturan klien native di atas.

Pemecahan masalah

Jika penyiapan gagal, periksa hal berikut:

• ID model sama persis dengan model yang didukung.
• Anda menggunakan penyedia model yang tepat untuk endpoint: amazon-bedrock-runtime untuk endpoint Runtime atau amazon-bedrock untuk endpoint Mantle.
• Anda menentukan Wilayah AWS tempat model tersedia.
• API key Bedrock atau kredensial AWS valid dan belum kedaluwarsa.
• Identitas AWS memiliki izin untuk mengakses model Bedrock yang dipilih.
• AWS_BEARER_TOKEN_BEDROCK tidak diatur ke kunci yang kedaluwarsa atau tidak dimaksudkan untuk digunakan.
• Untuk penggunaan aplikasi desktop atau ekstensi IDE, variabel lingkungan yang diperlukan tersedia di ~/.codex/.env.

Untuk autentikasi profil AWS SDK, jalankan aws sts get-caller-identity --profile codex-bedrock untuk mengonfirmasi identitas profil yang Anda pilih. Ganti codex-bedrock dengan nama profil Anda, atau hilangkan --profile saat menggunakan rantai kredensial default. Langkah ini memeriksa identitas AWS, bukan izin untuk memanggil model Bedrock. Periksa AWS_BEARER_TOKEN_BEDROCK secara terpisah agar API key yang tidak dimaksudkan untuk digunakan tidak memilih jalur autentikasi yang berbeda.

Batas dukungan

Dukungan OpenAI dapat membantu terkait penyiapan klien ChatGPT Work dan Codex, konfigurasi, perilaku CLI lokal, perilaku aplikasi desktop, perilaku ekstensi IDE, dan pengalaman produk lokal.

Untuk kredensial AWS, izin IAM, akses model Bedrock, kuota, penagihan, ketersediaan regional, kegagalan permintaan Bedrock, log layanan AWS, atau perilaku layanan Bedrock, hubungi administrator AWS pelanggan atau Dukungan AWS.