ChatGPT Work und Codex mit Amazon Bedrock verwenden

Konfigurieren Sie lokale ChatGPT Work- und Codex-Oberflächen für die Verwendung von OpenAI-Modellen, die über Amazon Bedrock verfügbar sind. Bei dieser Einrichtung sendet der lokale Client Modellanfragen unter Verwendung der von AWS verwalteten Authentifizierung und Zugriffssteuerung an Bedrock.

Funktionsweise

Wenn Sie eine lokale ChatGPT Work- oder Codex-Oberfläche mit Amazon Bedrock als Modellanbieter konfigurieren, ist die von OpenAI gehostete Responses API nicht Teil des Anfragepfads. Der lokale Client sendet Modellanfragen an Amazon Bedrock, und Bedrock stellt eine OpenAI-kompatible Implementierung der Responses API für unterstützte OpenAI-Modelle bereit.

Voraussetzungen

Stellen Sie sicher, dass Folgendes vorhanden ist:

• Anmeldedaten für das AWS-Konto, das Sie verwenden möchten.
• Zugriff auf unterstützte OpenAI-Modelle in Amazon Bedrock.
• Zugriff auf eine AWS-Region, in der das ausgewählte Modell verfügbar ist.
• AWS-Berechtigung zum Aufrufen des ausgewählten Modells oder Inferenzprofils.

Prüfen Sie die modellspezifischen IAM-Anforderungen. Beispielsweise erfordert GPT-6 Sol über Runtime zusätzlich bedrock:InvokeModel für das Standardprojekt des Kontos. Weitere Informationen finden Sie in der AWS-Einrichtungsanleitung für GPT-6 Sol.

Anbieter konfigurieren

Codex ermöglicht Ihnen, den Provider zu konfigurieren, indem Sie model_provider in ~/.codex/config.toml festlegen. Die ChatGPT-Desktop-App, die Codex CLI, die IDE-Erweiterung und das SDK lesen dieselben lokalen Konfigurationsebenen.

Wählen Sie den Provider für den Amazon-Bedrock-Endpunkt aus, den Sie verwenden möchten: Bedrock Runtime für regionsübergreifende Inferenz (CRIS) oder Bedrock Mantle für Inferenz innerhalb einer Region.

Verwenden Sie Bedrock Runtime für neue Konfigurationen:

model_provider = "amazon-bedrock-runtime"
web_search = "disabled"

Mantle für die gehostete Websuche verwenden

Für den Bedrock-Mantle-Endpunkt:

model_provider = "amazon-bedrock"
web_search = "cached"

Modell auswählen

Codex verwendet den konfigurierten model_provider, um zu bestimmen, welche Modelle in der Modellauswahl erscheinen: über den Bedrock-Runtime-Endpunkt unterstützte Modelle für amazon-bedrock-runtime oder über den Bedrock-Mantle-Endpunkt unterstützte Modelle für amazon-bedrock.

Sie können optional ein unterstütztes Modell in der Konfigurationsdatei angeben. Der integrierte Anbieter stellt einen eigenen Modellkatalog bereit. Ändern Sie beim Wechsel des Endpunkts den Anbieter und eine gegebenenfalls explizit angegebene Modell-ID gemeinsam.

Authentifizierungsoptionen

Lokale ChatGPT Work- und Codex-Oberflächen unterstützen zwei Bedrock-Authentifizierungswege. Sie prüfen diese in der folgenden Reihenfolge:

1. Bedrock API key.
2. AWS SDK-Anmeldedatenkette.

Option 1: Bedrock API key

Legen Sie den Bedrock API key in der Umgebung fest, die der lokale Client liest. Bei der Authentifizierung mit einem API key müssen Sie eine Region angeben.

export AWS_BEARER_TOKEN_BEDROCK=<your-bedrock-api-key>
export AWS_REGION=us-east-2

In Windows PowerShell:

$env:AWS_BEARER_TOKEN_BEDROCK = "<your-bedrock-api-key>"
$env:AWS_REGION = "us-east-2"

Option 2: AWS SDK-Anmeldedaten

Verwenden Sie diesen Weg, wenn Ihre Organisation den Bedrock-Zugriff über die AWS-SDK-Anmeldedatenkette verwaltet. Der lokale Client kann die folgenden standardmäßigen Quellen für AWS SDK-Anmeldedaten verwenden:

Freigegebene AWS-Konfigurationsdateien

Konfigurieren Sie die freigegebenen AWS-Dateien config und credentials:

aws configure

Umgebungsvariablen

Legen Sie die standardmäßigen Umgebungsvariablen für AWS SDK-Anmeldedaten fest:

export AWS_ACCESS_KEY_ID=<your-access-key-id>
export AWS_SECRET_ACCESS_KEY=<your-secret-access-key>
export AWS_SESSION_TOKEN=<your-session-token>

AWS Management Console-Anmeldedaten

Melden Sie sich mit AWS Management Console-Anmeldedaten an:

aws login

AWS SSO oder ein benanntes Profil

Melden Sie sich mit AWS SSO an und wählen Sie das benannte Profil aus:

aws sso login --profile codex-bedrock
export AWS_PROFILE=codex-bedrock

Föderierte Identität

Konfigurieren Sie für Unternehmens-SSO oder OIDC-Föderation außerhalb des lokalen Clients eine föderierte Identität mit credential_process und lassen Sie das AWS SDK die Anmeldedaten auflösen. Hinterlegen Sie Browseranmeldung, Token-Austausch, Zwischenspeicherung und Aktualisierung im Hilfsprogramm credential_process Ihres AWS-Profils.

Desktop-App und IDE-Erweiterung

Desktop-Apps und IDE-Erweiterungen übernehmen möglicherweise keine Umgebungsvariablen aus der Shell. Tragen Sie die erforderlichen Werte in ~/.codex/.env ein und starten Sie anschließend die App oder Erweiterung neu. Unter Windows lautet der Standardpfad %USERPROFILE%\.codex\.env.

export AWS_BEARER_TOKEN_BEDROCK=<your-bedrock-api-key>
export AWS_REGION=us-east-2

Einrichtung überprüfen

• Öffnen Sie in Codex CLI /status und vergewissern Sie sich, dass der Modellanbieter zu Ihrem Endpunkt passt: amazon-bedrock für regionsinterne Inferenz mit Mantle oder amazon-bedrock-runtime für regionsübergreifende globale oder Geo-Inferenz mit Runtime.
• Wählen Sie nach einem Neustart der ChatGPT-Desktop-App Work oder Codex aus und starten Sie eine neue Aufgabe.
• Starten Sie nach einem Neustart der IDE-Erweiterung eine neue Sitzung.
• Vergewissern Sie sich, dass das ausgewählte Modell in der konfigurierten AWS-Region verfügbar ist und dass die AWS-Identität über die Berechtigung für den Zugriff darauf verfügt.

Senden Sie anschließend einen kurzen Prompt in einer neuen Aufgabe:

Reply with exactly: bedrock-ok

Die erwartete Antwort ist bedrock-ok. Überprüfen Sie Anbieter und Modell im Client; die Antwort allein lässt keinen Rückschluss auf den verwendeten Anfrageweg zu. Verwenden Sie zur Prüfung der Rollout-Eignung einen temporären Ordner mit schreibgeschützten Berechtigungen und überprüfen Sie eine harmlose Aufgabe mit einem lokalen Tool sowie einen anschließenden Gesprächsschritt.

Unterstützte Modelle

Verwenden Sie für den Bedrock-Runtime-Anbieter eine Inferenzprofil-ID oder für den Bedrock-Mantle-Anbieter eine Modell-ID. Das ausgewählte Modell oder Profil muss in Ihrer AWS-Region verfügbar und für Ihre AWS-Identität zugänglich sein.

Regionsübergreifende globale und Geo-Inferenz mit dem Bedrock-Runtime-Endpunkt

Global CRIS kann Anfragen an unterstützte kommerzielle AWS-Regionen weltweit weiterleiten, während Geo CRIS Anfragen innerhalb des geografischen Bereichs des Profils weiterleitet. Wählen Sie einen Routing-Bereich, der Ihren AWS-Berechtigungen und Anforderungen an die Datenresidenz entspricht.

Verwenden Sie model_provider = "amazon-bedrock-runtime" und setzen Sie die optionale Konfiguration model auf eine Inferenzprofil-ID aus den folgenden Listen. Der Anbieter verwendet https://bedrock-runtime.{region}.amazonaws.com/openai/v1, wobei {region} die unterstützte AWS-Ausgangsregion ist, aus der Sie Anfragen senden. Sowohl Global CRIS als auch Geo CRIS verwenden diese Endpunktadresse.

Global CRIS

Unterstützte Modelle und Inferenzprofil-IDs:

• GPT-6 Astra: global.openai.gpt-6-astra
• GPT-6 Sol: global.openai.gpt-6-sol
• GPT-6 Luna: global.openai.gpt-6-luna

Konfigurieren Sie Astra mit Global CRIS beispielsweise in ~/.codex/config.toml:

model_provider = "amazon-bedrock-runtime"
model = "global.openai.gpt-6-astra"

Geo CRIS für die USA

Unterstützte Modelle und Inferenzprofil-IDs:

• GPT-6 Astra: us.openai.gpt-6-astra
• GPT-6 Sol: us.openai.gpt-6-sol
• GPT-6 Luna: us.openai.gpt-6-luna

Die integrierte Modellauswahl für Runtime in Codex listet die Varianten United States Geo und Global auf.

Die Verfügbarkeit von Modellen und CRIS variiert je nach AWS-Ausgangsregion. Lesen Sie vor der Auswahl eines Anbieters und eines Modells die AWS-Dokumentation zu unterstützten Regionen und Modellen für Inferenzprofile, die auf die genauen Inferenzprofil-IDs und die regionale Verfügbarkeit jedes Modells verweist, sowie die AWS-Dokumentation zur regionalen Verfügbarkeit nach Modell.

Regionsinterne Inferenz mit dem Bedrock-Mantle-Endpunkt

Verwenden Sie model_provider = "amazon-bedrock" mit einer optionalen Modell-ID. Der Anbieter verwendet https://bedrock-mantle.{region}.api.aws/openai/v1.

Unterstützte Modelle und Modell-IDs:

• GPT-6 Astra: openai.gpt-6-astra
• GPT-6 Sol: openai.gpt-6-sol
• GPT-6 Luna: openai.gpt-6-luna

GPT-6 Sol und Luna sind über Mantle in us-east-1 (N. Virginia) verfügbar. Die Modellverfügbarkeit variiert je nach AWS Region. Lesen Sie die AWS-Seite Regionale Verfügbarkeit nach Modellen, bevor Sie einen Anbieter und ein Modell auswählen. Informationen zu GPT-6 Astra finden Sie auf der Bedrock-Modellseite für GPT-6 Astra.

Funktionsverfügbarkeit

Diese Konfiguration unterstützt lokale Workflows mit ChatGPT Work und Codex. Gehostetes ChatGPT Work im Web, Codex cloud und Funktionen, die von OpenAI-gehosteten Cloud-Diensten oder einer cloudverwalteten Erkennung abhängen, sind derzeit nicht verfügbar. Die gehostete Websuche ist mit Runtime nicht verfügbar. Verwenden Sie Mantle, wenn Sie diese benötigen.

Codex Security CLI verwendet eine eigene Anbieterkonfiguration. Folgen Sie der zugehörigen Anleitung zur Einrichtung von Amazon Bedrock anstelle der oben beschriebenen Einstellungen für den nativen Client.

Fehlerbehebung

Wenn die Einrichtung fehlschlägt, überprüfen Sie Folgendes:

• Die Modell-ID stimmt exakt mit einem unterstützten Modell überein.
• Sie verwenden den richtigen Modellanbieter für den Endpunkt: amazon-bedrock-runtime für den Runtime-Endpunkt oder amazon-bedrock für den Mantle-Endpunkt.
• Sie geben eine AWS-Region an, in der das Modell verfügbar ist.
• Der Bedrock API key oder die AWS-Anmeldedaten sind gültig und nicht abgelaufen.
• Die AWS-Identität hat die Berechtigung, auf das ausgewählte Bedrock-Modell zuzugreifen.
• AWS_BEARER_TOKEN_BEDROCK ist nicht auf einen abgelaufenen oder unbeabsichtigt verwendeten Schlüssel gesetzt.
• Bei Verwendung der Desktop-App oder IDE-Erweiterung sind die erforderlichen Umgebungsvariablen in ~/.codex/.env vorhanden.

Führen Sie bei der Authentifizierung über ein AWS SDK-Profil aws sts get-caller-identity --profile codex-bedrock aus, um die Identität für Ihr ausgewähltes Profil zu bestätigen. Ersetzen Sie codex-bedrock durch Ihren Profilnamen oder lassen Sie --profile weg, wenn Sie die standardmäßige Anmeldedatenkette verwenden. Dadurch wird die AWS-Identität geprüft, nicht die Berechtigung zum Aufrufen eines Bedrock-Modells. Prüfen Sie AWS_BEARER_TOKEN_BEDROCK separat, damit ein unbeabsichtigt verwendeter API key keinen anderen Authentifizierungsweg auswählt.

Supportgrenzen

Der OpenAI Support kann Sie bei der Einrichtung von ChatGPT Work- und Codex-Clients, der Konfiguration, dem lokalen CLI-Verhalten, dem Verhalten der Desktop-App, dem Verhalten der IDE-Erweiterung und der lokalen Produkterfahrung unterstützen.

Wenden Sie sich bei Fragen zu AWS-Anmeldedaten, IAM-Berechtigungen, dem Zugriff auf Bedrock-Modelle, Kontingenten, der Abrechnung, der regionalen Verfügbarkeit, fehlgeschlagenen Bedrock-Anfragen, AWS-Dienstprotokollen oder dem Verhalten des Bedrock-Dienstes an den AWS-Administrator des Kunden oder den AWS Support.