Utilizar o ChatGPT Work e o Codex com o Amazon Bedrock

Configure as superfícies locais do ChatGPT Work e do Codex para utilizarem modelos OpenAI disponíveis através do Amazon Bedrock. Nesta configuração, o cliente local envia pedidos de modelo para o Bedrock utilizando autenticação e controlos de acesso geridos pela AWS.

Como funciona

Quando configura uma superfície local do ChatGPT Work ou do Codex com o Amazon Bedrock como fornecedor de modelos, a Responses API alojada pela OpenAI não faz parte do percurso do pedido. O cliente local envia pedidos de modelo para o Amazon Bedrock, e o Bedrock fornece uma implementação da Responses API compatível com a OpenAI para modelos OpenAI suportados.

Antes de começar

Certifique-se de que dispõe de:

• Credenciais da conta AWS que pretende utilizar.
• Acesso aos modelos OpenAI suportados no Amazon Bedrock.
• Acesso a uma região AWS onde o modelo selecionado esteja disponível.
• Permissão AWS para invocar o modelo ou perfil de inferência selecionado.

Verifique os requisitos IAM específicos do modelo. Por exemplo, o GPT-6 Sol através do Runtime também requer bedrock:InvokeModel no projeto predefinido da conta. Consulte as instruções de configuração do GPT-6 Sol da AWS.

Configurar o fornecedor

O Codex permite-lhe configurar o fornecedor ao definir model_provider em ~/.codex/config.toml. A aplicação ChatGPT para computador, a Codex CLI, a extensão do IDE e o SDK leem as mesmas camadas de configuração local.

Escolha o fornecedor para o endpoint do Amazon Bedrock que pretende utilizar: Bedrock Runtime para inferência entre Regions (CRIS) ou Bedrock Mantle para inferência na mesma Region.

Utilize o Bedrock Runtime para novas configurações:

model_provider = "amazon-bedrock-runtime"
web_search = "disabled"

Utilizar o Mantle para pesquisa na Web alojada

Para o endpoint do Bedrock Mantle:

model_provider = "amazon-bedrock"
web_search = "cached"

Escolher um modelo

O Codex utiliza o model_provider configurado para escolher os modelos que aparecem no seletor de modelos: modelos compatíveis através do endpoint do Bedrock Runtime para amazon-bedrock-runtime ou através do endpoint do Bedrock Mantle para amazon-bedrock.

Pode especificar opcionalmente um modelo suportado no ficheiro de configuração. O fornecedor integrado disponibiliza o seu próprio catálogo de modelos. Ao mudar de endpoint, altere em conjunto o fornecedor e qualquer ID de modelo explicitamente definido.

Opções de autenticação

As superfícies locais do ChatGPT Work e do Codex suportam dois métodos de autenticação do Bedrock. Estes são verificados pela seguinte ordem:

1. API key do Bedrock.
2. Cadeia de credenciais do AWS SDK.

Opção 1: API key do Bedrock

Defina a API key do Bedrock no ambiente lido pelo cliente local. Tem de especificar uma Region ao utilizar a autenticação por API key.

export AWS_BEARER_TOKEN_BEDROCK=<your-bedrock-api-key>
export AWS_REGION=us-east-2

No Windows PowerShell:

$env:AWS_BEARER_TOKEN_BEDROCK = "<your-bedrock-api-key>"
$env:AWS_REGION = "us-east-2"

Opção 2: credenciais do AWS SDK

Utilize este método quando a sua organização gerir o acesso ao Bedrock através da cadeia de credenciais do AWS SDK. O cliente local pode utilizar estas fontes padrão de credenciais do AWS SDK:

Ficheiros de configuração AWS partilhados

Configure os ficheiros AWS config e credentials partilhados:

aws configure

Variáveis de ambiente

Defina as variáveis de ambiente padrão para credenciais do AWS SDK:

export AWS_ACCESS_KEY_ID=<your-access-key-id>
export AWS_SECRET_ACCESS_KEY=<your-secret-access-key>
export AWS_SESSION_TOKEN=<your-session-token>

Credenciais da AWS Management Console

Inicie sessão com credenciais da AWS Management Console:

aws login

AWS SSO ou um perfil com nome

Inicie sessão com o AWS SSO e selecione o perfil com nome:

aws sso login --profile codex-bedrock
export AWS_PROFILE=codex-bedrock

Identidade federada

Para SSO empresarial ou federação OIDC, configure uma identidade federada com credential_process fora do cliente local e permita que o AWS SDK resolva as credenciais. Coloque o início de sessão no navegador, a troca de tokens, a colocação em cache e a atualização no auxiliar credential_process do seu perfil AWS.

Aplicação para computador e extensão do IDE

As aplicações de ambiente de trabalho e as extensões para IDE podem não herdar as variáveis de ambiente da shell. Coloque os valores necessários em ~/.codex/.env e, em seguida, reinicie a aplicação ou a extensão. No Windows, o caminho predefinido é %USERPROFILE%\.codex\.env.

export AWS_BEARER_TOKEN_BEDROCK=<your-bedrock-api-key>
export AWS_REGION=us-east-2

Verificar a configuração

• Na Codex CLI, abra /status e confirme que o fornecedor do modelo corresponde ao seu endpoint: amazon-bedrock para inferência do Mantle na mesma Region ou amazon-bedrock-runtime para inferência entre Regions Runtime Global ou Geo.
• Na aplicação ChatGPT para computador, selecione Work ou Codex e inicie uma nova tarefa depois de reiniciar a aplicação.
• Na extensão do IDE, inicie uma nova sessão depois de reiniciar a extensão.
• Confirme que o modelo selecionado está disponível na AWS Region configurada e que a identidade AWS tem permissão para lhe aceder.

Em seguida, envie uma instrução breve numa nova tarefa:

Reply with exactly: bedrock-ok

A resposta esperada é bedrock-ok. Confirme o fornecedor e o modelo no cliente; a resposta, por si só, não identifica o percurso do pedido. Para validar a implementação, utilize uma pasta descartável com permissões apenas de leitura e verifique uma tarefa inofensiva com uma ferramenta local e um turno subsequente.

Modelos suportados

Utilize um ID de perfil de inferência para o fornecedor Bedrock Runtime ou um ID de modelo para o fornecedor Bedrock Mantle. O modelo ou perfil selecionado tem de estar disponível na sua AWS Region e acessível à sua identidade AWS.

Inferência entre AWS Regions com perfis Global e Geo pelo endpoint do Bedrock Runtime

O Global CRIS pode encaminhar pedidos para regiões comerciais AWS suportadas em todo o mundo, enquanto o Geo CRIS encaminha os pedidos dentro da área geográfica do perfil. Escolha um âmbito de encaminhamento que cumpra as suas permissões AWS e os requisitos de residência dos dados.

Utilize model_provider = "amazon-bedrock-runtime" com a configuração opcional model definida como um ID de perfil de inferência das listas seguintes. O fornecedor utiliza https://bedrock-runtime.{region}.amazonaws.com/openai/v1, em que {region} é a AWS Region de origem compatível a partir da qual envia os pedidos. Tanto o CRIS Global como o CRIS Geo utilizam este endereço de endpoint.

CRIS Global

Modelos suportados e IDs de perfil de inferência:

• GPT-6 Astra: global.openai.gpt-6-astra
• GPT-6 Sol: global.openai.gpt-6-sol
• GPT-6 Luna: global.openai.gpt-6-luna

Por exemplo, configure o Astra com o Global CRIS em ~/.codex/config.toml:

model_provider = "amazon-bedrock-runtime"
model = "global.openai.gpt-6-astra"

CRIS geográfico dos Estados Unidos

Modelos suportados e IDs de perfil de inferência:

• GPT-6 Astra: us.openai.gpt-6-astra
• GPT-6 Sol: us.openai.gpt-6-sol
• GPT-6 Luna: us.openai.gpt-6-luna

O seletor de modelos Runtime integrado no Codex apresenta as variantes Geo dos Estados Unidos e Global disponíveis.

A disponibilidade dos modelos e do CRIS varia consoante a região AWS de origem. Consulte Regiões e modelos suportados para perfis de inferência da AWS, que contém ligações para os IDs exatos dos perfis de inferência de cada modelo e a respetiva disponibilidade regional, e Disponibilidade regional por modelo da AWS antes de selecionar um fornecedor e um modelo.

Inferência na região através do endpoint Bedrock Mantle

Utilize model_provider = "amazon-bedrock" com um ID de modelo opcional. O fornecedor utiliza https://bedrock-mantle.{region}.api.aws/openai/v1.

Modelos suportados e IDs de modelos:

• GPT-6 Astra: openai.gpt-6-astra
• GPT-6 Sol: openai.gpt-6-sol
• GPT-6 Luna: openai.gpt-6-luna

GPT-6 Sol e Luna estão disponíveis através do Mantle em us-east-1 (N. Virginia). A disponibilidade dos modelos varia consoante a AWS Region. Consulte a disponibilidade regional por modelo da AWS antes de selecionar um fornecedor e um modelo. Para GPT-6 Astra, consulte a página do modelo Bedrock para GPT-6 Astra.

Disponibilidade de funcionalidades

Esta configuração suporta fluxos de trabalho locais do ChatGPT Work e do Codex. As versões alojadas do ChatGPT Work na web e do Codex cloud, bem como as funcionalidades que dependem de serviços na nuvem alojados pela OpenAI ou de descoberta gerida na nuvem, não estão atualmente disponíveis. A pesquisa na web alojada não está disponível no Runtime; utilize Mantle se precisar desta funcionalidade.

O Codex Security CLI utiliza a sua própria configuração de fornecedor. Siga as instruções de configuração do Amazon Bedrock em vez das definições do cliente nativo acima.

Resolução de problemas

Se a configuração falhar, verifique o seguinte:

• O ID do modelo corresponde exatamente a um modelo suportado.
• Utiliza o fornecedor de modelos correto para o endpoint: amazon-bedrock-runtime para o endpoint Runtime ou amazon-bedrock para o endpoint Mantle.
• Especifica uma região AWS onde o modelo está disponível.
• A API key do Bedrock ou as credenciais AWS são válidas e não expiraram.
• A identidade AWS tem permissão para aceder ao modelo Bedrock selecionado.
• AWS_BEARER_TOKEN_BEDROCK não está definida para uma chave expirada ou não pretendida.
• Para utilizar a aplicação para computador ou a extensão para IDE, as variáveis de ambiente necessárias estão presentes em ~/.codex/.env.

Para autenticação com um perfil do AWS SDK, execute aws sts get-caller-identity --profile codex-bedrock para confirmar a identidade do perfil selecionado. Substitua codex-bedrock pelo nome do seu perfil ou omita --profile quando utilizar a cadeia de credenciais predefinida. Isto verifica a identidade AWS, não a permissão para invocar um modelo Bedrock. Verifique AWS_BEARER_TOKEN_BEDROCK separadamente para que uma API key não pretendida não selecione uma via de autenticação diferente.

Limites do suporte

O Suporte da OpenAI pode ajudar com a configuração do cliente do ChatGPT Work e do Codex, a configuração, o comportamento local do CLI, o comportamento da aplicação para computador, o comportamento da extensão do IDE e a experiência local do produto.

Para credenciais AWS, permissões IAM, acesso a modelos do Bedrock, quotas, faturação, disponibilidade regional, falhas de pedidos do Bedrock, registos de serviços AWS ou comportamento do serviço Bedrock, contacte o administrador AWS do cliente ou o Suporte da AWS.