ChatGPT Work ve Codex'i Amazon Bedrock ile kullanma

Yerel ChatGPT Work ve Codex yüzeylerini, Amazon Bedrock üzerinden sunulan OpenAI modellerini kullanacak şekilde yapılandırın. Bu kurulumda yerel istemci, model isteklerini AWS tarafından yönetilen kimlik doğrulama ve erişim denetimlerini kullanarak Bedrock'a gönderir.

Nasıl çalışır?

Yerel bir ChatGPT Work veya Codex yüzeyini model sağlayıcısı olarak Amazon Bedrock ile yapılandırdığınızda, OpenAI tarafından barındırılan Responses API istek yolunda yer almaz. Yerel istemci model isteklerini Amazon Bedrock'a gönderir ve Bedrock, desteklenen OpenAI modelleri için OpenAI uyumlu bir Responses API uygulaması sağlar.

Başlamadan önce

Şunlara sahip olduğunuzdan emin olun:

• Kullanmak istediğiniz AWS hesabının kimlik bilgileri.
• Amazon Bedrock'taki desteklenen OpenAI modellerine erişim.
• Seçilen modelin kullanılabildiği bir AWS bölgesine erişim.
• Seçilen modeli veya çıkarım profilini çağırmak için AWS izni.

Modele özgü IAM gereksinimlerini kontrol edin. Örneğin, Runtime üzerinden GPT-6 Sol kullanımı, hesabın varsayılan projesinde bedrock:InvokeModel iznini de gerektirir. AWS'nin GPT-6 Sol kurulum talimatlarına bakın.

Sağlayıcıyı yapılandırma

Codex, ~/.codex/config.toml içinde model_provider değerini ayarlayarak sağlayıcıyı yapılandırmanıza olanak tanır. ChatGPT masaüstü uygulaması, Codex CLI, IDE uzantısı ve SDK aynı yerel yapılandırma katmanlarını okur.

Kullanmak istediğiniz Amazon Bedrock uç noktası için sağlayıcıyı seçin: Bölgeler arası çıkarım (CRIS) için Bedrock Runtime veya Bölge içi çıkarım için Bedrock Mantle.

Yeni yapılandırmalar için Bedrock Runtime kullanın:

model_provider = "amazon-bedrock-runtime"
web_search = "disabled"

Barındırılan web araması için Mantle kullanın

Bedrock Mantle uç noktası için:

model_provider = "amazon-bedrock"
web_search = "cached"

Model seçme

Codex, model seçicide hangi modellerin görüneceğini belirlemek için yapılandırılmış model_provider değerini kullanır: amazon-bedrock-runtime için Bedrock Runtime uç noktası üzerinden desteklenen modeller veya amazon-bedrock için Bedrock Mantle uç noktası üzerinden desteklenen modeller.

İsteğe bağlı olarak yapılandırma dosyasında desteklenen bir model belirtebilirsiniz. Yerleşik sağlayıcı, kendi model kataloğunu sunar. Uç noktaları değiştirirken sağlayıcıyı ve açıkça belirtilmiş model kimliğini birlikte değiştirin.

Kimlik doğrulama seçenekleri

Yerel ChatGPT Work ve Codex yüzeyleri iki Bedrock kimlik doğrulama yolunu destekler. Bunları şu sırayla denetler:

1. Bedrock API key.
2. AWS SDK kimlik bilgisi zinciri.

1. seçenek: Bedrock API key

Bedrock API key değerini yerel istemcinin okuduğu ortamda ayarlayın. API key ile kimlik doğrulama kullanırken bir Region belirtmeniz gerekir.

export AWS_BEARER_TOKEN_BEDROCK=<your-bedrock-api-key>
export AWS_REGION=us-east-2

Windows PowerShell'de:

$env:AWS_BEARER_TOKEN_BEDROCK = "<your-bedrock-api-key>"
$env:AWS_REGION = "us-east-2"

2. seçenek: AWS SDK kimlik bilgileri

Kuruluşunuz Bedrock erişimini AWS SDK kimlik bilgisi zinciri üzerinden yönetiyorsa bu yolu kullanın. Yerel istemci şu standart AWS SDK kimlik bilgisi kaynaklarını kullanabilir:

Paylaşılan AWS yapılandırma dosyaları

Paylaşılan AWS config ve credentials dosyalarını yapılandırın:

aws configure

Ortam değişkenleri

Standart AWS SDK kimlik bilgisi ortam değişkenlerini ayarlayın:

export AWS_ACCESS_KEY_ID=<your-access-key-id>
export AWS_SECRET_ACCESS_KEY=<your-secret-access-key>
export AWS_SESSION_TOKEN=<your-session-token>

AWS Management Console kimlik bilgileri

AWS Management Console kimlik bilgileriyle oturum açın:

aws login

AWS SSO veya adlandırılmış profil

AWS SSO ile oturum açın ve adlandırılmış profili seçin:

aws sso login --profile codex-bedrock
export AWS_PROFILE=codex-bedrock

Federasyonlu kimlik

Kurumsal SSO veya OIDC federasyonu için yerel istemcinin dışında credential_process ile federasyonlu bir kimlik yapılandırın ve kimlik bilgilerini AWS SDK'nın çözümlemesini sağlayın. Tarayıcıda oturum açma, belirteç değişimi, önbelleğe alma ve yenileme işlemlerini AWS profilinizin credential_process yardımcısına yerleştirin.

Masaüstü uygulaması ve IDE uzantısı

Masaüstü uygulamaları ve IDE uzantıları, ortam değişkenlerini kabuktan devralmayabilir. Gerekli değerleri ~/.codex/.env dosyasına ekleyin, ardından uygulamayı veya uzantıyı yeniden başlatın. Windows'ta varsayılan yol %USERPROFILE%\.codex\.env şeklindedir.

export AWS_BEARER_TOKEN_BEDROCK=<your-bedrock-api-key>
export AWS_REGION=us-east-2

Kurulumu doğrulama

• Codex CLI'da /status öğesini açın ve model sağlayıcısının uç noktanızla eşleştiğini doğrulayın: Region içi Mantle çıkarımı için amazon-bedrock veya Runtime Global ya da Geo Region'lar arası çıkarım için amazon-bedrock-runtime.
• ChatGPT masaüstü uygulamasında Work veya Codex'i seçin ve uygulamayı yeniden başlattıktan sonra yeni bir görev başlatın.
• IDE uzantısında, uzantıyı yeniden başlattıktan sonra yeni bir oturum başlatın.
• Seçilen modelin yapılandırılmış AWS Region'da kullanılabildiğini ve AWS kimliğinin modele erişme izni olduğunu doğrulayın.

Ardından yeni bir görevde kısa bir prompt gönderin:

Reply with exactly: bedrock-ok

Beklenen yanıt bedrock-ok şeklindedir. Sağlayıcıyı ve modeli istemcide doğrulayın; yanıt tek başına isteğin izlediği yolu göstermez. Kullanıma sunulmaya hazır olduğunu doğrulamak için yalnızca okuma izinlerine sahip geçici bir klasör kullanın ve zararsız bir yerel araç görevini ve onu izleyen bir turu doğrulayın.

Desteklenen modeller

Bedrock Runtime sağlayıcısı için bir çıkarım profili kimliği, Bedrock Mantle sağlayıcısı içinse bir model kimliği kullanın. Seçilen model veya profil, AWS Region'ınızda kullanılabilir ve AWS kimliğiniz tarafından erişilebilir olmalıdır.

Bedrock Runtime uç noktasıyla Global ve Geo Region'lar arası çıkarım

Global CRIS, istekleri dünya genelindeki desteklenen ticari AWS bölgelerine yönlendirebilir; Geo CRIS ise istekleri profilin coğrafi alanı içinde yönlendirir. AWS izinlerinizi ve veri yerleşimi gereksinimlerinizi karşılayan bir yönlendirme kapsamı seçin.

İsteğe bağlı model yapılandırmasını aşağıdaki listelerden bir çıkarım profili kimliğine ayarlayarak model_provider = "amazon-bedrock-runtime" kullanın. Sağlayıcı, https://bedrock-runtime.{region}.amazonaws.com/openai/v1 adresini kullanır; burada {region}, istekleri gönderdiğiniz desteklenen kaynak AWS Region'dır. Hem Global hem de Geo CRIS bu uç nokta adresini kullanır.

Global CRIS

Desteklenen modeller ve çıkarım profili kimlikleri:

• GPT-6 Astra: global.openai.gpt-6-astra
• GPT-6 Sol: global.openai.gpt-6-sol
• GPT-6 Luna: global.openai.gpt-6-luna

Örneğin, ~/.codex/config.toml içinde Astra'yı Global CRIS ile yapılandırın:

model_provider = "amazon-bedrock-runtime"
model = "global.openai.gpt-6-astra"

Amerika Birleşik Devletleri Geo CRIS

Desteklenen modeller ve çıkarım profili kimlikleri:

• GPT-6 Astra: us.openai.gpt-6-astra
• GPT-6 Sol: us.openai.gpt-6-sol
• GPT-6 Luna: us.openai.gpt-6-luna

Codex'in yerleşik Runtime model seçicisi, Amerika Birleşik Devletleri Geo ve Global varyantlarını listeler.

Model ve CRIS kullanılabilirliği, kaynak AWS Region'a göre değişir. Her modelin tam çıkarım profili kimliklerine ve bölgesel kullanılabilirliğine bağlantılar içeren AWS Çıkarım profilleri için desteklenen Regions ve modeller sayfasına ve bir sağlayıcı ile model seçmeden önce AWS Modellere göre bölgesel kullanılabilirlik sayfasına bakın.

Bedrock Mantle uç noktasıyla Region içi çıkarım

İsteğe bağlı bir model kimliğiyle model_provider = "amazon-bedrock" kullanın. Sağlayıcı, https://bedrock-mantle.{region}.api.aws/openai/v1 adresini kullanır.

Desteklenen modeller ve model kimlikleri:

• GPT-6 Astra: openai.gpt-6-astra
• GPT-6 Sol: openai.gpt-6-sol
• GPT-6 Luna: openai.gpt-6-luna

GPT-6 Sol ve Luna, Mantle üzerinden us-east-1 (N. Virginia) bölgesinde kullanılabilir. Model kullanılabilirliği AWS Region'a göre değişir. Bir sağlayıcı ve model seçmeden önce AWS'nin modellere göre bölgesel kullanılabilirlik sayfasına bakın. GPT-6 Astra için Bedrock GPT-6 Astra model sayfasına başvurun.

Özellik kullanılabilirliği

Bu yapılandırma, yerel ChatGPT Work ve Codex iş akışlarını destekler. Web üzerinde barındırılan ChatGPT Work, Codex bulutu ve OpenAI tarafından barındırılan bulut hizmetlerine veya buluttan yönetilen keşfe bağlı özellikler şu anda kullanılamaz. Runtime'da barındırılan web araması kullanılamaz; buna ihtiyacınız varsa Mantle kullanın.

Codex Security CLI kendi sağlayıcı yapılandırmasını kullanır. Yukarıdaki istemciye özgü ayarlar yerine Amazon Bedrock kurulumu yönergelerini izleyin.

Sorun giderme

Kurulum başarısız olursa şunları denetleyin:

• Model kimliği, desteklenen bir modelle tam olarak eşleşmelidir.
• Uç nokta için doğru model sağlayıcısını kullanmalısınız: Runtime uç noktası için amazon-bedrock-runtime veya Mantle uç noktası için amazon-bedrock.
• Modelin kullanılabildiği bir AWS Bölgesi belirtmelisiniz.
• Bedrock API key veya AWS kimlik bilgileri geçerli olmalı ve süreleri dolmamış olmalıdır.
• AWS kimliğinin seçilen Bedrock modeline erişim izni olmalıdır.
• AWS_BEARER_TOKEN_BEDROCK, süresi dolmuş veya istenmeyen bir anahtara ayarlanmamış olmalıdır.
• Masaüstü uygulaması veya IDE uzantısı kullanımı için gerekli ortam değişkenleri ~/.codex/.env içinde bulunmalıdır.

AWS SDK profil kimlik doğrulamasında, aws sts get-caller-identity --profile codex-bedrock komutunu çalıştırarak seçtiğiniz profilin kimliğini doğrulayın. codex-bedrock yerine profil adınızı yazın veya varsayılan kimlik bilgisi zincirini kullanırken --profile seçeneğini atlayın. Bu işlem, Bedrock modelini çağırma iznini değil, AWS kimliğini denetler. İstenmeyen bir API key nedeniyle AWS_BEARER_TOKEN_BEDROCK üzerinden farklı bir kimlik doğrulama yolunun seçilmesini önlemek için bu değişkeni ayrıca denetleyin.

Destek kapsamı

OpenAI Support; ChatGPT Work ve Codex istemci kurulumu, yapılandırma, yerel CLI davranışı, masaüstü uygulaması davranışı, IDE uzantısı davranışı ve yerel ürün deneyimi konularında yardımcı olabilir.

AWS kimlik bilgileri, IAM izinleri, Bedrock model erişimi, kotalar, faturalandırma, bölgesel kullanılabilirlik, Bedrock istek hataları, AWS hizmet günlükleri veya Bedrock hizmet davranışı için müşterinin AWS yöneticisiyle ya da AWS Support ile iletişime geçin.