Ứng dụng máy tính để bàn ChatGPT hiện có sẵn trên Amazon Bedrock trong AWS GovCloud (US), cung cấp quyền truy cập vào các mô hình biên giới của OpenAI thông qua hai thành phần. Công việc hoàn thành các nhiệm vụ phức tạp, gồm nhiều bước và mang lại kết quả sẵn sàng cho việc đánh giá và Codex là tác nhân mã hóa để phát triển, thử nghiệm và đánh giá phần mềm. Hướng dẫn này dành cho các tổ chức có kiến ​​trúc bảo mật yêu cầu suy luận mô hình để sử dụng danh tính, điểm cuối và biện pháp kiểm soát khu vực của AWS GovCloud (US). Nó định cấu hình Codex để định tuyến các yêu cầu mô hình thông qua Amazon Bedrock Mantle trong us-gov-west-1, nơi quyền truy cập có thể được quản lý bằng cách sử dụng AWS Identity and Access Management (IAM) và các biện pháp kiểm soát mạng AWS GovCloud (US) hiện có. Codex là tác nhân mã hóa OpenAI để phát triển phần mềm dựa trên AI. Với các mô hình GPT hỗ trợ suy luận, Codex giới thiệu một lớp trí thông minh mới được tối ưu hóa cho quy trình làm việc phức tạp, có thời gian dài của nhà phát triển. Bạn có thể sử dụng ứng dụng máy tính để bàn ChatGPT, tích hợp Codex CLI và IDE với Visual Studio Code, JetBrains và Xcode. Suy luận mô hình được định tuyến thông qua API phản hồi trên Amazon Bedrock. Đối với những khách hàng có yêu cầu về nơi lưu trữ dữ liệu, quá trình xử lý sẽ nằm trong Khu vực AWS của Amazon Bedrock mà bạn chọn. Bạn trả tiền cho mỗi mã thông báo mà không cần giấy phép chỗ ngồi và không có cam kết cho mỗi nhà phát triển. Lưu giữ dữ liệu bằng không (ZDR) cũng được hỗ trợ. Ở chế độ có thể định cấu hình này, lời nhắc và phản hồi sẽ được xử lý mà không được AWS ghi vào bộ lưu trữ lâu bền hoặc chia sẻ với các nhà cung cấp mô hình. Điều này giúp bạn bảo vệ thông tin nhạy cảm và đáp ứng các yêu cầu nghiêm ngặt về quản trị dữ liệu, quyền riêng tư và bảo mật. Bài đăng này hướng dẫn cách triển khai cục bộ có kiểm soát ứng dụng máy tính để bàn ChatGPT gửi suy luận mô hình tới Amazon Bedrock trong AWS GovCloud (Miền Tây Hoa Kỳ). Cấu hình này sử dụng tính năng đăng nhập ở chế độ API, chính sách thiết bị được quản lý, hồ sơ AWS có tên và các hạn chế về mạng. Những hạn chế này chỉ cho phép truy cập vào điểm cuối Amazon Bedrock đã được phê duyệt trong khi vô hiệu hóa các kết nối bên ngoài khác và ca khả năng. Kết quả là việc triển khai mà nhóm bảo mật của cơ quan có thể kiểm tra và ghi lại trước khi phê duyệt sử dụng rộng rãi hơn. Việc sử dụng AWS GovCloud (US) và làm theo hướng dẫn này không tự cấp phép cho khối lượng công việc của bạn. Tổ chức của bạn vẫn chịu trách nhiệm xem xét mô hình đã chọn, dịch vụ AWS, Khu vực, điểm cuối, biện pháp kiểm soát máy trạm, kho lưu trữ, thông tin xác thực và luồng dữ liệu theo quy trình ủy quyền và kế hoạch bảo mật hệ thống của tổ chức. Tổng quan về giải pháp Bạn có thể sử dụng ứng dụng máy tính để bàn ChatGPT theo hai cách:

Làm việc cho những nhiệm vụ lớn hơn cần lập kế hoạch, nghiên cứu, lưu trữ và hoàn thiện kết quả. Codex dành cho công việc kỹ thuật như chỉnh sửa mã, chạy thử nghiệm và xem xét các yêu cầu kéo.

Ứng dụng máy tính để bàn ChatGPT chạy trên máy tính do tổ chức quản lý thông qua ứng dụng máy tính để bàn hoặc CLI. Nó sử dụng thông tin đăng nhập AWS đã được định cấu hình để gửi yêu cầu một cách an toàn đến điểm cuối Amazon Bedrock Mantle trong us-gov-west-1. Vì thiết lập này sử dụng trực tiếp AWS nên các quy tắc không gian làm việc ChatGPT và vai trò người dùng không kiểm soát nó. Các biện pháp kiểm soát bảo mật chính là các chính sách của máy tính cũng như danh tính và quyền AWS đang được sử dụng. hướng dẫn Cấu hình có ba bước chính: thiết lập xác thực, thiết lập tệp cấu hình ứng dụng máy tính để bàn ChatGPT, sau đó khởi chạy, khởi tạo và xác minh quá trình triển khai. Điều kiện tiên quyết Trước khi thiết lập ứng dụng máy tính để bàn ChatGPT với AWS GovCloud (US), hãy đảm bảo phiên bản ứng dụng máy tính để bàn ChatGPT của bạn hỗ trợ Amazon Bedrock trong AWS GovCloud (US). Bạn cần có tài khoản AWS GovCloud (US) được phê duyệt, danh tính IAM và thông tin xác thực được phê duyệt, quyền truy cập vào mô hình, Khu vực AWS và điểm cuối được phê duyệt cũng như quyền sử dụng chúng. Bạn cũng cần thiết lập các tệp require.toml và config.toml. Bước 1: Thiết lập xác thực Chọn tài khoản AWS GovCloud (US) được phê duyệt và danh tính hoặc vai trò IAM có quyền truy cập vào mô hình được phê duyệt trong us-gov-west-1. Nhận thông tin xác thực thông qua cơ chế được phê duyệt của tổ chức bạn. Hướng dẫn này sử dụng hồ sơ có tên codex-il5. Giữ thông tin xác thực, mã thông báo mang, mã thông báo phiên và các bí mật khác khỏi tệp TOML. Bảo vệ cấu hình hồ sơ, nguồn thông tin xác thực, bộ nhớ đệm mã thông báo SSO và mọi trình trợ giúp thông tin xác thực từ tác vụ ghi tác vụ của ứng dụng máy tính để bàn ChatGPT, đồng thời cho phép các công cụ xác thực được phê duyệt duy trì và làm mới thông tin xác thực. Ứng dụng máy tính để bàn ChatGPT hỗ trợ hai lộ trình xác thực Amazon Bedrock: khóa API Amazon Bedrock hoặc chuỗi thông tin xác thực AWS SDK. AWS SSO thông qua Trung tâm nhận dạng AWS IAM được hỗ trợ trong lộ trình chuỗi thông tin xác thực. Trước tiên, ứng dụng sẽ kiểm tra AWS_BEARER_TOKEN_BEDROCK trong môi trường của nó. Để sử dụng trên máy tính để bàn, biến này có thể được cung cấp thông qua %USERPROFILE%.codex.env trên Windows hoặc ~/.code x/.env trên Linux và macOS. Khi xuất hiện, mã thông báo mang sẽ được ưu tiên hơn xác thực dựa trên hồ sơ. Nếu không có mã thông báo mang, ứng dụng sẽ quay trở lại chuỗi thông tin xác thực AWS SDK tiêu chuẩn. Chuỗi có thể đọc thông tin xác thực AWS từ ~/.aws/credentials và các cài đặt hồ sơ liên quan từ ~/.aws/config. Trên Windows, các đường dẫn mặc định tương ứng là %USERPROFILE%.aws\credentials và %USERPROFILE%.aws\config. Chuỗi cũng hỗ trợ hồ sơ SSO. Đối với SSO, nó sử dụng cài đặt cấu hình trong tệp cấu hình AWS và phiên SSO được lưu trong bộ nhớ đệm để lấy thông tin xác thực vai trò tạm thời. Những thông tin xác thực này không cần phải được lưu trữ thủ công trong tệp thông tin xác thực AWS. Xem tài liệu xác thực Bedrock của OpenAI và tài liệu của nhà cung cấp thông tin xác thực Trung tâm nhận dạng AWS IAM. Bước 2: Thiết lập tệp cấu hình ứng dụng máy tính để bàn ChatGPT Bạn phải tạo hai tệp cấu hình ứng dụng máy tính để bàn ChatGPT: config.toml và require.toml. Quan trọng: các tệp cấu hình cần được thiết lập trước khi khởi chạy ứng dụng. Bảng sau đây hiển thị các vị trí tệp.

Hệ điều hành Cấu hình người dùng.toml Yêu cầu quản trị viên.toml

cửa sổ %USERPROFILE%.codex\config.toml %ProgramData%\OpenAI\Codex\requirements.toml

Linux ~/.codex/config.toml /etc/codex/requirements.toml

macOS ~/.codex/config.toml /etc/codex/requirements.toml

Bắt đầu từ tệp require.toml. Yêu cầu.toml là tệp quy tắc do quản trị viên kiểm soát. Nó đặt ra các giới hạn bảo mật mà người dùng không thể ghi đè, chẳng hạn như hạn chế cấp độ quyền, công cụ hoặc cài đặt mà ứng dụng máy tính để bàn ChatGPT được phép sử dụng. Sử dụng đường cơ sở sau đây để triển khai Amazon Bedrock của AWS GovCloud (US) được hỗ trợ. Phần [windows] chỉ áp dụng cho Windows và sandbox_private_desktop phải được thời gian chạy đã phê duyệt hỗ trợ.

allow_login_methods = ["api"] allow_sandbox_modes = ["chỉ đọc", "không gian làm việc-ghi"] allow_approvals_reviewers = ["người dùng"] allow_approval_policies = [ { dạng hạt = { sandbox_approval = sai, quy tắc = đúng, mcp_elicites = sai, request_permissions = sai, kỹ năng_phê duyệt = true } }, ] allow_web_search_modes = ["đã tắt", "được lưu trong bộ nhớ đệm"] allow_browser_and_computer_use = sai allow_appshots = sai allow_remote_control = sai allow_login_shell = sai allow_managed_hooks_only = đúng check_for_update_on_startup = sai mcp_servers = {}

[phản hồi] đã bật = sai

[tính năng] mạng_proxy = đúng in_app_chat = sai in_app_dictation = sai in_app_browser = sai browser_use = sai browser_use_external = sai browser_use_full_cdp_access = sai máy tính_use = sai in_app_updates = sai hình ảnh_thế hệ = sai ký ức = sai biên niên sử = sai external_agent_memory_import = sai người giám hộ_phê duyệt = sai người giám hộv2 = sai người giám hộ_ext = sai ứng dụng = sai Enable_mcp_apps = sai plugin = sai remote_plugin = sai plugin_sharing = sai khuyến nghị_plugins = sai Skill_mcp_dependency_install = sai kỹ năng_search = sai không gian làm việc_dependences = sai móc = sai độc lập_web_search = sai

[mạng_thử nghiệm] đã bật = đúng được quản lý_allowed_domains_only = đúng tên miền = {} unix_sockets = {} allow_upstream_proxy = sai nguy hiểm_allow_non_loopback_proxy = sai nguy hiểm_allow_all_unix_sockets = sai allow_local_bind = sai

[ứng dụng.mạng] đã bật = đúng

[application.network.domain] "bedrock-mantle.us-gov-west-1.api.aws" = "cho phép" "api.openai.com" = "từ chối" "chat.openai.com" = "từ chối" "chatgpt.com" = "từ chối" "ab.chatgpt.com" = "từ chối" "platform.openai.com" = "từ chối" "auth.openai.com" = "từ chối" "gov.api.openai.com" = "từ chối" "gov.chatgpt.com" = "từ chối" "sdfedpreastus2.oaiusercontent.com" = "từ chối" "o33249.ingest.us.sentry.io" = "từ chối" "persistent.oaistatic.com" = "từ chối" "oaisidekickupdates.blob.core.windows.net" = "từ chối"

[cửa sổ] allow_sandbox_implementations = ["nâng cao"] sandbox_private_desktop = đúng

Tiếp theo, định cấu hình tệp config.toml. config.toml cho ứng dụng máy tính để bàn ChatGPT biết cách vận hành, bao gồm cả nhà cung cấp mô hình nào sẽ sử dụng (amazon-bedrock), mô hình nào cần chọn và các cài đặt như quyền hoặc giới hạn ngữ cảnh. Thay thế ID mẫu và hồ sơ được đặt tên (ví dụ: codex-il5) bằng các giá trị được phê duyệt.

mô hình = "REPLACE_WITH_APPROVED_MODEL_ID" model_provider = "amazon-bedrock" buộc_login_method = "api" phê duyệt_policy = { chi tiết = { sandbox_approval = sai, quy tắc = đúng, mcp_elicites = sai, request_permissions = sai, kỹ năng_phê duyệt = true } } phê duyệt_reviewer = "người dùng" sandbox_mode = "không gian làm việc-ghi" web_search = "được lưu trong bộ nhớ đệm" allow_login_shell = sai check_for_update_on_startup = sai

[model_providers.amazon-bedrock] base_url = "https://bedrock-mantle.us-gov-west-1.api.aws/openai/v1" wire_api = "phản hồi" yêu cầu_openai_auth = sai hỗ trợ_websockets = sai hỗ trợ_standalone_web_search = sai

[model_providers.amazon-bedrock.aws] vùng = "us-gov-west-1" hồ sơ = "codex-il5"

[sandbox_workspace_write] mạng_access = sai

[tính năng] mạng_proxy = đúng

[phân tích] đã bật = sai

[phản hồi] đã bật = sai

[otel] nhà xuất khẩu = "không có" trace_exporter = "không có" số liệu_exporter = "không có" log_user_prompt = sai

[ký ức] tạo_memories = sai use_memories = sai

[kỹ năng.đóng gói] đã bật = sai

[apps._default] đã bật = sai

[cửa sổ] hộp cát = "cao"

Bước 3: Khởi chạy, khởi tạo và xác minh Tải xuống ứng dụng từ trang ChatGPT và cài đặt nó. Để ứng dụng đóng sau khi cài đặt. Nếu nó tự động mở hoặc nếu ứng dụng đã được khởi chạy trước đó, hãy thoát hoàn toàn ChatGPT và kết thúc mọi quy trình ChatGPT hoặc Codex còn sót lại. Đảm bảo có các yêu cầu.toml và config.toml trước khi khởi chạy ứng dụng đầu tiên. Khởi động ứng dụng để tải cài đặt require.toml và config.toml. Hãy chắc chắn rằng nó hiển thị amazon-bedrock là nhà cung cấp mô hình. Trong Codex CLI, bạn sẽ thấy tab /status trông như thế này:

Hình 1: Tab Codex CLI /status xác nhận amazon-bedrock là nhà cung cấp mô hình

Trong ứng dụng máy tính để bàn ChatGPT, bạn cũng có thể xác nhận amazon-bedrock là nhà cung cấp mô hình.

Hình 2: Cài đặt ứng dụng máy tính để bàn ChatGPT hiển thị amazon-bedrock là nhà cung cấp mô hình

Khắc phục sự cố Ứng dụng sẽ nhắc nhập tài khoản OpenAI. Xác minh rằng các yêu cầu.toml và config.toml sử dụng vị trí và tên tệp chính xác được hiển thị trong bảng trước đó, chấm dứt tất cả các quy trình ChatGPT và Codex rồi khởi chạy lại. Các tập tin phải trước khi khởi chạy ứng dụng. Điểm cuối AWS GovCloud (US) được báo cáo là không được hỗ trợ. Xác nhận bản phát hành, điểm cuối và mô hình máy tính để bàn hoặc máy chủ ứng dụng chính xác bằng OpenAI. Chỉ thay đổi URL sẽ không thiết lập được sự hỗ trợ. Danh tính AWS sai được sử dụng. Kiểm tra nguồn thông tin xác thực hiệu quả và hồ sơ được đặt tên. Kiểm tra xem khóa API Amazon Bedrock có được ưu tiên hơn hồ sơ hay không. Các hạn chế về khả năng bị thiếu. Kiểm tra đầy đủ các yêu cầu có hiệu lực sau khi khởi động lại. Cài đặt đăng nhập chỉ API không áp dụng chính sách khả năng. Khôi phục và dọn dẹp Nếu quá trình kiểm tra xác thực không thành công, hãy dừng triển khai. Đưa các thiết bị bị ảnh hưởng về cài đặt nhà cung cấp và chính sách đã được phê duyệt trước đó, sau đó khởi động lại ứng dụng ChatGPT dành cho máy tính để bàn. Thu hồi mọi thông tin xác thực AWS hoặc khóa API tạm thời và xác nhận rằng các thiết bị đó không thể kết nối với Amazon Bedrock nữa. Hãy ghi lại quá trình kiểm tra và ghi lại rõ ràng những gì không thành công trước khi thử lại. Kết luận Ứng dụng máy tính để bàn ChatGPT trên Amazon Bedrock trong AWS GovCloud (US) cung cấp cho bạn cách thức được kiểm soát để sử dụng các mô hình biên giới OpenAI và hỗ trợ mã hóa. Suy luận vẫn nằm trong Khu vực AWS GovCloud (US). Bằng cách xác thực cấu hình, xác nhận danh tính và điểm cuối AWS đã được phê duyệt cũng như xác minh các biện pháp kiểm soát bảo mật, bạn có thể tự tin chuẩn bị triển khai để sử dụng rộng rãi hơn. Cách tiếp cận này hỗ trợ đổi mới trong khi điều chỉnh các quyết định triển khai cho phù hợp với các yêu cầu về bảo mật, ủy quyền và xử lý dữ liệu của mỗi tổ chức. Bạn đã sẵn sàng khám phá ứng dụng máy tính để bàn ChatGPT với Codex trên Amazon Bedrock trong AWS GovCloud (US) chưa? Bắt đầu bằng việc triển khai có kiểm soát, xác thực các biện pháp kiểm soát bảo mật và làm việc với nhóm bảo mật của bạn để chuẩn bị cho việc áp dụng rộng rãi hơn. Tài nguyên liên quan

Cấu hình Bedrock AWS GovCloud (US) – Thiết bị ứng dụng máy tính để bàn ChatGPT, nhà cung cấp, mạng, xác minh và hướng dẫn khắc phục sự cố. API phản hồi trên Amazon Bedrock – Khu vực AWS, hành vi điểm cuối, xác thực và quyền đối với API phản hồi. Tuân thủ AWS GovCloud (US) – Các chương trình tuân thủ và cân nhắc về ủy quyền của khách hàng. Tài liệu xác thực Bedrock của OpenAI – Khóa API Amazon Bedrock và xác thực chuỗi thông tin xác thực AWS SDK, bao gồm SSO. Tài liệu của nhà cung cấp thông tin xác thực Trung tâm nhận dạng AWS IAM – Cấu hình hồ sơ SSO và thông tin xác thực AWS tạm thời.

Về các tác giả