پشتیبانی Amazon Bedrock از استنتاج بین‌منطقه‌ای برای مدل‌های GPT-5.6

پشتیبانی Amazon Bedrock از استنتاج بین‌منطقه‌ای برای مدل‌های GPT-5.6

پلتفرم Amazon Bedrock به‌تازگی پشتیبانی از مدل‌های هوش مصنوعی GPT-5.6 شرکت OpenAI (شامل سه نسخه Sol، Terra و Luna) را در بیش از ۲۵ منطقه تحت پوشش AWS (خدمات ابری آمازون) آغاز کرده است. این به‌روزرسانی با معرفی قابلیت «استنتاج بین‌منطقه‌ای» (cross-Region inference یا CRIS) همراه شده که به کاربران اجازه می‌دهد درخواست‌های خود را برای دستیابی به پهنای باند بیشتر و عملکرد پایدارتر تحت بار کاری بالا، به مناطق مختلف هدایت کنند.

قابلیت استنتاج بین‌منطقه‌ای (CRIS) چگونه کار می‌کند؟

قابلیت CRIS در Amazon Bedrock از طریق پروفایل‌های استنتاج (inference profiles) عمل می‌کند. این ویژگی با توزیع بار پردازشی روی استخرهای محاسباتی بزرگ‌تر، مانع از محدود شدن درخواست‌ها به ظرفیت یک منطقه خاص می‌شود و کارایی سیستم را ارتقا می‌دهد. این سیستم دو نوع پروفایل ارائه می‌دهد:

  • پروفایل جغرافیایی (Geographic): مانند نسخه ویژه ایالات متحده (US geographic) که پردازش داده‌ها را صرفاً در محدوده جغرافیایی مشخصی نگه می‌دارد تا الزامات حاکمیت و محل ذخیره‌سازی داده‌ها (Data Residency) رعایت شود.
  • پروفایل جهانی (Global): که درخواست‌ها را بر اساس ظرفیت لحظه‌ای، به هر یک از مناطق تجاری پشتیبانی‌شده AWS در سراسر جهان هدایت می‌کند تا بیشترین پهنای باند ممکن را در اختیار کاربر قرار دهد.

ویژگی‌های کلیدی مدل‌های GPT-5.6 در Amazon Bedrock

خانواده مدل‌های عمومی GPT-5.6 ارائه‌شده در این پلتفرم شامل سه نسخه Sol، Terra و Luna است که هرکدام تعادل متفاوتی میان هزینه و قدرت پردازش برقرار می‌کنند. این مدل‌ها ورودی‌های متنی و تصویری را پذیرفته و خروجی متنی تولید می‌کنند. از دیگر ویژگی‌های برجسته آن‌ها می‌توان به پنجره بافت (context window) ۱ میلیون توکنی، پشتیبانی از حالت استدلال (reasoning mode)، فراخوانی ابزارها در سمت سرور (server-side tool calling) و حافظه پنهان پرامپت (prompt caching) اشاره کرد. توسعه‌دهندگان می‌توانند از طریق APIهای مختلف مانند OpenAI Chat Completions و Amazon Bedrock Converse به این مدل‌ها دسترسی داشته باشند.