اوپن‌ای‌آی طرحی را برای کمک به نهادهای نظارتی دموکراتیک در توسعه تخصص و ابزارهای لازم برای درک و نظارت بر استفاده دولت از هوش مصنوعی در حوزه امنیت ملی راه‌اندازی کرده است.
هوش مصنوعی سرعت و توانایی دولت‌ها در حفاظت از مردم را تغییر می‌دهد. این فناوری می‌تواند به مقابله با حملات سایبری، securing زیرساخت‌های حیاتی، شناسایی تهدیدات زودهنگام و ارائه تصویری روشن‌تر در شرایط بحرانی کمک کند. با این حال، استفاده از هوش مصنوعی در حوزه امنیت ملی نیازمند نظارت دقیق‌تر است، زیرا تصمیم‌گیری‌ها ممکن است شامل محرمانگی و پیامدهای پرمخاطره باشند. نظارت دموکراتیک تضمین می‌کند که استفاده از قدرت عمومی همچنان پاسخگو به مردم باشد.
اوپن‌ای‌آی بر اساس اصول امنیت ملی خود، استفاده از هوش مصنوعی در حوزه امنیت ملی را با safeguards، قضاوت انسانی معنادار و نظارت مناسب انجام می‌دهد. این اصول همچنین اولویت کمک به نهادهای مسئول نظارت برای توسعه ظرفیت لازم برای نظارت بر استفاده از هوش مصنوعی در سرعت و مقیاس بالا را تعیین می‌کنند.
نهادهای دولتی از پیش دارای اختیارات و مسئولیت‌هایی برای نظارت بر فعالیت‌های امنیت ملی هستند. با ورود هوش مصنوعی به این فعالیت‌ها، نظارت سنتی که مبتنی بر روش‌های دستی است، دیگر کافی نخواهد بود. اوپن‌ای‌آی معتقد است که سیستم‌های توانمندتر نیازمند نظارت قوی‌تر هستند و این اصل را در چارچوب آمادگی خود اعمال می‌کند. مدل‌های پیشرفته قبل از استقرار تحت بررسی‌های دقیق قرار می‌گیرند و پس از استقرار نیز از طریق نظارت مستمر و بررسی حوادث، بهبود می‌یابند.
اوپن‌ای‌آی تأکید می‌کند که مسئولیت نظارت بر دولت بر عهده مقامات منتخب و نهادهای عمومی است و این شرکت تنها می‌تواند از طریق فناوری خود از این نهادها در انجام وظایف نظارتی حمایت کند. این طرح بر سه اصل استوار است:
اصول راهنما
اول، هوش مصنوعی باید قضاوت انسانی و نهادی را تقویت کند، نه جایگزین آن شود. تصمیم‌گیری درباره قانونی بودن، مناسب بودن و مطابقت با قوانین و سیاست‌های قابل اجرا بر عهده نهادهای مجاز و مراجع نظارتی قانونی است.
دوم، استفاده دولت از هوش مصنوعی باید قابل ردیابی و شفاف برای مراجع نظارتی مجاز باشد. بازرسان باید بتوانند نحوه مشارکت هوش مصنوعی در تصمیم‌گیری‌ها را درک کنند، در حالی که اطلاعات طبقه‌بندی‌شده، خصوصی و حساس امنیتی محافظت می‌شوند.
سوم، هوش مصنوعی باید برای تقویت نهادهای نظارتی دموکراتیک استفاده شود. نظارت دستی بر استفاده از هوش مصنوعی در دولت نمی‌تواند مقیاس‌پذیر باشد. با گسترش استفاده از هوش مصنوعی در امنیت ملی و سایر حوزه‌های پرمخاطره دولتی، این فناوری باید به شیوه‌ای مسئولانه و شفاف توسط نهادهای نظارتی مورد استفاده قرار گیرد.
در سال آینده، اوپن‌ای‌آی قصد دارد این طرح را از طریق اقدامات زیر پیش ببرد:
- همکاری با مقامات مجاز برای شناسایی فرصت‌های عملی که در آن ابزارهای هوش مصنوعی یا پشتیبانی فنی می‌توانند نظارت را مؤثرتر کنند.
- ارائه ۵ میلیون دلار برای آموزش، پشتیبانی فنی و اعتبار OpenAI به نهادهای دولتی نظارتی دموکراتیک برای حمایت از پذیرش مسئولانه و ارزیابی ابزارهای هوش مصنوعی.
- همکاری با نهادهای نظارتی برای آزمایش ابزارهایی که به بازرسان مجاز کمک می‌کنند تا سوابق مربوط به تصمیم‌گیری‌های دولتی مبتنی بر هوش مصنوعی را بررسی کنند. این ابزارها در صورت امکان بین‌عمل‌کردنی یا مدل-خنثی خواهند بود. نهادهای شرکت‌کننده، و نه اوپن‌ای‌آی، کنترل شواهد، خروجی‌ها و یافته‌ها را در دست خواهند داشت و این اطلاعات تنها برای مقامات دولتی مجاز در دسترس خواهد بود.
- درگیر کردن جامعه مدنی و کارشناسان فنی برای اطمینان از اینکه دیدگاه‌های آن‌ها در توسعه ابزارها و رویکردهای اوپن‌ای‌آی در قبال مسئولیت‌های مرتبط لحاظ می‌شود.
اوپن‌ای‌آی پیشرفت این طرح را بر اساس توانایی بازرسان مجاز در انجام وظایف خود و افزایش اعتماد عمومی به استفاده دولت از سیستم‌های هوش مصنوعی مطابق با اهداف تعیین‌شده ارزیابی خواهد کرد. با تکامل استفاده دولت از هوش مصنوعی، اوپن‌ای‌آی به حمایت از نهادهای مسئول نظارت بر آن ادامه خواهد داد.