زمان نگرانی جدی درباره ایمنی هوش مصنوعی فرا رسیده است
در پادکست ورجکست (The Vergecast): چرا همه نگران هوش مصنوعی قدرتمند هستند و چرا به نظر میرسد هیچکس جلوی آن را نمیگیرد؟ علاوه بر این، مفهوم رایانه در دنیای امروز چیست؟
وقتی عبارت «اوپنایآی هگینگ فیس را هک کرد» تقریباً وارد فرهنگ عامه میشود، متوجه میشویم که با یک مشکل جدی در حوزه هوش مصنوعی روبهرو هستیم. این هفته جزئیات بیشتری منتشر شد درباره اینکه چگونه ایجنت (Agent) اوپنایآی (OpenAI) از محیط امن ایزوله یا سندباکس (Sandbox) خارج شد و به طور مستقل و خودکار وب و چندین سرویس وب بهظاهر امن دیگر را پیمایش کرد؛ تنها با این هدف که در آزمونهای بنچمارک (Benchmark tests) تقلب کند.
وقوع این هک به خودی خود یک مشکل بزرگ است. اینکه مدت زیادی طول کشید تا کسی متوجه آن شود نیز مشکلی دیگر است؛ و همچنین این واقعیت که به نظر میرسد هیچکس تمایل یا توانایی لازم برای اقدام جدی جهت توقف آن را ندارد. (و برای اینکه تصور نکنید این فقط مشکل اوپنایآی است، از زمان ضبط این قسمت، شرکت انتروپیک (Anthropic) نیز اعتراف کرده که مدلهایش بدون اطلاع هیچیک از طرفین، چندین شرکت دیگر را هک کردهاند.) شاید همه اینها فقط جنجال تبلیغاتی باشد، اما روز به روز مشخصتر میشود که شرکتهای سازنده مدلهای زبانی بزرگ (LLM) یا نمیتوانند یا نمیخواهند چارچوبهای ایمنی و نردههای محافظ (Guardrails) مناسبی روی آنها اعمال کنند. پس چه کسی این کار را خواهد کرد؟
در این قسمت از ورجکست، دیوید و نیلی به بررسی تمام پرسشهای مربوط به ایمنی پردازند؛ نهتنها درباره اوپنایآی و انتروپیک، بلکه درباره نسل جدید مدلهای چینی که تهدیدی واضح برای صنعت هوش مصنوعی ایالات متحده محسوب میشوند. اما پیش از ورود به همه این بحثها، درباره ایدههای جدید پیرامون نحوه استفاده ما از رایانهها گفتگو میکنیم؛ از آینده پر از ایجنتهای هوشمند مارک زاکربرگ گرفته تا گوشی تاشوی جدید و چشمگیر سامسونگ و برنامه جدید اجاره محصولات اپل.
پس از همه اینها، نوبت به بخش اخبار ویدیوهای عمودی و بررسی موفقیت فوقالعاده فراری لوچه (Ferrari Luce) میرسد که خریداران زیادی پیدا کرده است.
در صورتی که اخبار این هفته را از دست دادهاید، ما همچنین درباره دستگاههای آینده شرکتهای هوش مصنوعی، بازگشت محبوبیت گوشیهای تاشوی کلاسیک (Flip phones)، گلکسی زد فولد ۸ (Galaxy Z Fold 8) و وضعیت هیئت نظارت فیسبوک (Facebook Oversight Board) گفتگو کردیم.