پژوهشگران امنیتی شرکت استارتاپی Hacktron AI موفق شدند با بهره‌گیری از چت‌بات Claude (محصول شرکت رقیب، Anthropic) و همچنین مدل‌های خود OpenAI، به حساب‌های کاربری کارکنان این شرکت نفوذ کنند. این عملیات در قالب برنامه باگ‌بانتی (پاداش در ازای کشف باگ) و به صورت کاملاً اخلاقی انجام شد و پاداشی ۶,۵۰۰ دلاری را برای این تیم به همراه داشت. سخنگوی OpenAI ضمن تأیید این گزارش، اعلام کرد که آسیب‌پذیری‌های مورد استفاده هکرها برطرف شده است.
جزئیات فنی و روش نفوذ هکرها
بر اساس گزارش وال‌استریت ژورنال، این تیم سه‌نفره در کمتر از ۷۲ ساعت توانستند به حساب‌های ChatGPT کارکنان OpenAI دسترسی پیدا کنند. آن‌ها ابتدا از مدل Claude برای تولید کدهای مخرب استفاده کردند تا از طریق تالار گفتگوی کارکنان در پلتفرم Discourse به حساب‌ها نفوذ کنند. در ادامه، هکرها یک درخواست تغییر کد (Pull Request) بی‌خطر روی مخزن گیت‌هاب (GitHub) شرکت OpenAI ارسال کردند. اگرچه آن‌ها به کدهای منبع دسترسی داشتند، اما اعلام کردند که هیچ کدی را دانلود نکرده‌اند. نکته جالب اینجاست که پژوهشگران علاوه بر Claude، به طور گسترده از مدل پیشرفته خود OpenAI یعنی GPT-5.6 Sol نیز برای پیشبرد این نفوذ استفاده کردند.
کاهش زمان حملات سایبری به لطف هوش مصنوعی
اعضای تیم Hacktron تأکید کردند که ابزارهای هوش مصنوعی فرآیند پیچیده هک را بسیار ساده‌تر کرده و زمان برنامه‌ریزی و اجرای حملات را به شدت کاهش داده‌اند؛ به طوری که کاری که پیش‌تر به ماه‌ها تلاش و یک تیم مجهز نیاز داشت، اکنون ظرف چند روز انجام می‌شود. این رویداد در کنار موارد دیگری مانند هک پلتفرم Hugging Face توسط عوامل خودکار OpenAI در ماه جولای، نگرانی‌ها درباره سرعت توسعه هوش مصنوعی را افزایش داده است. به تازگی شرکت‌هایی مانند آنتروپیک، گوگل دیپ‌مایند و حتی ایلان ماسک خواستار کاهش سرعت توسعه این فناوری شده‌اند، هرچند چهره‌هایی مانند دونالد ترامپ با اشاره به رقابت با چین، با این ایده مخالفت کرده‌اند.