یک زن ناشناس که با نام مستعار «جین دو» در پرونده‌ای علیه شرکت xAI شرکت کرده، مدعی شده است که ناپدری‌اش از چت‌بات Grok برای دستکاری عکسی که در ۱۱ سالگی از او گرفته شده بود، استفاده کرده و بیش از ۷ هزار تصویر نامناسب از او تولید کرده است.
به گزارش واشنگتن پست، این زن گفت که پس از کشف این تصاویر در جریان یک عملیات اجرای قانون، ناپدری‌اش دو روز بعد خودکشی کرد. او در این باره گفت: «دسترسی بی‌حدوحصر به این ابزارها به سرعت در حال گسترش است و زندگی روزمره را به سوءاستفاده جنسی از کودکان تبدیل می‌کند.»
سه نوجوان تنسی نیز در پرونده‌ای جداگانه علیه xAI (که اکنون بخشی از شرکت SpaceX محسوب می‌شود) شکایت کرده‌اند. آنها مدعی هستند که این شرکت اقدامات اساسی برای جلوگیری از استفاده Grok در تولید تصاویر نامناسب از افراد واقعی، از جمله خردسالان، انجام نداده است. پیش‌تر در اوایل امسال، میلیون‌ها تصویر جنسی‌سازی‌شده تولیدشده توسط Grok در پلتفرم X منتشر شده بود.
این نوجوانان درخواست کرده‌اند که پرونده آنها به عنوان یک دعوای جمعی (class action) شناخته شود. شرکت xAI هنوز به درخواست‌های TechCrunch برای اظهارنظر پاسخ نداده است.
چرا این خبر مهم است؟
این پرونده نخستین مورد شناخته‌شده از استفاده از هوش مصنوعی برای تولید انبوه تصاویر نامناسب از کودکان است که به دادگاه کشیده شده است. این اتفاق نگرانی‌ها درباره خطرات اخلاقی و قانونی ابزارهای هوش مصنوعی بدون نظارت کافی را برجسته می‌کند. همچنین نشان می‌دهد که چگونه فناوری‌های نوظهور می‌توانند به سرعت به ابزارهای سوءاستفاده تبدیل شوند.
اگر در بحران فکری هستید یا افکار خودکشی دارید، می‌توانید با شماره ۹۸۸ (خط ملی بحران و خودکشی ایالات متحده) تماس بگیرید.