پروندهای تازه بار دیگر بحث درباره ایمنی هوش مصنوعی و نحوه برخورد چتباتها با گفتوگوهای مرتبط با رفتارهای خطرناک را داغ کرده است.
در این مورد، ChatGPT نهتنها یک مکالمه نگرانکننده را شناسایی کرد، بلکه پس از تشخیص تهدیدی جدی علیه یک زن، موضوع را به افبیآی گزارش داد.
این پرونده مربوط به دارن ژو، مرد ۲۵ ساله اهل فلوریدا، است که طبق اسناد دادگاه، چندین ماه درباره رابطه سابق خود با ChatGPT صحبت میکرد و در ادامه، مکالمات او به برنامهریزی برای آسیب رساندن به نامزد سابقش کشیده شد. پس از شناسایی این گفتوگوها، OpenAI موضوع را به مقامات فدرال اطلاع داد و مأموران در ادامه به حدود دو ماه از مکالمات ژو با این چتبات دسترسی پیدا کردند.
آغاز ماجرا و تغییر مسیر مکالمات
ژو در ماه مارس، مدت کوتاهی پس از پایان رابطه ششماههاش با نامزد سابق خود، استفاده از ChatGPT را آغاز کرد. در ابتدا، صحبتهای او بیشتر درباره شکست عاطفی، علایق نامزد سابقش، مکانهایی که به آنها رفتوآمد داشت، حسادت و تمایلش برای بازگشت دوباره به رابطه بود.
با گذشت زمان، محتوای مکالمات به شکل قابل توجهی تغییر کرد. بر اساس گفته بازرسان، ژو شروع به مطرح کردن برنامههایی درباره قتل، خودکشی و آسیب شدید به زن سابق زندگیاش کرد. در یکی از پیامهای منتسب به او آمده بود: تا پایان این ماه او را میکشم. ژو در ادامه نیز نوشته بود:
اگر من نتوانم او را داشته باشم، پس هیچکس نمیتواند.
بازرسان همچنین اعلام کردند که ژو درباره انتظار کشیدن برای نامزد سابقش در یک باشگاه ورزشی صحبت کرده بود. طبق اسناد، او قصد داشت با گل به سراغ او برود و در صورت رد شدن درخواستش، او را تهدید کند.
در بخش دیگری از مکالمات، ژو درباره مجبور کردن این زن به رفتن به خانه خودش با استفاده از سلاح صحبت کرده بود و گفته میشود قصد داشت او را در آنجا تحت کنترل خود نگه دارد.
ژو همچنین به ChatGPT گفته بود که به چندین سلاح دسترسی دارد؛ از جمله یک تفنگ در سبک AR-15، یک اسلحه کمری Glock و یک شاتگان ۱۲ گیج. طبق اسناد پرونده، او مدعی شده بود که تصاویری از سلاحها، بستهای زیپی و دستکشهای لاتکس را نیز برای دوستدختر سابقش ارسال کرده است.
در پیام دیگری که به ژو نسبت داده شده، او نوشته بود:
به او پیام دادم و گفتم امشب به سراغش میروم و به او آسیب میزنم.
گزارش OpenAI و بازداشت ژو
پس از شناسایی این مکالمات، OpenAI موضوع را به افبیآی اطلاع داد. ژو در ماه مه بازداشت شد و سپس با سه اتهام روبهرو شد؛ تعقیب و مزاحمت شدید، تهدید کتبی به قتل و استفاده غیرقانونی از تلفن همراه.
او در ۱۳ آگوست و در چارچوب یک توافق قضایی، هر سه اتهام را پذیرفت. این توافق باعث شد ژو با مجازات حبس مواجه نشود و محکومیت کیفری سنگینی نیز در پرونده او ثبت نشود.
قاضی اسکات سوسکاور در نهایت ژو را به هشت سال آزادی مشروط محکوم کرد. طبق توافق انجامشده، او باید دو سال نخست از پابند الکترونیکی استفاده کند، در دوره مداخله ویژه برای افراد دارای رفتار خشونتآمیز شرکت داشته باشد و تحت ارزیابی سلامت روان قرار بگیرد.
ژو همچنین اجازه مصرف مواد مخدر یا الکل ندارد، نمیتواند سلاح در اختیار داشته باشد و از برقراری هرگونه تماس با دوستدختر سابقش منع شده است.
افزایش نقش چتباتها در پروندههای جنایی
این پرونده توجهها را بار دیگر به استفاده روزافزون مردم از چتباتهای هوش مصنوعی برای مطرح کردن موضوعات حساس و گاه خطرناک جلب کرده است. طی سالهای اخیر، چندین پرونده جنایی نیز به نحوی با استفاده از ابزارهای هوش مصنوعی مرتبط شدهاند.
در آمریکا، تحقیقات مربوط به تیراندازی در دانشگاه ایالتی فلوریدا نیز پرسشهایی درباره ChatGPT ایجاد کرد. مقامهای مسئول گفته بودند فرد مظنون پیش از حمله، هنگام بررسی برخی جنبههای این اقدام از چتبات استفاده کرده بود.
پرونده مشابهی نیز در بنگلور هند مطرح شد. پلیس اعلام کرد فردی که به قتل سه نفر متهم شده بود، طی چند ماه از چتبات Gemini شرکت گوگل در جریان برنامهریزی برای قتلها استفاده کرده است. مأموران در این پرونده به دنبال دسترسی به تاریخچه مکالمات هوش مصنوعی هستند تا از آن بهعنوان بخشی از تحقیقات استفاده کنند.
شرکتهای فعال در حوزه هوش مصنوعی پیشتر نیز به دلیل نحوه مدیریت مکالمات خطرناک با انتقادهایی مواجه شدهاند. با این حال، پرونده دارن ژو نشان میدهد آزمایشگاههای هوش مصنوعی در برخی موارد رویکرد فعالتری در پیش گرفتهاند؛ رویکردی که میتواند شامل شناسایی و علامتگذاری مکالمات مشکوک و در صورت تشخیص تهدیدی واقعی، اطلاعرسانی به مقامهای مسئول باشد.
