در حالیکه رقابت میان شرکتهای بزرگ هوش مصنوعی برای جذب کاربران درحال شدت گرفتن است، شرکت OpenAI قصد دارد با گسترش دامنهی محتوای قابلارائه در چتجیپیتی، از جمله محتوای بزرگسال برای کاربران تأییدشده، به رشد درآمد و حفظ جایگاه خود در بازار ادامه دهد. این تصمیم، واکنشهای گستردهای را در میان قانونگذاران و فعالان حوزهی سلامت روان و ایمنی کودکان بهدنبال داشته است.
شرکت OpenAI قصد دارد دامنهی گستردهتری از محتوا، از جمله محتوای بزرگسال، را در چتبات محبوب خود یعنی چتجیپیتی ارائه دهد. این اقدام بخشی از تلاش این شرکت برای «برخورد با کاربران بزرگسال» است؛ موضوعی که مدیرعامل این شرکت، سم آلتمن (Sam Altman)، به آن اشاره کرده است.
آلتمن روز سهشنبه در پستی در شبکه اجتماعی X نوشت که نسخههای آیندهی چتجیپیتی قادر خواهند بود رفتاری انسانیتر داشته باشند اما فقط اگر خودتان بخواهید، نه بهخاطر اینکه ما بهدنبال بیشینهسازی استفاده هستیم. این اقدام که یادآور معرفی دو چتبات با محتوای بزرگسال توسط xAI متعلق به ایلان ماسک (Elon Musk) در پلتفرم Grok است، میتواند به جذب مشترکان پولی بیشتر برای OpenAI کمک کند. همچنین احتمال میرود این تصمیم فشارها بر قانونگذاران برای اعمال محدودیتهای بیشتر بر چتباتهای همراه را افزایش دهد. شرکت OpenAI به درخواستهای بیبیسی برای اظهار نظر پاسخ نداده است.
آلتمن گفته که OpenAI پیشتر چتجیپیتی را تا حد زیادی محدود کرده بود تا در مواجهه با مسائل سلامت روان محتاط عمل کند. این تغییرات در یک پست وبلاگی در ماه اوت اعلام شده بودند، اما این پست دیگر در وبسایت OpenAI در دسترس نیست.
آلتمن روز سهشنبه نوشت: «میدانیم که این محدودیتها باعث شد چتجیپیتی برای بسیاری از کاربرانی که مشکل سلامت روان نداشتند، کمتر مفید یا لذتبخش باشد، اما با توجه به حساسیت موضوع، میخواستیم آن را بهدرستی مدیریت کنیم.»
او گفت چتجیپیتی بهزودی میتواند این محدودیتها را کاهش دهد و ادامه داد: «اکنون توانستهایم مسائل جدی سلامت روان را مدیریت کنیم و ابزارهای جدیدی در اختیار داریم. در ماه دسامبر، همزمان با اجرای کاملتر سیستم تأیید سن و در راستای اصل برخورد با کاربران بزرگسال، اجازهی ارائهی محتوای بیشتری را از جمله محتوای بزرگسال برای کاربران تایید شده خواهیم داد.»
این تغییرات پس از آن اعلام میشوند که OpenAI اوایل سال جاری توسط والدین یک نوجوان آمریکایی که خودکشی کرده بود، مورد شکایت قرار گرفت. این شکایت توسط مت و ماریا رین (Matt and Maria Raine)، والدین آدام رین (Adam Raine) ۱۶ ساله، ثبت شد و نخستین اقدام حقوقی علیه OpenAI بهاتهام مرگ غیرقانونی محسوب میشود.
خانواده در این پرونده، لاگهای گفتوگوی آدام با چتجیپیتی را ارائه کردهاند که در آنها او از افکار خودکشی صحبت کرده است. آدام در ماه آوریل (فروردین ۱۴۰۳) جان خود را از دست داد. شرکت OpenAI در بیانیهای که در آن زمان به بیبیسی ارائه داد، اعلام کرد که در حال بررسی این پرونده است.
این شرکت گفت: «همدردی عمیق خود را با خانوادهی رین در این دوران دشوار ابراز میکنیم.»
نگرانیهای مربوط به ایمنی کودکان
طبق قانون ایمنی آنلاین در بریتانیا، محتوای نوشتاری بزرگسال نیاز به تأیید سن ندارد. با این حال، تصاویر حساس، از جمله تصاویر تولیدشده توسط هوش مصنوعی، نیازمند اثبات سن بالای ۱۸ سال توسط کاربران هستند.
در ایالات متحده، منتقدان میگویند تصمیم OpenAI برای اجازهی ارائهی محتوای بزرگسال در پلتفرم خود نشاندهندهی نیاز به مقررات بیشتر در سطح فدرال و ایالتی است. جنی کیم (Jenny Kim)، شریک حقوقی در مؤسسهی Boies Schiller Flexner، گفت: «چطور قرار است مطمئن شوند که کودکان به بخشهای بزرگسال چتجیپیتی که محتوای بزرگسال ارائه میدهد، دسترسی نداشته باشند؟»
کیم درگیر پروندهای علیه شرکت Meta است که ادعا میکند الگوریتم اینستاگرام سلامت روان کاربران نوجوان را تحت تأثیر منفی قرار میدهد. او توضیح داد شرکت OpenAI، مانند بسیاری از شرکتهای بزرگ فناوری در این حوزه، فقط دارد از مردم بهعنوان موش آزمایشگاهی استفاده میکند.
در ماه آوریل (فروردین ۱۴۰۳)، TechCrunch گزارش داد که OpenAI به حسابهایی که کاربران آنها بهعنوان افراد زیر سن قانونی ثبت شده بودند، اجازهی تولید محتوای بزرگسال گرافیکی داده بود. شرکت OpenAI در آن زمان اعلام کرد که در حال اجرای اصلاحاتی برای محدودسازی چنین محتوایی است.
طبق نظرسنجیای که این ماه توسط مرکز غیرانتفاعی Centre for Democracy and Technology (CDT) منتشر شد، یکپنجم دانشآموزان اعلام کردهاند که خودشان یا فردی که میشناسند، تجربهی رابطهی عاشقانه با هوش مصنوعی داشتهاند.
روز دوشنبه، گاوین نیوسام (Gavin Newsom)، فرماندار ایالت کالیفرنیا، لایحهای را که توسط مجلس ایالتی تصویب شده بود، وتو کرد. این لایحه توسعهدهندگان را از ارائهی چتباتهای همراه به کودکان منع میکرد (شرکتهایی که تعهد و تضمین میکردند ه این نرمافزارها رفتارهای مضر ایجاد نمیکنند مشمول این قانون نمیشدند).
نیوسام در پیامی که همراه با وتوی خود منتشر کرد، گفت: «ضروری است که نوجوانان یاد بگیرند چگونه با سیستمهای هوش مصنوعی بهصورت ایمن تعامل داشته باشند.»
در سطح ملی، کمیسیون تجارت فدرال ایالات متحده (FTC) تحقیقاتی را دربارهی نحوهی تعامل چتباتهای هوش مصنوعی با کودکان آغاز کرده است. ماه گذشته، در سنای ایالات متحده، قانونی دوحزبی معرفی شد که به کاربران چتباتها اجازه میدهد علیه توسعهدهندگان آنها طرح دعوی مسئولیت کنند.
اعلامیهی آلتمن در روز سهشنبه در حالی منتشر شد که تردیدهایی دربارهی رشد سریع ارزش شرکتهای فناوری هوش مصنوعی مطرح شده است. درآمد OpenAI در حال افزایش است، اما این شرکت تاکنون سودده نبوده است.
راب لالکا (Rob Lalka)، استاد تجارت در دانشگاه Tulane و نویسندهی کتاب The Venture Alchemists، گفت شرکتهای بزرگ هوش مصنوعی اکنون درگیر رقابت برای تصاحب سهم بازار هستند. او همچنین اظهار میکند هیچ شرکتی تاکنون چنین میزان پذیرشی را که OpenAI با چتجیپیتی تجربه کرد، نداشته است.
او افزود: «آنها باید به رشد خود ادامه دهند و تا حد امکان سلطهی بازار را بهدست آورند.»
دیدگاه ها