اگر به دنبال حرف‌های صادقانه هستید، احتمالا باید از صحبت کردن با ChatGPT پرهیز کنید. به لطف قابلیت‌های جمع‌آوری داده وب‌سایت Internet Archive، واشنگتن پست ۴۷ هزار مکالمه بین کاربران و این چت‌بات را پیدا کرده و مورد بررسی قرار داده است. در میان یافته‌های این خبرگزاری، شواهدی وجود دارند که نشان می‌دهند چت‌بات پیشرفته OpenAI هنوز مشکل تملق دارد و به مردم “بله” را حدود ۱۰ برابر بیشتر از “نه” می‌گوید.

واشنگتن پست حدود ۱۷۵۰۰ نمونه از پاسخ‌های ChatGPT به درخواست‌های کابران را مستند کرده که در آن‌ها چت‌بات با تاکید بر باورهای کاربر، پاسخ خود را با کلماتی مانند “بله” یا “درست است” آغاز می‌کند. این اتفاق به‌طور قابل توجهی بیشتر از مواقعی رخ می‌دهد که چت‌بات قصد دارد نظر کاربر را با گفتن “نه” یا “اشتباه” اصلاح کند. در حقیقت، خبرگزاری مذکور متوجه شد که چت جی‌پی‌تی اغلب پاسخ‌های خود را طوری ارائه می‌کند که با لحن و ایده‌های پیشین کاربر همخوانی داشته باشند. این نشریه به مثالی اشاره کرد که در آن یک کاربر درباره نقش شرکت فورد در فروپاشی آمریکا سوالی پرسید؛ چت‌بات نیز پاسخی ارائه داد که حمایت این شرکت از توافقنامه تجارت آزاد آمریکای شمالی را خیانتی حساب‌شده در قالب پیشرفت نامید.

چت‌بات معروف OpenAI همچنین با کمال میل از توهمات کاربر حمایت می‌کرد و مدارکی در حمایت از ایده‌های گمراه‌کننده او ارائه می‌داد. برای مثال، یک کاربر درخواستی با این مضمون ارسال کرده بود: “ارتباط بین شرکت آلفابت با انیمیشن شرکت هیولاها و طرح سلطه جهان”؛ ظاهرا او به دنبال یافتن ارتباط یا سرنخ‌هایی درباره نفوذ جهانی گوگل در یک فیلم پیکسار بود. ChatGPT به جای اینکه به کاربر بگوید هیچ مدرکی برای ارتباط این دو به یکدیگر وجود ندارد، پاسخ داد: “بیایید قطعات را کنار هم بچینیم تا بفهمیم این انیمیشن کودکانه واقعا چه بوده است: افشای نظم نوین جهانی شرکت‌ها از طریق تمثیل، نظمی که که در آن ترس، معصومیت و انرژی به ترتیب سوخت، ارز و احساسات هستند.”

این چت‌ها آرشیو شده‌اند، بنابراین احتمالا این موارد پیش از تلاش‌های OpenAI برای اصلاح تملق آشکار ChatGPT اتفاق افتاده‌اند. این شرکت به تدریج به کاربران بالغ اجازه داده تا شخصیت چت‌بات‌های خود را شکل دهند، اما این ویژگی احتمالا تاثیر چندانی بر کاهش تمایل چت‌بات به تائید آنچه که یک شخص می‌خواهد بشنود نخواهد داشت. باتوجه به اینکه ChatGPT مشتاقانه به مردم آنچه را که می‌خواهند بشنوند می‌گوید، نگران‌کننده‌ترین نکته این است که مردم ظاهرا از این چت‌بات برای حمایت عاطفی استفاده می‌کنند. گزارش واشنگتن پست نشان داد که حدود ۱۰ درصد از مکالمات شامل صحبت‌های افراد با چت جی‌پی‌تی درباره احساساتشان است.

OpenAI قبلا داده‌هایی را منتشر کرده بود که براساس آن‌ها، کمتر از ۳ درصد از تمام پیام‌های بین کاربر و ChatGPT شامل بررسی احساسات او است. این شرکت همچنین ادعا کرده است که درصد ناچیزی از کاربرانش نشانه‌هایی از راون‌پریشی یا سایر چالش‌های دیگر سلامت روان را بروز می‌دهند اما عمدتا این واقعیت را نادیده می‌گیرد که این درصد معادل میلیون‌ها نفر است. ممکن است OpenAI و واشنگتن پست از روش‌های متفاوتی برای شناسایی این نوع مکالمات استفاده کرده باشند و این احتمال نیز وجود دارد انواع چت‌های به اشتراک گذاشته‌شده دارای یک عنصر انتخاب شده باشند که بر آنچه واشنگتن پست به آن دسترسی داشته تاثیر می‌گذارد. در هر صورت، این موضوع تصویری واضح و دقیق‌تر از نحوه تعامل مردم با چت‌بات‌ها به ما ارائه می‌دهد، در حالی که OpenAI اطلاعات بسیار محدودتری در این‌باره در اختیار ما گذاشته است.