مردم Google Translate را وادار به گفت‌وگو کردند

برنامه Google Translate قرار است تنها یک وظیفه مشخص داشته باشد: شما متنی را وارد می‌کنید و خروجی آن، ترجمه همان متن است. اما اکنون، مانند بسیاری از سرویس‌های دیگر، هوش مصنوعی در آن ادغام شده و این موضوع باعث می‌شود رفتار آن همیشه مطابق انتظار نباشد. در برخی موارد، کاربران متوجه شده‌اند که حالت جدید Advanced در Google Translate را می‌توان به‌گونه‌ای هدایت کرد که این الگو را بشکند و به‌جای ترجمه، با کاربر وارد گفت‌وگو شود.

یک پست در ایکس از کاربری با نام goremoder@ که توسط Piunika Web بازنشر شده، نشان می‌دهد Google Translate به پرامپت‌های مستقیمی مانند پرسش درباره هدف وجودی خود، با پاسخ‌هایی توصیفی درباره خودش واکنش نشان می‌دهد، به‌جای آنکه تلاشی برای ترجمه انجام دهد. پرسش‌هایی که در کنار یک متن برای ترجمه مطرح می‌شوند، به زبان مبدأ نوشته نشده‌اند، بلکه از پیش به زبان مقصد بیان شده‌اند و عملا از سامانه می‌خواهند پاسخ بدهد نه ترجمه کند. اگر پرسش مناسب را به شیوه درست مطرح کنید، رفتار Google Translate بیش از آنکه شبیه یک ابزار ترجمه باشد، به یک چت‌بات شباهت پیدا می‌کند.

این رفتار تنها زمانی مشاهده می‌شود که حالت جدید Advanced در Google Translate فعال باشد. این حالت به‌عنوان بخشی از به‌روزرسانی‌های اخیر هوش مصنوعی گوگل به اپلیکیشن اضافه شده و هدف آن ارائه ترجمه‌هایی طبیعی‌تر و آگاه از زمینه متن است. اتکای گوگل به هوش مصنوعی برای بهبود کیفیت ترجمه‌ها چندان عجیب نیست، اما اینکه این موضوع به امکان پاسخ‌گویی به پرسش‌ها هم گسترش پیدا کند، تا حدی غیرمنتظره به‌نظر می‌رسد.

یک بررسی فنی عمیق‌تر توسط LessWong که این رفتار را تحلیل کرده، به نمونه‌ای نسبتا کلاسیک از تزریق پرامپت اشاره می‌کند. برای آنکه سامانه بتواند متنی را به‌درستی ترجمه کند، ابتدا باید بفهمد با چه چیزی روبه‌رو است و در این فرآیند، گاهی دستورالعمل‌ها را با متنی که قرار است پردازش شود اشتباه می‌گیرد. این تحلیل نشان می‌دهد Google Translate در لایه زیرین خود از یک مدل زبانی بزرگ استفاده می‌کند و سازوکارهای حفاظتی که قرار است تمرکز آن را صرفا بر ترجمه حفظ کنند، همیشه مرز روشنی میان آنچه باید ترجمه شود و آنچه باید به آن پاسخ داده شود ترسیم نمی‌کنند.

گوگل تاکنون به‌صورت عمومی درباره این کشف اظهار نظری نکرده و به‌نظر می‌رسد این اتفاق تنها در برخی ترجمه‌های زبانی خاص رخ داده باشد. اگر ایده پاسخ دادن Google Translate به پرسش‌ها به‌جای ترجمه متن برایتان عجیب است، همیشه می‌توانید به حالت Classic ترجمه بازگردید.