گوگل در اقدامی تازه نشان داده که در زمینه هوش مصنوعی حاضر است سرمایهگذاری جدیتری انجام دهد. این شرکت برنامه جدیدی با عنوان طرح پاداش آسیبپذیری ویژه هوش مصنوعی معرفی کرده است که به طور کامل بر امنیت سامانههای هوش مصنوعی تمرکز دارد و پژوهشگران امنیتی و هکرهای اخلاقی را دعوت میکند تا ایرادها و رخنههای احتمالی در سیستمهای هوش مصنوعی گوگل را شناسایی کنند. بسته به میزان اهمیت و خطرآفرینی مشکل، میزان پاداش میتواند تا سقف ۳۰,۰۰۰ دلار افزایش یابد.
این طرح تازه، نسخهای توسعهیافته از برنامه پاداش آسیبپذیری گوگل (Vulnerability Reward Program) محسوب میشود، اما تمرکز آن از باگهای کلاسیک نرمافزاری به حوزه در حال رشد هوش مصنوعی تغییر یافته است؛ جایی که تهدیدهای امنیتی ماهیتی کاملاً متفاوت دارند. شرکت گوگل اعلام کرده که هدف از این اقدام، همکاری با متخصصانی است که بتوانند مواردی را شناسایی کنند که در آنها هوش مصنوعی دست به «اقدامات غیرمنتظره» میزند، مانند زمانی که دادههای شخصی را افشا میکند، فرمانی اشتباه اجرا مینماید یا به مهاجمان اجازه میدهد دستگاههای متصل را دستکاری کنند.
گوگل به روشنی توضیح داده که چه نوع آسیبپذیریهایی مد نظر این برنامه هستند. برای نمونه، تصور کنید مهاجمی بتواند دستیار هوشمند گوگل هوم را فریب دهد تا قفل درب هوشمند خانه را باز کند، یا از فرمانی پنهان استفاده کند که موجب شود سرویس جیمیل خلاصهای از ایمیلهای شخصی فردی را تولید کرده و برای شخص ثالثی ارسال نماید. چنین رخنههایی از جمله تهدیدهای پرخطر و واقعی هستند که گوگل میخواهد پیش از وقوع در دنیای واقعی، آنها را کشف و برطرف کند.
با این حال، شرکت به صراحت اعلام کرده است که صرفاً ایجاد «توهم» یا تولید پاسخهای اشتباه توسط مدلهایی مانند جمینی، یک باگ امنیتی محسوب نمیشود. همچنین مشکلات مرتبط با محتوای تولیدشده توسط هوش مصنوعی، مانند گفتار نفرتانگیز یا نقض حق نشر، باید مستقیماً از طریق ابزار بازخورد هر محصول گزارش شود. گوگل توضیح داده است که این شیوه به تیمهای ایمنی هوش مصنوعی کمک میکند تا مدلها را به شکل دقیقتری بازآموزی کرده و بهبود دهند.
بیشترین میزان پاداش، یعنی تا سقف ۲۰,۰۰۰ دلار، برای آسیبپذیریهایی در نظر گرفته شده که در محصولات کلیدی گوگل مانند جستوجو، جمینی، جیمیل و درایو کشف شوند. اگر گزارشی از نظر کیفیت یا نوآوری برجسته باشد، مبلغ پاداش میتواند تا ۳۰,۰۰۰ دلار افزایش یابد. البته برای باگهای یافتشده در ابزارهای دیگر مانند NotebookLM یا دستیار آزمایشی Jules نیز پاداشهای کمتر اما همچنان قابل توجهی پرداخت خواهد شد.
گوگل اعلام کرده که این طرح بخشی از تلاش گستردهتر این شرکت برای تقویت امنیت در حوزه هوش مصنوعی است، زیرا این فناوری به طور عمیقتری در محصولات آن ادغام میشود. به گفته گوگل، پژوهشگران در دو سال گذشته پیش از آغاز رسمی این برنامه نیز موفق شدهاند بیش از ۴۳۰,۰۰۰ دلار پاداش بابت شناسایی خطرات مرتبط با هوش مصنوعی دریافت کنند.
در کنار این برنامه جدید، گوگل همچنین ابزاری تازه به نام CodeMender معرفی کرده است. این ابزار در واقع یک عامل هوش مصنوعی بوده که برای شناسایی و اصلاح خودکار آسیبپذیریهای امنیتی در نرمافزارهای متنباز طراحی شده است. تاکنون CodeMender توانسته بیش از ۷۰ مورد نقص تأییدشده را پس از بازبینی انسانی اصلاح کند. گوگل تأکید کرده است که ابزارهایی از این دست نشان میدهند چگونه خود هوش مصنوعی میتواند نقشی مثبت و سازنده در ارتقای امنیت فناوری ایفا کند.
دیدگاه ها