به تازگی گوگل گفته است که مدل جدید هوش مصنوعی این شرکت قادر به تشخیص احساسات افراد است. کارشناسان نگران عواقب چنین توانایی هستند.
گوگل به تازگی خانواده جدیدی از مدل های هوش مصنوعی به نام PaliGemma 2 را معرفی کرده است که می تواند عکس ها را تجزیه و تحلیل کند و محتوای آنها را شناسایی کند. نوشتن خودکار توضیحات پس از مشاهده عکس ها و پاسخ به سوالات کاربران در مورد تصاویر از دیگر ویژگی های مدل مذکور است. گوگل هم همینطور ادعا کرده است که این ابزار نه تنها می تواند اشیاء یا اعمال را در عکس ها تشخیص دهد. همچنین توانایی شناسایی احساسات افراد را دارد.
خطرات خواندن احساسات مردم چیست؟
گوگل اشاره کرد که تشخیص احساسات انسان به طور پیش فرض در PaliGemma 2 فعال نیست و باید تنظیمات دقیقی برای استفاده از آن انجام شود. همچنین هنوز مشخص نیست که ویژگی مورد بحث در هوش مصنوعی جدید گوگل چقدر دقیق است. یکی از کاربردهای مهم چنین فناوری، شناخت احساسات مشتریان است و می تواند انقلابی در بازاریابی ایجاد کند. این موضوع باعث نگرانی کارشناسان این حوزه شده است. فعالیت‌های تبلیغات اینترنتی گسترده گوگل و دسترسی به حجم وسیعی از داده‌های کاربر بر نگرانی‌ها افزوده است.
تحقیقات انجام شده در سال های اخیر نشان داده است که اکثر سیستم های تشخیص احساسات فعلی چندان دقیق نیستند. حتی برخی از آنها احساسات خاصی را بیشتر به افراد خاصی نسبت می دهند. به عنوان مثال، احساسات منفی در یکی از آنها در بیشتر موارد برای سیاه پوستان یافت شد. با این حال، گوگل اعلام کرد که تحقیقات گسترده ای را انجام داده است تا اطمینان حاصل شود که چنین مشکلاتی در مدل خود وجود ندارد.
هنوز دقیقاً مشخص نیست که گوگل از چه استانداردهایی برای اندازه گیری دقت و دقت عملکرد مدل PaliGemma 2 استفاده کرده است. اما اشاره شده است که در بنچمارک FairFace توانسته امتیاز خوبی را کسب کند. معیار فوق مجموعه ای از تصاویر چهره انسان است که برای ارزیابی عملکرد چنین خدماتی استفاده می شود. اما منتقدان احساس می کنند که ارقام موجود در آن چندان متنوع نیستند و نمی توان به رتبه آن اعتماد کرد.
قانون فراگیر هوش مصنوعی بیان می کند که استفاده از ابزارهای تشخیص احساسات برای مؤسساتی مانند مدارس و شرکت ها ممنوع است. اما نهادهای نظارتی مانند پلیس می توانند از آنها استفاده کنند. با وجود این ممنوعیت، به دلیل انتشار کدهای مدل PaliGemma 2 به صورت متن باز، کارشناسان نگران سوء استفاده های احتمالی از مدل جدید گوگل هستند.
