قررت غوغل أن تعلق توليد صور الأشخاص في تطبيق الدردشة جيميناي؛ وكانت غوغل منذ بداية الشهر قد أضافت ميزة توليد صور من خلال وصف نصي إلى برنامج الدردشة. لكن في الأيام الأخيرة بدأ العديد من الأشخاص ينشرون صور على منصة إكس قام جيميناي بتوليدها.

وقد تعرض لموجة هائلة من السخرية والتهكم بسبب توليده لصور أشخاص بعيدة عن الواقع؛ فطلب أحدهم توليد صورة فتاة سويدية فأعطى أربع اقتراحات لفتيات أفارقة؛ وطلب آخر توليد صورة لمخترعين أوروبيين في القرن 16 فأعطى صور لأشخاص أفارقة أيضاً؛ وقد لاحظ المستخدمون أنه لايريد أن يعطي صور لأشخاص بيض أبداً؛ فطلب أحدهم منه أن يولد صورة لبابا الفاتيكان فنجح بتوليد صورتين بيضاء وصورتين ملونتين وحتى البيضاء منهم تبدو لأشخاص من شرق آسيا.

أصدرت غوغل بيان تقول أنها تعمل على حل المشكلة وستقوم بإيقاف ميزة توليد الأشخاص فقط حتى يتم تحديث الإصدار.

وتعتبر هذه المشكلة من مشاكل التحيز الذي تم ملاحظتها أكثر من مرة في مثل هذه النماذج التوليدية؛ ففي السابق لوحظ أنها تتجاهل الأشخاص من ذوي البشرة غير البيضاء؛ وقد وجد باسم يوسف أن ChatGPT منحاز في مسألة حقوق الفلسطينيين.