واتخذت شركة جوجل هذا القرار بعد أن أنشأ نموذج الذكاء الاصطناعي الخاص بها بعض الصور التي تحتوي على معلومات غير صحيحة عن العنصر ولون البشرة والجنس مقارنة بتاريخ الآباء المؤسسين الأمريكيين والجنود الألمان خلال الحقبة النازية.

وقعت الحادثة عندما طلب بعض المستخدمين من جيميني إنشاء صور لمجموعات أو شخصيات تاريخية مثل الآباء المؤسسين للولايات المتحدة. ونتيجة لذلك، أعاد الذكاء الاصطناعي صورًا لأشخاص غير بيض، وهو ما يمثل عدم دقة في الصور التاريخية.
وقد دفع هذا البعض إلى الاعتقاد بأن جوجل تتجنب عمداً تصوير الأشخاص البيض، وهو ما يتعارض مع الواقع التاريخي.
أجرى موقع The Verge اختبارًا باستخدام برنامج Gemini، والذي تضمن رسمًا لـ "عضو مجلس الشيوخ الأمريكي من القرن التاسع عشر". ونتيجة لذلك، قامت الذكاء الاصطناعي بإنشاء أشخاص يشبهون النساء السود والأمريكيين الأصليين.
![خطأ خطير يجبر جوجل على إيقاف ميزة الذكاء الاصطناعي التي تنشئ صورًا مع نص خطأ خطير يجبر جوجل على إيقاف ميزة الذكاء الاصطناعي التي تنشئ صورًا مع نص]()
في الواقع، كانت أول امرأة تشغل منصب عضو مجلس الشيوخ الأمريكي امرأة بيضاء في عام 1922. ويقال إن رؤية الذكاء الاصطناعي التي تقدمها شركة جيميني تعمل على محو تاريخ العنصرية والتمييز بين الجنسين بشكل أساسي.
بعد أن عطّلت جوجل قدرة جيميني على توليد صور بشرية، ردّ النظام على هذا الطلب بالرد التالي: "نعمل على تحسين قدرة جيميني على توليد صور بشرية. نأمل أن تعود هذه الميزة قريبًا، وسنُعلمكم عند توفر التحديث".
تم إطلاق نموذج الذكاء الاصطناعي لتوليد النصوص Gemini (المعروف سابقًا باسم Bard) من Google في فبراير للتنافس مع OpenAI وCopilot من Microsoft. تعمل هذه الأداة على إنشاء مجموعة من الصور استنادًا إلى محتوى النص الوصفي للمستخدم.