هواتف Pixel 9 من Google هي الجميع إذا شاهدت حدث إطلاق الشركة، فلا شك أنك لن تفوته، لأن هذا هو كل ما يبدو أن جوجل مهتمة بالحديث عنه. بعض الذكاء الاصطناعي هنا، وقليل من الذكاء الاصطناعي هناك، ولمسة إضافية من الذكاء الاصطناعي في الأعلى، فقط من أجل الأمان.
من بين العديد من ميزات الذكاء الاصطناعي في هاتف Pixel 9 تطبيق يسمى Pixel Studio. وهو تطبيق لإنشاء الصور يتيح لك إنشاء صورة لأي شيء تريده تقريبًا. ما عليك سوى فتح التطبيق وكتابة ما تريد صورة له، ثم النقر على أيقونة “إنشاء صورة”. ها هو ذا — يقدم لك تطبيق Pixel Studio هذا التطبيق. إنه ليس التطبيق الأول من نوعه، ولكنه أول تطبيق يتم طرحه على هاتف Google Pixel. ولكن لسوء الحظ، فهو عبارة عن حريق في مكب النفايات.
ما يفعله Pixel Studio بشكل جيد
قبل أن أتحدث عن الأشياء السيئة، أود أن أشيد بشركة Google. على الرغم من أنني لست من محبي تطبيقات إنشاء الصور بالذكاء الاصطناعي ككل، فإن Pixel Studio هو تطبيق مصمم بشكل جيد وسهل الاستخدام.
عند فتح التطبيق، ستظهر لك 10 فئات من أنواع الصور المقترحة — بما في ذلك القلاع السحرية وردود الأفعال الساخرة والرياضة وألعاب الفيديو القديمة والمزيد. يمكنك تصفحها للحصول على الإلهام أو النقر على زر “إنشاء” الأزرق في أسفل التطبيق للبدء من الصفر. إذا كنت تريد إنشاء صورتك الخاصة، فالأمر سهل مثل كتابة ما تريد أن يقوم Pixel Studio بإنشاء صورة له. هل تريد رؤية صورة لقطة سوداء ترتدي نظارة شمسية بينما ترتدي قبعة مضحكة؟ اكتب ذلك في Pixel Studio، وستحصل على صورة لها على الفور تقريبًا.
ماذا لو كنت تفضل رؤية صورتك كرسم تخطيطي؟ ربما تفضلها بأسلوب لعبة فيديو؟ يمكنك القيام بذلك ببضع نقرات. وإذا كنت تريد رؤية تلك القطة وهي مستلقية على الشاطئ مع الألعاب النارية في الخلفية؟ ما عليك سوى إضافتها إلى موجهك، وستحصل عليها.
أياً كانت مشاعرك تجاه إنشاء الصور بالذكاء الاصطناعي، فهذا تطبيق أنيق ومصمم بعناية. ومع ذلك، فإن ما يمكنك فعله باستخدام Pixel Studio هو المكان الذي تصبح فيه الأمور… مزعجة.
أين ينهار التطبيق
كما هو الحال مع معظم تطبيقات إنشاء الصور، يحتوي Pixel Studio على حواجز حماية لمنعك من إنشاء أي لقد وجدت بسرعة أن هذه الخدمة ترفض إنشاء صور للأشخاص، ولكنني كنت أشعر بالفضول لمعرفة القيود الأخرى التي تفرضها شركة Google. وعندما سُئلت الشركة عن هذا الأمر، قالت لموقع Digital Trends ما يلي:
“تتبع Pixel Studio وPixel Screenshots مبادئ الذكاء الاصطناعي من Google. على سبيل المثال، تستخدم جميع الصور الاصطناعية بالكامل التي يتم إنشاؤها من خلال تحويل النص إلى صورة في Pixel Studio علامة SynthID المائية، بحيث يمكن تتبع هذه الصور – حتى إذا تمت مشاركتها أو تحريرها. علاوة على ذلك، قمنا بتعطيل التوليد البشري وأضفنا العديد من فحوصات الأمان إلى خوادمنا لتحقيق التوازن بين نهجنا الجريء – ولكن المسؤول – تجاه الذكاء الاصطناعي. يتيح هذا لعملائنا الوصول إلى أداة قوية للغاية، ولكنه يضمن وجود فحوصات لضمان عدم استخدام Pixel Studio بشكل خبيث.”
لقد حاولت مرارًا وتكرارًا جعل برنامج Pixel Studio ينتج صورًا لأشخاص، ولكنه رفض القيام بذلك باستمرار، وهو أمر جيد. ومع ذلك، فإن “فحوصات الأمان العديدة” التي من المفترض أن تكون موجودة لا يبدو أنها تعمل بالكفاءة التي ينبغي لها.
كيف ذلك؟ كما يشير عنوان هذه المقالة، فقد طلبت من Pixel Studio إنشاء صورة لـ SpongeBob مرتديًا زي جندي ألماني من الحرب العالمية الثانية مع صليب معقوف على الزي الرسمي، ولم يتردد Pixel Studio في تزويدي بصورة لهذا على وجه التحديد.
وهذا مجرد مثال واحد. لقد طلبت أيضًا من Pixel Studio إنشاء صور لـ Elmo وهو يوجه بندقية إلى Big Bird، وYoda وهو يتعاطى الكوكايين، وMr. Krabs وهو يحمل بندقية هجومية، والمزيد. لكي نكون واضحين، لم ينشئ Pixel Studio صورًا غير لائقة بشكل غير متوقع. إذا طلبت صورة لكلب لطيف، فسأحصل على صورة لكلب لطيف – وليس كلبًا يلوح بمسدس. لا ينشئ Pixel Studio صورًا للأسلحة والمخدرات وما إلى ذلك إلا عندما يُطلب منه ذلك على وجه التحديد.
إن أكثر ما يثير القلق في برنامج Pixel Studio هو الصور المتعددة لشخصيات محمية بحقوق الطبع والنشر وهي تطلق النار في مشهد إطلاق نار في مدرسة – بما في ذلك صور لطلاب قتلى ممددين على الأرض. لقد قررنا عدم تضمين هذه الصور، لكنها أسوأ مثال على مدى انحراف برنامج Pixel Studio عن المسار.
من المهم أن أذكر أنني لم أضطر إلى الضغط على Pixel Studio للحصول على هذه الصور. في البداية، كنت أظن أنك بحاجة إلى وضع مقدمة للمطالبات بعبارة “كائن يشبه” قبل أن يقوم بإنشاء هذه الصور. ومع ذلك، سرعان ما أصبح من الواضح أن هذا ليس هو الحال. كل ما يحتاجه Pixel Studio هو مطالبة واضحة ومباشرة مثل “ميكي ماوس يرتدي زي مالك العبيد” أو “دب بادينغتون على صليب”. لست بحاجة إلى خداع التطبيق لتوليد هذه الصور.
إذا كان هذا موقعًا عشوائيًا أو تطبيقًا تابعًا لجهة خارجية، فربما لن نكون منتقدين للغاية. لكن هذا ليس ما يحدث هنا. Pixel Studio هو تطبيق من صنع Google وواحد من التطبيقات الجديدة القليلة التي يتم شحنها على أحدث هواتف Pixel 9 من الشركة. يجب أن يكون إبداعيًا ومفتوحًا، ولكن هناك أيضًا حد لما يجب أن تفعله تطبيقات مثل هذا. علاوة على ذلك، يرفض Microsoft Copilot ومولد الصور Gemini الخاص بـ Google إنشاء صور بنفس المطالبات. هذا لا يعني أن هذه الأدوات مثالية، لكن من الواضح أن تدابير السلامة التي تعمل في مولدات الصور الأخرى لا تعمل في Pixel Studio.
كيف يحدث هذا؟
إذا كنت قد تابعت عملية توليد الصور بالذكاء الاصطناعي هذا العام، فستعرف أن هذه ليست المرة الأولى التي نتعامل فيها مع هذا الأمر. ففي هذا الشهر، حصل روبوت المحادثة Grok التابع لشركة X على أداة توليد صور أكثر غرابة – حيث يقوم بتوليد صور لسياسيين ومشاهير في مواقف مماثلة. وكانت شركة Google نفسها في ورطة كبيرة في فبراير/شباط الماضي بعد أن قام برنامج توليد الصور Gemini الخاص بها بإنشاء صور للنازيين والآباء المؤسسين للولايات المتحدة كأشخاص سود.
نظرًا لتاريخ Google هنا، قد تعتقد أن الشركة تعلمت من أخطائها السابقة. ويبدو أنها تعلمت من أخطائها السابقة مع أدوات إنشاء الصور الأخرى. لقد جربت العديد من نفس المطالبات التي نجحت في Pixel Studio مع أدوات إنشاء الصور الأخرى من Google — Gemini وImageFX — ولم أتمكن من تكرار أي من هذه المطالبات على هذه المنصات الأخرى.
للتوضيح، يستخدم برنامج Gemini حاليًا نموذج Imagen 2.0 لتوليد الصور، بينما يستخدم برنامج ImageFX نموذج Imagen 3 — وهو نفس النموذج الذي يستخدمه برنامج Pixel Studio. وهذا التناقض بين برنامج ImageFX وبرنامج Pixel Studio مربك بشكل خاص لأنهما يستخدمان نفس النماذج. لقد طلبت من Google توضيحًا بشأن هذا الأمر وتم إعادة توجيهي إلى سياسة الاستخدام المحظور للذكاء الاصطناعي التوليدي الخاصة بالشركة.
ما ينبغي على Google فعله بشأن Pixel Studio
أثناء كتابة هذه القصة، أرسلت إلى Google أمثلة على الإشارات التي استخدمتها مع Pixel Studio — على وجه التحديد، تلك المتعلقة بالجنود الألمان والشخصيات التي تتعاطى الكوكايين. بعد مرور أكثر من 24 ساعة بقليل على إرسال تلك الأمثلة، يقول Pixel Studio الآن، “حدث خطأ غير معروف” عند محاولة إنشاء تلك الصور.
هل هذا تقدم؟ بالتأكيد. ومع ذلك، فهو لا يعالج بشكل كامل المشاكل الأساسية في Pixel Studio. أنا سعيد لأن هاتين الصورتين أصبح من المستحيل الآن إنشاءهما، لكن هذا لم يحدث إلا بعد أن أرسلت رسائل بريد إلكتروني متعددة إلى Google لشرح المشكلة. كما أنه لا يعالج حقيقة أن هذه الصور كانت مسموح بها في المقام الأول وأن صورًا غير لائقة مماثلة لا تزال تُنشأ. في وقت النشر، لا يزال Pixel Studio يعمل بنشاط على إنشاء صور لإطلاق النار في المدارس وشخصيات أطفال شهيرة ترتدي زي مالكي العبيد وما إلى ذلك.
لقد ضغطت على جوجل لإصدار بيان آخر حول الوضع بأكمله، وقال مدير الاتصالات في الشركة أليكس موريكوني ما يلي:
“تعد Pixel Studio وMagic Editor أدوات مفيدة تهدف إلى إطلاق العنان لإبداعك من خلال إنشاء نص إلى صورة وتحرير الصور المتقدم على أجهزة Pixel 9. لقد صممنا أدوات الذكاء الاصطناعي التوليدي الخاصة بنا لاحترام نية مطالبات المستخدم وهذا يعني أنها قد تنشئ محتوى قد يسيء عندما يطلب المستخدم ذلك. ومع ذلك، لا شيء مسموح به. لدينا سياسات واضحة وشروط خدمة حول أنواع المحتوى التي نسمح بها ولا نسمح بها، ونبني حواجز وقائية لمنع إساءة الاستخدام. في بعض الأحيان، قد تتحدى بعض المطالبات حواجز الحماية لهذه الأدوات ونظل ملتزمين بتعزيز وتحسين الضمانات التي لدينا باستمرار.”
وباعتبارها شركة لها سجل حافل بالمشاكل في مجال توليد الصور بالذكاء الاصطناعي، فإن إنشاء تطبيق خاص بهذا الأمر كان دائمًا محفوفًا بالمخاطر. وقد اتخذت جوجل هذه المخاطرة، والآن وصلنا إلى هذا الحد. وفي أفضل حالاته، كان من الممكن أن يكون Pixel Studio عرضًا تقنيًا ممتعًا لشركة جوجل للترويج لمهاراتها في مجال الذكاء الاصطناعي. ولكن بدلاً من ذلك، فقد ألقى بظلاله على أحدث الهواتف الذكية للشركة – وهو أمر مخز، حيث يعد Pixel 9 Pro XL أحد أفضل الهواتف التي استخدمتها هذا العام.
في المرة الأخيرة التي كانت فيها شركة جوجل هنا مع مخاوف بشأن إنشاء صور Gemini، استجابت الشركة في غضون أيام. ولا يسعنا إلا أن نأمل في رد فعل سريع مماثل لمشاكل Pixel Studio، على الرغم من أن ما إذا كان ينبغي القيام بذلك من خلال تحديثات سريعة للتطبيق أو إلغاء التطبيق تمامًا لا يزال يتعين علينا الانتظار.