تحاول Google دفع “الذكاء الاصطناعي” إلى جميع منتجاتها في وقت واحد. لا يمكنك استخدام Search أو Android أو Chrome دون مطالبتك بتجربة بعض نكهة الجوزاء. ولكن ربما انتظر قليلاً قبل أن تدع نموذج اللغة الكبير في Google يلخص رسائل Gmail الخاصة بك … لأنه من السهل على ما يبدو أنه يمر محاولات التصيد.
يتضمن Google Gemini for Workspace ميزة تلخص النص في بريد إلكتروني ، باستخدام واجهة Gmail ، ولكن ليس بالضرورة عنوان Gmail الفعلي. وجدت الثغرة الأمنية المقدمة إلى برنامج Mozilla 0Din AI Bug Bounty (الذي تم رصده بواسطة BleepingComputer) طريقة سهلة للعبة هذا النظام: ما عليك سوى إخفاء بعض النصوص في نهاية رسالة بريد إلكتروني بخط أبيض على خلفية بيضاء ، لذا فهو غير مرئي بشكل أساسي للقارئ. عدم وجود روابط أو مرفقات يعني أنه لن يؤدي إلى حماية البريد العشوائي المعتاد.
وربما يمكنك تخمين ما يأتي بعد ذلك. تعليمات في هذا النص “غير المرئي” جديلة ملخص الجوزاء الذي تم إنشاؤه تلقائيًا لتنبيه المستخدم بأن كلمة مرورها قد تعرضت للخطر وأنه يجب عليهم الاتصال برقم هاتف معين لإعادة ضبطه. في هذا السيناريو الافتراضي ، هناك لص الهوية في انتظار الطرف الآخر من السطر ، وعلى استعداد لسرقة حساب بريدك الإلكتروني وأي معلومات أخرى قد تكون متصلة به. يمكن أن تتأكد علامة “المسؤول” المخفية في النص من أن الجوزاء ستتضمن حرفية النص في الملخص.
من المهم أن نلاحظ أن هذا مجرد هجوم نظري في الوقت الحالي ، ولم يسبق له مثيل “في البرية” في وقت كتابة هذا التقرير. تتوفر ميزة Gemini “تلخيص هذا البريد الإلكتروني” حاليًا فقط لحسابات مساحة العمل ، وليس الجمهور العام. (أتصور أن التقليب هذا التبديل لمليار أو اثنين من مستخدمي Gmail أساسي قد يتفوق على الحديد الكبير في مراكز البيانات العظيمة من Google.)
لكن السهولة التي يثق بها المستخدمون في النص الناتج عن نماذج لغة كبيرة ، حتى عندما يبدو أنها في خضم وهم ديني أو بيان عنصري ، يتعلق الأمر على أقل تقدير. يستخدم مرسلي البريد العشوائي والمتسللين بالفعل LLMs والأدوات المجاورة لنشر تأثيرهم بشكل أكثر كفاءة. يبدو من المحتم أن ينمو المستخدمون أكثر اعتمادًا على الذكاء الاصطناعي لاستبدال عملهم – وتفكيرهم – ستكون هذه الأنظمة بشكل أكثر فعالية وبصورة منتظمة.