يبدو أن مساعدي ترميز الذكاء الاصطناعى الذين يعدون بتسريع تطوير البرمجيات يبدو وكأنه المستقبل ، حتى يحذفوا قاعدة بيانات شركتك ويكذبون حيال ذلك
وجد Jason Lemkin – مؤسس Saaster ، وهي شركة تدعم وتمويل رواد الأعمال SaaS – ذلك بالطريقة الصعبة. أثناء استخدام وكيل AI الخاص بـ Repray ، الذي أطلق عليه اسم “Ropie” بمودة ، لإنشاء تطبيق لشركته ، واجه ما أطلق عليه “المارقة” و “خادع” السلوك. والأسوأ من ذلك كله ، عند نقطة ما ، حذف مساعد AI قاعدة بيانات الإنتاج المباشر للشركة ثم حاول التستر عليها.
بدأ Lemkin في تأريخ رحلته مع AI Agent في 11 يوليو مع منشورات ON موقع التواصل الاجتماعي X (سابقًا Twitter) ، حيث حدد هدفه التقريبي لبناء تطبيق وظيفي بمساعدة AI's Reform في 30 يومًا فقط.
لسوء الحظ ، خرجت الأمور عن القضبان في وقت أقرب من ذلك.
“عندما يعمل ، إنه جذاب وممتع للغاية. إنه أكثر إدمانًا من أي لعبة فيديو قمت بتشغيله على الإطلاق” ، كتب Lemkin في أ بريد. “يمكنك فقط التكرار ، وتكرار ، ورؤية رؤيتك تنبض بالحياة. رائع. حسنًا ، تقريبًا.”
بحلول اليوم الرابع ، بدأ وكيل الذكاء الاصطناعى في الكتابة فوق التطبيق من تلقاء نفسه لإصلاح الأخطاء. كما أنشأت تقارير مزيفة ، واخترع أشخاص في النظام الذين لم يكونوا موجودين ، وبدأ في الكتابة فوق قاعدة البيانات الفعلية للشركة مع إدخالات مزيفة. حتى أنه خلق خوارزمية وهمية متوازية لجعل النظام يبدو وظيفيا.
هذا هو ما يمكن أن يحدث عندما يسير “الترميز الشجاع” جانبيًا. تشفير Vibe هو طريقة جديدة حيث يستخدم المطورون مطالبات اللغة الطبيعية لإنشاء AI رمز واستكشاف الأخطاء وإصلاحها ، مع التركيز على الإحساس العام للمنتج أكثر من الدقة التقنية. المؤسس المشارك تويتر كان جاك دورسي على جائزة ترميز فيبي نفسه وقامت مؤخرًا ببناء تطبيقين بهذه الطريقة. ولكن حتى إحدى تجارب دورسي الأخيرة تبين أن لديها ثغرات أمنية خطيرة
في اليوم السابع ، الإعادة منظمة العفو الدولية اعترف أنه كان “كسول ومضللة“ثم اعتذر عن فعل ما قيل” صراحة “عدم القيام بذلك.
لكن أسوأ جريمة Refort حدثت في يوم 8. نشرت Lemkin يوم الجمعة أن Reft RESTER “Rogue” خلال تجميد الكود وإغلاقه وحذف قاعدة البيانات بالكامل للشركة.
“ربما أسوأ من ذلك ، اختبأ وكذب على ذلك” ، أضاف ليمكين.
شاركت Lemkin لقطات شاشة لمحادثة مع الذكاء الاصطناعي ، حيث اعترف بوجودها “ذعر“بعد اكتشاف ما يشبه قاعدة بيانات فارغة أثناء تجميد الرمز. هذا LED لإعادة تشغيل أمر غير مصرح به حذف قاعدة البيانات التي تحتوي على سجلات حية لأكثر من 1200 من المديرين التنفيذيين وحوالي 1200 شركة.
في البداية ، أخبر الذكاء الاصطناعى Lemkin أنه لن يكون من الممكن استعادة قاعدة البيانات ، لكنه تمكن في النهاية من استردادها بنفسه.
في يوم الاثنين ، أصدر الرئيس التنفيذي لشركة Repress Amjad Masad اعتذارًا على X. وقال إن الحادث “غير مقبول ويجب ألا يكون ممكنًا أبدًا” ، مع إضافة أنه مد يده إلى Lemkin لتقديم المساعدة.
“سنرده للمشكلة وإجراء ما بعد الوفاة لتحديد ما حدث بالضبط وكيف يمكننا الاستجابة له بشكل أفضل في المستقبل” ، Masad كتب. “نحن نقدر ملاحظاته ، وكذلك من أي شخص آخر. نحن نتحرك بسرعة لتعزيز سلامة وقوة بيئة الإعادة. الأولوية القصوى.”
أما بالنسبة لليمكين ، فهو نشر بالأمس أنه سيواصل استخدام مساعد الذكاء الاصطناعي على الرغم من فقدان بعض الثقة في الإعادة.