يزعم تقرير “The Openai Files” ، وهو تجميع أصوات من موظفي السابقين المعنيين ، أن مختبر الذكاء الاصطناعي الأبرز في العالم هو خيانة السلامة من أجل الربح. ما بدأ كمسعى نبيل لضمان أن يخدم الذكاء الاصطناعي جمعية الإنسانية الآن على حافة أن تصبح مجرد عملاق مؤسس آخر ، حيث تطارد أرباحًا هائلة مع ترك السلامة والأخلاق في الغبار.
في صميم كل ذلك ، خطة لتمزيق كتاب القواعد الأصلي. عندما بدأ Openai ، جعل وعدًا حاسمًا: فهو يضع الحد الأقصى لمقدار الأموال التي يمكن للمستثمرين تحقيقها. لقد كان ضمانًا قانونيًا أنه إذا نجحوا في إنشاء الذكاء الاصطناعي المتغير العالمي ، فإن الفوائد الشاسعة ستدفق إلى الإنسانية ، وليس فقط حفنة من المليارديرات. الآن ، هذا الوعد على وشك أن تمحى ، على ما يبدو لإرضاء المستثمرين الذين يريدون عوائد غير محدودة.
بالنسبة للأشخاص الذين قاموا ببناء Openai ، فإن هذا المحور بعيدًا عن سلامة الذكاء الاصطناعي يبدو وكأنه خيانة عميقة. يقول كارول وينرايت ، أحد الموظفين السابقين ، “كانت المهمة غير الهادفة للربح وعدًا للقيام بالشيء الصحيح عندما ترتفع المخاطر”. “الآن بعد أن أصبحت المخاطر عالية ، يتم التخلي عن الهيكل غير الربحي ، مما يعني أن الوعد كان فارغًا في النهاية.”
تعميق أزمة الثقة
تشير العديد من هذه الأصوات القلق الشديد إلى شخص واحد: الرئيس التنفيذي سام التمان. المخاوف ليست جديدة. تشير التقارير إلى أنه حتى في شركاته السابقة ، حاول كبار زملائه إزالته لما أسماه السلوك “الخادع والفوضوي”.
نفس الشعور بعدم الثقة تبعه إلى Openai. توصل المؤسس المشارك للشركة ، إيليا سوتسكفر ، الذي كان يعمل إلى جانب Altman لسنوات ، ومنذ إطلاقه على بدء التشغيل الخاص به ، إلى استنتاج تقشعر له الأبدان: “لا أعتقد أن سام هو الرجل الذي ينبغي أن يكون لديه إصبع على الزر لـ AGI”. شعر أن التمان كان غير أمين وخلق الفوضى ، وهو مزيج مرعب لشخص يحتمل أن يكون مسؤولاً عن مستقبلنا الجماعي.
شعرت ميرا موراتي ، CTO السابقة ، بنفس القدر من عدم الارتياح. قالت: “لا أشعر بالراحة تجاه سام الذي يقودنا إلى AGI”. وصفت نمطًا سامًا حيث يخبر Altman الناس بما يريدون سماعهم ثم يقوضونهم إذا واجهوا طريقه. إنه يشير إلى التلاعب بأن عضو مجلس إدارة Openai السابق تاشا مكولي تقول “يجب أن تكون غير مقبولة” عندما تكون حصص السلامة من الذكاء الاصطناعي مرتفعًا.
كانت أزمة الثقة هذه عواقب وخيمة. يقول المطلعون إن الثقافة في Openai قد تحولت ، مع العمل الحاسم المتمثل في سلامة الذكاء الاصطناعى في الحصول على المقعد الخلفي لإطلاق “منتجات لامعة”. وقال جان ليك ، الذي قاد الفريق المسؤول عن السلامة على المدى الطويل ، إنهم “يبحرون ضد الريح” ، يكافح من أجل الحصول على الموارد التي يحتاجون إليها لإجراء أبحاثهم الحيوية.
حتى موظف سابق آخر ، وليام سوندرز ، حتى قدم شهادة مرعبة لمجلس الشيوخ الأمريكي ، وكشف أنه لفترات طويلة ، كان الأمن ضعيفًا لدرجة أن مئات المهندسين كان بإمكانهم سرق الذكاء الاصطناعي الأكثر تقدماً في الشركة ، بما في ذلك GPT-4.
نداء يائس لتحديد أولويات سلامة الذكاء الاصطناعي في Openai
لكن أولئك الذين تركوا لا يمشون فقط. لقد وضعوا خريطة طريق لسحب Openai مرة أخرى من Brink ، وهو جهد آخر لإنقاذ المهمة الأصلية.
إنهم يدعون إلى منح قلب الشركة غير الربحي قوة حقيقية مرة أخرى ، مع حق النقض المسبق للحديد على قرارات السلامة. إنهم يطالبون بقيادة واضحة وصادقة ، والتي تتضمن تحقيقًا جديدًا وشاملًا في سلوك Sam Altman.
إنهم يريدون إشرافًا حقيقيًا ومستقلًا ، لذا لا يمكن لـ Openai فقط تحديد واجباته المنزلية على سلامة الذكاء الاصطناعي. وهم يتوسلون إلى ثقافة حيث يمكن للناس التحدث عن مخاوفهم دون الخوف على وظائفهم أو مدخراتهم – مكان يحملون حماية حقيقية للمبلغين عن المخالفات.
أخيرًا ، يصرون على أن Openai التمسك بوعدها المالي الأصلي: يجب أن تبقى قبعات الربح. يجب أن يكون الهدف هو الفائدة العامة ، وليس الثروة الخاصة غير المحدودة.
هذا ليس فقط عن الدراما الداخلية في شركة وادي السيليكون. يقوم Openai ببناء تقنية يمكن أن تعيد تشكيل عالمنا بطرق لا يمكننا تخيلها بالكاد. إن السؤال الذي يجبرنا على موظفيه السابقون جميعًا على طرحه هو أمر بسيط ولكنه عميق: من الذي نثق به في بناء مستقبلنا؟
كما حذرت هيلين تونر ، عضو مجلس الإدارة السابق من تجربتها الخاصة ، “الدرابزين الداخليين هشين عندما تكون الأموال على المحك”.
في الوقت الحالي ، يخبرنا الأشخاص الذين يعرفون Openai Best أن درابزين الأمان قد تم كسرهم.
انظر أيضا: تبني الذكاء الاصطناعى ينضج ولكن تبقى عقبات النشر
هل تريد معرفة المزيد عن الذكاء الاصطناعي والبيانات الكبيرة من قادة الصناعة؟ تحقق من AI و Big Data Expo الذي يقام في أمستردام ، كاليفورنيا ، ولندن. تم تحديد الحدث الشامل مع الأحداث الرائدة الأخرى بما في ذلك مؤتمر الأتمتة الذكي ، و blockx ، وأسبوع التحول الرقمي ، ومعرض Cyber Security & Cloud.
استكشاف أحداث وندوات الويب القادمة الأخرى التي تعمل بها TechForge هنا.