الرئيس التنفيذي السابق لشركة Google Eric Schmidt ومؤسس Scale AI Alexandr Wang هم مؤلفان مشاركان في ورقة جديدة تسمى “استراتيجية السوبرز” التي تحذر من الحكومة الأمريكية إنشاء مشروع مانهاتن لما يسمى بالذكاء العام الاصطناعي (AGI) لأنه قد يخرج بسرعة عن السيطرة حول العالم. إن جوهر الحجة هو أن إنشاء مثل هذا البرنامج سيؤدي إلى الانتقام أو التخريب من قبل الخصوم حيث تتسابق البلدان من أجل الحصول على أقوى قدرات الذكاء الاصطناعي في ساحة المعركة. بدلاً من ذلك ، يجب على الولايات المتحدة أن تركز على تطوير أساليب مثل الهجمات الإلكترونية التي يمكن أن تعطيل تهديد مشاريع الذكاء الاصطناعي.
يعد Schmidt و Wang معززًا كبيرًا لإمكانات الذكاء الاصطناعى لتطوير المجتمع من خلال تطبيقات مثل تطوير الأدوية وكفاءة مكان العمل. في هذه الأثناء ، ترى الحكومات الحدود التالية في الدفاع ، ويشعر قادة الصناعة بالقلق بشكل أساسي من أن البلدان ستنتهي في سباق لإنشاء أسلحة بإمكانات خطيرة بشكل متزايد. على غرار كيفية تأكيد الاتفاقيات الدولية في تطوير الأسلحة النووية ، يعتقد Schmidt و Wang أن الدول القومية يجب أن تبطئ في تنمية الذكاء الاصطناعى ولا تقع في سباق بعضها البعض في آلات القتل التي تعمل بالنيابة.
ومع ذلك ، في الوقت نفسه ، يقوم كل من Schmidt و Wang ببناء منتجات AI لقطاع الدفاع. يقوم White Scork السابق ببناء تقنيات بدون طيار مستقلة ، في حين وقع Scale’s Scale AI هذا الأسبوع عقدًا مع وزارة الدفاع لإنشاء “وكلاء” منظمة العفو الدولية يمكنهم المساعدة في التخطيط العسكري والعمليات. بعد سنوات من الابتعاد عن بيع التكنولوجيا التي يمكن استخدامها في الحرب ، أصبح وادي السيليكون يصطف الآن من الناحية الوطنية لجمع عقود الدفاع المربحة.
جميع مقاولي الدفاع العسكري لديهم تضارب في المصالح لتعزيز الحرب الحركية ، حتى عندما لا يكون لها ما يبررها أخلاقيا. البلدان الأخرى لديها المجمعات الصناعية العسكرية الخاصة بها ، والتفكير يقول ، لذلك تحتاج الولايات المتحدة إلى الحفاظ على واحدة أيضًا. ولكن في النهاية ، يعاني الأبرياء ويموتون بينما يلعب الأشخاص الأقوياء الشطرنج.
جادل بالمر لوكي ، مؤسس شركة Defense Tech Darling Anduril ، بأن ضربات الطائرات بدون طيار المستهدفة التي تستهدف الذكاء الاصطناعي أكثر أمانًا من إطلاق الأسلحة النووية التي يمكن أن يكون لها منطقة تأثير أكبر أو مناجم الأرض التي لا تستهدف. وإذا كانت الدول الأخرى ستستمر في بناء أسلحة الذكاء الاصطناعي ، فيجب أن يكون لدينا نفس القدرات مثل الردع. يقوم Anduril بتزويد أوكرانيا بالطائرات بدون طيار يمكن أن تستهدف ويهاجم المعدات العسكرية الروسية على خطوط العدو.
قام Anduril مؤخرًا بتشغيل حملة إعلانية عرضت النص الأساسي “Work at Anduril.com” المغطى بكلمة “لا” مكتوبة في رسائل عملاقة على غرار الجدران ، على ما يبدو أن العمل في المجمع الصناعي العسكري هو الثقافة المضادة الآن.
https://www.youtube.com/watch؟v=gxqrci3wff8
جادل شميدت ووانغ بأن البشر يجب أن يظلوا دائمًا في الحلقة على أي عملية صنع قرار بمساعدة AI. ولكن كما أوضحت التقارير الحديثة ، يعتمد الجيش الإسرائيلي بالفعل على برامج الذكاء الاصطناعي المعيبة لاتخاذ قرارات مميتة. لطالما كانت الطائرات بدون طيار موضوعًا مثيرًا للانقسام ، حيث يقول النقاد أن الجنود أكثر ربرة عندما لا يكونون مباشرة في خط النار أو لا يرون عواقب أفعالهم بشكل مباشر. إن التعرف على الصور من الذكاء الاصطناعي سيء أن يرتكب الأخطاء ، وسرعان ما نتجه إلى نقطة ستطير فيها الطائرات بدون طيار قاتلة إلى أهداف غير دقيقة.
تقدم ورقة Schmidt و Wang الكثير من الافتراضات بأن الذكاء الاصطناعى ستصبح قريبًا “superintelligent” ، قادرة على الأداء الجيد إن لم يكن أفضل من البشر في معظم المهام. هذا افتراض كبير حيث تستمر نماذج “التفكير” الأكثر شوطًا في إنتاج Gaffs الرئيسية ، وتغمر الشركات من خلال تطبيقات الوظائف المكتوبة بشكل سيء بمساعدة AI. هذه النماذج هي تقليد خام للبشر مع سلوك غير متوقع وغريب في كثير من الأحيان.
يبيع Schmidt و Wang رؤية للعالم وحلولهما. إذا كانت الذكاء الاصطناعى ستكون شديدة القوة وخطيرة ، فيجب على الحكومات الذهاب إليهم وشراء منتجاتها لأنها الجهات الفاعلة المسؤولة. وعلى نفس المنوال ، تعرض سام ألتمان من Openai لانتقاده لالتقديم مطالبات نبيلة بشأن مخاطر الذكاء الاصطناعى ، والتي يقول البعض إنها محاولة للتأثير على السياسة في واشنطن والتقاط السلطة. إنه مثل القول ، “منظمة العفو الدولية قوية للغاية بحيث يمكن تدمير العالم ، لكن لدينا نسخة آمنة يسعدنا أن نبيعها”.
من غير المرجح أن يكون لتحذيرات شميدت تأثير كبير حيث يسقط الرئيس ترامب إرشادات عصر بايدن حول سلامة الذكاء الاصطناعي ويدفع الولايات المتحدة إلى أن تصبح قوة مهيمنة في الذكاء الاصطناعي. في نوفمبر الماضي ، اقترحت لجنة الكونغرس مشروع مانهاتن لمنظمة العفو الدولية أن شميدت يحذر من أن الناس مثل سام ألمان وإيلون موسك يكتسبون تأثيرًا أكبر في واشنطن ، فمن السهل رؤيته يكتسب جرًا. إذا استمر ذلك ، فإن الورقة تحذر ، قد تنقسم بلدان مثل الصين بطرق مثل النماذج المهينة عن قصد أو مهاجمة البنية التحتية المادية. إنه ليس من غير المستحق تهديدًا ، حيث أن الصين قد تورطت في شركات التكنولوجيا الأمريكية الكبرى مثل Microsoft ، وآخرون مثل روسيا يستخدمون سفن الشحن لضرب كابلات الألياف البصرية تحت سطح البحر. بالطبع ، سنفعل الشيء نفسه لهم. كل شيء متبادل.
من غير الواضح كيف يمكن للعالم أن يتوصل إلى أي اتفاق للتوقف عن اللعب مع هذه الأسلحة. بهذا المعنى ، قد تكون فكرة تخريب مشاريع الذكاء الاصطناعي للدفاع ضدها أمرًا جيدًا.