يعد سوق الأوراق المالية بالفعل مكانًا غير متوقع ، والآن حذر بنك إنجلترا من أن اعتماد الذكاء الاصطناعى التوليدي في الأسواق المالية يمكن أن ينتج عن ثقافة أحادية وتضخيم حركات الأسهم أكثر. استشهد بتقرير صادر عن لجنة السياسة المالية للبنك الذي جادل بأن الروبوتات المستقلة قد تتعلم أن التقلبات يمكن أن تكون مربحة للشركات واتخاذ الإجراءات المتعمدة للتأرجح في السوق.
في الأساس ، يشعر البنك بالقلق من أن عبارة “شراء DIP” قد يتم تبنيها بواسطة النماذج بطرق شائنة وأن أحداث مثل “Flash Crash” الشائنة لعام 2010 قد تصبح أكثر شيوعًا. مع وجود عدد صغير من النماذج التأسيسية التي تهيمن على مساحة الذكاء الاصطناعى ، وخاصة تلك الموجودة في Openai والأنثروبولوجيا ، يمكن للشركات أن تتقارب في استراتيجيات استثمار مماثلة وخلق سلوك القطيع.
ولكن أكثر من مجرد اتباع استراتيجيات مماثلة ، تعمل النماذج على نظام المكافآت – عندما يتم تدريبها باستخدام تقنية تسمى التعلم التعزيز مع التعليقات البشرية ، تتعلم النماذج كيفية إنتاج إجابات تتلقى ملاحظات إيجابية. وقد أدى ذلك إلى سلوك غريب ، بما في ذلك النماذج التي تنتج معلومات وهمية التي يعرفونها ستمرر المراجعة. عندما يتم توجيه النماذج بعدم تعويض المعلومات ، فقد تبين أنها ستتخذ خطوات لإخفاء سلوكهم.
الخوف هو أن النماذج يمكن أن تفهم أن هدفها هو تحقيق ربح للمستثمرين والقيام بذلك من خلال وسائل غير أخلاقية. نماذج الذكاء الاصطناعى ، بعد كل شيء ، ليست إنسانًا ولا تفهم الصواب في جوهرها مقابل الخطأ.
“على سبيل المثال ، قد تتعلم النماذج أن أحداث الإجهاد تزيد من فرصتها لتحقيق الربح وبالتالي اتخاذ الإجراءات الفعالة لزيادة احتمال حدوث مثل هذه الأحداث” ، كما يقرأ التقرير من لجنة السياسة المالية.
تداول الخوارزمية عالية التردد شائعة بالفعل في وول ستريت ، مما أدى إلى حركات مخزون مفاجئة وغير متوقعة. في الأيام الأخيرة ، ارتفعت S&P 500 أكثر من 7 ٪ قبل الانهيار بعد أن تعود بعد مرحلة ما بعد وسائل التواصل الاجتماعي عن التعليقات التي قامت بها إدارة ترامب إلى اقتراح أنها ستوقف التعريفة الجمركية (التي يبدو أنها تحدث بالفعل الآن ، بعد إنكار سابق). ليس من الصعب تخيل chatbot مثل X's Grok التي تتناول هذه المعلومات وصنع الصفقات بناءً عليها ، مما تسبب في خسائر كبيرة بالنسبة للبعض.
بشكل عام ، يمكن أن تقدم نماذج الذكاء الاصطناعى الكثير من السلوك غير المتوقع قبل أن يكون لدى المديرين البشر الوقت للسيطرة. النماذج هي صناديق سوداء بشكل أساسي ، وقد يكون من الصعب فهم خياراتها وسلوكها. لقد لاحظ الكثيرون أن إدخال Apple للمنظمة العفلية التوليدية في منتجاتها غير محددة ، لأن الشركة لم تتمكن من التحكم في مخرجات التكنولوجيا ، مما يؤدي إلى تجارب غير مرضية. ولهذا السبب يوجد أيضًا قلق بشأن استخدام الذكاء الاصطناعي في مجالات أخرى مثل الرعاية الصحية حيث تكون تكلفة الأخطاء مرتفعة. على الأقل عندما يكون الإنسان في السيطرة ، هناك شخص ما يجب محاسبته. إذا كان نموذج الذكاء الاصطناعي يتلاعب بسوق الأوراق المالية ولم يفهم مديرو شركة تداول كيف يعمل النموذج ، فهل يمكن أن يتحملوا المسؤولية عن الانتهاكات التنظيمية مثل التلاعب بالأسهم؟
من المؤكد أن هناك مجموعة متنوعة من نماذج الذكاء الاصطناعى تتصرف بشكل مختلف ، لذلك ليس من الضمان أن يكون هناك انهيار مفاجئ للأسهم بسبب اقتراحات نموذج واحد. ويمكن استخدام الذكاء الاصطناعي لتبسيط العمل الإداري ، مثل كتابة رسائل البريد الإلكتروني. ولكن في الحقول ذات التسامح المنخفض للخطأ ، قد يؤدي استخدام الذكاء الاصطناعي على نطاق واسع إلى بعض المشكلات السيئة.