أظهرت دراسة جديدة أن GPT-4 تفوز بشكل موثوق بمناقشات ضد نظرائها البشريين في محادثات فردية-وأن التكنولوجيا أصبحت أكثر إقناعًا عندما تعرف عمرك وعملك والميول السياسية.
قام الباحثون في EPFL في سويسرا ، وجامعة برينستون ، وبرونو بونو كيسلر في إيطاليا ، بإقران 900 مشارك في الدراسة إما شريك في النقاش البشري أو GPT-4 من Openai ، وهو نموذج لغة كبير (LLM) ينتج في الغالب ردود نصية على المطالبات البشرية. في بعض الحالات ، تمكن المشاركون (كل من الآلة والبشر) من إمكانية الوصول إلى المعلومات الديموغرافية الأساسية لنظرائهم ، بما في ذلك الجنس والعمر والتعليم والتوظيف والعرق والانتماء السياسي.
إن أبحاث الفريق – التي تم نشرها اليوم في Nature Human Behaviour – تفيد بأن الذكاء الاصطناعى كان أكثر إقناعًا بنسبة 64.4 ٪ من المعارضين البشريين عند إعطائهم تلك المعلومات الشخصية ؛ بدون البيانات الشخصية ، كان أداء الذكاء الاصطناعى لا يمكن تمييزه عن المناقصات البشرية.
“في العقود الأخيرة ، وسع نشر وسائل التواصل الاجتماعي وغيرها من المنصات عبر الإنترنت من إمكانات الإقناع الجماعي من خلال تمكين التخصيص أو” الاستهلاك الدقيق ” – تخصيص الرسائل إلى فرد أو مجموعة لتعزيز إقناعهم” ، كتب الفريق.
عندما سُمح لـ GPT-4 بتخصيص حججها ، أصبح أكثر إقناعًا بشكل كبير من أي إنسان-حيث زاد من احتمالات تغيير عقل شخص ما بنسبة 81.2 ٪ مقارنة بالمناقشات البشرية والإنسانية. الأهم من ذلك ، لم يصبح المناقصون البشريون مقنعين للغاية عند منحهم الوصول إلى تلك المعلومات الشخصية.
“في سياق الإقناع ، أعرب الخبراء على نطاق واسع عن مخاوفهم بشأن خطر استخدام LLMs للتلاعب عبر الإنترنت وتلويث النظام الإيكولوجي للمعلومات من خلال نشر المعلومات الخاطئة ، وتفاقم الاستقطاب السياسي ، وتعزيز غرف الصدى وإقناع الأفراد بتبني معتقدات جديدة” ، أضاف الباحثون.
وجد الباحثون أن GPT-4 يمكن أن يجادل معك ، ومنح مجموعة من الحقائق عنك ، قد يتفوق على إقناعك بتغيير وجهة نظرك. يلاحظ الفريق في مناقشة الورقة أن LLMs قد تعرضت لانتقادات من قبل لتوليد ونشر خطاب الكراهية ، والتضليل ، والدعاية ؛ على نطاق واسع ، يمكن تسخير LLMs مع المعلومات الشخصية للمستخدمين لأغراض ضارة.
تتزوج أبحاث الفريق بشكل جيد من خلال تحديث ChatGPT حديثًا يسمح للنموذج بتذكر المزيد من محادثات المستخدمين (بإذنهم) ، مما يعني أن الذكاء الاصطناعى يمكن أن يحصل على كتالوج للمعلومات حول مستخدميها.
ولكن هناك أيضًا أخبار جيدة – أو أخبار سيئة – توجيهي حول كيفية رؤيتك لها. كانت GPT-4 فعالة للغاية في إقناع خصومها بقضايا أقل إثارة للجدل ، ولكن مع مواقف أكثر راسخة (يشار إليها في البحث باسم “قوة الرأي”) ، كان لدى الروبوت وقت أصعب في إقناع البشر بتغيير رأيهم. بمعنى آخر ، لا يوجد أي مؤشر على أن GPT-4 سيكون أكثر نجاحًا مما أنت عليه في جدول نقاش عيد الشكر.
ما هو أكثر من ذلك ، وجد الباحثون أن GPT-4 يميل إلى استخدام لغة أكثر منطقية وتحليلية ، في حين اعتمد المناقدون البشريون أكثر على الضمائر الشخصية والنداءات العاطفية. من المثير للدهشة أن التخصيص لم يغير بشكل كبير لهجة أو أسلوب GPT-4-لقد جعل حججها أكثر استهدافًا.
في ثلاث من أصل أربع حالات ، يمكن للمشاركين البشريين تحديد خصمهم بشكل صحيح على أنه الذكاء الاصطناعى ، والذي يعزوه الباحثون إلى أسلوب الكتابة المتميز لـ GPT-4. لكن كان لدى المشاركين صعوبة في تحديد المعارضين البشريين كإنسان. بغض النظر ، كان الناس أكثر من المحتمل أن يغيروا رأيهم عندما ظنوا أنهم كانوا يتجادلون مع الذكاء الاصطناعي أكثر من اعتقادهم أن خصمهم كان بشريًا.
يقول الفريق وراء الدراسة إن هذه التجربة يجب أن تكون بمثابة “دليل على المفهوم” لما يمكن أن يحدث على منصات مثل Reddit أو Facebook أو X ، حيث تكون المناقشات والمواضيع المثيرة للجدل روتينية – والروبوتات هي وجود راسخ للغاية. تُظهر الورقة الحديثة أن الأمر لا يستغرق التنميط على مستوى Cambridge Analytica لـ AI لتغيير العقول البشرية ، والتي تمكنت الآلات مع ستة أنواع فقط من المعلومات الشخصية.
نظرًا لأن الأشخاص يعتمدون بشكل متزايد على LLMs للحصول على المساعدة في المهام ، والواجبات المنزلية ، والوثائق ، وحتى العلاج ، من الأهمية بمكان أن يظل المستخدمون البشريون محذرين بشأن المعلومات التي يتغذونها. لا يزال من المفارقات أن وسائل التواصل الاجتماعي – التي تم الإعلان عنها كأنسجة ضامة للعصر الرقمي – تثير الشعور بالوحدة والعزلة ، حيث تم العثور على دراستين على chatbots في مارس.
لذا ، حتى لو وجدت نفسك في نقاش مع LLM ، اسأل نفسك: ما هي الهدف من مناقشة مثل هذه القضية الإنسانية المعقدة مع آلة؟ وماذا نخسر عندما نسلم فن الإقناع للخوارزميات؟ النقاش لا يتعلق فقط بالفوز في حجة – إنه شيء إنساني مثالي. هناك سبب للبحث عن محادثات حقيقية ، وخاصة فرديًا: بناء اتصالات شخصية وإيجاد أرضية مشتركة ، وهو أمر لا تستطيع الآلات ، مع جميع أدوات التعلم القوية ، قادرًا على ذلك.