دام ويندي هول هي قوة رائدة في منظمة العفو الدولية وعلوم الكمبيوتر. بصفتها متحدثة أخلاقية شهيرة وأحد الأصوات الرائدة في التكنولوجيا ، كرست حياتها المهنية لتشكيل الأبعاد الأخلاقية والتقنية والمجتمعية للتكنولوجيات الناشئة. وهي المؤسس المشارك لمبادرة أبحاث علوم الويب ، وهي عضو في مجلس منظمة العفو الدولية وتم تسميتها كواحدة من أقوى 100 امرأة في المملكة المتحدة في ساعة المرأة على راديو بي بي سي 4.
من بين المدافعين الرئيسيين عن حوكمة الذكاء الاصطناعى المسؤولين والتنوع في التكنولوجيا ، لعبت ويندي دورًا مهمًا في المناقشات العالمية حول مستقبل الذكاء الاصطناعي.
في الأسئلة والأجوبة لدينا ، تحدثنا معها عن عدم التوازن بين الجنسين في صناعة الذكاء الاصطناعي ، والآثار الأخلاقية للتقنيات الناشئة ، وكيف يمكن للشركات أن تسخر الذكاء الاصطناعي مع ضمان أن تظل ميزة للإنسانية.
يظل قطاع الذكاء الاصطناعي يسيطر عليه الذكور. هل يمكنك مشاركة تجربتك في اقتحام الصناعة والتحديات التي تواجهها النساء في تحقيق تمثيل أكبر في الذكاء الاصطناعي والتكنولوجيا؟
إنه أمر محبط للغاية لأنني كتبت أول ورقة لي عن نقص النساء في الحوسبة في عام 1987 ، عندما بدأنا للتو في تدريس دورات علوم الكمبيوتر في ساوثهامبتون. في شهر أكتوبر ، وصلنا إلى الجامعة وأدركنا أنه لم يكن لدينا نساء مسجلات في الدورة – لا شيء على الإطلاق.
لذلك ، بدأ أولئك الذين يعملون في الحوسبة في مناقشة سبب ذلك. كان هناك عدة أسباب. أحد العوامل المهمة كان صعود الكمبيوتر الشخصي ، الذي تم تسويقه كعب للأولاد ، تغيير الثقافة بشكل أساسي. منذ ذلك الحين ، في الغرب – على الرغم من أنه ليس في بلدان مثل الهند أو ماليزيا – كان ينظر إلى الحوسبة على أنها شيء نردي ، وهو أمر يفعله “المهوسون” فقط. العديد من الفتيات الصغيرات ببساطة لا يريدون أن يرتبطن بهذا الصورة النمطية. بحلول الوقت الذي يصلون فيه إلى خيارات GCSE الخاصة بهم ، لا يرون في كثير من الأحيان الحوسبة كخيار ، وهذا هو المكان الذي تبدأ فيه المشكلة.
على الرغم من العديد من الجهود ، لم نتمكن من تغيير هذه الثقافة. بعد ما يقرب من 40 عامًا ، لا تزال هذه الصناعة يهيمن عليها الذكور بشكل كبير ، على الرغم من أن النساء يعانين أكثر من
نصف سكان العالم. تغيب النساء إلى حد كبير عن تصميم وتطوير أجهزة الكمبيوتر والبرامج. نحن نطبقها ، نستخدمها ، لكننا لسنا جزءًا من المحادثات الأساسية التي تشكل التقنيات المستقبلية.
الذكاء الاصطناعي أسوأ في هذا الصدد. إذا كنت ترغب في العمل في التعلم الآلي ، فأنت بحاجة إلى شهادة في الرياضيات أو علوم الكمبيوتر ، مما يعني أننا نتحرك قطاعًا يهيمن عليه الذكور بالفعل في خط أنابيب أكثر يهيمن عليه الذكور.
لكن الذكاء الاصطناعي هو أكثر من مجرد تعلم الآلة والبرمجة. يتعلق الأمر بالتطبيق والأخلاق والقيم والفرص وتخفيف المخاطر المحتملة. وهذا يتطلب تنوعًا واسعًا من الأصوات – ليس فقط من حيث الجنس ، ولكن أيضًا في العمر والعرق والثقافة وإمكانية الوصول. يجب أن يكون الأشخاص ذوي الإعاقة جزءًا من هذه المناقشات ، مما يضمن تطوير التكنولوجيا للجميع.
يحتاج تنمية الذكاء الاصطناعى إلى مدخلات من العديد من التخصصات – القانون والفلسفة وعلم النفس والأعمال والتاريخ ، على سبيل المثال لا الحصر. نحن بحاجة إلى كل هذه الأصوات المختلفة. لهذا السبب أعتقد أننا يجب أن نرى منظمة العفو الدولية كنظام اجتماعي-تقنية لفهم تأثيره حقًا. نحن بحاجة إلى التنوع بكل معنى الكلمة.
نظرًا لأن الشركات تدمج بشكل متزايد الذكاء الاصطناعي في عملياتها ، ما هي الخطوات التي يجب أن تتخذها لضمان تطوير التقنيات الناشئة ونشرها أخلاقياً؟
خذ ، على سبيل المثال ، التعرف على الوجه. ما زلنا لم نثبت قواعد ولوائح متى وكيف يجب تطبيق هذه التكنولوجيا. هل سألك أحد ما إذا كنت تريد التعرف على الوجه على هاتفك؟ تم تقديمه ببساطة كتحديث للنظام ، ويمكنك إما تمكينه أم لا.
نحن نعلم أن التعرف على الوجه يستخدم على نطاق واسع للمراقبة في الصين ، لكنه يزحف في جميع أنحاء أوروبا والولايات المتحدة أيضًا. تعتمد قوات الأمن عليه ، مما يثير مخاوف بشأن الخصوصية. في الوقت نفسه ، أقدر وجود كاميرات CCTV في مواقف السيارات في الليل – فهي تجعلني أشعر بالأمان.
ينطبق هذا الازدواجية على جميع التقنيات الناشئة ، بما في ذلك أدوات الذكاء الاصطناعي التي لم نطورها بعد. كل تقنية جديدة لها جانب جيد وسيئ – يين ويانغ ، إذا صح التعبير. هناك دائمًا فوائد ومخاطر.
يكمن التحدي في تعلم كيفية زيادة فوائد الإنسانية والمجتمع والأعمال مع التخفيف من المخاطر. هذا ما يجب أن نركز عليه – يعمل على عاتق الذكاء الاصطناعي في خدمة الأشخاص بدلاً من ضدهم.
التقدم السريع لمنظمة العفو الدولية هو تحويل الحياة اليومية. كيف تتخيل مستقبل الذكاء الاصطناعي ، وما هي التغييرات المهمة التي ستجلبها للمجتمع والطريقة التي نعمل بها؟
أرى مستقبلًا يصبح فيه الذكاء الاصطناعى جزءًا من عملية صنع القرار ، سواء في الحالات القانونية أو التشخيصات الطبية أو التعليم.
الذكاء الاصطناعى هو بالفعل مضمن بعمق في حياتنا اليومية. إذا كنت تستخدم Google على هاتفك ، فأنت تستخدم الذكاء الاصطناعي. إذا قمت بإلغاء قفل هاتفك بالتعرف على الوجه ، فهذا هو الذكاء الاصطناعي. ترجمة جوجل؟ منظمة العفو الدولية. معالجة الكلام ، تحليل الفيديو ، التعرف على الصور ، توليد النص ، ومعالجة اللغة الطبيعية-فهذه كلها تقنيات تعتمد على AI.
الآن ، الطنانة موجودة حول الذكاء الاصطناعي ، وخاصة chatgpt. إنه مثل كيف أصبح “Hoover” مرادفًا للمنظفات الفراغية – لقد أصبح ChatGpt مختصرة لمنظمة العفو الدولية. في الواقع ، إنها مجرد واجهة ذكية أنشأتها Openai للسماح للوصول العام إلى نموذج الذكاء الاصطناعي.
يبدو أنك تجري محادثة مع النظام ، وطرح الأسئلة واستلام ردود اللغة الطبيعية. إنه يعمل مع الصور ومقاطع الفيديو أيضًا ، مما يجعلها تبدو متقدمة بشكل لا يصدق. ولكن الحقيقة هي ، إنها ليست ذكية بالفعل. انها ليست عاطفية. إنه ببساطة يتوقع الكلمة التالية في تسلسل بناء على بيانات التدريب. هذا تمييز حاسم.
مع أن تصبح الذكاء الاصطناعى الأولي أداة قوية للشركات ، ما هي الاستراتيجيات التي يجب أن تتبناها الشركات للاستفادة من قدراتها مع الحفاظ على أصالة الإنسان في عملياتها واتخاذ القرارات؟
منظمة العفو الدولية التوليدية لا تخاف منها ، وأعتقد أننا سنبدأ جميعًا في استخدامه أكثر وأكثر. في الأساس ، فإن البرامج التي يمكن أن تساعد في الكتابة وتلخيص وتحليل المعلومات.
أقارنها عندما ظهرت الآلات الحاسبة لأول مرة. كان الناس غاضبين: “كيف يمكننا السماح للحساب في المدارس؟ هل يمكننا الوثوق في الإجابات التي يقدمونها؟ ولكن بمرور الوقت ، تكيفنا. إن صناعة التمويل ، على سبيل المثال ، تديرها أجهزة الكمبيوتر بالكامل بالكامل ، لكنها توظف أشخاصًا أكثر من أي وقت مضى. أتوقع أن نرى شيئًا مشابهًا مع AI التوليدي.
سوف يشعر الناس بالارتياح لعدم الاضطرار إلى كتابة مقالات لا نهاية لها. سوف تعزز الذكاء الاصطناعى الإبداع والكفاءة ، ولكن يجب النظر إليه كأداة لزيادة الذكاء البشري ، وليس استبداله ، لأنه ببساطة غير متقدم بما يكفي لتولي المسؤولية.
انظر إلى الصناعة القانونية. يمكن أن تلخص الذكاء الاصطناعي كميات هائلة من البيانات ، وتقييم صلاحية الحالات القانونية ، وتقديم تحليل تنبؤية. في المجال الطبي ، يمكن أن تدعم الذكاء الاصطناعي التشخيص. في التعليم ، يمكن أن يساعد في تقييم الطلاب الذين يكافحون.
أتخيل أن يتم دمج الذكاء الاصطناعي في فرق صنع القرار. سنشاور مع الذكاء الاصطناعي ، وطرح أسئلة ، ونستخدم إجاباتها كدليل – لكن من الأهمية بمكان أن نتذكر أن الذكاء الاصطناعى ليس معصومًا.
في الوقت الحالي ، يتم تدريب نماذج الذكاء الاصطناعي على البيانات المتحيزة. إذا كانوا يعتمدون على المعلومات من الإنترنت ، فإن الكثير من هذه البيانات غير دقيقة. أنظمة الذكاء الاصطناعي أيضًا “الهلوسة” عن طريق توليد معلومات خاطئة عندما لا يكون لديهم إجابة نهائية. لهذا السبب لا يمكننا الوثوق تمامًا بعد منظمة العفو الدولية حتى الآن.
بدلاً من ذلك ، يجب أن نتعامل معها كشريك تعاوني – هو الذي يساعدنا على أن نكون أكثر إنتاجية وإبداعًا مع ضمان بقاء البشر في السيطرة. ربما سوف تمهد الذكاء الاصطناعى الطريق إلى أساليب العمل الأقصر ، مما يمنحنا المزيد من الوقت للمساعي الأخرى.
الصورة من قبل Igor Omilaev على وكالة Unsplash و AI للمتحدثين.
هل تريد معرفة المزيد عن الذكاء الاصطناعي والبيانات الكبيرة من قادة الصناعة؟ تحقق من AI و Big Data Expo الذي يقام في أمستردام ، كاليفورنيا ، ولندن. تم تحديد الحدث الشامل مع الأحداث الرائدة الأخرى بما في ذلك مؤتمر الأتمتة الذكي ، و blockx ، وأسبوع التحول الرقمي ، ومعرض Cyber Security & Cloud.
استكشاف أحداث وندوات الويب القادمة الأخرى التي تعمل بها TechForge هنا.