وقع حاكم كاليفورنيا جافين نيوسوم على عدد من مشاريع القوانين ليصبح قانونًا يوم الاثنين، تم تصميم الجزء الأكبر منها لإنشاء ضمانات في صناعة الذكاء الاصطناعي ومعالجة الأضرار المحتملة للأطفال والمستخدمين الشباب.
أحد أبرز التشريعات، مشروع قانون مجلس الشيوخ رقم 243، سيجبر شركات الذكاء الاصطناعي على إنشاء حواجز حماية ذات معنى تمنع روبوتات الدردشة من تشجيع المستخدمين الصغار على إيذاء أنفسهم. ستحتاج الشركات إلى تطوير بروتوكولات تمنع الروبوتات من إنتاج محتوى يتعلق بـ “التفكير في الانتحار أو الانتحار أو إيذاء النفس”، كما يقول مؤلف مشروع القانون، السيناتور الديمقراطي ستيف باديلا. وسيُطلب من مشغلي برامج الدردشة الآلية أيضًا تقديم “إشعار يحيل المستخدمين إلى مقدمي خدمات الأزمات ويتطلب تقديم تقارير سنوية عن العلاقة بين استخدام برامج الدردشة الآلية والتفكير في الانتحار للمساعدة في الحصول على صورة أكثر اكتمالاً لكيفية تأثير برامج الدردشة الآلية على الصحة العقلية للمستخدمين”.
لقد تورطت روبوتات الدردشة المدعمة بالذكاء الاصطناعي بشكل متزايد في حوادث تتعلق بالصحة العقلية، بما في ذلك تلك التي تنطوي على حالات الانتحار والقتل. تشير الدعوى القضائية المرفوعة ضد OpenAI من قبل عائلة مراهق انتحر مؤخرًا إلى تورط برنامج الدردشة الآلي الخاص بالشركة، ChatGPT، في انتحار الشاب.
وقال باديلا إن مشروع القانون، الذي تم الترحيب به باعتباره قانونًا “الأول من نوعه”، يتضمن حقًا خاصًا في رفع دعوى يمنح سكان كاليفورنيا “الحق في متابعة الإجراءات القانونية ضد المطورين غير الممتثلين والمهملين”. بمعنى آخر، إذا لم تمتثل شركات الذكاء الاصطناعي للائحة الجديدة، فسيكون من حق العائلات مقاضاة تلك الشركات.
وقال باديلا: “تتمتع هذه الشركات بالقدرة على قيادة العالم في مجال الابتكار، ولكن من مسؤوليتنا ضمان ألا يأتي ذلك على حساب صحة أطفالنا”.
كما تم التوقيع على القانون يوم الاثنين، وهو مشروع قانون، AB 56، الذي من شأنه إلحاق تحذيرات لمنصات التواصل الاجتماعي مماثلة لتلك الموجودة على السجائر. وفقًا لموقع نيوسوم الإلكتروني، سيتعين على شركات وسائل التواصل الاجتماعي الآن أن تأتي بملصقات تحذيرية “تحذر المستخدمين الشباب من الأضرار المرتبطة بالاستخدام الموسع لمنصات التواصل الاجتماعي”.
وهناك مشروع قانون آخر، وهو قانون ضمان العمر الرقمي، يجبر المنصات على إنشاء آليات للتحقق من العمر تحمي المستخدمين الشباب من أنواع معينة من المحتوى. يُجبر التشريع المستخدمين على إدخال أعمارهم وأعياد ميلادهم عند إعداد جهاز جديد، وفقًا لتقارير The Verge. وبهذا المعنى، تسير نيوسوم على خطى عدد من الولايات المحافظة، التي وضعت لوائح للتحقق من العمر في السنوات الأخيرة.
في الوقت نفسه، بينما أصدر المحافظ عددًا من لوائح الذكاء الاصطناعي الجديدة إلى حيز الوجود، فقد استخدم حق النقض ضد العديد من القوانين التي كانت ستفرض عقوبات جديدة قاسية على منصات التكنولوجيا.
أحد مشاريع القوانين التي تم الاعتراض عليها، مشروع قانون الجمعية رقم 1064، أو قانون تطوير الذكاء الاصطناعي الأخلاقي الرائد للأطفال، كان سيمنع الشركات بشكل أساسي من تزويد المستخدمين الشباب بـ “روبوتات الدردشة المصاحبة” ما لم يتمكنوا من إثبات أن منتجاتهم لن تضر الأطفال. وقالت مؤلفة مشروع القانون، عضوة الجمعية ريبيكا باور كاهان، إن التشريع كان سيضمن “ألا يكون أطفالنا موضوعًا لروبوتات الدردشة المصاحبة ومعالجي الذكاء الاصطناعي”. تفيد تقارير SFGate أن نيوسوم استخدم حق النقض ضد مشروع القانون وسط “ضغط هائل من شركات التكنولوجيا”.
أما مشروع القانون الآخر الذي تم النقض عليه، وهو مشروع قانون مجلس الشيوخ رقم 771، فكان سيفرض غرامات كبيرة على منصات وسائل التواصل الاجتماعي التي فشلت في تنظيف المحتوى العنيف والتمييزي على منصاتها. كانت مواقع الويب ستواجه غرامات تصل إلى مليون دولار إذا كان المحتوى الموجود على موقعها ينتهك قوانين الحقوق المدنية في كاليفورنيا بطريقة تؤدي إلى تعرض المستخدم للأذى.
ويبدو أن نيوسوم يدعم الهدف العام للتشريع، لكنه قال إنه يفضل الاعتماد على القوانين الحالية للتعامل معه. قال نيوسوم، في بيان يشرح فيه نقضه: “أنا أؤيد هدف المؤلف المتمثل في ضمان تطبيق قوانين الحقوق المدنية الرائدة في بلادنا بالتساوي سواء عبر الإنترنت أو خارجها”. “ومع ذلك، أشعر بالقلق من أن مشروع القانون هذا سابق لأوانه. وينبغي أن تكون خطوتنا الأولى هي تحديد ما إذا كانت قوانين الحقوق المدنية الحالية كافية لمعالجة الانتهاكات المرتكبة من خلال الخوارزميات، وإلى أي مدى.”
ربما كان حق النقض مخيبا للآمال بالنسبة لنقاد التكنولوجيا. ومع ذلك، في عهد نيوسوم، أثبتت كاليفورنيا أنها رائدة على مستوى الولاية في الأساليب التنظيمية للتكنولوجيا. كان قانون خصوصية المستهلك في كاليفورنيا أحد أول قوانين الخصوصية الشاملة في البلاد، ونموذجًا للولايات الأخرى.
في الأسبوع الماضي، وقع نيوسوم أيضًا على قانون عدد من لوائح الخصوصية الجديدة التي ستمنح سكان كاليفورنيا مزيدًا من التحكم في بياناتهم، بما في ذلك مشروع قانون سيجبر متصفحات الويب على تضمين وظيفة “إلغاء الاشتراك” التي تسمح للمستخدمين باستبعاد أنفسهم تلقائيًا من جمع البيانات التي يغطيها قانون CCPA الخاص بالولاية. تضيف لوائح الذكاء الاصطناعي الجديدة إلى هذا الإرث، مما يوضح أنه سواء كانت المحاولات مثالية أم لا، فإن كاليفورنيا تحاول – على الأقل – السيطرة على شركات التكنولوجيا الكبرى.
وبطبيعة الحال، أصبحت فرصة الريادة في هذا المجال ممكنة بسبب عدم وجود إجراءات فيدرالية عندما يتعلق الأمر بتنظيم التكنولوجيا. لسنوات قبل إقرار قانون CCPA، طالب الأمريكيون بقانون فيدرالي شامل للخصوصية. لم يحصلوا على واحدة قط، وليس هناك ما يشير إلى أنهم سيحصلون عليها في أي وقت قريب. والآن بعد أن أصبح الذكاء الاصطناعي موجودًا، وأعلنت إدارة ترامب أنها تخطط لاتخاذ نهج “عدم التدخل” في الصناعة المزدهرة، يقع على عاتق الولايات مرة أخرى اتخاذ أي نوع من الإجراءات الهادفة. وبهذا المعنى، ربما يكون لدى كاليفورنيا الكثير من الفرص لقيادة الطريق في التنظيم في المستقبل المنظور.