العالم المزدهر لدعم الصحة العقلية التي تعمل الذكاء الاصطناعي هي حقل ألغام. من الدردشة التي تقدم نصيحة طبية غير صحيحة بشكل خطير إلى رفاق الذكاء الاصطناعى الذين يشجعون إيذاء الذات ، تمتلئ العناوين الرئيسية بالحكايات التحذيرية.
واجهت التطبيقات البارزة مثل الحرف. AAI و Replika رد فعل عنيف لاستجابات ضارة وغير مناسبة ، وقد أثارت الدراسات الأكاديمية الإنذارات.
وجدت دراستان حديثتان من جامعة ستانفورد وجامعة كورنيل أن بوتس منظمة العفو الدولية في كثير من الأحيان تضعون ظروفًا مثل اعتماد الكحول والفصام ، “بشكل غير لائق” لبعض التفكير المشترك و “تشجيع تفكير العملاء الوهمي”. وحذروا من خطر الإفراط في الاعتماد على الذكاء الاصطناعي دون إشراف بشري.
لكن في الخلفية ، تقوم Hafeezah Muhammad ، وهي امرأة سوداء ، ببناء شيء مختلف. وهي تفعل ذلك لأسباب شخصية مؤلمة.
“في أكتوبر من عام 2020 ، جاء ابني ، الذي كان في السادسة من عمره ، وأخبرني أنه يريد قتل نفسه” ، وهي تحكي ، صوتها لا يزال يحمل ثقل تلك اللحظة. “اندلع قلبي. لم أره قادمًا.”
في ذلك الوقت ، كانت مسؤولة في شركة الصحة العقلية الوطنية ، شخص يعرف النظام من الداخل والخارج. ومع ذلك ، فإنها لا تزال لا تستطيع أن تحصل على ابنها ، الذي يعاني من إعاقة ويعود إلى مديكيد ، في رعاية.
“فقط 30 ٪ أو أقل من مقدمي الخدمات حتى يقبلوا Medicaid” ، كما أوضحت. “أكثر من 50 ٪ من الأطفال في الولايات المتحدة يأتون الآن من الأسر متعددة الثقافات ، ولم تكن هناك حلول لنا.”
وتقول إنها شعرت بالرعب والحرجة والقلق من وصمة العار التي يكافح طفل. لذلك بنى الشيء الذي لم تجده.
اليوم ، محمد هو مؤسس ورئيس تنفيذي لشركة Backpack Healthcare ، وهو مزود مقره ماريلاند والذي خدم أكثر من 4000 مريض للأطفال ، ومعظمهم على Medicaid. إنها شركة تثير مستقبلها فكرة جذرية مفادها أن التكنولوجيا يمكن أن تدعم الصحة العقلية دون استبدال اللمسة الإنسانية.
الذكاء الاصطناعي العملي ، وليس معالج بديل
على الورق ، يبدو أن حقيبة الظهر مثل العديد من الشركات الناشئة الأخرى. في الواقع ، فإن مقاربتها تجاه الذكاء الاصطناعى براغماتية عمدا ، مع التركيز على التطبيقات “الممل” ولكن المؤثرة التي تمكن من المعالجين البشريين.
يربط خوارزمية الأطفال مع أفضل معالج ممكن في المحاولة الأولى (91 ٪ من المرضى يلتزمون بمطابقاتهم الأولى). تقوم الذكاء الاصطناعى أيضًا بتسجيع خطط العلاج وملاحظات الجلسة ، مما يمنح الأطباء ساعات إلى الخسارة التي استخدموها أمام الأعمال الورقية.
ويوضح محمد قائلاً: “كان مقدمونا يقضون أكثر من 20 ساعة في الأسبوع في المهام الإدارية”. “لكنهم المحررين.”
هذا النهج البشري في الحلقة أمر أساسي لفلسفة حقيبة الظهر.
يكمن المميز الأكثر أهمية في حقيبة الظهر في الدرابزين الأخلاقي القوي. ويمثل رفيق رعاية الذكاء الاصطناعي على مدار الساعة طوال أيام الأسبوع “Zipp” ، وهي شخصية كرتونية ودية. إنه خيار متعمد لتجنب “الوهم من التعاطف” الخطير الذي شوهد في محطات الدردشة الأخرى.
يقول محمد: “أردنا أن أوضح أن هذه أداة وليست إنسانًا”.
المستثمر Nans Rivat of Pace Healthcare Capital يطلق على هذا فخ “تعاطف LLM” ، حيث “ينسى المستخدمون أنك تتحدث إلى أداة في نهاية اليوم”. ويشير إلى حالات مثل الحرف ، حيث أدى عدم وجود هذه الدرابزين إلى نتائج “مأساوية”.
محمد يصر أيضًا على خصوصية البيانات. تشرح أن بيانات المريض الفردية لم يتم مشاركتها أبدًا دون موافقة واضحة وموقعة. ومع ذلك ، فإن الشركة تستخدم بيانات مجمعة ومجهولة للإبلاغ عن الاتجاهات ، مثل مدى سرعة جدولة مجموعة من المرضى للرعاية ، لشركائها.
الأهم من ذلك ، أن حقيبة الظهر تستخدم بياناتها الداخلية لتحسين النتائج السريرية. من خلال تتبع المقاييس مثل مستويات القلق أو الاكتئاب ، يمكن للنظام الإبلاغ عن المريض الذي قد يحتاج إلى مستوى أعلى من الرعاية ، مما يضمن أن التكنولوجيا تعمل على تحسين الأطفال بشكل أسرع.
من الأهمية بمكان ، أن نظام حقيبة الظهر يتضمن أيضًا بروتوكولًا فوريًا للكشف عن الأزمات. إذا قام أحد الأطفال بتكوين عبارة تشير إلى التفكير في الانتحار ، فستجيب chatbot على الفور بأرقام الخطوط الساخنة للأزمات والتعليمات التي يجب الاتصال بها 911. في وقت واحد ، يتم إرسال “رسالة الاستغاثة الفورية” إلى فريق استجابة الأزمة البشرية في حقيبة الظهر ، والذي يتواصل مباشرة مع الأسرة.
يقول ريفات: “لا نحاول استبدال المعالج”. “نضيف أداة لم تكن موجودة من قبل ، مع وجود أمان في.”
بناء العمود الفقري البشري
إلى جانب تقنيتها الأخلاقية ، تعالج حقيبة الظهر أيضًا نقص المعالج الوطني. في كثير من الحالات ، يتعين على المعالجين ، على عكس الأطباء ، تقليديًا دفعه مقابل ساعات الإشراف باهظة الثمن المطلوبة للحصول على ترخيص.
لمكافحة هذا ، أطلقت Backpack برنامج الإقامة المدفوع لمدة عامين ، ويغطي تلك التكاليف ، مما يخلق خط أنابيب من المعالجين المتفانين والمدربين تدريباً جيداً. يطبق أكثر من 500 شخص كل عام ، ويتميز البرنامج بمعدل احتباس مثير للإعجاب بنسبة 75 ٪.
في عام 2021 ، وصف الدكتور فيفيك هـ. مورثي ، الجراح الأمريكي آنذاك ، الصحة العقلية “قضية الصحة العامة المحددة في عصرنا” أثناء الإشارة في ذلك الوقت إلى أزمة الصحة العقلية التي تعاني من الشباب.
محمد لا يتفادى النقد بأن الذكاء الاصطناعي يمكن أن يزيد الأمور سوءًا.
وتقول: “إما أن يقوم شخص آخر ببناء هذه التقنية بدون الدرابزين الصحيحة ، أو يمكنني ، كأم ، التأكد من أنه تم تنفيذها بشكل صحيح”.
أصبح ابنها الآن في الحادية عشرة من عمره ، ويزدهر ، ويعمل كـ “كبير المبتكر للطفل”.
يقول محمد: “إذا قمنا بعملنا بشكل صحيح ، فلن يحتاجوا إلينا إلى الأبد”. “نمنحهم الأدوات الآن ، لذلك ينموون إلى بالغين مرنين. إنه مثل تعليمهم ركوب الدراجة. أنت تتعلمها مرة واحدة ، وتصبح جزءًا من من أنت.”