تم إغلاق تطبيق مواعدة زعم أنه يمكنه استخدام الذكاء الاصطناعي لفحص الشركاء المحتملين بحثًا عن مشاكل “الصحة الجنسية” (أي الأمراض المنقولة جنسياً) بعد أن علمت لجنة التجارة الفيدرالية بادعاءات الشركة المشكوك فيها.
كانت شركة تدعى HeHealth قد روجت في وقت سابق لما أسمته “تطبيقًا للكشف عن الأمراض المنقولة جنسيًا مدعومًا بالذكاء الاصطناعي”، والذي يطلب من المستخدمين الذكور بشكل مضحك إرسال صور للقضيب حتى يمكن فحصهم بحثًا عن الأمراض الاجتماعية. ثم يستخدم التطبيق، المسمى Calmara، سحر الذكاء الاصطناعي لتقييم ما إذا كان العضو الذكر يتمتع بصحة جيدة. ادعت HeHealth أن Calmara يمكنه اكتشاف ما يصل إلى 10 أمراض منقولة جنسيًا مختلفة بدقة تصل إلى 94٪، وعلى موقعها على الإنترنت، وصفت الشركة تطبيقها بأنه “مدقق صحة القضيب المدعوم بالذكاء الاصطناعي في دقيقة واحدة”:
وكما يمكنك أن تتخيل، كانت هناك مشاكل مع كالمارا. فمن ناحية، لا يمكن رؤية معظم الأمراض المنقولة جنسياً بالعين المجردة. ومن ناحية أخرى، لا يبدو أن التطبيق يعمل بشكل جيد. والواقع أن تحقيقاً سابقاً أجرته صحيفة لوس أنجليس تايمز وجد أن التطبيق “واجه صعوبة في التمييز بين الأشياء غير الحية والأعضاء التناسلية البشرية، حيث أصدر إشارة “واضح!” مبتهجة إلى صور مزهرية على شكل قضيب ذكري وكعكة على شكل قضيب ذكري”. نعم، هذا ليس بالأمر الجيد.
وبعد أن لاحظت لجنة التجارة الفيدرالية نتائج اختبارات شركة HeHealth التي جاءت أقل من المثالية، فتحت تحقيقاً في الشركة. وفي رسالة أرسلتها إلى شركة HeHealth ونشرتها بعد ذلك، أشارت الوكالة إلى أن الحكومة “تتطلب من الشركات أن يكون لديها أدلة علمية كفؤة وموثوقة عند تقديم ادعاءات تتعلق بالصحة”، وأن “إثبات ادعاءات HeHealth” بشأن خدماتها الخاصة بدا “مشكلة لعدة أسباب”. ومن بين أمور أخرى، وجدت الوكالة أن HeHealth اختبرت أداء خوارزمية الذكاء الاصطناعي الخاصة بها باستخدام “عدد صغير نسبيًا من الصور”، وأنه في حين ادعت الشركة أنها قادرة على اختبار 10 أمراض منقولة جنسياً، زعمت دراسة مرتبطة بالخوارزمية أنها لا تستطيع تحديد سوى أربعة أمراض.
بعد ذلك، أجبرت لجنة التجارة الفيدرالية شركة HeHealth على إغلاق Calmara وحذف جميع بيانات العملاء التي تم الحصول عليها من خلالها. تم رصد مشاكل التطبيق لأول مرة بواسطة The Verge. بعد إغلاق التطبيق، قالت لجنة التجارة الفيدرالية إنها لن تستمر في تحقيقاتها مع الشركة. تواصلت Gizmodo مع HeHealth للحصول على تعليق وسوف تقوم بتحديث هذه القصة إذا استجابت.
ربما كان من الأفضل أن يموت كالمارا. وبصفتي شخصًا كتب عن الأمن السيبراني لأكثر من خمس سنوات الآن، يبدو من غير الحكمة أن تكون الشركة عبارة عن قاعدة بيانات لصور الأعضاء التناسلية. هذا خرق للبيانات (وفي وقت لاحق دعوى قضائية جماعية) ينتظر حدوثه.