الفيسبوك يستخدم تقنيات الذكاء الاصطناعي لمسح منشورات المستخدمين للبحث عن علامات تدل على وجود أفكار انتحارية لديهم، وعندما تجد شخصًا يمكن أن يكون في خطر، تقوم الشركة بإعلام المشرفين على الأمر الذين بدورهم يستجيبون عن طريق إرسال موارد تتحقق من الصحة العقلية، أو في الحالات الحرجة، يتم الاتصال بجهات الطوارئ التي يمكن أن تحاول العثور على ذلك الفرد.
وتم اختبار تلك الأداة الجديدة في منصة الفيسبوك لعدة أشهر في الولايات المتحدة، ولكن الآن سيتم طرحها في بلدان أخرى، ولن تكون تلك الأداة نشطة في أي دولة من دول الاتحاد الأوروبي، حيث تمنع قوانين حماية البيانات الشركات من تتبع المستخدمين بهذه الطريقة.
وقال المدير التنفيذي للشركة مارك زوكربيرج في منشور له على فيسبوك أنه يأمل بأن يعرف الناس أن الذكاء الاصطناعي يمكنه المساعدة على إنقاذ حياة الناس اليوم.
الفيسبوك لم يوفر الكثير من التفاصيل حول كيفية عمل تلك الأداة في الواقع وكيفية تحديدها للذين هم في خطر، وصرحت الشركة بأنه تم تدريب البرنامج على المنشورات والرسائل التي تم الإبلاغ عنها من قبل المستخدمين في الماضي، وتبحث عن علامات أو مؤشرات، مثل تعليقات أو اسئلة من المستخدمين مثل “هل أنت بخير؟” أو “هل يمكنني مساعدة؟”، كما تقوم الأداة الجديدة بالتحقق من البث الحي للمستخدمين، التي تتعرف على أجزاء من مقطع الفيديو الذي يحتوي على أكثر من تعليق غير معتاد أو ردود فعل غريبة أو إبلاغات من المستخدمين، وبذلك ستتدخل جهات الطوارئ لتقييم كل حالة والاستجابة.
قد يكون البعض قلقين أيضًا بشأن الخصوصية على الفيسبوك، لكن صرح مسؤول الأمن الرئيسي للشركة “أليكس ستاموس” تعليقًا على هذه المخاوف على موقع تويتر، قائلًا إن “الاستخدام المخيف والخبيث للذكاء الاصطناعي سيكون خطرًا إلى الأبد”، وهذا هو السبب في أهمية استخدام البيانات لغرض المنفعة.
