فجر اليوم
المراهقين أثناء أستخدام أدوات الذكاء الاصطناعي على منصاتها، عبر رصد المحادثات التي قد تتضمن مؤشرات على إيذاء النفس أو التفكير في الإنتحار، مع إرسال تنبيهات فورية إلى أولياء الأمور في بعض الحالات.
ووفقًا لما أعلنته الشركة، فإن النظام الجديد سيرسل إشعاراً إلى الوالدين إذا أجرى مراهق يستخدم حساباً مرتبطاً بأدوات الرقابة الأبوية على “إنستغرام” محادثة مع روبوت الدردشة الذكي تتضمن إشارات قد تدل على وجود خطر يتعلق بإيذاء النفس.
وأوضحت “ميتا” أن هذه التقنية طُورت بالتعاون مع خبراء في الصحة النفسية وأولياء أمور، بهدف رصد العبارات والتلميحات اللفظية التي قد تشير إلى وجود خطر، حتى وإن لم تكن مباشرة أو صريحة.
وأكدت الشركة أن جميع الحالات التي يرصدها النظام ستخضع لمراجعة بشرية، مشيرة إلى أنها قد ترسل تنبيهات في بعض الحالات غير الواضحة كإجراء احترازي، مع أعترافها بإمكانية حدوث بعض الإنذارات الخاطئة، لكنها تعتبر ذلك خطوة أولى ستعمل على تحسينها مع مرور الوقت.
وفي إطار خططها المستقبلية، كشفت “ميتا” عن تطوير أداة جديدة تتيح التواصل المباشر مع خدمات الطوارئ عند اكتشاف محادثات تشير إلى وجود خطر وشيك على حياة المستخدم، وهي آلية تعتمدها الشركة بالفعل عند رصد منشورات مشابهة على “فيسبوك” و”إنستغرام”.
وكانت “ميتا” تراقب في السابق عمليات البحث المتكررة عن مصطلحات مرتبطة بإيذاء النفس عبر “إنستغرام”، إلا أن التحديث الجديد يوسع نطاق الحماية ليشمل أيضًا المحادثات التي تتم مع روبوتات الذكاء الاصطناعي على “إنستغرام” و”واتساب”، في محاولة لتعزيز سلامة المستخدمين المراهقين وتوفير استجابة أسرع للحالات الخطرة.
المصدر: إندبندنت
