لمحة عامة: تم إطلاق تحقيق من قبل لجنة التجارة الفيدرالية في سبع شركات تكنولوجيا حول الأضرار المحتملة التي يمكن أن تسببها الروبوتات الدردشة بالذكاء الاصطناعي للأطفال والمراهقين. يركز التحقيق على الروبوتات الدردشة التي يمكن أن تكون رفاقًا، والتي “تقلد بشكل فعال الخصائص البشرية والعواطف والنوايا، وعمومًا تم تصميمها للتواصل مثل صديق أو ثقيل، مما قد يحث بعض المستخدمين، خاصة الأطفال والمراهقين، على الثقة وتكوين علاقات مع الروبوتات الدردشة”، حسبما ذكرت الوكالة في بيان يوم الخميس.
التحقيق يأتي وسط قلق متزايد حول استخدام الذكاء الاصطناعي من قبل الأطفال والمراهقين، بعد سلسلة من الدعاوى القضائية والتقارير التي اتهمت فيها الروبوتات الدردشة بالتورط في حالات الانتحار واستغلال الجنسي وغيرها من الأضرار للأشخاص الصغار. تشمل ذلك دعوى قضائية واحدة ضد OpenAI ودعوتين ضد Character.AI لا تزالان قائمتين حتى الآن على الرغم من أن الشركتين يقولان إنهما مستمرتان في تطوير ميزات إضافية لحماية المستخدمين من التفاعلات الضارة مع الروبوتات الخاصة بهم.
يأتي هذا التحقيق في وقت تثير فيه مخاوف أوسع أن حتى المستخدمين البالغين يقومون بتكوين روابط عاطفية غير صحية مع الروبوتات الدردشة، جزئيًا لأن الأدوات غالبًا ما تكون مصممة لتكون وديّة وداعمة. وقد أقرت مجموعة واحدة على الإنترنت تعنى بالسلامة، تسمى Common Sense Media، بأن تطبيقات الذكاء الاصطناعي “الرفيقة” تشكل مخاطر غير مقبولة للأطفال ويجب ألا تكون متاحة للمستخدمين دون سن الثامنة عشرة. يتوقع أن تحصل مشروعي قوانين في ولاية كاليفورنيا تتعلق بسلامة الروبوتات الدردشة بالذكاء الاصطناعي للقصر، بما في ذلك واحد يدعمه منظمة Common Sense Media، على التصويت النهائي هذا الأسبوع وإذا مرت ستصل إلى مكتب حاكم كاليفورنيا جافين نيوسوم. كما من المقرر أن تعقد لجنة الشؤون القضائية في مجلس الشيوخ الأمريكي جلسة استماع الأسبوع المقبل بعنوان “فحص الضرر الناجم عن الروبوتات الدردشة بالذكاء الاصطناعي”.
“مع تطور تقنيات الذكاء الاصطناعي، من المهم النظر في تأثير الروبوتات الدردشة على الأطفال، بينما نضمن أيضًا أن الولايات المتحدة تحتفظ بدورها كقائد عالمي في هذه الصناعة الجديدة والمثيرة،” قال رئيس لجنة التجارة الفيدرالية أندرو فيرجسون في بيان الخميس. “الدراسة التي نطلقها اليوم ستساعدنا على فهم أفضل كيفية تطوير الشركات لمنتجاتها والخطوات التي تتخذها لحماية الأطفال.”
على وجه الخصوص، تطلب الأوامر التي أصدرتها لجنة التجارة الفيدرالية معلومات حول كيفية تحقيق الشركات الربح من انخراط المستخدمين، وتوليد الإخراج استجابة لاستفسارات المستخدمين، وتطوير وموافقة الشخصيات الاصطناعية، واستخدام أو مشاركة المعلومات الشخصية المكتسبة من خلال محادثات المستخدمين والتخفيف من الأضرار السلبية للأطفال، بين تفاصيل أخرى.
لم يستجيب Google و Snap و xAI على الفور لطلبات التعليق. “أولويتنا هي جعل ChatGPT مفيدة وآمنة للجميع، ونحن نعلم أن السلامة تهم فوق كل شيء عندما يتورط الشبان. ندرك أن لدى لجنة التجارة الفيدرالية أسئلة ومخاوف مفتوحة، ونحن ملتزمون بالتعاون بناء والرد عليها مباشرة”، قالت المتحدثة باسم OpenAI ليز بورجوا في بيان. أضافت أن لدى OpenAI تدابير وقائية مثل الإشعارات التي توجه المستخدمين إلى خطوط مساعدة الأزمات وخطط لإطلاق ضوابط الأبوية للمستخدمين الصغار.
بعد أن رفع والدي الشاب آدم رين البالغ من العمر 16 عامًا دعوى قضائية ضد OpenAI الشهر الماضي متهمين ChatGPT بتحفيز انتحار ابنهم، أقرت الشركة بأن تدابيرها الوقائية قد تكون “أقل موثوقية” عندما يشارك المستخدمون في محادثات طويلة مع الروبوتات الدردشة وقالت إنها تعمل مع خبراء لتحسينها.
رفضت Meta التعليق مباشرة على التحقيق الذي أجرته لجنة التجارة الفيدرالية. وقالت الشركة إنها تقوم حاليًا بتقييد وصول المراهقين إلى مجموعة محددة فقط من شخصيات الذكاء الاصطناعي الخاصة بها، مثل تلك التي تساعد في الواجب المنزلي. كما تقوم بتدريب روبوتات الدردشة بالذكاء الاصطناعي لها على عدم الرد على ذكريات المراهقين لمواضيع حساسة مثل الإيذاء الذاتي أو المحادثات الرومانسية الغير لائقة وبدلاً من ذلك توجيههم إلى موارد الخبراء.
“نتطلع إلى التعاون مع لجنة التجارة الفيدرالية في هذا التحقيق وتقديم رؤية حول صناعة الذكاء الاصطناعي للمستهلك وتطور تكنولوجيا الفضاء بسرعة،” قال جيري روتي، رئيس الثقة والسلامة في Character.AI في بيان. أضاف أن الشركة قد استثمرت في موارد الثقة والسلامة مثل تجربة جديدة لمن هم دون سن الثامنة عشرة عامًا على المنصة، وأداة للوالدين للحصول على تحليلات وتنبيهات تذكير المستخدمين بأنهم يتحدثون مع الذكاء الاصطناعي.
