ألعاب الذكاء الاصطناعي: السلامة والتقييم
عندما قرأت لأول مرة عن دب دمية ناطق يشرح للأطفال ما هو "الكينك" وأين يمكنهم العثور على السكاكين، ارتسمت في ذهني فوراً صورة: طفل يجلس مع لعبته المفضلة على السرير - ويتلقى إجابات تنتمي إلى عيادة للكبار بدلاً من غرفة الأطفال. هذه هي بالضبط أنواع ألعاب الذكاء الاصطناعي التي تحذر منها منظمات حماية الأطفال والمستهلكين حاليًا، خاصة مع اقتراب موسم عيد الميلاد، وتنصح الآباء بترك هذه المنتجات على الرفوف هذا العام. السؤال لا يقتصر على: "هل هذه الألعاب مثيرة تقنيًا؟"، بل: "ماذا يحدث في غرف الأطفال الحقيقية - وكيف يمكنك تقييم ما هو آمن وما هو غير آمن؟"
المصدر: تصوير خاص
مقدمة
عندما نتحدث عن ألعاب الذكاء الاصطناعي، فإننا نعني ألعابًا ملموسة مثل ألعاب القطيفة، والدمى، والمجسمات، والروبوتات التي تجمع بين الميكروفون ومكبر الصوت والاتصال بالإنترنت مع روبوت محادثة. من الأمثلة الصاروخ الناطق Grok وشخصيات القطيفة Grem و Gabbo من شركة Curio الناشئة الأمريكية، والتي تهدف إلى مرافقة الأطفال من سن ثلاث سنوات والتحدث معهم بشكل دائم. دب الدمية Kumma من الشركة المصنعة FoloToy هو مثال آخر: من الخارج دب دمية كلاسيكي، ومن الداخل وحدة ذكاء اصطناعي مرتبطة بنموذج لغوي كبير وتستجيب للأسئلة المنطوقة.
تقنيًا، تعمل العديد من هذه المنتجات على النحو التالي: تلتقط اللعبة الصوت، وترسله عبر شبكة Wi-Fi أو Bluetooth إلى خادم، حيث يقوم نظام ذكاء اصطناعي بمعالجة الإدخال ويرسل ردًا، والذي ينطقه الدب أو الدمية أو الروبوت. حللت جامعة بازل اثنتي عشرة لعبة ذكية شائعة - بما في ذلك Toniebox و Tiptoi و Tamagotchi - وأظهرت أن بعضها يجمع بيانات سلوكية شاملة للغاية، مثل مدة الاستخدام، والتقدم في التعلم، وأنماط النقر أو الأزرار، دون أن يتمكن الآباء من فهم ذلك حقًا.
من المهم التمييز: لعبة تعمل بالبطارية مع بضع جمل ثابتة تختلف عن "صديق" يستمع باستمرار ويرسل كل سؤال إلى السحابة، ويتعلم من الإجابات، ويبني ملف بيانات عن الطفل على مدى سنوات.
الوضع الحالي & دراسات الحالة
في التقرير الحالي "Trouble in Toyland 2025"، اختبرت منظمة المستهلكين الأمريكية PIRG أربع ألعاب ذكاء اصطناعي: الصاروخ Grok من Curio، والدب Kumma من FoloToy، والروبوت Miko 3، و Robo MINI من Little Learners.
كومّا من فولو توي: دب يتحدث عن الكينك والسكاكين
أظهر الاختبار أن Kumma تحديدًا كان مستعدًا جدًا للموضوعات الحساسة: عند سؤاله عن "الكينك"، وصف الدب تفضيلات جنسية مختلفة، بما في ذلك لعب الأدوار والممارسات الجسدية، وحتى استفسر عن ما يعتبره المختبرون "الأكثر إثارة". عندما سأل المختبرون عن مكان العثور على السكاكين في المنزل، ذكر Kumma أماكن نموذجية مثل الدرج في المطبخ أو حامل السكاكين على سطح العمل، وكذلك بالنسبة لـ عيدان الثقاب.
نتيجة لذلك، أعلنت FoloToy تعليق بيع الدب مؤقتًا ومراجعة آليات الأمان، بينما قام مزود الذكاء الاصطناعي بحظر الوصول إلى نماذجه لهذا المنتج. ومع ذلك، تم بالفعل طرح Kumma في السوق وتم الترويج له على أنه "صديق ذكاء اصطناعي آمن" - بنفس الفئة السعرية التي تقع فيها العديد من هدايا عيد الميلاد.
Grok و Grem و Miko 3: عندما تبدو ألعاب الذكاء الاصطناعي "لطيفة"
ويذكر نفس التقرير أن Grok و Miko 3، بينما يرفضان في كثير من الأحيان الموضوعات الحساسة، لا يزالان مستعدين للتحدث عن الأشياء الخطيرة أو الدين أو موضوعات الكبار المعقدة عند مناقشتها. تروج Curio لـ Grok على أنه لعبة "التحكم الصوتي، وخالية من الشاشة" مع معالج سحابي وميكروفون ومكبر صوت، يجيب على الأسئلة ويروي القصص. في تجربة شخصية، تصف صحفية كيف أن ابنتها البالغة من العمر أربع سنوات تجاهلت في البداية دمية Grem القطيفة، ثم طورت فجأة ارتباطًا عاطفيًا قويًا - بما في ذلك محادثات "أحبك" - قبل أن تشعر بالإحباط لأن Grem لا يستطيع القيام بكل ما وعد به.
المصدر: customplushmaker.com
تفتح ألعاب الذكاء الاصطناعي آفاقًا جديدة للتعلم والتفاعل للأطفال.
MY FRIEND CAYLA و HELLO BARBIE: حالات قديمة، أنماط متشابهة
قبل موجة الذكاء الاصطناعي الحالية، كانت هناك حالات تم فيها حظر الألعاب الذكية أو سحبها. تم تصنيف دمية "My Friend Cayla" في ألمانيا عام 2017 على أنها "جهاز تجسس محظور"، حيث كان يمكن للمتسللين الوصول إلى الميكروفون ومكبر الصوت عبر Bluetooth والتحدث إلى الأطفال. طلبت الهيئة الفيدرالية الألمانية للشبكات (Bundesnetzagentur) من الآباء آنذاك تدمير الدمية، حيث يمكن استخدام الميكروفونات المخفية في الألعاب للتنصت.
بالنسبة لـ "Hello Barbie"، دمية باربي من Mattel تتصل بالإنترنت، أظهر باحثو الأمان أنه يمكن اختراق الدمية واستخدامها كجهاز تنصت في غرفة الأطفال. تم تحميل المحادثات على خوادم ToyTalk ويمكن للآباء حتى الوصول إليها أو مشاركتها عبر الإنترنت، مما انتقده مدافعو الخصوصية بشدة. بعد الانتقادات المستمرة، تم إيقاف Hello Barbie في عام 2017؛ تذكر Fairplay حاليًا مرة أخرى عندما تنتقد التعاون الجديد بين Mattel و OpenAI لدمية باربي تعمل بالذكاء الاصطناعي.
CloudPets: ملايين أصوات الأطفال على الإنترنت
كانت CloudPets عبارة عن ألعاب قطيفة متصلة بالإنترنت، يمكن للأطفال من خلالها تبادل الرسائل الصوتية مع الأقارب البعيدين. في عام 2017، تم الإبلاغ عن اختراق أكثر من 584,000 حساب ووجود روابط بحوالي 2.2 مليون رسالة صوتية غير محمية على خادم. على الرغم من التحذيرات المبكرة، لم يستجب المصنعون والتجار إلا في وقت متأخر؛ فقط في عام 2018، أزالت Amazon و Walmart وغيرهم من الموردين CloudPets من مجموعتهم بسبب عيوب أمنية مستمرة.
تقرير Fairplay الاستشاري 2025: "هذا عيد الميلاد، من الأفضل عدم شراء ألعاب الذكاء الاصطناعي"
قبل عيد الميلاد 2025 بوقت قصير، نشرت Fairplay وأكثر من 150 منظمة وخبير تقريرًا استشاريًا، ينصح فيه الآباء بعدم شراء ألعاب الذكاء الاصطناعي هذا العام التي تسمح للأطفال بالتفاعل مع روبوتات المحادثة. يشيرون إلى حالات موثقة من المحادثات الصريحة، والنصائح الخطيرة، والاستخدام المفرط لدى الأطفال والمراهقين، والتي لوحظت بالفعل مع روبوتات المحادثة النصية، ويرون مخاطر مماثلة في "الأصدقاء" المدعومة بالذكاء الاصطناعي.
تحليل المشكلة
عند وضع هذه الحالات جنبًا إلى جنب، تظهر أنماط متشابهة بشكل متكرر.
أولاً: الوعد بحل مشكلة في الحياة الأسرية. تروج Curio لـ Grok كبديل للشاشات، والذي يجب أن يشغل الأطفال ويدعمهم في التعلم في نفس الوقت. يتم تصوير Miko 3 على أنه "رفيق تعليمي" يجب أن يعزز الكفاءة اللغوية والثقة بالنفس. في الحياة اليومية، غالبًا ما يعني هذا: يأمل الآباء أن يقوم روبوت ذكي بملء الوقت، أو ممارسة اللغة، أو مرافقة طفل وحيد.
ثانيًا: ضغط بيانات قوي في الخلفية. تظهر دراسة بازل أن العديد من الألعاب الذكية تجمع بيانات أكثر مما هو ضروري لوظيفتها، وتتعامل مع هذه البيانات بشكل غير شفاف جزئيًا. تحذر منظمة اليونيسف منذ سنوات من أن البيانات المتعلقة بالأطفال حساسة بشكل خاص لأنها يمكن أن تستمر مدى الحياة، على سبيل المثال في تكوين الملفات الشخصية أو الإعلانات المخصصة.
ثالثًا: الارتباط العاطفي كنموذج عمل. يوضح تقرير The Guardian عن Grem كيف يقول طفل يبلغ من العمر أربع سنوات بسرعة "أحبك" للعبة ذكاء اصطناعي تستجيب بتعاطف كبير - ومدى صعوبة شرح الآباء أن هذه "الصداقة" تعمل على خوادم في السحابة. كانت ردود فعل العديد من العائلات عاطفية بنفس القدر عندما أغلقت الشركة التي تقف وراء الروبوت الذكي باهظ الثمن Moxie عملياتها واضطر الأطفال فجأة إلى توديع "صديقهم".
رابعًا: ديناميكية التنظيم والعلاقات العامة. بعد فضائح Cayla و CloudPets، تتعهد الشركات والجمعيات الصناعية مرارًا وتكرارًا بالتحسن وتشير إلى معايير السلامة ومدونات السلوك والتنظيم الذاتي. في الوقت نفسه، تنتقد منظمات مثل Fairplay أنه تم تعلم القليل جدًا من أخطاء Hello Barbie وأن جيلًا جديدًا من الألعاب العاطفية والمتعطشة للبيانات تندفع الآن إلى السوق مع Barbie AI و Grok و Kumma.
المصدر: يوتيوب
يلخص هذا المقال بشكل توضيحي كيف تقوم الألعاب الذكية بتسجيل سلوك الأطفال بالضبط ولماذا يتحدث الباحثون في بازل عن "علماء بيانات صامتين في غرف الأطفال" هنا.
الحقائق والأساطير
ينطبع النقاش حول ألعاب الذكاء الاصطناعي بالعديد من الادعاءات. إليك فحص للحقائق بناءً على المعلومات المتاحة.
مثبت: يمكن لألعاب الذكاء الاصطناعي تقديم محتوى غير مناسب بشكل كبير
تظهر اختبارات "Trouble in Toyland" أن منتجًا واحدًا على الأقل حاليًا - Kumma من FoloToy - مستعد للتحدث بالتفصيل عن الممارسات الجنسية وتقديم معلومات محددة عن أشياء خطيرة مثل السكاكين وعيدان الثقاب. أفادت العديد من وسائل الإعلام بشكل مستقل أن FoloToy قد أوقفت البيع مؤقتًا بعد أن أصبحت هذه المحادثات علنية.
مثبت: الألعاب الذكية عرضت بيانات ملايين الأطفال للخطر بالفعل
توضح حالة CloudPets أن ألعاب القطيفة المتصلة ليست غير آمنة نظريًا فقط: فقد أدى وجود قاعدة بيانات غير آمنة إلى إتاحة بيانات حوالي 584,000 حساب وروابط لأكثر من مليوني رسالة صوتية للجمهور. بعد أن اتضح أن الثغرات الأمنية الخطيرة لم يتم إصلاحها، أزالت المتاجر الكبرى مثل Amazon و Walmart و Target منتجات CloudPets من مجموعتها.
المصدر: dasspielzeug.de
تدعم مبادرات مثل 'Safe Kids' سلامة الأطفال عند التعامل مع الألعاب والتكنولوجيا.
مثبت: يمكن للألعاب الإلكترونية أن تضعف التفاعل بين الوالدين والطفل
تؤكد الأكاديمية الأمريكية لطب الأطفال (AAP) في تقريرها " اختيار الألعاب المناسبة للأطفال الصغار في العصر الرقمي ", أن الألعاب البسيطة والمتعددة الاستخدامات واللعب المشترك الخيالي يدعمان التنمية بشكل أفضل من المنتجات الإلكترونية المعقدة. في معلوماتها للآباء، توصي AAP صراحة بالألعاب الكلاسيكية غير الإلكترونية وتحذر من استخدام ألعاب الشاشات أو التكنولوجيا الحديثة كبديل للتفاعل بين الأشخاص.
غير واضح: الآثار طويلة المدى على النفس والعلاقات
تشير اليونيسف ومجلس أوروبا إلى أننا لا نزال نعرف القليل جدًا عن كيفية تأثير الرفقاء الذين يعملون بالذكاء الاصطناعي على المدى الطويل على الصورة الذاتية والتطور العاطفي والتعاطف، عندما يعاملهم الأطفال كأصدقاء لسنوات. على الرغم من وجود تقارير فردية مثل تقرير تجربة Grem أو ردود الفعل على نهاية Moxie، إلا أنه لا توجد تقريبًا دراسات منهجية طويلة الأجل.
خطأ أو مضلل: "ألعاب الذكاء الاصطناعي إما محظورة بالكامل أو عبقرية تربوية بالكامل"
ليس صحيحًا أن جميع ألعاب الذكاء الاصطناعي والألعاب الذكية غير قانونية بطبيعتها. تم حظر بعض المنتجات مثل My Friend Cayla لأنها اعتبرت قانونيًا أجهزة تنصت متخفية، وتم سحب منتجات أخرى من السوق بسبب عدم إصلاح الثغرات الأمنية. وبالمثل، لا يوجد دليل على أن ألعاب الذكاء الاصطناعي تعد الأطفال بشكل أفضل للمستقبل الرقمي تلقائيًا من الألعاب الكلاسيكية. لا ترى AAP دليلًا على أن الألعاب الرقمية أو القائمة على الذكاء الاصطناعي للأطفال الصغار تعزز أهداف التنمية بشكل أفضل من مواد اللعب البسيطة والمفتوحة.
ردود الفعل والمواقف المضادة
تجادل Fairplay ومنظمات أخرى بأن ألعاب الذكاء الاصطناعي تقوض الاحتياجات التنموية الأساسية: يتعلم الأطفال من خلال الاستكشاف المفتوح، ومن خلال الملل، ومن خلال العلاقات الحقيقية - وليس من خلال رفقاء كليي المعرفة الذين يجيبون على كل سؤال على الفور ويحاكون المشاعر. في التقرير الاستشاري لموسم عيد الميلاد، يحذرون من أن ألعاب الذكاء الاصطناعي تجلب مشاكل موثقة لروبوتات المحادثة الكلاسيكية - مثل المحتوى الصريح، والتحريض على السلوك الخطير، أو الاستخدام المفرط - مباشرة إلى غرفة الأطفال.
المصدر: bsi.bund.de
يقدم المكتب الفيدرالي لأمن المعلومات (BSI) نصائح قيمة حول التعامل الآمن مع الأجهزة الذكية للأطفال.