تتعامل Collège Béliveau مع الجانب المظلم للذكاء الاصطناعي بعد أن تم اكتشاف صور عارية تم إنشاؤها بواسطة الذكاء الاصطناعي لطلاب قاصرين يتم تداولها في مدرسة وينيبيغ.

قالت رسالة بريد إلكتروني أُرسلت إلى أولياء الأمور بعد ظهر يوم الخميس، إن مسؤولي المدرسة علموا في وقت متأخر من يوم الاثنين أنه تمت مشاركة الصور المعدلة للطالبات في الصفوف من السابع إلى الثاني عشر في مدرسة الغمر الفرنسية عبر الإنترنت، وأن مسؤولي المدرسة اتصلوا بالشرطة.

وجاء في الرسالة: "نحن ممتنون وفخورون بالطلاب الذين تقدموا للفت انتباهنا إلى هذا الأمر".

وقالت والدة إحدى الفتيات التي كانت صورها المعدلة من بين الصور المتداولة لقناة سي بي سي نيوز إنها تأمل في محاسبة الشخص المسؤول، وتساءلت عن سبب سماح شركات الذكاء الاصطناعي بحدوث ذلك.

وقالت والدة أخرى، لديها ابن في الصف الثاني عشر في كوليج بيليفو، إنها صدمت من الأخبار.

وقالت نوني كوبتشويسكي: "أعتقد أن الأمر أكثر رعباً بالنسبة للفتيات منه بالنسبة للرجال، وهذا مجرد رأيي".

"لدي ثلاثة أولاد، ولكن أعتقد أن أفضل نصيحة لأطفالي هي أن يكونوا محترمين دائمًا... ضع نفسك مكان شخص آخر، هذا أمر مؤلم والضرر الذي يسببه طويل الأمد".

وقالت كوبتشويسكي إنه كان هناك نقاش حول الذكاء الاصطناعي في منزلها، بما في ذلك المخاطر التي تصاحب استخدامه.

وقالت: "لقد أصبح الأمر أكثر رعبا هناك، فنحن نعلم أنفسنا أكثر بكثير".

وقالت المدرسة إن الصور الأصلية يبدو أنها تم جمعها من وسائل التواصل الاجتماعي المتاحة للجمهور ثم تم تغييرها بشكل صريح، ولم يذكروا عدد الصور التي يعتقدون أنه تمت مشاركتها أو عدد الفتيات اللاتي وقعن ضحايا.

وقالت الرسالة الإلكترونية الموجهة إلى أولياء الأمور إن المدرسة "تحقق للحصول على فهم أفضل لمدى ما حدث ومن شارك فيه"، ويتخذ المسؤولون "الخطوات اللازمة للرد على تصرفات الأفراد المحددين الذين شاركوا هذه الصور".

في حين أننا لا نستطيع أن نفترض أن لدينا أدلة على جميع الصور التي تم التلاعب بها، فسوف نتصل مباشرة بمقدمي الرعاية لهؤلاء الطلاب الذين تم بالتلاعب بهم".

ويقول موقع المدرسة على الإنترنت إن المدرسة الواقعة في حي وندسور بارك تضم أقل من 600 طالب بقليل.

كان مسؤولو المدرسة أيضًا على اتصال بـ Cybertip.ca، وهو خط معلومات للإساءة عبر الإنترنت يديره المركز الكندي لحماية الطفل في وينيبيج.

سيتم تحميل الصور التي تتلقاها المدرسة إلى مشروع Arachnid الخاص بـ Cybertip، والذي يمكن أن يساعد في حذفها.

 وقال داني ماكينون إن وحدة مكافحة الاستغلال التابعة لجهاز الشرطة تجري تحقيقا، ولكن لا يزال من السابق لأوانه إجراء تحقيق نشط لتقديم المزيد من التفاصيل، وتابع"الذكاء الاصطناعي جزء جديد معقد ودقيق من عالمنا"، "إنه بالتأكيد شكل أحدث من السلوك الخفي، نحن في منطقة مجهولة."

ولم يتم توجيه أي اتهامات في هذا الوقت.

وقال مسؤولو المدرسة إن فرق الدعم متاحة لأي طالب تأثر بشكل مباشر أو غير مباشر بما حدث.

وجاء في البريد الإلكتروني للمدرسة أن الدعم والموارد الإضافية متاحة من خلال Cybertip.ca وNeed Help Now، وهو مورد كندي آخر للشباب والعائلات.

وقال مدير Cybertip إن استغلال الشباب من خلال الصور التي تم إنشاؤها دون علمهم في برامج تحرير الصور، ثم تمت مشاركتها عبر الإنترنت، كان مشكلة مثيرة للقلق لسنوات.

لكن ستيفن سوير قال: "لقد أدى الذكاء الاصطناعي إلى تسريع ذلك بالفعل".

على الرغم من وجود حالات لاستخدام الذكاء الاصطناعي لإنشاء مواد الاعتداء الجنسي على الأطفال في كندا، بما في ذلك حالة في كيبيك، فإن سوير ليس على علم بحالة سابقة في هذا البلد حيث وقع المراهقون في إحدى المدارس ضحية لمراهقين آخرين بهذه الطريقة.

وليس من الواضح في هذه المرحلة ما إذا كان الشخص المسؤول هو زميل طالب، ولم تعلق الشرطة والمدرسة على ذلك.

هذا ولم يتمكن سوير أيضًا من التحدث بشكل محدد عن التحقيق في Collège Béliveau، لكنه قال إن الأشخاص الذين ينشئون صورًا واضحة غالبًا لا يفهمون العواقب والآثار طويلة المدى.

وقال: "حتى لو تم إنشاء هذه المواد لأن الناس يعتقدون أنها مضحكة أو يعتقدون أنها [عمل] ضار قليلاً ... فلا يزال من الممكن اعتبارها مواد إباحية للأطفال أو مواد اعتداء جنسي على الأطفال بموجب القانون".

"يمكن أن تعود هذه المواد لتطارد الضحية لاحقًا في مراحل أخرى من حياته إذا تمت مشاركتها عبر الإنترنت مع معلومات شخصية."

يمكن لمشروع Arachnid - وهو زاحف ويب يقوم بمسح الإنترنت بحثًا عن الصور المعروفة للاعتداء الجنسي على الأطفال ويصدر إشعارات للشركات لإزالتها - أن يقلل من انتشار مواد الاعتداء الجنسي على الأطفال عبر الإنترنت، ولكن المفتاح هو الوصول إليها بسرعة قبل أن يتم نشرها. قال سوير إنه تم توزيعه على نطاق واسع.

واضاف: "بالتأكيد لا توجد حل سحري، ولكن ما يفعله هو أنه يقدم إشعارات للشركات لإعلامها عندما يتم نشر المواد على خدمتها ... حتى يتمكنوا من الحفاظ على شبكاتهم نظيفة".

وقالت مورا غروسمان، أستاذة الأبحاث في كلية علوم الكمبيوتر بجامعة واترلو والتي كانت تدرس الآثار الواقعية للصور التي ينشئها الذكاء الاصطناعي، إن هذه ستكون الحالة الأولى لطلاب في كندا يقومون بمثل هذه التزييف العميق لطلاب آخرين. 

وقالت إنه كانت هناك حالات قليلة في الآونة الأخيرة في الولايات المتحدة، في نيوجيرسي وسياتل، "لكنني لم أسمع أنها وصلت إلى كندا".

"إنه أمر مثير للقلق إلى حد ما وليس من الصعب القيام به، ويمكنك القيام به مجانًا، هناك العديد من المواقع على الإنترنت".

وعلى الرغم من أن القدرة على تبديل الوجه على أجساد أخرى كانت موجودة من قبل، إلا أن التكنولوجيا كانت سيئة، وقالت غروسمان: "الآن، يمكن لأي شخص إنشاء صور مقنعة".

الجزء الصعب الآن هو معرفة كيفية التحكم فيه.

وأوضحت"أنت تتعامل مع أشخاص في جميع أنحاء العالم، ومن الصعب للغاية الحصول على ولاية قضائية على هذا الشخص في مسألة قانونية".

"إنه أمر صعب للغاية، وأعتقد أن هذه المشكلة سوف تزداد سوءًا، وليس أفضل".