خطيئة الذكاء الاصطناعي.. تطبيقات تحول الصور إلى إباحية دون علم الضحية

اكتشفت "سارة"، تطبيقًا جديدًا يقوم بتعديل صورها من عادية إلى فائقة الجمال، لم تستغرق سوى لحظات قليلة حتى أصبحت مدمنة على هذا التطبيق، حيث كانت تقوم بتحميل صورها، وتطبيق التأثيرات المميزة على هذا التطبيق، ثم مشاركة النتائج عبر حساباتها على مواقع التواصل الاجتماعي، ومع مرور الوقت، بدأت تستخدم التطبيق لتعديل صور أصدقائها أيضًا، دون أدنى فكرة عن الخطر الذي تتعرض له.

وهنا الصدمة، عندما اكتشفت أن هذا التطبيق يستخدم صورها وصور أصدقائها في إنتاج صور إباحية مفبركة، لا يمكنك تفريقها عن الحقيقية، فشعرت بالصدمة والذعر، وشُلّ تفكيرها حينما وجدت تلك الصور تنتشر بسرعة على الإنترنت، وتظهر في مواقع غير لائقة ومنتديات مشبوهة، وتدهورت حياتها الشخصية والاجتماعية وكل محاولاتها لإزالة الصور الإباحية الكاذبة كانت تبوء بالفشل.

ولحسن حظها، حينما سردت القصة على أهلها وجدت دعمًا كبيرًا، وتوجهوا إلى مباحث الإنترنت لتحرير محضر بتلك الواقعة ولاتخاذ كافة الإجراءات القانونية لإيقاف تدفق تلك الصور على تلك المواقع المشبوهة.

هذه الفتاة العشرينية التي لا تزال طالبة بكلية الفنون الجميلة، وتسكن في منطقة الزمالك، ليست الضحية الأولى لممارسات توليد الصور باستخدام الذكاء الاصطناعي، وتحويل الصور الناتجة إلى صور عارية، يتم استغلالها في المواقع الإباحية والمجموعات المشبوهة، حيث يستغلها البعض في ابتزاز الفتيات جنسيًا بتصوير مشاهد كاملة لهن أو المطالبة بمبلغ مالي في مقابل إزالة صورهن من تلك المواقع.

والابتزاز الجنسي هو نوع من أنواع التحرش الجنسي، يمكن أن يعرّف على أنه أي عرض جنسي غير مرغوب فيه، أو طلب خدمة جنسية، أو أي تصرف آخر له طبيعة جنسية سواء كان شفويًا أو جسديًا، موجه نحو فرد بسبب نوعه (ذكر أو أنثى).

وخلال السطور التالية توثق "الدستور" شهادات ضحايا آخرين، ممن وقعن في فخ تلك التطبيقات والمواقع، إلى جانب الحديث مع عدد من المتخصصين لشرح آلية تلك التطبيقات وكيفية الوقاية من هذا الشرك.

• بحسب دراسة أعدتها لجنة الاتصالات وتكنولوجيا المعلومات بمجلس النواب عام 2021، شهد شهرى سبتمبر وأكتوبر تقديم 1038 بلاغًا بجريمة إلكترونية نجحت وزارة الداخلية في ضبط غالبية المتهمين، وأن أغلب الجرائم الإلكترونية كانت نصب واحتيال وتركيب صور للفتيات عبر صفحات الإنترنت.

"هبة" هددها صديقها إما التجاوب معه أو الفضيحة

"هبة"، في العشرين من عمرها، من محافظة القاهرة منطقة الشيخ زايد، ومثلها كباقي الفتيات تهوى وضع صورها عبر مواقع التواصل الاجتماعي لمشاركة أصدقائها حياتها اليومية، إلا أنه في أحد الأيام قامت بإضافة شخص ما لم تعرفه شخصيًا، إلا أن لديهما الكثير من الأصدقاء المشتركين، فقبلت إضافته، وبعد فترة ليست كبيرة بدأ يرسل إليها هذا الشخص عدد من صور لها، لكنه قام بتعديلها بإحدى برامج الذكاء الاصطناعي التي تقوم بتجريد الفتاة من ملابسها، بحيث يصبح من الصعب التفرقة بين الحقيقية والمفبركة.

ارتعدت فرائصها من الخوف، لأنه قام بتهديدها بإرسال تلك الصور لأهلها وتدمير سمعتها، والحل الآخر هو الحديث معه بشكل جنسي، إلا أن الفتاة لم تتجاوب معه وراسلت إحدى الحملات المعنية بمناهضة الابتزاز الإلكتروني، حيث أكدوا لها أن لديه هوس أو سلوك غير متزن.

بدأت الحملة بطمأنة الفتاة إلى أن اقتنعت بضرورة عمل محضر لهذا الشخص كي تضمن ألا يتعرض لها بأي شكل من الأشكال، أيضًا بأن عليها تحديد الخصوصية في كل محتوى تعرضه على "السوشيال ميديا" وتقليل دائرة المعارف واقتصار بياناتها على الدائرة المقربة لها فقط.

"قاوم" حملة حكومية لمناهضة الابتزاز الإلكتروني

وكانت تلك الحملة التي استعانت بها "هبة" ونجحت من خلالها في استعادة حقها، هي حملة "قاوم" التي انطلقت منذ العام 2020، والتي انطلقت كصفحة على موقع التواصل الاجتماعي "فيسبوك"، وتخطى متابعيها حتى الآن الملايين، وذلك لما أثبتته من جدارة في التصدي لمثل تلك الحالات، إما بالحل الودي مع المبتز والاتفاق على إزالة كل الصور التي يهدد بها الفتاة، أو من خلال دعم الفتيات نفسيًا وجعلهم يتجهون لتقديم بلاغ رسمي، واتباع الإجراءات القانونية حتى الحصول على حقها.

"الدستور" تواصلت مع محمد اليماني، مؤسس حملة "قاوم" لمناهضة الابتزاز الإلكتروني،  قال إن حملة "قاوم" تبحث كل حالة بالتفصيل لمعرفة أسباب الجريمة ودوافعها وما يثبت كافة تفاصيلها، متابعًا مع فريقه كيفية الوصول إلى الحل المناسب لدعم الحالة وفي أغلب الأحيان يطالبون الفتيات بعمل بلاغ فورًا للمحافظة على حقوقها القانونية ودعمها، من خلال امتصاص كل مشاعر الخوف التي تسيطر عليها عبر متطوعات متخصصات ومتدربات بشكل يساعدهم على بث حالة الهدوء بداخل الضحايا لاتخاذ الإجراء المناسب لهم ودعمهم.

وأكد "اليماني"، أنه يسعى حاليًا للتعاون مع كافة الجهات المختصة بعد اعتبارهم مؤسسة رسمية تابعة لوزارة التضامن الاجتماعي، مؤكدًا أن دورهم هو الدعم ومساندة الجهات المختصة في تخفيف الأحمال عليهم وتوعية المواطنين بأهمية اتخاذ الإجراءات القانونية، واستغلال طاقات الشباب بشكل إيجابي لنشر الأمل وتثقيفهم بأهمية تعلم الاستخدام الأمثل للإنترنت والحماية من جرائمه.

ونصح أولياء الأمور بضرورة دعم الأبناء في حالة تعرضهم لأي جريمة إلكترونية، والإبلاغ فورًا عن طريق التواصل مع رقم 108 الخاص بمباحث الإنترنت، ومعرفة أقرب مديرية أمن خاصة بمحل إقامتهم لاتخاذ كافة الإجراءات اللازمة لسلامة أبنائهم.

• بحسب تصريحات عام 2018، قال النائب شريف الوردانى أمين سر لجنة حقوق الانسان، استطلاعات الرأى اثبتت تعرض أكثر من 50% من الفتيات للتحرش عبر مواقع التواصل الاجتماعى، وهؤلاء تتراوح أعمارهن ما بين 11 إلى 18 عامًا، وهم أطفال وفقًا للقانون.

"ندى" هددها معلمها بفضحها بصور مُخلَّقة

الضحية الثالثة تدعى "ندى"، فتاة في مرحلة الثانوية العامة، من محافظة القليوبية مركز بنها، تقطن في إحدى قراها، تبدأ قصتها منذ فترة "كورونا" التي أجبرت الكثيرين على التزام المنازل وعدم الخروج منها إلا للضروة القصوى، وخلال تلك الفترة ظهرت بكثرة فكرة الدروس الأونلاين، بحيث يحصل الطالب على درسه دون مخالطة أحد، ووقع حظ تلك الفتاة مع شاب أعلن عن نفسه باعتباه مدرسًا في مادة الفلسفة، فتواصلت معه لمعرفة موعد وقيمة الدرس.

واستغل هذا الشاب سذاجة الفتاة القروية، وتحول كلامه معها من التركيز على الدرس إلى الحديث عن الزواج والدخول في علاقة عاطفية والزواج مستقبلًا، وبالفعل سيطر عليها بكلامه إلا أنه مع مرور الوقت وجدت أنه غير جاد بكلامه وقررت الابتعاد عنه، لكن تلك الخطوة أدخلتها في دوامة الابتزاز الإلكتروني.

وهدد الشاب تلك الفتاة بنشر صورها بعدما حولها بإحدى تطبيقات الذكاء الاصطناعي إلى صور إباحية، إلا أن الفتاة أبلغت أهلها وتم اتخاذ الإجراءات القانونية ضده إلى أن تم الحكم عليه بالحبس 3 سنوات.

• وفقًا لقانون "مكافحة الجرائم الإلكترونية" يعاقب بالحبس مدة لا تقل عن 6 أشهر، وغرامة لا تقل عن 3 آلاف جنيه، ولا تزيد على 5 آلاف جنيه، أو بإحدى هاتين العقوبتين كل من تعرض للغير في مكان عام أو خاص أو مطروق بإتيان أمور أو إيحاءات أو تلميحات جنسية أو إباحية سواء بالإشارة أو بالقول أو بالفعل بأية وسيلة بما في ذلك وسائل الاتصالات السلكية أو اللاسلكية، وفقا لقانون العقوبات المصري.

هؤلاء الضحايا لم يأخذن بالتحذيرات المستمرة من عدم نشر صورهن في غير الدائرة المقربة، ومحاولة الابتعاد عن مواقع التواصل الاجتماعي قدر الإمكان فيما يتعلق بنشر الصور، لذلك قمنا بالتواصل مع عدد من المتخصصين لتوضيح ماهية تلك التطبيقات وكيف تعمل، وما الذي يجعل الصور الناتجة عنها طبق الأصل؟

مهندس ذكاء اصطناعي: التطبيقات تعمل بالتعلم العميق

بداية، تحدثنا مع المهندس محمود الكومي، مهندس ذكاء اصطناعي مصري حاصل على جائزة جينيف للاختراعات لعامي 2021،2022، قال إن البرامج والتقنيات التي تقوم بتعرية الصور هي عبارة عن برامج وتطبيقات تستخدم تقنيات الذكاء الاصطناعي لإزالة الملابس من الصور أو إضافة أجزاء جسدية مفقودة، وهذه البرامج والتقنيات ليست دقيقة بنسبة 100% وقد تنتج صورًا غير واقعية أو مشوهة، كما أنها قد تنتهك خصوصية وحرمة الأشخاص الذين يظهرون في الصور، لذلك يجب استخدامها بحذر ومسؤولية.

وأوضح "الكومي" أن تلك التطبيقات تعتمد على تقنية التزييف العميق، والذي يعتمد على الشبكات العصرية الصناعية والتعلم العميق، وهي لا تنحصر في التطبيقات فقط بل أيضًا مواقع وبرامج أونلاين على جهاز الكمبيوتر، بالتالي أصبح من الصعب السيطرة عليه فيما يتعلق بمنع تلك التطبيقات، لكن ما نستطيع السيطرة عليه هو وعي الناس خاصة الفتيات وعدم وضع أي صور خاصة بها على مواقع التواصل الاجتماعي لأنه كلما زادت تلك الصور كلما زادت تغذية تقنيات الذكاء الاصطناعي باستخراج صور طبق الأصل مما يصعب تمييزها عن الحقيقية.

متخصص في السلامة الرقمية: من الصعب منع تلك التطبيقات

تحدثنا بعد ذلك إلى فهمي الباحث، متخصص في السلامة الرقمية، الذي أكد أن تلك التطبيقات متوفرة بشكل سهل، بالتالي فإن أي شخص قادر على استخدامها دون أي معوقات، مشيرًا إلى أن فكرة حجب أو منع تلك التطبيقات لم يعد تحديًا كبيرًا بعد انتشار برامج "في بي إن"، وكل ما نستطيعه هو تنبيه الناس قبل الوقوع في الفخ، فإن كانت تلك التطبيقات في الوقت الحالي غير معروفة على نطاق واسع من الناس وبعضها مدفوع فإن هذا لا يمنع خطرها.

ووجه "الباحث" عددًا من النصائح لتجنب الوقوع في فخ الابتزاز، بعدم الاستجابة أو التعامل مع أي مبتز يهدد بصور من هذا النوع، والإبلاغ عنه الجهات المختصة في حالة كانت هناك جهات مختصة رسمية تتعامل مع الابتزاز الإلكتروني أو المبادرات والمنظمات المختصة في حالات أخرى، ثانيًا توعية الأهل خاصة في المجتمعات المحافظة حول إمكانيات هذه التطبيقات وأنه ليس كل ما تشاهده من صور وفيديو بالضرورة أن يكون حقيقيًا، فنحن في عصر التزييف العميق والذكاء الاصطناعي، ثالثًا التخفيف من نشر الصور والفيديوهات الشخصية إن لم تكن قد نشرت مسبقًا، والاهتمام بالخصوصية والاقتصار على نشر الصور والفيديوهات على نطاق محدود مثلًا للأصدقاء فقط.

انتحار "بسنت" و"هايدي" بسبب الفبركة

القصص الأخيرة، هزت أرجاء مواقع التواصل الاجتماعي في وقتها، فقد كانت جرائم جديدة على مسامعنا، حيث أدى حدوثها إلى انتحار فتاتين، كلتاهما كانت في مرحلة الثانوية العامة.

في 3 يناير 2021، شهدنا واقعة الطالبة "بسنت خالد"، ابنة محافظة الغربية مركز كفر الزيات، والتي انتحرت بتناول حبوب الغلة السامة بعد ابتزازها بصور خليعة مفبركة قام أحد الشباب بتركيبها باستخدام أحد برامج تعديل الصور ونشرها على "فيسبوك"، وكانت آخر كلماتها مدونة في رسالة خطية تركتها لوالدتها، كتبت فيها: "ماما أرجو إنك تفهميني، دي صور متركبة.. والله العظيم وقسمًا بالله دي ما أنا.. أنا يا ماما مش البنت دي.. أنا يا ماما جالي اكتئاب بجد.. أنا مش قادرة أنا بتخنق، أنا تعبت".

وفي 18 من يناير من العام نفسه، أحالت النيابة العامة المتهمين إلى محكمة الجنايات، والتي قضت بمعاقبة المتهمين الخمسة بـالسجن 15 سنة لـ 3 متهمين، و5 سنوات لاثنين آخرين من المتهمين.

وفي الوقت ذاته من العام 2022، تكررت نفس الواقعة لكن في محافظة الشرقية، حيث عمدت "هايدي شحتة" إلى الانتحار بحبوب الغلة السامة أيضًا بعدما استغلت جارتها خلاف نشب بينهما، فقامت الجارة بتسريب صور للفتاة إلى شابين، قاما ببفبركة صور إباحية لها وأرسلوها لها وقاموا بتهديدها.

لم تحتمل "هايدي" تلك الصور، وخافت مصارحة أهلها فكان الحل بالنسبة لها هو الانتحار، وبحسب آخر تصريحات والدها، قال: "كان في تسجيل بصوت بنت قابلتها في الشارع قالتلها أنا لو منك أشرب سم وأموت، بنتي يوم ما اتوفت كانت طالعة من الامتحان، وأنا كنت مسافر برا، وخافت أما أنزل إجازة أشوف الصور دي، فخافت مني ومن أخوالها واتقدمت ببلاغ للنيابة، وجبت بنتي من مستشفى الجامعة في الزقازيق ودفناها".

• وفق دراسة أعدتها أمانة الصحة النفسية وعلاج الإدمان بوزارة الصحة المصرية، فإن شهدت مصر 2584 حالة انتحار خلال عام 2021، وفقًا لإحصائية صادرة عن مكتب النائب العام، وبحسب مرصد الأزهر فكان ضمن أسباب الانتحار الابتزاز الإلكتروني خاصة للفتيات خلال السنوات الماضية، حيث يتم تهديد الضحية بنشر صور، أو مقاطع فيديو، أو تسريب بيانات شخصية أو معلومات خاصة بها من أجل الحصول على مكاسب مادية أو إجبار الضحية على القيام بأعمال منافية للقيم والأخلاق، مما يدفع الفتاة إلى اعتبار أن الانتحار هو المخرج الوحيد من هذه الأزمة.

قصة بداية تعديل الصور ترويها "أنجيلينا جولي"

*حفاظًا على الخصوصية قامت "الدستور" بوضع أسماء مستعارة للضحايا.