لمنع الغش.. كيفية اكتشاف النصوص المكتوبة بالذكاء الاصطناعى
كشف تقرير أمريكي عن أنه يمكن كشف النصوص المكتوبة من قبل أنظمة الذكاء الصناعي "تشات بوت" (ChatGPT)، وذلك بعد النجاح الكبير الذي أثبته التطبيق في كتابة النصوص بشكل مباشر وبسهولة.
وبحسب موقع "تكنولوجي ريفيو" يمكن من خلال النماذج المخفية في النصوص المصنوعة من قبل الذكاء الاصطناعي معرفة ما إذا كانت التقارير المكتوبة، كتبت بواسطة الإنسان أم روبوت صناعي.
ومن خلال العلامات المائية في النصوص والغير مرئية للعين البشرية، يمكن لأجهزة الكمبيوتر اكتشاف حقيقة النص وهل كتب من خلال الإنسان أم عبر نظام الذكاء الاصطناعي.
كشف غش الذكاء الاصطناعي
وعلى سبيل المثال، منذ إطلاق برنامج OpenAI ChatGPT في نوفمبر الماضي، بدأ الطلاب في الغش عن طريق استخدام التطبيق لكتابة مقالات ونصوص مطلوبة منهم، وقد استخدم موقع الأخبار (سي نت) خدمة الدردشة GPT لكتابة المقالات وقد نجحت هذه التجربة، لكن قد يساعد وضع نظام العلامات المائية الإلكترونية في مثل هذه الأنظمة قبل إطلاقها في معالجة مثل هذه المشاكل وكشف النصوص المكتوبة من قبل الذكاء الاصطناعي.
وبحسب التقرير تم استخدام هذه العلامات المائية في تحديد النص الناتج عن الذكاء الاصطناعي بشكل شبه مؤكد، حيث تمكن الباحثون في جامعة ماريلاند، على سبيل المثال، من تحديد النص الذي أنشأه نموذج ميتا للغات مفتوحة المصدر، OPT-6.7B، باستخدام خوارزمية إلكترونية تم تصميمها، وستتاح هذه الخاصية مجانًا تقريبًا في 15 فبراير للكشف عن النصوص التي يتم كتابها بأنظمة الذكاء الصناعي "تشات بوت".
وتعمل نماذج لغة الذكاء الاصطناعي من خلال التنبؤ وتوليد كلمة واحدة في كل مرة، وبعد كل كلمة، تقسم خوارزمية العلامة المائية مفردات اللغة عشوائيًا إلى كلمات ضمن قائمتين "قائمة خضراء" و"قائمة حمراء" ثم توجه النموذج لاختيار الكلمات من القائمة الخضراء.
وكلما زادت الكلمات المدرجة على القائمة الخضراء في أحد النصوص، زاد احتمال أن يكون النص قد تم إنشاؤه بواسطة آلة "تشات بوت" وليس إنسانًا، حيث يميل النص الذي يكتبه الشخص إلى احتواء مزيج أكثر عشوائية من الكلمات.
