كشفت تقارير تقنية حديثة عن وجود نقطة ضعف بارزة في التقنية الجديدة التي أطلقتها شركة “أوبن إيه آي” لتمييز النصوص الصادرة عن نموذج الذكاء الاصطناعي “شات جي بي تي”، والمعروفة باسم “تكست غراين”. وتعتمد هذه الأداة على إدراج علامات مائية خفية داخل النصوص المنشأة آلياً لسهولة التعرف عليها لاحقاً، غير أن الاختبارات أظهرت أن إجراء تعديلات بسيطة على النص المولد تؤدي إلى تعطيل آلية الكشف بشكل شبه تام، مما يضع كفاءة هذه التقنية على المحك ويطرح تساؤلات جادة حول قدرتها على الصمود أمام التعديلات البشرية العادية.
وتفيد المعلومات المتاحة بأن شركة “أوبن إيه آي” قيدت إطلاق أداة “تكست غراين” في النطاق الجغرافي لدول الاتحاد الأوروبي فقط، في محاولة منها للالتزام بالمهل الزمنية والمعايير التي يفرضها قانون الذكاء الاصطناعي الأوروبي الصارم. وأشارت البيانات الفنية إلى أنه في حال استبدال خمسة وعشرين في المئة فقط من كلمات النص، أي بمعدل كلمة واحدة من بين كل أربع كلمات، فإن نسبة دقة النظام في اكتشاف المحتوى المولد تنخفض بشكل حاد لتصل إلى سبعة عشر في المئة فقط، مما يجعل التعديلات اللغوية الطفيفة كافية للتحايل على أداة التتبع وإزالة أثرها التكنولوجي.
تكتسب هذه التطورات أهمية بالغة بالنظر إلى الضغوط التشريعية المتزايدة على شركات الذكاء الاصطناعي لإيجاد وسائل موثوقة تحد من انتشار المحتوى المضلل والانتحال الأكاديمي والانتهاكات الفكرية. وتوضح هذه النتائج حجم التحديات التقنية التي تواجه عمليات وسم المحتوى الرقمي، حيث يُتوقع أن تدفع هذه الثغرة شركة “أوبن إيه آي” والشركات المنافسة إلى تسريع الأبحاث لتطوير خوارزميات أكثر تعقيداً وقدرة على مقاومة التعديلات اللغوية، بما يضمن التوافق مع التشريعات الدولية الصارمة ويحمي البيئة الرقمية من التزييف.
المصدر: وكالات