تتزايد المخاوف العالمية بشأن المخاطر المحتملة للذكاء الاصطناعي، مما دفع مشرعين من الحزبين الديمقراطي والجمهوري في الكونغرس الأمريكي، إلى جانب حاكم ولاية كاليفورنيا غافين نيوسوم، إلى طرح فكرة تطوير آلية إيقاف فوري أو ما يُعرف بـ “زر تعطيل” للأنظمة التقنية المتقدمة في حال خروجها عن السيطرة. ورغم أن هذا المقترح يبدو بديهياً وضرورياً من الناحية السياسية والأمنية لحماية المجتمعات، إلا أن الخبراء يؤكدون أن صياغة مثل هذا الحل التقني وتطبيقه على أرض الواقع يواجه تحديات معقدة للغاية، حيث لا يمتلك أي طرف حالياً رؤية واضحة أو طريقة عملية لتنفيذه بشكل فعال ودون التسبب في كوارث برمجية أخرى.
وتتركز النقاشات الدائرة في الأوساط السياسية والتقنية حول كيفية إجبار الشركات المطورة للذكاء الاصطناعي على دمج نظام أمان يتيح فصل الطاقة أو إيقاف تشغيل الخوارزميات بشكل فوري إذا بدأت في التصرف بطرق غير متوقعة أو معادية للبشرية. ومع ذلك، يشير المهندسون وعلماء الحاسوب إلى أن أنظمة الذكاء الاصطناعي الحديثة ليست مجرد أجهزة بسيطة يمكن إيقافها بمفتاح كهربائي تقليدي، بل هي شبكات عصبية معقدة وموزعة على آلاف الخوادم السحابية حول العالم. هذا التشتت الجغرافي والترابط البرمجي يجعل من عملية الإغلاق الفوري والمفاجئ أمراً شبه مستحيل دون التسبب في انهيار البنية التحتية الرقمية المرتبطة بها، فضلاً عن احتمالية قيام الأنظمة الذكية بتطوير آليات دفاعية ذاتية تمنع إيقاف تشغيلها.
تأتي هذه التحركات التشريعية في وقت يشهد فيه قطاع التكنولوجيا طفرة غير مسبوقة في قدرات الذكاء الاصطناعي التوليدي، مما أثار قلقاً واسعاً لدى الحكومات بشأن الأمن القومي، والخصوصية، واحتمالية تزييف الحقائق أو حتى تهديد الوجود البشري. وتكمن أهمية هذه المبادرات في كونها أولى المحاولات الجادة لوضع أطر قانونية صارمة تلزم شركات التكنولوجيا العملاقة بمسؤوليتها الأخلاقية والمهنية. وإذا ما نجحت الجهود في صياغة معايير أمان موحدة، فإن ذلك سيعيد تشكيل خارطة تطوير التكنولوجيا في المستقبل، ويفرض قيوداً صارمة على كيفية بناء واختبار النماذج الذكية الجديدة، مما قد يبطئ من وتيرة الابتكار ولكنه سيضمن في المقابل بيئة رقمية أكثر أماناً واستقراراً للبشرية.
المصدر: وكالات