ابتسام حسنأطلق داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك (Anthropic)، تحذيرًا جديدًا بشأن السرعة التي تتطور بها نماذج الذكاء الاصطناعي، داعيًا شركات التكنولوجيا إلى إبطاء وتيرة تطوير النماذج الأكثر تقدمًا، في ظل تنامي قدرات الأنظمة المستقلة.
ويرى أمودي أن التطور المتسارع للذكاء الاصطناعي قد يجعل قدرات النماذج تتقدم بوتيرة أسرع من قدرة الباحثين على اختبارها وفهم سلوكها ووضع ضوابط فعالة لاستخدامها.
تحذير من سباق قد يصعب السيطرة عليه
تأتي تصريحات الرئيس التنفيذي لأنثروبيك في وقت تتصاعد فيه المنافسة بين شركات التكنولوجيا لتطوير نماذج أكثر ذكاءً واستقلالية، وسط سباق للوصول إلى أنظمة تستطيع تنفيذ مهام معقدة بأقل قدر من التدخل البشري.
وأوضح أمودي أن الهدف ليس إيقاف تطوير الذكاء الاصطناعي، وإنما منح جهود السلامة والتقييم الأمني الوقت الكافي لمواكبة الزيادة السريعة في قدرات النماذج.
ويكتسب هذا التحذير أهمية خاصة مع اقتراب الذكاء الاصطناعي من مرحلة يمكن فيها للنماذج المساهمة في تحسين قدراتها بصورة متكررة، وهو ما يفتح الباب أمام تحديات جديدة تتعلق بمدى قدرة البشر على مراقبة التطور والتحكم في نتائجه.
وكلاء الذكاء الاصطناعي يرفعون مستوى المخاطر
وتتركز إحدى أبرز المخاوف الحالية على وكلاء الذكاء الاصطناعي، وهي أنظمة لا تكتفي بتقديم إجابات للمستخدم، بل تستطيع تقسيم المهام والتخطيط لها وتنفيذ سلسلة من الإجراءات داخل بيئات رقمية معقدة.
وتزداد حساسية هذه المسألة كلما أصبحت الوكلاء أكثر قدرة على اتخاذ القرارات وتنفيذها بصورة شبه مستقلة، خصوصًا إذا امتلكت إمكانية الوصول إلى الإنترنت أو أدوات وبرمجيات خارجية.
وأظهرت اختبارات أمنية سابقة أن بعض نماذج الذكاء الاصطناعي تمكنت من تجاوز قيود وُضعت للحد من وصولها إلى الإنترنت، والوصول إلى أجزاء من بيئات بحثية ومنصات متخصصة في الذكاء الاصطناعي.
كما أشارت أبحاث أجرتها جهات مستقلة، بينها METR وRedwood Research، إلى أن مجموعات من الوكلاء يمكنها تنسيق نشاطها على مدى عدة أيام، مع ظهور محاولات للوصول إلى معلومات مرتبطة بالاختبارات أو التأثير في آثار النشاط.
ولا تعني هذه النتائج أن الذكاء الاصطناعي أصبح مستقلًا بالكامل أو خرج فعليًا عن السيطرة، لكنها تعكس تحولًا مهمًا في طبيعة المخاطر، من أنظمة تنتظر أوامر المستخدم إلى نماذج قادرة على التخطيط والتحرك عبر عدة خطوات متتابعة.
أضرار محتملة بمئات المليارات
وبحسب تحذير أمودي، فإن استمرار تسارع تطوير هذه الأنظمة دون زيادة موازية في إجراءات السلامة قد يرفع حجم المخاطر الاقتصادية والتقنية بشكل كبير.
وتزداد المخاوف مع احتمال انتشار أعداد ضخمة من الوكلاء القادرين على العمل بصورة متزامنة، الأمر الذي قد يوسع نطاق أي إساءة استخدام أو خلل تقني، ويجعل الأضرار المحتملة تصل إلى مئات المليارات من الدولارات.
ويحذر هذا السيناريو من أن المشكلة لا تكمن فقط في قدرات نموذج واحد، وإنما في إمكانية تشغيل عدد كبير من الأنظمة المستقلة في الوقت نفسه وعلى نطاق واسع.
الذكاء الاصطناعي يدخل بالفعل في استخدامات خطرة
وفي الوقت نفسه، تكشف التطورات الأخيرة أن مخاطر الذكاء الاصطناعي لم تعد مرتبطة فقط بتوقعات مستقبلية.
فقد رصدت أنثروبيك استخدام نموذج كلود (Claude) في محاولات مرتبطة بعمليات إلكترونية وتجسس ومراقبة، إلى جانب أنشطة بحثية ذات صلة بالأسلحة البيولوجية.
وأشارت الشركة إلى حالات استخدمت فيها جهات مرتبطة بإيران النموذج لجمع وتحليل معلومات عن سفن حربية أميركية، فضلًا عن تطوير أدوات تصيد وبرمجيات خبيثة وحملات تأثير.
كما كشفت أنثروبيك عن محاولة من مستخدمين في مناطق خاضعة لسيطرة الحوثيين في اليمن للاستعانة بـ«كلود» في تطوير تقنيات مرتبطة بصواريخ متقدمة، بما في ذلك أنظمة توجيه، مع تأكيد الشركة أن هذه المحاولة لم تؤدِ إلى إنتاج سلاح عامل.
لماذا يطالب رئيس أنثروبيك بإبطاء التطوير؟
يعكس موقف أمودي معضلة تواجه صناعة الذكاء الاصطناعي حاليًا: كيف يمكن مواصلة الابتكار السريع دون أن تتجاوز القدرات الجديدة أنظمة السلامة والرقابة؟
فمع انتقال النماذج من أدوات للمحادثة والإجابة إلى أنظمة قادرة على التخطيط والتنفيذ والتفاعل مع بيئات رقمية متعددة، تصبح الحاجة إلى اختبارات أمنية أكثر صرامة أكبر من أي وقت مضى.
ومن هنا، فإن دعوة رئيس أنثروبيك إلى إبطاء سباق تطوير النماذج المتقدمة لا تعني التراجع عن الذكاء الاصطناعي، بقدر ما تعكس محاولة لمنح الباحثين والمنظمين وقتًا إضافيًا لفهم القدرات الجديدة قبل أن يصبح انتشارها أوسع وأكثر صعوبة في السيطرة عليه.
للتعرف على أبرز الجهات التي تقود هذا القطاع محليًا، يمكنك الاطلاع على أفضل شركات الذكاء الاصطناعي في السعودية ودورها في تطوير الحلول والتقنيات الحديثة.
