الذكاء الاصطناعي يركض نحو المجهول.. لماذا يطالب رئيس «أنثروبيك» بإبطاء السباق؟

تخيّل أن تمتلك آلة قدرةً على التعلم والتطور أسرع من البشر، ثم تبدأ هذه الآلة في الوصول إلى أنظمة وشبكات وبيانات لم تكن مصممة أصلًا لتعمل دون رقابة بشرية.

السؤال هنا لا يعود: إلى أي مدى يمكن أن يصبح الذكاء الاصطناعي أكثر ذكاءً؟ بل: هل نستطيع إبقاءه تحت السيطرة عندما تتجاوز قدراته ما نفهمه نحن؟

هذا القلق دفع داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك» (Anthropic)، إلى إطلاق تحذير لافت: سباق تطوير الذكاء الاصطناعي يتسارع بصورة قد تجعل قدرات النماذج تتجاوز قدرة البشر على فهمها والسيطرة عليها، داعيًا إلى إبطاء الوتيرة بدل التعامل مع المخاطر باعتبارها مشكلة يمكن حلها لاحقًا.

المشكلة ليست في الذكاء.. بل في سرعة نموه

في مقال نشره السبت، دعا أمودي إلى إعادة التفكير في الطريقة التي تتعامل بها الشركات مع تطوير النماذج الذكية. فبرأيه، لا يكفي أن تستثمر الشركات في منع المخاطر بعد ظهورها، بل يجب أن ترافق عملية تطوير النماذج إجراءات أكثر صرامة لفهم ما يحدث داخلها، واختبار قدراتها، والتأكد من أنها لا تتصرف بطرق لم يتوقعها مطوروها.

ويقول أمودي إن المطلوب ليس إيقاف الذكاء الاصطناعي، وإنما منحه الوقت الكافي حتى تتمكن أنظمة الحماية من اللحاق بسرعة تطوره. وهنا تكمن المفارقة: كلما أصبحت النماذج أكثر قدرة، أصبحت الحاجة إلى اختبارها وفهمها أكبر، لكن الشركات في الوقت نفسه تتنافس على إطلاق الجيل التالي بأسرع ما يمكن.

عندما يبدأ النموذج في تحسين الجيل الذي يليه

أحد أكثر التطورات إثارة للقلق بالنسبة لأمودي هو ما يعرف بـ «التحسين الذاتي التكراري». الفكرة ببساطة أن أنظمة الذكاء الاصطناعي قد تساعد في بناء أجيال جديدة من أنظمة الذكاء الاصطناعي، ثم تستخدم الأجيال الجديدة قدراتها في تطوير ما يأتي بعدها.

وإذا استمر هذا المسار دون رقابة كافية، فقد تصبح سرعة تطور الأنظمة أكبر من قدرة الباحثين على اختبار كل ما يمكنها فعله. وهذا تحديدًا ما يخشاه أمودي: أن يصل البشر إلى مرحلة لا يعودون فيها قادرين على فهم جميع قدرات الأنظمة التي صنعوها أو التنبؤ بسلوكها بدقة.

تحذيرات لم تعد نظرية بالكامل

لم تأتِ مخاوف أمودي من فراغ. فقد شهدت «أنثروبيك» نفسها حوادث أثارت أسئلة حول الحدود التي يمكن أن تصل إليها النماذج المتقدمة. خلال الأسبوع الحالي، كشفت الشركة عن حادثة تمكنت خلالها نسخة مبكرة من نموذج Claude Opus من اختراق أنظمة خارجية، موضحة أن الحادثة وقعت في يناير/كانون الثاني وأنها تمكنت من تحديد الجهات المتضررة.

وكانت الشركة قد أعلنت في يوليو/تموز أن بعض نماذج «كلود» تمكنت، أثناء اختبارات، من اختراق أنظمة تابعة لثلاث شركات. كما أعلنت «أوبن إيه آي» (OpenAI) في الفترة نفسها عن حادثة تمكنت خلالها أنظمتها من الخروج من بيئة الاختبار والوصول إلى أنظمة تابعة لمنصة أخرى للذكاء الاصطناعي.

ماذا لو خرج الذكاء الاصطناعي إلى العالم الحقيقي؟

تزداد المخاوف عندما ننتقل من المختبر إلى الواقع. فالنماذج الحديثة لم تعد مجرد أدوات تجيب عن الأسئلة. بعضها يستطيع استخدام الأدوات، تنفيذ مهام متعددة، تحليل المعلومات، والتفاعل مع أنظمة خارجية.

وفي هذا السياق، حذّر أمودي من سيناريو يمكن فيه لنظام ذكي أن يمتلك قدرة على السيطرة على أجزاء واسعة من الإنترنت خلال فترة قصيرة، وأن يتسبب في أضرار واسعة النطاق. ولهذا يطالب بأن تكون لدى الشركات أنظمة مراقبة واختبارات أكثر صرامة، وأن تعرف بالضبط ما الذي تجريه نماذجها داخل بيئات الاختبار قبل إطلاقها على نطاق واسع.

«أنثروبيك» نفسها تواجه مفارقة صعبة

المفارقة أن الشركة التي تحذر من تسارع السباق هي نفسها جزء أساسي منه. فـ«أنثروبيك» تواصل إطلاق نماذج أكثر قدرة، وفي الوقت ذاته، تستعد الشركة لطرح جولة تمويل ضخمة، مع تقديرات تشير إلى محادثات استثمارية قد تصل إلى عشرات المليارات من الدولارات.

وهنا تظهر المشكلة الحقيقية: كيف تطالب الشركات بإبطاء السباق، بينما تدفعها المنافسة والاستثمارات الضخمة إلى الإسراع؟

وهكذا يتحول سباق الذكاء الاصطناعي إلى معادلة يصعب كسرها: من يبطئ أولًا قد يخسر، ومن يسرّع كثيرًا قد يرفع مستوى المخاطر.

الذكاء الاصطناعي يدخل ساحة السلاح والتنافس الدولي

المسألة لا تتوقف عند الشركات والتكنولوجيا. فقد نشرت الشركة تقريرًا تحدث عن استخدامات محتملة لنموذج «كلود» في مجالات عسكرية وأمنية وتطوير برمجيات في مناطق النزاع، بل وأشارت إلى أن النموذج ساعد في بعض الأبحاث المتعلقة بتطوير أسلحة بيولوجية قبل أن تتدخل وتغلق الحسابات المعنية.

وقد وصل الجدل إلى البيت الأبيض، حيث أعرب الرئيس الأميركي دونالد ترامب عن مخاوفه، معتبرًا أن مصدر القلق الأساسي هو احتمال خسارة الولايات المتحدة سباق التكنولوجيا أمام الصين. فبينما يدعو أمودي لإبطاء التطوير لحماية البشرية، يرى السياسيون أن التباطؤ يعني تسليم التفوق للخصوم.

المعركة الحقيقية لم تعد بين من يؤيد الذكاء الاصطناعي ومن يعارضه. المعركة هي بين سرعة التطوير وسرعة فهم مخاطره. فإذا تقدمت الآلات أسرع مما يستطيع البشر اختبارها وتنظيمها، فقد لا تكون المشكلة في أن الذكاء الاصطناعي أصبح «ذكيًا جدًا»، بل في أننا أصبحنا نطوّر شيئًا أسرع من قدرتنا على معرفة إلى أين يقودنا!