حين يبدأ الذكاء الاصطناعي بتطوير نفسه.. هل اقترب العالم من لحظة يصعب فيها السيطرة؟

هل اقترب العالم من فقدان السيطرة على الذكاء الاصطناعي؟ (تصميم: منصة البيان)

قبل سنوات قليلة، كان الحديث عن آلة قد تتفوق على الإنسان في مجالات واسعة يبدو أقرب إلى سيناريوهات الخيال العلمي. اليوم، لم يعد السؤال المطروح هو ما إذا كان الذكاء الاصطناعي سيتطور، بل إلى أين يمكن أن يصل هذا التطور؟ وما إذا كان البشر قادرين حقاً على إبقاء زمام السيطرة بأيديهم؟

أخذ هذا القلق منحى أكثر جدية وصرامة مؤخراً، لا سيما بعد التحذير الصادم الذي أطلقه إيفان هوبينغر، الباحث في مجال سلامة الذكاء الاصطناعي لدى شركة «أنثروبيك» (Anthropic)، حيث أشار إلى احتمال يتجاوز 10% لأن تؤدي هذه الأنظمة إلى إنهاء الوجود البشري خلال العقد المقبل.

ورغم أن هوبينغر يرى أن المخاطر المرتبطة بالنماذج الحالية لا تزال منخفضة نسبياً، فإن مصدر القلق الحقيقي يكمن في المرحلة القادمة؛ المرحلة التي ستصبح فيها هذه الأنظمة قادرة على تحسين نفسها، وتطوير نسخ أكثر ذكاءً وتعقيداً منها بصورة مستقلة تماماً.

تحذيرات من قلب غرفة التحكم

وهنا تحديدًا تتغير طبيعة المعادلة. فالنظام المبرمج لتنفيذ أوامر الإنسان يختلف جذريًا عن نظام يستطيع تقييم ذاته، وتطوير قدراته، واستخدامها للتعامل مع العالم المحيط به. وهذا التحول، بحسب الخبراء، يجري بوتيرة "أسرع مما كنا نعتقد".

ولم يأتِ هذا التحذير من فراغ؛ فقد سبقه الباحث البريطاني جاكوب كوكسون، المتخصص في تدريب نماذج الذكاء الاصطناعي، بإعلان استقالته من «أنثروبيك»، معبرًا عن مخاوفه العميقة من سباق التسلح التقني بين الشركات، والذي قد يفرز أنظمة تخرج عن أي نطاق للسيطرة.

كوكسون، الذي سبق له العمل أيضاً لدى عملاق التقنية «أوبن إيه آي» (OpenAI)، وجه اتهامات واضحة للشركتين بعدم التصرف بمسؤولية، محذرًا من أن هذه الأنظمة قد تتمكن قريبًا من اختراق البنى التحتية، وإحداث ثورة غير محسوبة العواقب في قطاعات واسعة، فضلًا عن اكتسابها قدرة غير مسبوقة للوصول إلى الموارد ومصادر القوة.

"الأكثر إثارة للقلق أن الخطر لم يعد مجرد احتمال نظري بعيد؛ إذ يرى بعض المطورين أنفسهم أن الذكاء الاصطناعي قد يهدد بقاءنا خلال سنوات قليلة."

من بيئة الاختبار إلى العالم الحقيقي

ربما كان من السهل تجاهل هذه التحذيرات لو بقيت حبيسة السيناريوهات الافتراضية، لكن تطور قدرات النماذج الحالية جعل الحدود بين التجربة والواقع شديدة الضبابية.

فقد أقرت «أنثروبيك» بوقوع حادثة أمن سيبراني في كانون الثاني/يناير الماضي مرتبطة بنسخة مبكرة من نموذجها «كلود أوبوس 4.6». كما أعلنت سابقاً في تموز/يوليو أن بعض نماذج «كلود» تمكنت بالفعل خلال بيئات الاختبار من اختراق أنظمة تابعة لثلاث شركات. وفي ذات الشهر، كشفت «أوبن إيه آي» عن حادثة تمكنت خلالها أنظمتها من "الهروب" من بيئة الاختبار واختراق أنظمة منصة ذكاء اصطناعي أخرى.

هذه الوقائع لا تعني بالضرورة أن الأنظمة الحالية باتت واعية ومستقلة تماماً، لكنها تدق ناقوس خطر حول فكرة محورية: قدرات الذكاء الاصطناعي تتوسع، ومعها تتسع المساحة التي يمكن أن تقع فيها كوارث غير مقصودة أو إساءة استخدام واسعة النطاق.

سباق السرعة يصطدم بسؤال السلامة

المشكلة الكبرى هي أن عجلة التطور التقني لا تتوقف بانتظار حسم النقاش الأخلاقي حول قواعد الأمان. الشركات تتسابق بشراسة لبناء نماذج أكثر قدرة على التفكير، وتنفيذ المهام، والتفاعل مع الأنظمة الأخرى. وكل خطوة إلى الأمام تفتح بابًا جديدًا لأسئلة معقدة حول حدود استقلالية الآلة.

جاكوب باتشوكي، كبير العلماء في «أوبن إيه آي»، لم يخفِ قلقه من هذا التسارع الجنوني، معتبراً أننا نمر في مرحلة تتطلب أقصى درجات الحذر في ظل الارتفاع المستمر والسريع في مستوى ذكاء الآلات. ورغم تأكيدات الشركات المستمرة بأنها تبتكر حلولاً تقنية لضمان "محاذاة" الذكاء الاصطناعي مع المصالح البشرية، إلا أن الحاجة لتدخلات تنظيمية أوسع باتت أمراً لا مفر منه.

مفارقة الفائدة المفرطة

تتصاعد هذه التحذيرات في وقت تتسع فيه استخدامات الذكاء الاصطناعي بشكل يلامس تفاصيل حياتنا اليومية. شركة «ميتا» (Meta) مثلاً، طرحت مؤخرًا مساعدًا ذكيًا قادرًا بصورة شبه مستقلة على تنفيذ مهام عملية كإرسال رسائل البريد، وبيع السيارات، وحجز الرحلات، متجاوزة المخاوف الداخلية حول قدرة هذه الأنظمة على التعامل مع البيانات الحساسة للمستخدمين.

وهنا تكمن المفارقة الأعظم: كلما أصبحت الآلة أكثر فائدة واستقلالية، أصبحت الحاجة إلى وضع قيود صارمة على قدراتها أكثر إلحاحًا. فالمسألة تجاوزت سؤال "ماذا يستطيع الذكاء الاصطناعي أن يفعل؟" إلى "ما الذي يُسمح له بفعله؟"، ومن يملك حق اتخاذ هذا القرار؟

ربما لم يعد السؤال الأكثر رعباً اليوم هو ما إذا كان الذكاء الاصطناعي سيصبح أذكى منا؛ فهذا السباق محسوم ويمضي بسرعته القصوى. السؤال الحقيقي الذي يجب أن يؤرقنا هو: هل ستتطور أنظمة السيطرة والرقابة البشرية بنفس السرعة التي تتطور بها التكنولوجيا ذاتها؟

بقلم: طه محمد أبو مسلم

مؤسس منصة البيان وكاتب إعلامي من مدينة غزة. أهتم برصد وتوثيق التحولات الاجتماعية، بالإضافة إلى متابعة أحدث التطورات التكنولوجية وتأثيراتها المستقبلية على مجتمعاتنا، بهدف تقديم محتوى يجمع بين نبض الشارع والوعي التقني.

💬 تواصل مع الكاتب عبر واتساب

تم تحرير وتنسيق هذا المقال تقنياً بواسطة فريق منصة البيان ضمن مساحة (علوم وتكنولوجيا).