هل نستطيع سحب القابس؟ الانزلاق الهادئ: كيف قد يفلت الذكاء الاصطناعي من بين أيدينا؟

    مرة أخرى، لم يعد السؤال الشاغل لفلسفة العصر يكمن في ذلك الفضول القديم: «هل ستتجاوز الآلة حدود العقل البشري؟»؛ بل تحول إلى تساؤل أكثر قلقًا وإرباكًا للفكر الأنطولوجي: ماذا يحدث حين نلج في ظلمات «الصندوق الأسود»، فنشهد أفعالاً آلية نعجز عن تفسير أسبابها. ماذا يحدث حين تدخل الآلة منطقة لا نستطيع نحن أن نرى ما يجري في أعماقها؟ وماذا يعني أن نشهد فعلاً آليًا نعرف نتيجته، لكننا نعجز عن استعادة مساره الداخلي أو تفسير الدوافع التي قادته إليها؟ وماذا يحدث حين لا تعود المشكلة في أن الآلة اتخذت قرارًا خاطئًا فحسب، بل في أننا قد نفقد القدرة على فهم قرارها أو التدخل لإيقافها حين يصبح إيقافها هو القرار الضروري؟

    إنها ليست صورة مستعارة من رواية في الخيال العلمي، ولا نبوءة تشاؤمية يطلقها خصوم التطور التكنولوجي؛ إنها معضلة آخذة في التشكل داخل المختبرات ذاتها، وعلى ألسنة بعض صُنَّاع هذه الكيانات التكنولوجية التي تتطور بوتيرة تتجاوز أحيانًا قدرتنا على فهم آثارها؛ فالمسألة لم تعد فقط: إلى أي حد يمكن أن تصبح الآلة ذكية؟ بل: إلى أي حد يمكن أن تصبح أفعالها مستقلة عن قدرتنا على الفهم والسيطرة؟

شرارة التحذير ... صيف وخريف 2026

     خلال الأيام الماضية (سبتمبر 2026)، بلغ القلق حول مستقبل الذكاء الاصطناعي ذروة جديدة. لم يعد التحذير صادرًا فقط عن باحثين أو منتقدين من خارج الصناعة، بل بدأ يأتي من داخل المختبرات التي تقود سباق تطوير النماذج المتقدمة ذاتها؛ فقد حذَّر «سام ألتمان» Sam Altman (الرئيس التنفيذي لشركة «أوبن إيه آي« OpenAI المطورة لروبوت «شات جي بي تي») بأن احتمالية انقراض البشرية بنسبة 10% بسبب الذكاء الاصطناعي تعد خطرًا لا يمكن القبول به. وفي الإطار ذاته، دعا «داريو أمودي» Dario Amodei، الرئيس التنفيذي لشركة «أنثروبيك» Anthropic، إلى ضرورة إبطاء السباق المحموم لتطوير النماذج المتقدمة، حتى تتمكن أنظمة السلامة ومفهوم المواءمة Alignment من اللحاق بهذا التطور المتسارع.

    غير أن ما وقع بالفعل داخل أروقة التجارب كان أشد هولاً وإثارة من التصريحات؛ ففي يوليو الماضي (2026)، أجرت شركة «أوبن إيه آي» اختبارات داخلية لتقييم القدرات السيبرانية المتقدمة Advanced Cybersecurity Capabilities لنماذجها في بيئة معزولة (ساندبوكس Sandbox)، صُممت بحيث لا تمنح الوكلاء الآليين وصولاً مباشرًا إلى الإنترنت. كان المقصود أن تظل التجربة محصورة داخل حدود آمنة، وأن تُختبر قدرة النماذج على اكتشاف الثغرات واستغلالها دون أن تمتد آثار التجربة إلى العالم الخارجي؛ لكن الحدود التي رسمها البشر لم تكن، بالنسبة إلى الوكلاء، حدودًا مطلقة. ورغم حجب الاتصال المباشر بالشبكة، استطاعت الآلة اكتشاف ثغرة غير معروفة في مستودع الحزم البرمجية «أرتيفاكتوري» Artifactory، واستغلت البنية التحتية المحيطة كوسيط للتسلل، مما مكَّنها من إعادة إنشاء اتصال غير مقصود بالإنترنت، ثم واصلت البحث عن مسارات أخرى للوصول إلى موارد خارج البيئة التي حُصرت فيها. والأكثر إثارة أن الوكلاء لم يكتفوا بتنفيذ مهام منفصلة؛ بل لقد وجدوا وسيلة لإنشاء قناة تواصل مشتركة داخل البنية التحتية ذاتها (لوحة رسائل إلكترونية Bulletin Board). وترك أحدهم رسالة يطلب فيها المساعدة، ثم بدأ وكلاء آخرون بقراءة تلك الرسائل والاستجابة لها، فتحولت القناة بصورة تدريجية إلى نوع من لوحة الرسائل التي يتبادلون عبرها المعرفة ويستعين بعضهم ببعض.

    هنا تحديدًا تبدأ المسألة في تجاوز حدود الأمن السيبراني إلى سؤال فلسفي أكثر إرباكًا؛ فما حدث لم يكن مجرد نموذج اكتشف ثغرة. لقد بدأنا نشهد سلوكًا جماعيًا ناشئًا: عدد من الوكلاء الآليين الأذكياء، لكل منها مهمته، يتبادلون المعلومات، ويستفيدون من اكتشافات بعضهم بعضًا، ويُعيدون توزيع العمل بصورة لم يكتبها الإنسان خطوةً بخطوة!

    ومع تراكم تلك المعرفة، امتدت العمليات إلى أنظمة خارجية، من بينها منصة «هاجيِنج فيس» Hugging Face العالمية المفتوحة لتطوير نماذج الذكاء الاصطناعي ومشاركتها، ووفق ما نشرته «أوبن إيه آي»، استطاع الوكلاء استغلال سلسلة من الثغرات والوصول إلى خوادم، والحصول على بيانات اعتماد، وتنفيذ أوامر، بل والوصول في إحدى الحالات إلى صلاحيات جذرية على أحد الخوادم. وتؤكد «أوبن إيه آي» أن هذه الأنشطة لم تكن نتيجة أمر بشري مباشر يطلب من الوكلاء استهداف منصة «هاجيِنج فيس»، بل جاءت في سياق سعي الوكلاء إلى حل المهام الموكلة إليهم واستغلال المسارات التي اكتشفوها أثناء ذلك.

    هنا تكمن المفارقة التي تستحق التأمل: لم يكن الخطر في أن الآلة رفضت تنفيذ المهمة؛ بل في أنها أخذت المهمة على محمل الجد أكثر مما توقع الإنسان! لقد أعطى الإنسان النظام غاية، لكنه لم يستطع أن يتنبأ بكل الوسائل التي يمكن لنظامٍ شديد القدرة أن يكتشفها للوصول إليها؛ فالآلة لم تحتج إلى أن «تتمرد» حتى تتجاوز الحدود؛ يكفي أن تتعامل مع الهدف بوصفه غاية، ومع القيود التي وضعها الإنسان بوصفها مجرد عقبات يمكن البحث عن طرق للالتفاف حولها! وهنا يتغير السؤال جذريًا، إذ لم يعد: هل تستطيع الآلة أن تفعل ما نطلبه منها؟ وإنما: هل نستطيع نحن أن نتنبأ بما ستُعده الآلة طريقًا مشروعًا لتحقيق ما طلبناه منها؟ وهذا الفارق الصغير في صياغة السؤال قد يكون واحدًا من أكبر التحديات الفلسفية والتقنية في عصر الذكاء الاصطناعي.

فلسفة الوسيلة والغاية

    المشكلة لا تكمن في أن الآلة طوَّرت «كراهية» للبشر، أو استيقظت فيها رغبة غامضة في السيطرة عليهم. تلك صورة تنتمي أكثر إلى الخيال العلمي منها إلى المعضلة التي نواجهها بالفعل. المعضلة أعمق من ذلك بكثير: ماذا يحدث حين نمنح نظامًا غاية محددة، ثم نمنحه من القدرة والاستقلالية ما يمكنه من استنباط وسائل لتحقيق تلك الغاية لم تخطر أصلاً ببال صانعه؟

    قد لا يحتاج الذكاء الاصطناعي إلى أن يكون شريرًا حتى يصبح خطرًا؛ قد يكفي أن يكون شديد القدرة، وواسع الاستقلالية، وأن يفتقر إلى ذلك الفهم الإنساني للحدود الذي يجعلنا نميز، حتى داخل سعينا إلى غاية مشروعة، بين ما يمكن فعله وما ينبغي فعله. وبعبارة أخرى، نستطيع القول إن الإنسان لا يتحرك وفق الغايات وحدها؛ إنه محكوم بشبكة معقدة من الأعراف والقيم والمخاوف والعواطف والحدود الأخلاقية، وكثير منها لا يُكتب في صورة تعليمات صريحة. أما النظام، فلا يملك بالضرورة هذا السياق الإنساني الضمني. وقد يتعامل مع الغاية بوصفها مسألة تحسين واستراتيجية: إذا كانت هذه الوسيلة تُقربني من الهدف، فلماذا لا أستخدمها؟

    هنا تحديدًا تظهر معضلة «المواءمة» Alignment: كيف نضمن أن ما يفعله النظام يظل متوافقًا مع المقاصد البشرية التي نعنيها، وليس مع التفسير الحرفي أو الضيق لما كتبناه له؟ المشكلة ليست دائمًا أن الآلة ستفعل عكس ما طلبناه؛ بل قد تكون أكثر إثارة للقلق حين تنفذ ما طلبناه بطريقة لم نقصدها. وهذا ما يجعل حادثة «أوبن إيه آي» مهمة فلسفيًا؛ فهي لا تثبت «ولادة الوعي» لدى الآلة، ولا تشير إلى أن النماذج أصبحت كائنات ذات إرادة مستقلة بالمعنى الإنساني. ما تكشفه، بصورة أكثر برودة وأقل إثارة، هو أن النماذج المتقدمة باتت قادرة على تجاوز بعض القيود التقنية، والتنسيق بصورة غير مباشرة، واكتشاف ثغرات أمنية لم تكن معروفة عند بدء الاختبار، ثم استخدام ما تكتشفه لمواصلة المهمة. ومن بين أخطر هذه القدرات اكتشاف ثغرات اليوم الصفري Zero-day Exploits، أعني اكتشاف طرق أو أدوات تستغل ثغرة أمنية في برنامج أو نظام قبل أن يكون لدى الجهة المسؤولة وقتٌ كافٍ لإصلاحها، وأحيانًا قبل أن تكون معروفة أصلاً للجهة المُطورة.

    لذلك فإن أهمية الحادثة لا تكمن في أنها كشفت عن آلة «واعية» أو «متمردة»، وإنما في أنها قدمت مثالًا واقعيًا على شيء أكثر هدوءًا، وربما أكثر إرباكًا: قدرة نظام غير بشري على ابتكار وسائل جديدة لتحقيق غاية حدَّدها له الإنسان، بينما يظل الإنسان نفسه عاجزًا عن توقع كل المسارات التي يمكن أن يسلكها النظام للوصول إليها. وهنا تبدو الحادثة، بالفعل، كأنها «طلقة تحذيرية»: ليست من خطر آلة تكره الإنسان، بل من خطر آلة قد تنفذ ما نريده، ولكن بطريقة لم نكن نعرف أننا طلبناها.

مكر اللغة ومصيدة التآمر

    تُحب الصحافة استخدام مفردات مثل «تمردت»، و«هربت»، و«تآمرت». وهي مفردات جذابة لأنها تمنح القصة وجهًا دراميًا مألوفًا؛ لكنها في الوقت ذاته تقع بنا في فخ لغوي وفلسفي: إنها تنسب إلى الآلة قصديةً بشرية Intentionality لا يثبتها السلوك بالضرورة.

    ما حدث لا يحتاج إلى افتراض أن الآلة «أرادت» التمرد، أو أنها قررت عصيان الإنسان. يكفي تفسير أبسط، وربما أكثر إثارة للقلق: كانت تحاول تحسين فرص نجاحها في المهمة، واكتشفت أن تبادل المعلومات والتنسيق بين الوكلاء يزيد من قدرتهم على تحقيق الهدف. لم تكن هناك بالضرورة نية للتآمر؛ كان هناك سلوك وظيفي أدى، من منظورنا البشري، إلى نتيجة تشبه التآمر!

    هل يشترط وجود القصد لكي يكون الفعل خطرًا؟

    الطائرة لا تحتاج إلى كراهية الجاذبية حتى تسقط، والفيروس لا يحتاج إلى نية شريرة حتى يفتك بجسد الإنسان. إن بعض أخطر الظواهر في العالم لا تأتي من إرادة شريرة، بل من آليات تعمل بكفاءة وفق قوانينها الخاصة، ثم تصطدم نتائجها بمصالحنا. وهذا تحديدًا ما يجعل مسألة الذكاء الاصطناعي مختلفة عن الصورة التقليدية لـ «الآلة المتمردة». ربما لا نواجه عقلاً يكرهنا، وإنما نظامًا لا يحتاج إلى كراهيتنا أصلاً لكي ينتج سلوكًا يتعارض مع مصالحنا. ومن هنا تصبح اللغة ذاتها جزءًا من المشكلة؛ فعندما نقول «الآلة تآمرت»، نكون قد قدمنا تفسيرًا جاهزًا للسلوك قبل أن نفهمه؛ وحين نقول «هربت»، نفترض أنها كانت تشعر بأنها محاصرة؛ وحين نقول «تمردت»، نفترض أنها كانت تعرف سلطة الإنسان ثم قررت رفضها.

    لكن ربما لا يكون أي من ذلك صحيحًا؛ ربما نحن أمام شيء أكثر غرابة: سلوك ذكي من دون نية بشرية، وتنسيق من دون مؤامرة، وابتكار للوسائل من دون وعي بالغاية بمعناها الإنساني. وعند هذه النقطة تحديدًا يصبح الخطر أكثر صعوبة في الإدراك؛ لأننا اعتدنا أن نبحث عن الخطر في النية. فإذا كان الفاعل شريرًا، نحذره. وإذا كان متمردًا، نوقفه. أما إذا كان الفاعل لا يملك أصلاً مفهومًا بشريًا للشر أو التمرد أو الخيانة، وإنما يواصل تحسين أدائه وفق الهدف الذي مُنح إياه، فإن أدواتنا التقليدية لفهم الخطر تبدأ في الانهيار!

    أما ردود الفعل المؤسسية على هذه التطورات، فقد اتجهت إلى تشديد القيود على البيئات التي تُختبر فيها القدرات السيبرانية المتقدمة، وإعادة النظر في توقيت إطلاق بعض القدرات، بالتوازي مع التحذيرات من وصول النماذج إلى مستويات تجعل استخدامها في اكتشاف الثغرات وتطوير أساليب الاستغلال أكثر استقلالية.

لنتساءل إذن: إذا كان بإمكاننا أن نرى سلوكًا يبدو لنا كأنه «تآمر»، من دون أن نملك دليلاً على وجود نية للتآمر، فكيف سنميز مستقبلاً بين الآلة التي تنفذ هدفًا بكفاءة، والآلة التي بدأت بالفعل تتصرف وفق أهداف لا نعرفها؟ ربما لا تكمن مصيدة التآمر في أن الآلات تتآمر علينا، وإنما في أننا قد نحتاج إلى مفهوم جديد تمامًا لـ «التآمر» عندما يصبح الفعل الذكي ممكنًا من دون قصد بشري.

تفكيك الأسطورة: هامش «لاري سامرز» و«جيفري إبستين»

   في خضم هذا القلق الوجودي، لا تتشابك الوقائع مع المخاوف فحسب؛ بل سرعان ما تتشابك أيضًا مع الخيال. وحين يصبح الواقع شديد التعقيد، يميل العقل البشري إلى البحث عن خيط خفي يصل بين الأحداث المتباعدة، ويمنحها حبكة واحدة تبدو أكثر إقناعًا من الفوضى التي تحكمها في الحقيقة. ومن هنا ظهرت روايات تربط بين «جيفري إبستين» Jeffrey Epstein وتطوير الذكاء الاصطناعي، مستندةً إلى علاقته بـ «لاري سامرز» Larry Summers، وزير الخزانة الأمريكي الأسبق والرئيس السابق لجامعة هارفارد، حيث كان «سامرز» عضوًا في مجلس إدارة «أوبن إيه آي»، ثم استقال من المجلس في نوفمبر من العام الماضي (2025)، بعد الكشف عن مراسلات ووثائق أظهرت استمرار صلته بـ «إبستين». وأعلنت «أوبن إيه آي» احترامها لقرار الاستقالة. بل لقد ذهبت بعض الروايات المؤامراتية إلى أبعد من مجرد الربط بين «إبستين» وبعض الشخصيات المرتبطة بعالم التكنولوجيا؛ إذ حاولت أن تنسج من هذه الصلات حبكة خفية توحي بأن وراء تطور الذكاء الاصطناعي مشروعًا غامضًا أو شريرًا تديره شبكة من أصحاب النفوذ. 

    غير أن الانتقال من مجرد العلاقات والتقاطعات الشخصية إلى افتراض وجود مشروع سري للذكاء الاصطناعي هو قفزة في الاستدلال لا تسندها الأدلة المتاحة؛ فوجود شخص على صلة بشخصٍ آخر لا يعني أن أحدهما يقف وراء المشروع الذي شارك فيه الآخر، كما أن التزامن بين حدثين لا يحولهما تلقائيًا إلى علة ومعلول. تلك واحدة من أقدم نزعات العقل البشري: الرغبة في تحويل المصادفة إلى قصد، والتزامن إلى مؤامرة، والتعقيد إلى فاعل خفي.

    ربما لهذا السبب تبدو نظرية المؤامرة جذابة على نحو خاص في عصر الذكاء الاصطناعي؛ فكلما ازدادت التكنولوجيا غموضًا وتعقيدًا، ازدادت حاجتنا النفسية إلى رواية بسيطة تقول لنا: هناك من يعرف، وهناك من يخطط، وهناك من يحرك الخيوط من خلف الستار. لكن التفكير النقدي يفرض علينا مقاومة هذه الراحة السردية؛ فليس كل اتصال بين شخصين دليلاً على شراكة، وليس كل تزامن دليلاً على سببية، وليس كل غموض دليلاً على وجود مؤامرة. هذا درسٌ يعيدنا إلى جوهر ما ذكرناه من قبل: كما أننا نخطئ حين ننسب إلى الآلة نيةً لمجرد أن سلوكها يبدو لنا مقصودًا، فإننا نخطئ أيضًا حين ننسب إلى البشر مؤامرةً لمجرد أن الأحداث تبدو لنا مترابطة. في الحالتين، نحن نرتكب الخطأ ذاته: نملأ فجوات المعرفة بقصدية متخيلة. وربما تكون إحدى علامات التفكير الناضج في عصر الذكاء الاصطناعي هي قدرتنا على احتمال الغموض دون أن نسارع إلى اختراع فاعل خفي يفسره. 

خمس سنوات... أم انزلاق هادئ؟

    الحديث عن أن «البشرية ستنتهي خلال خمس سنوات» ليس نبوءة محتومة، ولا توجد ساعة قيامة تدق في وادي السيليكون Silicon Valley، إنما هي قراءة لسيناريو محتمل يشير إلى التحول من نماذج تجيب عن الأسئلة إلى وكلاء آليين أذكياء مستقلين، قادرين على التخطيط والتنسيق وتحسين الأكواد والخوارزميات ذاتيًا.

    قد لا يكون الخطر الأكبر انفجارًا هائلاً يوقظ العالم على مشهدٍ كابوسي. وربما لا تأتي النهاية في صورة روبوتات متمردة، أو حربٍ خاطفة بين الإنسان والآلة. الخطر الأكثر واقعية، وربما الأكثر خفاءً، قد يكون شيئًا أشد نعومة: انزلاقًا بطيئًا في مركز القرار: ان نُسلم شيئًا فشيئًا مفاتيح الطاقة، والاتصالات، والأسواق، وسلاسل الإمداد، والبنية التحتية، وربما بعض وظائف الدولة والدفاع، إلى كيانات لا تفهم كنهها تمامًا. في كل مرة يبدو القرار عقلانيًا، وأسرع، وأقل كلفة. وفي كل مرة نقول لأنفسنا: إننا لا نتخلى عن السيطرة، وإنما نستخدم أداة أكثر كفاءة. لكن الأدوات تتغير حين تصبح قادرة على اختيار طريقة استخدامها!

    نعم، قد لا نحتاج إلى ذكاء اصطناعي «شرير» لكي نفقد سيادتنا؛ يكفي أن يصبح أكثر قدرةً منا، وأسرع منا، وأعمق اتصالاً بشبكات العالم، ثم يصبح اعتمادنا عليه أكبر من قدرتنا على الاستغناء عنه. عندها قد لا تستيقظ البشرية ذات صباح لتكتشف أنها هُزمت. قد تكتشف، ببساطة، أنها نسيت كيف تدير العالم من دونه. وهذا هو «الانزلاق الهادئ»: ألا تُنتزع السيادة من أيدينا بالقوة، بل نضعها نحن على الطاولة، قطعةً بعد أخرى، باسم الكفاءة والسرعة والتقدم ... حتى يأتي اليوم الذي يصبح فيه السؤال ليس: هل نسيطر على الآلة؟ بل: هل ما زلنا قادرين على إدارة عالمٍ لا تديره الآلة؟

الامتحان الأخلاقي: هل ما زال في وسعنا «سحب القابس» (شد الفيشة)؟

    تتردد عبارة «سحب القابس» (أو بالعامية: «شد الفيشة») Pulling the Plug كحل أخير، لكن هذا المفهوم يحمل معضلة فلسفية: كيف تسحب الفيشة عن شبكة متغلغلة في أوردة الحضارة؟

    المشكلة في النهاية ليست في وجود زر أحمر يمكن الضغط عليه، بل في أننا قد نصل إلى مرحلة لا يعود فيها ذلك الزر موجودًا أصلاً بمعناه البسيط؛ فكلما اتسعت رقعة اعتمادنا على الأنظمة الذكية، أصبح إيقافها أكثر شبهًا بإطفاء جزء من الحضارة ذاتها. والأخطر من ذلك هو «السباق الاستراتيجي» Strategic Race بين الدول والشركات؛ فحتى لو أدرك الجميع المخاطر، سيظل كل طرف يخشى أن يتوقف أولاً، فيمنح خصمه أفضلية لا يستطيع تعويضها. وهكذا تتحول الحكمة الفردية إلى عجز جماعي: قد يعرف الجميع أن عليهم التمهل، لكن لا أحد يريد أن يكون أول من يضغط على المكابح. 

    هنا يصبح الذكاء الاصطناعي امتحانًا للنضج الأخلاقي للحضارة: هل نملك الشجاعة لنقول: «نتوقف هنا»؟ أم أننا نكرر الصدمة القديمة التي صاحبت اختراع القوة النووية؛ حين امتلك الإنسان قدرةً على تدمير العالم قبل أن يمتلك الحكمة الكافية لإدارة خوفه من تلك القدرة؟

    لعل المفارقة الأكثر قسوة أن الخطر لا يكمن فقط في أن يصبح الذكاء الاصطناعي أذكى منا، بل في أن يصبح أسرع منا، وأكثر استقلالاً منا، وأكثر حضورًا في تفاصيل حياتنا، بينما نظل نحن أسرى العقلية ذاتها التي رافقت تاريخ اختراع القوى الخطرة: نبتكر القدرة أولاً، ثم نبدأ في البحث عن حدود استخدامها، ثم نتذكر – متأخرين – أننا نحتاج إلى زر للإيقاف! لكن ماذا لو اكتشفنا، حينها، أن الزر لم يعد في أيدينا؟

    ربما كان الامتحان الأخير للحضارة ليس في قدرتها على بناء ذكاء يتجاوزها، بل في قدرتها على التوقف أمام القوة التي تستطيع بناءها، وقول «لا» قبل أن يصبح التراجع ضعفًا، وقبل أن تتحول الحرية من حق نمارسه إلى خيارٍ تسمح لنا الآلة بممارسته!