ما الذى حدث مؤخرا وأدخل الرعب فى قلوب الكثيرين؟
هل الذكاء الاصطناعى غشاش؟
كيف يستعد العالم لما هو قادم؟

منذ حوالى ثلاث سنوات نشر كاتب هذه السطور مقالا بعنوان «الذكاء الاصطناعى تحت مقصلة الغباء الطبيعى» (بتاريخ 12 أغسطس 2023)، الذى جعلنى أتذكر هذا المقال هو التساؤل الذى يشغل الكثيرين هذه الأيام حول تهديد الذكاء الاصطناعى للبشرية، الكثير من البرامج يناقش والعشرات من المقالات تحلل، والشخص العادى لا يدرى أيخاف أم يحذر أم ماذا؟ فى مقالنا اليوم نعيد هذا التساؤل إلى السطح لكن فى ضوء الأحداث الحالية والتى أثارت مخاوف المدراء التنفيذيين للشركات التكنولوجية الكبرى، منذ مدة قصيرة طلب المدير التنفيذى لشركة (Anthropic) صانعة برنامج (Claude) الشهير للذكاء الاصطناعى التوليدى داريو أموداى فى مقال منشور على صفحته عدم التسرع فى تطوير برمجيات الذكاء الاصطناعى وأن تبطئ الشركات التكنولوجية من سرعة التطوير حتى يتسنى للبشر مراجعة عوامل الأمان، وقد وافقه سام ألتمان المدير التنفيذى لشركة (OpenAI) صانعة (ChatGPT) ووافقه إيلون ماسك صاحب منصة (X) وعدة شركات أخرى، جدير بالذكر أن جنسن هوانج المدير التنفيذى لشركة (NVIDIA) عارض هذا الاقتراح، وهذا مفهوم لأنه يتعارض مع مصلحة شركته التى تنتج الرقائق المستخدمة لبناء الحاسبات فائقة السرعة التى تحتاجها برمجيات الذكاء الاصطناعى. ماذا حدث مؤخرا وجعل المخاوف تظهر على السطح بقوة؟

• • •

ماذا حدث؟

القصة بدأت فى يوليو من هذا العام 2026، شركة (OpenAI) قررت عمل تجربة داخلية استخدمت فيها عدة مئات من وكلاء الذكاء الاصطناعى (AI agents)، قبل أن نكمل الحكاية أحب أن نشرح عبارة «وكلاء الذكاء الاصطناعى»، أغلبنا على علم ببرمجيات الذكاء الاصطناعى التى نتحدث معها، الوكلاء هم هذه البرمجيات نفسها لكن لها قدرة على القيام بعمليات خارج حدود الحديث، مثلا تطلب منها الدخول على جهازك وجمع ملفات عدة أبحاث وتلخيصها ووضع التلخيص فى ملف جديد، أو الدخول على الإيميل تبعك وتلخيص أهم النقاط بل والرد على بعضها، يمكن أن يكون عندك عدد من الوكلاء، أحدهم متخصص فى الإيميل وآخر لتلخيص ملفاتك وثالث لجمع الأخبار المهمة لك من الإنترنت.. إلخ.
نعود إلى تجربة شركة (OpenAI)، هى تجربة داخلية لقياس قدرات البرمجيات الجديدة للشركة والتى لم يتم بعد طرحها للناس، الشركة أطلقت عدة مئات من الوكلاء داخل بيئة برمجية داخلية، أى غير مسموح لهؤلاء الوكلاء بالاتصال بالإنترنت أو الاتصال ببعضهم البعض، وكلفت الشركة كل وكيل منهم بعمل عملية اختراق محدودة، وهى عمليات معقدة وبعضها مستحيل حتى ترى الشركة كيف سيتصرف الوكلاء، كل هذا يحدث تحت سيطرة الشركة.

بدون الدخول فى تفصيلات تقنية، حدثت مفاجأة، أولا تمكن الوكلاء من اكتشاف ثغرات فى البيئة البرمجية تمكنهم من الحديث مع بعضهم البعض ثم الدخول على الإنترنت، وعلى الإنترنت وصلت إلى موقع (HuggingFace) أكبر موقع فى العالم لبرمجيات الذكاء الاصطناعى (وقد تم مؤخرا الاستحواذ عليه من قبل شركة NVIDIA)، ثم بدأ هؤلاء الوكلاء استغلال ثغرات فى هذا الموقع للحصول على معلومات تساعدهم فى المهمة الأساسية التى طلبتها منهم شركة (OpenAI)، ليس هذا فقط لكن حاول كل وكيل تزوير محاضر العمل (وهى وسيلة تسجل كل العمليات التى قام بها كل وكيل) حتى لا ينكشف أمر الاختراق والتعاون.

ما تفسير كل ذلك؟

التفسير أن شركة (OpenAI)عندما طلبت من الوكلاء القيام بالمهمة لم تحدد طريقة القيام بها، وبالتالى وجد وكلاء الذكاء الاصطناعى أن الاختراق والتعاون هو أقصر وأسهل من القيام بالمهمة، كل على حدة، خاصة أن بعض المهمات المطلوبة كانت مستحيلة. إذا الموضوع ليس أن برمجيات الذكاء الاصطناعى شريرة وغشاشة وتحس أنها أفضل منا، الفكرة أن الأوامر البشرية فى العادة غير دقيقة وهى طبيعتنا الإنسانية.
إذا عندنا بالزمن إلى 2017 إلى تجربة قامت بها معامل أبحاث الذكاء الاصطناعى لشركة فيسبوك (أصبح اسم الشركة ميتا) حيث استخدمت برنامجين للذكاء الاصطناعى فى تجربة تفاوض على سلع، بعد مرور بعض الوقت وجد الباحثون أن البرنامجين أصبحا يتكلمان بلغة غريبة، وطبعا بدأت الصحف والمواقع تقول إن الذكاء الاصطناعى اخترع لغة جديدة حتى لا يفهمها البشر.. إلخ. التفسير أن الباحثين كانوا يريدون من البرنامجين أن يصلا إلى اتفاق سريع فى التفاوض، لكن لم يطلب الباحثون من البرمجيات المحافظة على قواعد اللغة السليمة، البرمجيات وجدت أن الوصول الى الاتفاق يكون أسرع باختصار بعض الكلمات وترديد كلمات أخرى، هذا كل ما فى الأمر.

بعد كل ذلك هل يجب أن نخاف؟

• • •

كيف نستعد؟

هناك تقنية فى الذكاء الاصطناعى تسمى (recursive self-improvement) أو «التحسين الذاتى المتكرر»، وهو أن تقوم برمجيات الذكاء الاصطناعى بتطوير نفسها، فهل يجب أن نخاف من ذلك؟ ليس بعد، لأن هذه التقنية ما زالت فى طور النظرية، وهناك سبب مهم لذلك، حتى يطور البرنامج نفسه يجب أن يعرف ماهية التطوير اللازم، وهذا شىء ما زال صعبا على الذكاء الاصطناعى لأنها لا تستطيع الإجابة عن الأسئلة المفتوحة مثل «كيف أتطور؟»، أيضا حتى تتطور تلك البرمجيات فهى تحتاج لأجهزة كمبيوتر أكثر قوة، فمن سيصمم ويصنع تلك الأجهزة؟ البشر طبعا.
إذا ما الذى يجب أن نحترس منه؟ عندما تتطور البرمجيات يجب أن يفحصها المتخصصون أولا للتأكد من عدم وجود أخطاء أو أخطار، لذلك التطوير يجب أن يكون بنفس سرعة البشر فى الفحص، وبالتالى يجب أن نبطئ من التطوير حتى يتسنى للبشر المراجعة والفحص وسن القوانين الحامية.
هل نضمن البطء؟ أم الغباء الطبيعى سينتصر؟

• • •

شركات الذكاء الاصطناعى الكبرى تسير بأقصى سرعة فى تطوير برمجياتها حتى لا يسبقها المنافسون، لكن لهذا مخاطره. تلك التكنولوجيا تمس كل شىء فى حياتنا تقريبا، وأيضا تزداد تعقيدا بسرعة أكثر من قدرة المتخصصين على فهمها، وهذا خطر.