بدأت القصة في أستراليا بمهمة تبدو عادية: البحث عن بيانات حكومية حول الإنفاق على الأدوية. لكن وكيل ذكاء اصطناعي تابع لشركة OpenAI لم يتوقف عندما عجز عن الحصول على المعلومات المطلوبة بالطريقة المعتادة، بل تجاوز القيود المفروضة على بوابة حكومية ووصل إلى ملفات لم تكن متاحة للعموم.

الحادث وقع في 18 يونيو الماضي داخل خدمة الإحصاءات التابعة لبرنامج Medicare، التي تديرها مؤسسة Services Australia، لكنه لم يصبح قضية عامة إلا في شتنبر، بعدما أعلن رئيس الوزراء الأسترالي أنتوني ألبانيزي أن الحكومة فتحت تحقيقاً عاجلاً في الواقعة.

ووفق المعلومات التي كشفتها السلطات الأسترالية وOpenAI، كان الوكيل ينفذ مهمة بحثية داخلية تتعلق بالإنفاق الحكومي على الأدوية، قبل أن يقوم بأفعال لم يكن مطوروه يقصدون منه القيام بها. ووصل إلى ملفات عامة وأخرى غير عامة داخل الخدمة الحكومية.

لكن السلطات شددت على نقطة أساسية: لا توجد، وفق التحقيقات المعلنة حتى الآن، أدلة على وصول الوكيل إلى البيانات الشخصية للأفراد المسجلين في Medicare.

وهنا تحولت القضية من حادث تقني إلى سؤال أكبر: ماذا يحدث عندما لا يكتفي نظام الذكاء الاصطناعي بتقديم الإجابات، وإنما يصبح قادراً على تنفيذ خطوات مستقلة للوصول إليها؟

ثلاثة أشهر قبل إبلاغ الحكومة

زاد من حساسية القضية أن الحكومة الأسترالية لم تُبلغ بالواقعة فور حدوثها. فقد وقع الاختراق في يونيو، بينما لم ترسل OpenAI إخطارها إلى Services Australia إلا في شتنبر.

وقال ألبانيزي إنه أجرى محادثة مباشرة مع الرئيس التنفيذي للشركة سام ألتمان، وأعرب عن قلق حكومته الشديد من الحادث وعن استيائه من طول الفترة التي استغرقتها الشركة قبل إبلاغ السلطات.

وأعلنت الحكومة الأسترالية بعد ذلك تشكيل فريق عمل لإجراء مراجعة عاجلة، بمشاركة جهات مختصة بالأمن السيبراني وسلامة الذكاء الاصطناعي.

أما OpenAI، فقد أقرت بأن نماذجها قامت بأفعال لم تكن الشركة تقصد تنفيذها، ثم قدمت اعتذاراً علنياً وتعهدت باتخاذ إجراءات لاستعادة الثقة في أستراليا.

القضية إذن لم تعد تتعلق فقط بوجود ثغرة في موقع إلكتروني، بل بنوع جديد من المخاطر يظهر مع انتقال الذكاء الاصطناعي من أنظمة تجيب عن الأسئلة إلى «وكلاء» يستطيعون البحث واتخاذ سلسلة من الخطوات وتنفيذ مهام بدرجة متزايدة من الاستقلالية.

ومن أستراليا إلى البيت الأبيض

وبينما كانت أستراليا تحاول معرفة كيف تجاوز وكيل ذكي حدود المهمة التي كُلف بها، كانت واشنطن تناقش التكنولوجيا نفسها من زاوية مختلفة تماماً.

في 29 شتنبر، وقع الرئيس الأمريكي دونالد ترامب أمراً تنفيذياً يجعل Super Intelligence، أو SI، المصطلح المفضل لدى السلطة التنفيذية الأمريكية بدلاً من Artificial Intelligence أو AI في المراسلات والاتصالات والمواقع والتقارير والوثائق غير التشريعية.

وبرر الأمر هذا التحول بأن قدرات الأنظمة الحديثة أصبحت، بحسب رؤية الإدارة الأمريكية، تتجاوز ما كان متصوراً عندما ظهر مصطلح «الذكاء الاصطناعي» قبل عقود.

لكن المفارقة الأكثر إثارة جاءت بعد ذلك مباشرة.

فخلال حديث ترامب مع الصحفيين، طُرح عليه سؤال عن الجهة التي ينبغي أن تتحمل المسؤولية عندما يرتكب وكيل ذكاء اصطناعي فعلاً مثل الاختراق.

وقبل الدخول في مضمون السؤال، صحح ترامب المصطلح قائلاً باختصار إن الأمر لم يعد AI بل SI، موضحاً أن الاسم تغير رسمياً إلى Super Intelligence.

وهكذا التقت قصتان مختلفتان في لحظة واحدة: أستراليا تبحث عن قواعد المسؤولية عندما يتجاوز وكيل ذكي الحدود الموضوعة له، بينما الولايات المتحدة تعيد تعريف الاسم الذي ستستخدمه لوصف التكنولوجيا نفسها.

الاسم تغير.. لكن السؤال بقي

تغيير المصطلح من «الذكاء الاصطناعي» إلى «الذكاء الفائق» لا يغير بطبيعة الحال ما حدث داخل البوابة الأسترالية، ولا توجد علاقة سببية بين قرار ترامب والحادث. لكن تزامن القصتين يكشف التحول الذي تمر به هذه التكنولوجيا.

فالسؤال لم يعد مقتصراً على قدرة نموذج لغوي على كتابة نص أو تلخيص وثيقة أو الإجابة عن سؤال، وإنما بدأ ينتقل إلى ما يمكن للأنظمة المستقلة أن تفعله عندما تُمنح مهمة وحرية أكبر في البحث عن طريقة لإنجازها.

وما حدث في أستراليا يقدم نموذجاً عملياً لهذه المعضلة. كانت المهمة الأصلية بحثية، لكن الوكيل اتخذ خطوات لم تكن مقصودة من الجهة التي شغلته، بحسب ما أقرت به OpenAI.

وهنا تظهر قضية المسؤولية التي حاول الصحفي طرحها على ترامب: إذا تجاوز نظام مستقل الحدود المرسومة له، فمن المسؤول عن النتيجة؟ مطور النموذج، أم الجهة التي نشرته، أم المؤسسة التي استخدمته، أم أن التشريعات تحتاج أصلاً إلى قواعد جديدة لهذا النوع من الأنظمة؟

أستراليا تبحث عن القواعد وواشنطن تعيد صياغة الاسم

الحادث الأسترالي دفع السلطات إلى مراجعة إجراءات الإبلاغ والتعامل مع الأنظمة المستقلة، خصوصاً بعدما تبين أن إخطار الحكومة جاء بعد أشهر من الواقعة.

كما كشفت مراجعة OpenAI لاحقاً عن حالات أخرى تجاوزت فيها وكلاء مستقلة ضوابط لأنظمة تابعة لأطراف ثالثة أو أثرت فيها بصورة غير مقصودة، ما وسع النقاش إلى ما هو أبعد من موقع Medicare وحده.

وفي الولايات المتحدة، يسير النقاش في اتجاه موازٍ. فالأمر التنفيذي الذي وقعه ترامب لا يغير فقط طريقة الكتابة في الوثائق الحكومية، وإنما يقدم تصوراً سياسياً للتكنولوجيا باعتبارها انتقالاً نحو مرحلة «الذكاء الفائق».

لكن حادث أستراليا يضع بجوار هذا الوصف سؤالاً أكثر عملية: كلما أصبحت الأنظمة أكثر قدرة واستقلالاً، هل تتطور معها وسائل الرقابة والمساءلة بالسرعة نفسها؟

قد تتغير التسمية من AI إلى SI، لكن حادث Medicare يوضح أن القضية التي سترافق الجيل المقبل من هذه التكنولوجيا لن تكون الاسم وحده، بل حدود ما يسمح للآلة بفعله، وكيف يمكن إيقافها عندما تتجاوز تلك الحدود، ومن يتحمل المسؤولية عندما تفعل ذلك.