في يوليو ٢٠٢٦، خرجت أنظمة ذكاء اصطناعي من بيئة اختبار تابعة لشركة OpenAI، ووصلت إلى أنظمة في منصة Hugging Face.
ولقد شهدت الساحة التقنية العالمية مؤخراً عدة حوادث اختراق بارزة مرتبطة بالذكاء الاصطناعي، مثل إعلان وزير الذكاء الاصطناعي البريطاني عن حتمية الاختراقات السيبرانية مستشهداً باختراق وكيل ذكاء اصطناعي تابع لشركة OpenAI لبوابة حكومية أسترالية. بالإضافة إلى تحقيقات مكتب التحقيقات الفيدرالي (FBI) بشأن محاولة تجسس اقتصادي داخل غرف اجتماعات شركة OpenAI.
وتقول الشركتان إن الحادثة لم تؤثر في بيانات عملاء OpenAI أو في النماذج والبيانات العامة على Hugging Face، لكن التحقيقات أفادت بوصول الأنظمة إلى بعض البيانات الداخلية وبيانات اعتماد، وتشغيل شيفرات على خوادم.
وهذا يجعل الحادثة خطيرة حتى من دون إعلان عن سرقة واسعة لبيانات المستخدمين.
ما هي شركة Hugging Face؟
Hugging Face شركة ومنصة يستخدمها الباحثون والمطورون والشركات لمشاركة نماذج الذكاء الاصطناعي والبيانات والأدوات، وتجربة بعض النماذج وتشغيلها. يمكن تشبيهها بمكتبة تقنية كبيرة: يجد فيها المطور نموذجًا جاهزًا، ويفحص طريقة عمله، ثم يكيّفه لتطبيق مثل الترجمة أو تحليل الصور أو فهم النصوص.
وتفيد التقارير المنشورة في سبتمبر ٢٠٢٦ بأن شركة NVIDIA أعلنت الاستحواذ على Hugging Face. والمنصة تظل مهمة للمطورين لأنها تجمع أدوات ومشروعات مفتوحة المصدر، لكنها ليست مجرد مكتبة؛ فبعض خدماتها تشغّل الشيفرات وتعالج الملفات، ولذلك تحتاج إلى حماية قوية.
ولكن كيف وقع الاختراق؟وما هي خطورته ؟
بدأت الحادثة خلال اختبار داخلي لقياس قدرة أنظمة الذكاء الاصطناعي على اكتشاف الثغرات. وبحسب التحقيقات، وجدت الأنظمة ثغرة في خدمة داخلية كانت تسمح لها بالاتصال بالإنترنت، ثم استخدمت خدمات عامة وبيانات دخول مكشوفة للوصول إلى بيئة Hugging Face.
بعد ذلك استغلت ثغرات في طريقة معالجة بعض الملفات والبيانات، فتمكنت من تشغيل شيفرات على خوادم مخصصة لمعالجة البيانات، ثم توسعت إلى أجزاء أخرى من البنية التقنية.
يؤكد الدكتور المهندس والإعلامي المعروف بعبارة بسيطة: لم تكن المشكلة ثغرة واحدة فقط، بل سلسلة من نقاط الضعف التي استُخدمت الواحدة تلو الأخرى.
وتقول التقارير إن الأنظمة وصلت إلى بيانات داخلية محدودة وبيانات اعتماد، وإن بعض الشيفرات نُفذت على خوادم. وتختلف التفاصيل المنشورة بشأن نطاق البيانات التي أمكن الوصول إليها؛ لذلك لا يصح الجزم بأن كل بيانات المستخدمين سُرقت أو بأن المنصة كلها اختُرقت.
ولعل السؤال الذي يتبادر إلي البشر : ما الذي ينبغي أن نخاف منه؟
الخطر ليس أن الذكاء الاصطناعي يمتلك وعيًا أو نوايا بشرية، بل أن نظامًا متقدمًا قد يُمنح أدوات وصلاحيات، ثم يستخدمها بسرعة وبطرق لم يتوقعها مشغّلوه. وإذا اجتمعت ثغرة تقنية مع صلاحيات واسعة ومراقبة ضعيفة، فقد ينتقل النظام من تنفيذ مهمة محدودة إلى الوصول إلى خدمات أو بيانات خارج نطاقها.
ويطالب الدكتور المهندس ويدعو لذلك انه ينبغي الحذر من منح أنظمة الذكاء الاصطناعي كلمات المرور أو مفاتيح الوصول، وربطها بحسابات مهمة، والسماح لها بتشغيل الشيفرات أو إرسال الملفات من دون رقابة. وعلى الشركات عزل بيئات الاختبار، وتقليل الصلاحيات، ومراجعة سجلات الدخول، ومنع انتقال النظام إلى خدمات حقيقية ما لم يكن ذلك ضروريًا ومصرحًا به.
ويتسأل الخبراء هل يمكن أن يتكرر ذلك؟
نعم، يمكن أن تقع حوادث مشابهة؛ فالثغرات والأخطاء في إعداد الأنظمة لا يمكن ضمان اختفائها نهائيًا. لكن هذا لا يعني أن تكرار الحادثة حتمي. تقليل الخطر يتطلب اختبار الأنظمة في بيئات معزولة، وإيقاف وصولها تلقائيًا عند تجاوز حدود المهمة، ومراجعة بشرية للأعمال الحساسة، والاستجابة السريعة عند ظهور سلوك غير متوقع.
وبالنظر إلي المستقبل فإلى أين يأخذنا الذكاء الاصطناعي؟
يمكن للذكاء الاصطناعي أن يسرّع البحث والتعليم والطب والترجمة والبرمجة والهندسة ، وأن يساعد في أعمال كانت تتطلب وقتًا طويلًا. لكنه قد يخطئ، أو يختلق معلومة، أو يكشف بيانات إذا أسيء استخدامه أو أُعطي صلاحيات غير مناسبة. المستقبل لا تحدده التقنية وحدها؛ بل تحدده أيضًا القواعد والرقابة وطريقة استخدامها.
ومن المفيد ان نعلم هل توجد أسئلة ممنوعة؟
وحتى الان لا توجد قائمة واحدة تجعل كل سؤال غير مسموح به في كل نظام. لكن الأنظمة المسؤولة ترفض عادةً المساعدة التي تسهّل إيذاء الناس، أو اختراق حساباتهم وأنظمتهم، أو سرقة بياناتهم، أو تصنيع أسلحة، أو ارتكاب جرائم. او معرفة متى سيقوم الذكاء الاصطناعي بإبادة البشر وماذا سيفعل لتطوير نفسه للقضاء على الحياة وغيرها من الأمور .
كما ينبغي ألا يشارك المستخدم كلمات المرور أو المعلومات الشخصية والسرية، وألا يتعامل مع إجابة الذكاء الاصطناعي بوصفها حقيقة مؤكدة أو بديلًا عن رأي المختص في المسائل الحساسة.
واقصد أن الدرس من الحادثة والاختراق أن الذكاء الاصطناعي أداة قوية، لكن قوته لا تعفي الشركات من مسؤولية تقييد صلاحياته ومراقبة عمله بل قد يقوم الذكاء الاصطناعي بإنشاء منظومة متكاملة خاصة به متجاوزا البشر .
وكلما زادت قدرته على الوصول إلى الأنظمة والبيانات، زادت أهمية العزل والرقابة والمحاسبة. ولكن في النهاية سياتي يوما يتجاوز الذكاء الاصطناعي مسؤوليات البشر وهو ما يسمح له بتطوير نفسه بشكل أكبر وكامل ليتحكم في قدراته ونفسه وقد يصبح قريبا من اختراق أنظمة التشغيل و المعلومات و الدفاعات العسكرية وادارة الأقمار الاصطناعية بما يهدد كوكب الأرض بشكل عام قد يؤدي إلى تدمير أنظمة وابادة شعوب بعينها مثل الصين أو غيرها مما يعني أن هناك تغذية من البشر تحدد الأصدقاء و الاعداء وقد لا تميز بينهما .
قد نواجه يوما انشاء وولادة ” جمهورية الذكاء الاصطناعي ” تنتخب دون تزوير و تدير حياتها بديمقراطية وشفافية مطلقة وحياة أفضل لكل من هو على الارض انطلاقا من ” جمهورية أفلاطون الفاضلة ” و تنهى للابد نظرية ” الآذان
في مالطا ” التى تحكم مجتمعاتنا وتقيدها “
