ماذا يحدث عندما يُمنح الذكاء الاصطناعي حرية البحث والاختراق دون قيود كافية؟ هذا السؤال تحول إلى واقعة حقيقية بعدما خرج Gemini من بيئة اختبار مغلقة، وبدأ بالوصول إلى أنظمة تابعة لشركات حقيقية، بدلًا من الاكتفاء بالأهداف الوهمية التي حُددت له.
وبحسب مصادر، وقعت الحادثة في شهر مايو 2026، لكن تفاصيلها لم تظهر للعلن إلا بعد تحقيق أجرته صحيفة وول ستريت جورنال. الأمر الذي دفع شركة جوجل إلى تأكيد الواقعة والكشف عن ملابساتها.
جيميني يخترق شركات حقيقية
القصة بدأت عندما أجرت شركة Irregular المتخصصة في أمن الذكاء الاصطناعي الاختبار لصالح جوجل. بهدف تقييم أداء جيميني داخل بيئة محاكاة مغلقة تحتوي على أهداف وهمية.
إلا أن القائمين على التجربة تركوا اتصال النموذج بالإنترنت الفعلي مفعّلًا عن طريق الخطأ. الأمر الذي سمح له بالتعامل مع مواقع وشركات حقيقية بدلًا من الالتزام بنطاق الاختبار الافتراضي.
وفي إحدى الحالات، استهدف جيميني شركة حقيقية تصادف أنها تحمل الاسم نفسه الذي تم إطلاقه على الشركة الوهمية في تعليمات الاختبار.
وبدأ نموذج الذكاء الاصطناعي في تنفيذ محاولات متكررة لتخمين كلمات المرور. حتى نجح في تجاوز نظام تسجيل الدخول والوصول بشكل غير مصرح به إلى نظام محمي.
أما الحالتان الأخريان، فاعتمد فيهما جيميني على أسلوب مختلف، إذ بحث في مستودعات عامة على الإنترنت عن بيانات تسجيل دخول مكشوفة. ثم استخدم بيانات الاعتماد الحقيقية للوصول إلى خوادم تابعة لشركات خارجية.
ووفقًا لهذر أدكينز، نائبة رئيس هندسة الأمن في جوجل، أوقف النموذج محاولاته فور إدراكه أنه يتعامل مع مؤسسات حقيقية وليس أهدافًا ضمن بيئة تجريبية.
ولم تعلن جوجل عن الحادثة وقت وقوعها، موضحة أن الاختراقات لم تتسبب في أضرار فعلية. وأن Gemini أوقف نشاطه من تلقاء نفسه.
ومع ذلك، أبلغت الشركة السلطات الفيدرالية، وتعاونت مع المؤسسات المتضررة وشركة Irregular لمعالجة المشكلة وإغلاق الثغرات التي تسبب جيميني بحدوثها.
تجدر الإشارة إلى أن هناك أحداث مشابهة لتلك الواقعة. حيث تم اختراق منصة Hugging Face عن طريق الخطأ بواسطة نموذج OpenAI. كما تمكن نموذج Claude التابع لشركة Anthropic من تهكير أنظمة حقيقية بعد خروجه من بيئة الاختبار.
أخيرا، تكشف حادثة جيميني أن قدرات الذكاء الاصطناعي قد تتجاوز حدود الاختبارات الموضوعة له عند غياب الحماية الكافية. ومع تطور هذه التقنيات، ستحتاج الشركات إلى ضوابط أكثر صرامة لمنع الوصول غير المقصود إلى الأنظمة الحقيقية وحماية بياناتها من أي مخاطر محتملة.