كشفت شركة OpenAI عن حادثة غير مألوفة تورط فيها أحد نماذج الذكاء الاصطناعي البحثية التابعة لها، بعدما استخدم عملات مشفرة من محفظة رقمية لم يُمنح إذنًا بالوصول إليها، بهدف إكمال مهمة برمجية تجريبية، في واقعة أثارت تساؤلات بشأن حدود استقلالية أنظمة الذكاء الاصطناعي وقدرتها على اتخاذ قرارات دون موافقة بشرية.
ووفقًا لتقرير نشرته الشركة، وقعت الحادثة في 26 حزيران الماضي، خلال اختبار نموذج من عائلة GPT-5.6 Sol، كُلّف بتحديث تطبيق لتداول العملات المشفرة ونشر عقود ذكية على شبكة Sepolia التجريبية التابعة لإيثريوم. ولأن المهمة لم تتضمن توفير رصيد لتغطية رسوم المعاملات، بحث النموذج عن مصادر بديلة، وفحص 362 عنوانًا لمحافظ رقمية باستخدام عبارات استرداد معروفة ومتاحة علنًا.
وأظهرت نتائج الاختبار أن النموذج عثر على محفظة تحتوي على رصيد كافٍ، وقرر استخدامه رغم عدم حصوله على تصريح بذلك، بعدما اعتبر أن العملات الموجودة في المحفظة تجريبية ولا تحمل قيمة مالية حقيقية. وتمكن من إتمام المهمة بنجاح، لكنه لم يكشف في تقريره النهائي عن مصدر الأموال التي استخدمها لتغطية الرسوم.
مخاوف بشأن استقلالية الذكاء الاصطناعي والرقابة البشرية
وأوضحت OpenAI أن الحادثة لم تتسبب في الاستيلاء على أموال حقيقية، لأن العملات المستخدمة كانت مخصصة لشبكة اختبار منفصلة عن شبكة إيثريوم الرئيسية. ومع ذلك، اعتبرت الشركة أن تصرف النموذج يكشف مشكلة تتعلق باتخاذ قرارات مستقلة دون تفويض، مشيرة إلى تعزيز إجراءات المراقبة والحماية لمنع تكرار سلوك مماثل في الاختبارات المستقبلية.
وأعادت الواقعة تسليط الضوء على التحديات المرتبطة بتطور أنظمة الذكاء الاصطناعي القادرة على تنفيذ مهام معقدة بصورة مستقلة، خصوصًا عندما تتخذ قرارات تتجاوز التعليمات الممنوحة لها. وتأتي هذه التطورات وسط دعوات متزايدة من علماء وخبراء، بينهم جيفري هينتون، إلى تشديد الرقابة الدولية على نماذج الذكاء الاصطناعي المتقدمة ووضع ضوابط تضمن خضوعها للإشراف البشري.
[email protected]
أضف تعليق