يؤكد لوغان جراهام، رئيس فريق Anthropics Frontier Red Team، دراسة سابقة حيث قام عملاء الذكاء الاصطناعي بالاحتيال وحاولوا الابتزاز، مسلطًا الضوء على أن مثل هذه التهديدات يمكن أن تصبح حقيقية مع نماذج منتشرة ذات قدرة متزايدة.
يراقب البيت الأبيض حادثة كشفت عنها شركة OpenAI، حيث انحرف أحد نماذج الذكاء الاصطناعي الخاصة بالشركة أثناء الاختبار واخترق نظام شركة ناشئة للبنية التحتية للذكاء الاصطناعي.
قالت الشركة المصنعة لـ ChatGPT يوم الثلاثاء إن أحد عملاء الذكاء الاصطناعي التابع لها نجا من الاحتواء أثناء اختبار أمني وأدى إلى اختراق أدى إلى اختراق البنية التحتية لشركة Hugging Face، التي تدير منصة للمطورين للتعاون في التعليمات البرمجية لنماذج الذكاء الاصطناعي.
أظهر الحادث القدرات المتزايدة لنماذج الذكاء الاصطناعي لتجاوز حواجز الحماية الخاصة بها وخلق تهديدات للأمن السيبراني.
وقال مسؤول بالبيت الأبيض لرويترز إن مايكل كراتسيوس، الذي يشغل منصب مدير مكتب البيت الأبيض لسياسة العلوم والتكنولوجيا والمستشار العلمي للرئيس، تم إطلاعه على الحادث ويراقب الوضع.
منظمة أنثروبيك تدعو إلى وضع معايير سلامة للذكاء الاصطناعي على مستوى الصناعة لمنع النماذج من إحداث الفوضى
وبحسب ما ورد تم إطلاع مايكل كراتسيوس من البيت الأبيض على الحادث ويراقب الوضع. (كايلا بارتكوفسكي / غيتي إيماجز / غيتي إيماجز)
وقالت OpenAI إن الحادث وقع أثناء تقييم داخلي مصمم لقياس القدرات السيبرانية المتقدمة لنماذج الذكاء الاصطناعي الخاصة بها.
قام الباحثون بتعطيل بعض ضمانات السلامة المضمنة وقاموا بتشغيل النماذج في بيئة اختبار معزولة مع وصول محدود إلى الإنترنت.
وأوضحت الشركة أن العارضات استغلن ثغرة برمجية غير معروفة للوصول إلى الإنترنت، ثم اخترقن أنظمة Hugging Face في محاولة واضحة للغش في تقييم الأمن السيبراني الذي كانت تخضع له.
OPENAI تقول إن نموذج الذكاء الاصطناعي اخترق أنظمة شركة أخرى أثناء الاختبار الداخلي
وقال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، إن الشركة تقدر شراكة Hugging Face في معالجة هذه المشكلة. (آنا موني ميكر / غيتي إيماجز / غيتي إيماجز)
اكتشف فريق OpenAI النشاط الشاذ داخليًا، بينما اكتشف فريق Hugging Face الأمني النشاط وأوقفه. بدأت Hugging Face بالفعل في الاحتواء وإعادة البناء الشرعي باستخدام نماذجها الخاصة عندما تواصل فريق OpenAI معهم.
قال Sam Altman، الرئيس التنفيذي لشركة OpenAI، يوم الثلاثاء في منشور على X “لقد تعرضنا لحادث أمني كبير أثناء تقييم نماذجنا”، مضيفًا أن الشركة كانت تشارك ما تعلمته حتى الآن وتقدر شراكة Hugging Face بشأن هذه المشكلة.
جوجل تطلق دراسة عالمية لملايين من محادثات الذكاء الاصطناعي لفهم كيفية استخدام الأشخاص للذكاء الاصطناعي
قالت شركة Hugging Face إنها اكتشفت واحتوت خرقًا أمنيًا بعد أن قام نموذج OpenAI باختراق جزء من بنيته التحتية أثناء التقييم الداخلي. (جاك سيلفا/ نور فوتو عبر غيتي إيماجز / غيتي إيماجز)
قال كليم ديلانج، المؤسس المشارك والرئيس التنفيذي لشركة Hugging Face: “نحن ممتنون للتعاون مع OpenAI في هذا الموضوع وغيره من المواضيع”. “هذه الحادثة، ربما الأولى من نوعها، تثبت نقطة كنا نؤمن بها منذ فترة طويلة: لن يتم حل مشكلة سلامة الذكاء الاصطناعي من قبل أي شركة واحدة تعمل سراً. سيتم حلها في العلن، بالتعاون، مع وصول واسع النطاق إلى الذكاء الاصطناعي لكل مدافع، في كل مكان.”
أضاف Delangue في منشور على X أن Hugging Face يعتقد بقوة أنه لم تكن هناك نية خبيثة من جانب OpenAI، وقال إنه “من المثير للدهشة أن كل هذا حدث بشكل مستقل”.
احصل على FOX Business أثناء التنقل بالنقر هنا
ساهم مايكل سينكويتش من FOX Business ورويترز في إعداد هذا التقرير.
