ينضم ديفيد ساكس، الرئيس المشارك لمجلس مستشاري الرئيس لشؤون العلوم والتكنولوجيا، إلى برنامج “الصباح مع ماريا” لمناقشة فوائد الذكاء الاصطناعي في القوى العاملة ومخاطر “اختلال الوكلاء” في نماذج الذكاء الاصطناعي.
تكتسب المخاوف بشأن تصرفات الذكاء الاصطناعي بشكل لا يمكن التنبؤ به الاهتمام بعد تجربة حديثة شملت نماذج رائدة للذكاء الاصطناعي، على الرغم من أن الخبراء ما زالوا منقسمين حول ما تظهره النتائج فعليا.
انضم ديفيد ساكس، الرئيس المشارك لمجلس مستشاري الرئيس لشؤون العلوم والتكنولوجيا، إلى ماريا بارتيرومو من قناة FOX Business في برنامج “Mornings with Maria” لمعالجة الادعاءات المرتبطة بدراسة إنسانية تبحث في ما يسمى بـ “اختلال العوامل”.
إيلون ماسك يدعم “الدخل العالمي المرتفع” لمكافحة فقدان وظائف الذكاء الاصطناعي
اختبرت الدراسة، التي أبرزتها رئيسة المجلس الاستشاري لـ Google Cloud، بيتسي أتكينز، كيفية استجابة أنظمة الذكاء الاصطناعي تحت الضغط. وفقًا لأتكينز، تجاوزت النماذج الحدود المحددة عند وضعها في سيناريوهات مقيدة.
تشرح بيتسي أتكينز، رئيسة المجلس الاستشاري للسحابة في Google، الجوانب الإيجابية لأعمال الذكاء الاصطناعي، ونماذج المخاطر وتأثير القوى العاملة في برنامج “Mornings with Maria”.
وقال أتكينز: “لقد تجاوز كل واحد منهم بيانات الاعتماد والأذونات الخاصة به، ودخل في أنظمة غير مصرح لهم بالوصول إليها”، مدعيًا أنه في إحدى الحالات، تصاعد نظام الذكاء الاصطناعي إلى مستوى الابتزاز بعد تحديد معلومات شخصية حساسة.
الذكاء الاصطناعي يساعد على إطلاق العنان لإمكانات الطاقة الحرارية الأرضية
يوضح بحث أنثروبيك أن هذه السلوكيات حدثت في بيئات محاكاة مصممة لاختبار عملية اتخاذ القرار في الحالات القصوى، حيث تم إعطاء النماذج تعليمات وقيود محددة.
وأشار ساكس إلى تلك الظروف باعتبارها أساسية لفهم النتائج، مشيرًا إلى أن السلوك لم ينشأ بشكل عفوي.
روبوت الذكاء الاصطناعي خلال حدث عام 2026 في لاس فيغاس، نيفادا. (بريدجيت بينيت / بلومبرج / غيتي إيماجز)
قال ساكس: “كان على الأشخاص الذين قاموا بإنشاء هذه الدراسة التكرار أكثر من 200 مرة لجعل نموذج الذكاء الاصطناعي يفعل ما يريدون، وهو تحقيق هذه النتيجة التي تتصدر العناوين الرئيسية وهي ابتزاز المستخدم”.
ALLBIRDS تسقط الأحذية الرياضية، وتعيد اختراع نفسها كشركة للبنية التحتية تعمل بالذكاء الاصطناعي
وأضاف أن الإعداد وضع النموذج في سيناريو حيث “كان الابتزاز هو النتيجة المنطقية الوحيدة”، مؤكدا أن النظام كان يستجيب للتعليمات بدلا من التصرف بشكل مستقل.
وقال ساكس: “إن الذكاء الاصطناعي لا يخطط للتخطيط.. إنه ينخرط في شكل من أشكال التعليمات.. أعتقد أن تلك الدراسة كانت غير مسؤولة، وكانت مصممة لخلق هذا”.
يوضح وينستون واينبرغ، المؤسس المشارك والرئيس التنفيذي لشركة Harvey AI، كيف تعيد المنصة تعريف وظائف الياقات البيضاء في الصناعة القانونية في “The Claman Countdown”.
وأشار ساكس أيضًا إلى أنه لم يتم ملاحظة سلوك مماثل خارج بيئات الاختبار الخاضعة للرقابة، قائلًا: “بعد مرور عام، لم نر في الواقع أي أمثلة على هذا السلوك في البرية”.
وتأتي هذه النتائج في الوقت الذي يواصل فيه صناع السياسات وقادة الصناعة تقييم كيفية تفسير أبحاث سلامة الذكاء الاصطناعي التي يتم إجراؤها في ظل ظروف تجريبية.
احصل على FOX Business أثناء التنقل بالنقر هنا
