قام Openai ، محرر ChatGPT ، بإخراج العديد من شبكات الممثلين الخبيثين من مستخدميها ، حيث عملت في جميع الاحتمالات في الصين. في تقرير أمني تم نشره عبر الإنترنت يوم الجمعة 21 فبراير ، تقول الشركة إنها اكتشفت عملية معلومات مضللة بالإضافة إلى إنشاء أداة مراقبة الشبكات الاجتماعية.
اكتشفت فرق أمان الشركة الأمريكية هؤلاء المستخدمين من خلال مراقبة استخدامات ChatGPT ، وكيل المحادثة الشهير. من خلال دراسة نشاط مجموعة من الحسابات التي تعمل باللغة الصينية وفي ساعات العمل الصينية ، تمكنت Openai من إعادة بناء ملامح الأداة التي عملوا عليها: برنامج تحليل في الوقت الفعلي لرسائل Facebook و X و YouTube و Instagram ، Telegram و Reddit – لا سيما استهداف النداء للمظاهرات لصالح حقوق الإنسان.
تسمى “مراجعة النظراء” من قبل Openai ، ستكون هذه الأداة مسؤولة عن الإبلاغ عن هذه الرسائل إلى السلطات الصينية وكذلك سفاراتها في الخارج. من بين البلدان الخاضعة للإشراف على وجه الخصوص الولايات المتحدة وألمانيا والمملكة المتحدة. ومن بين المواضيع الحلزونية: دعم اليوغور وكذلك دبلوماسية منطقة المحيط الهادئ الهندية.
تم توظيف ChatGPT من قبل هؤلاء الجهات الفاعلة لكتابة الوسيطة التجارية المتمثلة في “مراجعة النظراء” ، وصف وحداتها بالتفصيل وتجاوز الأخطاء في رمز الكمبيوتر الخاص بها (والتي يبدو أنها تستخدم Meta Llama ، مصدر مفتوح لـ ChatGPT). فشل Openai في تحديد ما إذا كانت هذه الأداة قد استخدمت على نطاق واسع.
ترجمة مقالات الدعاية
تمكن Openai أيضًا من متابعة نشاط شبكة ثانية من الجهات الفاعلة الصينية التي تشارك في عمليات التضليل. يستخدمون chatgpt لإنشاء رسائل قصيرة تم نشرها على الشبكات الاجتماعية ، لا سيما تشويه تشويه المنشورات على X من المنشق Cai Xia ، أستاذ سابق في المدرسة المركزية للحزب الشيوعي الصيني (CCC).
حضر قمة الذكاء الاصطناعي الذي تم تنظيمه في باريس في بداية فبراير ، وقد ذكر بن نمو ، الباحث الرئيسي في Openai ، مثالًا مماثلًا أحبطته فرقه مؤخرًا. استخدم المستخدمون الصينيون chatgpt لتعزيز حملة التضليل “spamouflage” ، باستخدام أداة الذكاء الاصطناعى التوليدي لكتابة تغريدات مواتية لـ CCP وعدائية إلى الغرب ، وكذلك لإنشاء مواقع حرجة من المنشقين الغريب. لقد تم الخلط بينهم من قبل فرق Openai لأنهم استخدموا نفس حسابات ChatGpt للغش أثناء امتحانات العروض الترويجية الداخلية للحزب الشيوعي.
ربما تكون المجموعة التي تستهدف CAI XIA مختلفة. استخدم ممثلوها chatgpt لإنتاج مقالات طويلة تنتقد الولايات المتحدة ، والتي تمكنوا من نشرها في عشرات الصحف المكسيكية والبيروفية والإكوادورية في بعض الأحيان في شكل محتوى برعاية. وبشكل أكثر تحديداً ، تم استخدام الذكاء الاصطناعى لترجمة وتوسيع المقالات الصينية المسبقة مسبقًا مع التركيز على مواضيع الخلاف مثل العنف السياسي أو التمييز أو التمييز الجنسي أو السياسة الخارجية ، من خلال شرحها بضعف القيادة السياسية الأمريكية.
نشرت Openai تقارير أمنية لأكثر من عام كان هدفه ، من بين أمور أخرى ، “منع استخدام أدوات الذكاء الاصطناعي من خلال الأنظمة الاستبدادية لتعزيز قوتهم أو السيطرة على مواطنيها ، أو تهديد أو إجبار الدول الأخرى أو على تنفيذ عمليات التأثير تحت الغطاء”. يوظف محققوها أنفسهم أدوات على أساس الذكاء الاصطناعي.
