【واجهة اقتصادية】

مراسل قوانغمينغ ديلي ليو كون قوانغمينغ ديلي مراسل ليو سوين

في جوف الليل ، يتطلع بعض الناس إليها للدردشة عبر الإنترنت والحصول على الراحة. عندما يتم إحضار مقطع فيديو إلى البضائع ، يستخدمه شخص ما لإنشاء نسخة تسويقية بسرعة. في لم شمل الفصل ، يستخدمه بعض الناس لتأليف القصائد على الفور...... إنه ما يسميه الكثير من الناس "المساعد الجيد في الحياة" و "الشريك الجيد للعمل" - نموذج ذكاء اصطناعي كبير (الذكاء الاصطناعي).

في الآونة الأخيرة ، ولد عدد من المنتجات النموذجية واسعة النطاق واجتاحت العالم ، مما أدى مرة أخرى إلى طفرة الذكاء الاصطناعي. ولكن في الوقت نفسه ، هناك أيضا بعض الأشخاص الذين يستخدمون الذكاء الاصطناعي لإنشاء وتوليف محتوى مزيف ، أو لجذب الانتباه ، أو كسب حركة المرور ، أو محاولة الخلط بين الواقع والباطل والشائعات والاحتيال ، وما إلى ذلك ، مما يجلب بعض المخاطر والمخاطر الخفية ، مما يسبب قلقا اجتماعيا.

  近日，國家互聯網信息辦公室、工業和資訊化部、公安部、國家廣播電視總局聯合發佈《人工智慧生成合成內容標識辦法》（以下簡稱《辦法》）。《辦法》聚焦人工智慧“生成合成內容標識”關鍵點，通過標識提醒用戶辨別虛假資訊，明確相關服務主體的標識責任義務，規範內容製作、傳播各環節標識行為，將於2025年9月1日起施行。

كيف تجعل المحتوى الاصطناعي الذي تم إنشاؤه بواسطة الذكاء الاصطناعي "يكشف عن الهوية" ولم يعد "من الصعب التمييز بين الحقيقي والمزيف"؟ كيف تحل مشكلة حوكمة أمن الذكاء الاصطناعي؟ أجرى المراسل مقابلة حول هذا الموضوع.

تم عرض روبوت بشري في مؤتمر تعزيز الابتكار والتنمية "الذكاء الاصطناعي +" في سوتشو بمقاطعة جيانغسو. وكالة أنباء شينخوا

يجعل توليف الذكاء الاصطناعي من الصعب التمييز بين الحقيقي والمزيف

ترقص القطط والجراء على الموسيقى ، ويقاتل "الطفل اللطيف" الديك في المنزل...... على منصات الفيديو القصيرة ، سيقوم الأشخاص بتمرير مقاطع فيديو مماثلة من وقت لآخر. في الواقع ، بعض "مقاطع الفيديو السحرية" التي تحتوي على عدد كبير من الهوامش والإعجابات ليست حقيقية ، ولكن يتم إنشاؤها وتصنيعها بواسطة الذكاء الاصطناعي.

يشير ما يسمى بالمحتوى الاصطناعي الذي تم إنشاؤه بواسطة الذكاء الاصطناعي إلى النص والصور والصوت والفيديو والمشاهد الافتراضية وغيرها من المعلومات التي تم إنشاؤها وتجميعها بواسطة تقنية الذكاء الاصطناعي.

في السنوات الأخيرة ، وفر التطور السريع لتكنولوجيا الذكاء الاصطناعي أدوات ملائمة لتوليد النصوص الاصطناعية والصور والصوت والفيديو وغيرها من المعلومات ، ويمكن إنشاء معلومات ضخمة وتوليفها بسرعة ونشرها على منصات عبر الإنترنت ، والتي لا تعزز التنمية الاقتصادية فحسب ، وتثري المحتوى عبر الإنترنت وتسهل الحياة العامة ، ولكنها تجلب أيضا مشاكل مثل إساءة استخدام تكنولوجيا التوليف التوليدي وتدمير بيئة الشبكة ، مما أثار انتباه جميع قطاعات المجتمع.

"بعض المشاهدين الذين يحبون الدراما السينمائية والتلفزيونية التي شاركت فيها خدعوا بشدة من خلال الفيديو الذكاء الاصطناعي الذي يتبادل الوجه ، وهو أمر سيء للغاية." وقال أحد الممثلين إنه يأمل في وضع معايير أفضل. في الواقع ، واجهت العديد من الشخصيات العامة مشاكل مماثلة.

　　公安部數據顯示，近兩年來，全國共發生“AI換臉”類詐騙案近百起，累計造成的經濟損失高達2億元。

"أدت الواقعية المتزايدة للمحتوى الاصطناعي الذي تم إنشاؤه بواسطة الذكاء الاصطناعي أيضا إلى ظهور مخاطر أمنية جديدة مثل انتشار الأخبار الكاذبة وانتححال الهوية والمحتوى الضار ، وأضعفت ثقة الجمهور في المحتوى عبر الإنترنت." قال تشن تشون ، الأكاديمي في الأكاديمية الصينية للهندسة وأستاذ جامعة تشجيانغ.

يعتقد ليو تشيوان ، نائب كبير المهندسين في معهد أبحاث تطوير صناعة المعلومات الإلكترونية الصيني ، أن هناك مشكلة عدم قابلية التفسير في نموذج الذكاء الاصطناعي نفسه. آلية تشغيل النموذج الكبير غير شفافة ، وتؤدي سمة "الصندوق الأسود" الناتجة إلى عدم قابلية التفسير. هذا النوع من عدم القابلية للتفسير يقلل من المصداقية ويجعل محتوى الإخراج ممكنا مع وجود أخطاء وقائعية وتحيزات ، خاصة في مجالات الرعاية الطبية والتمويل ، والتي يصعب تلبية متطلبات المصداقية الصارمة.

قال ليو شياو تشون ، مدير مركز أبحاث سيادة القانون على الإنترنت التابع لأكاديمية العلوم الاجتماعية بجامعة الصين ، إن تكلفة الوقت للمحتوى "التزوير" و "المزيف" قد تم تخفيضه من خلال توليد الذكاء الاصطناعي وتكنولوجيا التوليف ، خاصة في مجالات الصور والصوت والفيديو. إنه يشكل تحديا لنظام الفضاء السيبراني ، بما في ذلك إدارة المحتوى ، ويطرح متطلبات أحدث وأعلى لأدوات الحوكمة والطرق والوسائل.

وفقا للبيانات ، بحلول نهاية 238 ، تم تقديم ما مجموعه 0 خدمات الذكاء الاصطناعي التوليدي إلى إدارة الفضاء السيبراني في الصين ، منها 0 تم تقديمها حديثا في ذلك العام.

"في الوقت الحاضر ، يمكن للنماذج الكبيرة إنشاء نص عالي الدقة وصور شخصية ومشاهد وصوت ، وغالبا ما يصعب على الأشخاص العاديين التمييز بين أصالة المحتوى دون مساعدة أدوات الكشف." يعتقد Cao Juan ، مدير وباحث في مختبر تركيب المحتوى الرقمي والكشف عن التزوير التابع لمعهد تكنولوجيا الحوسبة التابع للأكاديمية الصينية للعلوم ، أنه مع تطبيق تقنية الذكاء الاصطناعي التوليدي في مختلف الصناعات ، ينمو حجم البيانات الناتجة عن المحتوى الاصطناعي بسرعة ، وتكلفة الكشف الشامل عن المحتوى الذي تم إنشاؤه مرتفعة للغاية. تم توسيع سيناريوهات التطبيق لتوليد المحتوى التركيبي بشكل كبير ، مما ساهم في تنويع سيناريوهات الخداع.

في مهرجان العلوم والتكنولوجيا الذي أقيم في مدرسة إعدادية في تشينغداو بمقاطعة شاندونغ ، يشاهد الطلاب أداء آلي. صور مشرقة الصورة بواسطة تشانغ ينغ

بناء تقنية الذكاء الاصطناعي الجديرة بالثقة

يعد إدخال التدابير إجراء مهما للصين لتعزيز الحوكمة الأمنية في مجال الذكاء الاصطناعي ، وتعزيز التنمية الصحية للمعايير الصناعية ، وتوجيه التكنولوجيا إلى الأبد ، مما يمثل خطوة رئيسية في بناء نظام بيئي آمن وجدير بالثقة في مجال الذكاء الاصطناعي التوليدي.

وفقا للشخص المسؤول عن إدارة الفضاء السيبراني في الصين ، تركز "التدابير" على حل مشاكل "الذي يتم إنشاؤه" و "من تم إنشاؤه" و "أين يتم إنشاؤه" ، وتعزيز الإدارة الأمنية للعملية برمتها من الجيل إلى النشر ، والسعي لإنشاء تقنية ذكاء اصطناعي موثوقة.

بالنسبة لمقدمي الخدمات، تنص التدابير على أنه يجب إضافة ملصقات صريحة إلى المحتوى الذي تم إنشاؤه وتجميعه مثل النص والصوت والصور ومقاطع الفيديو والمشاهد الافتراضية، وأنه عند توفير وظائف مثل تنزيل المحتوى الذي تم إنشاؤه وتصديده ونسخه وتصديره، يجب أن يضمن أن الملفات تحتوي على علامات صريحة تفي بالمتطلبات. يجب إضافة معرف ضمني إلى البيانات الوصفية للملف الذي أنشأ المحتوى التركيبي.

بالنسبة لمنصات توزيع تطبيقات الإنترنت ، تقترح التدابير أنه عند وضع طلب على الرفوف أو مراجعته عبر الإنترنت ، يجب أن يتطلب من مزود خدمة تطبيقات الإنترنت توضيح ما إذا كان يوفر خدمات توليد وتوليف الذكاء الاصطناعي ، والتحقق من المواد المتعلقة بتحديد المحتوى الاصطناعي الذي تم إنشاؤه.

وبالنسبة للمستعملين، تقترح التدابير أنه إذا استخدم المستخدم خدمة نشر محتوى المعلومات على الإنترنت لنشر المحتوى الاصطناعي وإنشائه، فعليه أن يبادر إلى الإعلان عن وظيفة تحديد الهوية التي يوفرها مقدم الخدمة للتعرف عليها واستخدامها.

بالإضافة إلى ذلك، لا يجوز لأي منظمة أو فرد حذف معرفات المحتوى الاصطناعي التي تم إنشاؤها المنصوص عليها في هذه التدابير أو العبث بها أو تزويرها أو إخفائها بشكل ضار، ويجب ألا توفر أدوات أو خدمات للآخرين لتنفيذ السلوك الضار الموضح أعلاه، ويجب ألا يضر بالحقوق والمصالح القانونية للآخرين من خلال طرق وضع العلامات غير السليمة.

"تعمل التدابير على تحسين الأمن بتكلفة معقولة ، وتعزيز التنفيذ المتسارع للذكاء الاصطناعي في سيناريوهات التطبيق المختلفة مثل الحوار النصي ، وإنتاج المحتوى ، والتصميم الإضافي ، وفي نفس الوقت تقليل ضرر إساءة استخدام تكنولوجيا توليد وتوليف الذكاء الاصطناعي ، ومنع استخدام تكنولوجيا الذكاء الاصطناعي لإنتاج ونشر المعلومات الخاطئة وغيرها من السلوكيات المحفوفة بالمخاطر ، وتعزيز التطوير الصحي والمنظم للذكاء الاصطناعي ". قال الشخص المسؤول.

يعتقد تشانغ لينغان ، الأستاذ في معهد سيادة القانون في جامعة الصين للعلوم السياسية والقانون ، أن نظام تحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي له قيمة مؤسسية فريدة. يمكن لتحديد الهوية أن يميز بشكل فعال المعلومات التي يتم إنشاؤها وتوليفها بواسطة الذكاء الاصطناعي ومنع انتشار واستخدام المعلومات الكاذبة. يمكن أن تساعد المعرفات المستخدمين على فهم السمات أو معلومات المعلمات ذات الصلة لمنتجات وخدمات الذكاء الاصطناعي التوليدي بسرعة. يمكن أن يساعد تحديد الهوية السلطات التنظيمية في تقييم منتجات أو خدمات الذكاء الاصطناعي التوليدي وإمكانية تتبعها ، وتعزيز التطوير القانوني والمتوافق للمحتوى الاصطناعي الناتج عن الذكاء الاصطناعي.

قال تشانغ لينغان إنه في الوقت الحالي ، يركز نظام تحديد المحتوى الاصطناعي الناتج عن الذكاء الاصطناعي بشكل أساسي على الحكم الشكلي "على ما إذا كان يتم إنشاؤه آليا". مع تقدم وتطور تكنولوجيا تحديد الهوية ، يمكن لنظام تحديد الهوية المستقبلي أن يلعب وظيفة أكثر ثراء ، حيث يتحول تدريجيا من حكم النموذج إلى حكم الجودة "ما إذا كان موثوقا به بدرجة كافية" ، ويعزز التطور الصحي للصناعة.

الحوكمة الأمنية تدخل "منطقة المياه العميقة"

وتركز القوانين الرشيدة والحكم الرشيد على التنفيذ.

ومن أجل تعزيز تنفيذ "التدابير"، صدر المعيار الوطني الإلزامي "تكنولوجيا أمن الشبكات - طرائق تحديد المحتوى المولد بالذكاء الاصطناعي والمحتوى التركيبي" في آن واحد لتوجيه الكيانات ذات الصلة بشكل أفضل لتوحيد أنشطة تحديد الهوية.

"في الوقت الحاضر ، انتقلت حوكمة أمن الذكاء الاصطناعي من مناقشة المخاطر إلى منطقة المياه العميقة لإنفاذ القانون الفعلي." قال Cao Juan إن التحديث التكراري لتقنية توليد النماذج الكبيرة سريع جدا ، وستظهر نماذج بارزة جديدة في غضون شهرين في المتوسط ، لذلك من المهم تحسين قدرة التعميم لطرق التزوير الجديدة ، ومن الضروري التخلي عن الفكرة اللاحقة ل "طلقة واحدة" وبناء نموذج أساسي لتزوير الذكاء الاصطناعي لتحسين تعميم وتطبيق نموذج الكشف عن التزوير.

قال تساو خوان إنه من الضروري دراسة تقنية المواجهة الدقيقة والتزوير لمنع مخاطر التهرب الخبيث. في الوقت نفسه ، من الضروري تقليل التأثير على نشر المحتوى غير الضار ، ومراعاة تطوير وحوكمة تطبيق المحتوى الذي تم إنشاؤه ، وإنشاء أداة وطنية للكشف عن التزوير ، وتشجيع استخدام التزوير من قبل الجميع.

"من المتوقع أن يستمر تطبيق قانون الأمن الذكي الاصطناعي في الصين في توجيه الإشراف على الأمور الرئيسية وتعزيز التنمية المنظمة للصناعة." قال جين بو ، نائب مدير معهد البحوث الثالث التابع لوزارة الأمن العام ، إنه مع الارتباط العضوي التدريجي بين إدارة الشعار وإيداع الخوارزمية والتقييم الأمني والآليات الأخرى ، قد يصبح الامتثال لتحديد المحتوى الاصطناعي الذي تم إنشاؤه مجالا رئيسيا للتركيز للإدارات ذات الصلة لتنفيذ الإشراف والتفتيش على الذكاء الاصطناعي ، والإجراءات الخاصة. في هذه العملية ، لا تزال هناك حاجة إلى استكشاف كيفية تحقيق التوازن بين التنمية والأمن والابتكار والمسؤولية وتحسين المستوى المهني والمكرر والذكي لإنفاذ القانون ، من أجل تنمية بيئة بيئية آمنة ومفتوحة وعادلة لصناعة الذكاء الاصطناعي.

"بالإضافة إلى ذلك ، يجب دمج "العامل البشري" في العملية الكاملة لإدارة تحديد هوية الذكاء الاصطناعي." قال جين بو إنه من الضروري التركيز على تحسين قدرة الجمهور على تقييم مصداقية محتوى المعلومات وإمكانية تتبع المصدر ، وتنمية محو الأمية بالذكاء الاصطناعي لدى الجمهور بنشاط ، وضمان المشاركة الشاملة لإنجازات تكنولوجيا الذكاء الاصطناعي.

ويرى تشن تشون أن تنفيذ "التدابير" لا ينفصل عن تماسك وتنسيق المجتمع بأسره. يمكن للإدارات المحلية المختصة والجامعات ومؤسسات البحث العلمي والمؤسسات المشاركة بشكل مشترك لتشكيل شبكة حوكمة محتوى تعاونية متعددة النقاط لها الأسبقية في أعمال تحديد الهوية ، وتعزيز التطوير المطرد والبعيد المدى لأعمال تحديد الهوية. بالإضافة إلى ذلك ، من الضروري إنشاء منصة وطنية للخدمة العامة لتوسيم المحتوى ، وتعزيز الفهم المتعمق للجمهور والصناعة في شكل ممارسة عملية مرئية وتفاعلية.

"لقد أدى الذكاء الاصطناعي التوليدي إلى تطور تكنولوجيا المعلومات من أداة عادية إلى أداة ذكية للغاية من نوع" شريك التفكير "، مما يوفر فرصا للتطوير التخريبي ، ولا بد أن يصبح مهارة أساسية بالنسبة لنا في المستقبل ، الأمر الذي يتطلب منا فهم الذكاء الاصطناعي وإدارته بشكل صحيح عند استخدامه." قال تشين تشون.

　　《光明日報》（2025年03月27日 15版）

المصدر: شبكة قوانغمينغ - "Guangming Daily"