في مساء يوم 3/0 ، اصطدمت سيارة Xiaomi SU0 بكومة أسمنتية في منطقة العزل في قسم عالي السرعة في تونغلينج بمقاطعة آنهوي ، ثم احترقت ، مما أسفر عن مقتل جميع طلاب الجامعات 0 في السيارة. تنتشر مأساة ، مثل قطرة حبر في الماء ، على الفور في خيال الجمهور - "السيارات الذكية" و "القوى الجديدة تصنع السيارات" و "القيادة الذاتية" و "وضع التحكم عن بعد". إن تقاطع هذه المصطلحات التقنية ولحم ودم ضمني في اقتراح رئيسي للعصر بأكمله: عندما تكون التكنولوجيا جميلة مع "السرعة" وفخورة ب "الحكمة" ، هل نسينا أبسط "القدرة على السيطرة" و "الحدود الأخلاقية"؟

بدلا من رؤية هذا الحادث على أنه إساءة استخدام للمنتج أو إهمال السائق ، يجب أن نرى من خلال التوتر الأكبر للواقع - فجوة كبيرة بين تعقيد الأنظمة التكنولوجية وتأخر الأنظمة الاجتماعية. هذا ليس حادثا لسيارة واحدة ، إنه انقطاع في بناء "مجتمع المستقبل".

تحالف الأوهام التكنولوجية والروايات الرأسمالية

في الواقع ، لم تعد جميع الروايات حول "الحكمة" مشاكل هندسية وتقنية بسيطة ، بل هي نوع من "الواقع السردي" المدفوع برأس المال. بدءا من Tesla ، إلى NIO و Li و Xpeng والآن Xiaomi ، تقوم جميع العلامات التجارية الجديدة للسيارات ببناء سرد مستقبلي - أي أننا ندخل حقبة جديدة من "توليد الآلات" ، وهم القادة.

هذا ليس نقل الحقيقة التقنية ، ولكنه نوع من صنع الوهم: تغليف أنظمة المساعدة غير الناضجة على أنها "قيادة ذكية". قم بتسمية الوظيفة في المختبر "وقوف السيارات التلقائي في جميع المشهدات" ؛ حول التخيلات البشرية إلى لغة إعلانية. يعتمد هذا الوهم على شرطين: القلق التكنولوجي لدى الجمهور، وتفضيل رأس المال ل "السرعة + الحجم".

بصفتها عملاقا في مجال التكنولوجيا ، فإن سلوك Xiaomi في صناعة السيارات عبر الحدود نفسه مختلط بأهمية قوية "إشارة رأس المال": المؤتمر الصحفي رفيع المستوى ل Lei Jun ، وزرع تفكير الهاتف المحمول في صناعة السيارات ، والضغط الشديد لسلسلة التوريد...... إنه أشبه بزواج "صناعي + سردي".

لكن المشكلة هي أن التخيلات التكنولوجية يمكن أن تكون خيالية ، ولا يمكن استهلاك الأرواح. إذا فهمنا جوهر السيارة على أنها "روبوت في الحياة" ، فإن تدخلها في حياة الإنسان أكبر بكثير من تدخلها في الإلكترونيات الاستهلاكية الأخرى مثل الهواتف المحمولة وأجهزة الكمبيوتر. وهذا يتطلب منا تأسيس "أخلاقيات تقنية للإشباع المتأخر" - أي أنه يجب قمع الرغبة في "الميزات الرائعة" قبل أن تصبح آمنة ويمكن التحكم فيها حقا. لكن اليوم ، ابتلع هذا المنطق المتسارع للسوق.

معضلة الاستعانة بمصادر خارجية المتمثلة في "المسؤولية البشرية".

تسبب حادث سيارة Xiaomi في تداعيات هائلة لأنه يكشف عن توتر أساسي: يقوم البشر تدريجيا بتفريغ أنفسهم من المسؤولية بسبب ثقتهم المفرطة في الآلات.

من وجهة نظر المستخدم ، يتم إخبارهم أن "هذه سيارة ذكية" ، وعندما يشاهدون الفيديو الترويجي الذي يفيد بأن "السيارة يمكنها قيادة نفسها ، وإيقاف نفسها ، واستدعاء نفسها" ، فسوف يستوعبون بشكل طبيعي هذه "الصورة التقنية" على أنها وعد بالسلامة. ومع ذلك ، عندما وقع الحادث ، تراجعت شركة السيارات إلى إخلاء المسؤولية القانوني البارد: "جميع الوظائف تحتاج إلى الإشراف ، فقط المساعدة". ”

هذه هي الآلية النموذجية ل "الاستعانة بمصادر خارجية للمسؤولية": تستخدم الشركات الغموض التقني لحصاد ثقة المستخدم ، ولكن عندما يحدث شيء ما ، فإنها تلقي باللوم على كل شيء على "الاستخدام غير السليم". بمعنى آخر ، يخاطر المستهلكون بأن يصبح النظام غير ناضج دون أي قوة للتحكم فيه.

الأمر الأكثر رعبا هو أن هذه الآلية ليست عرضية ، ولكنها سمة عالمية لعصر الذكاء الاصطناعي بأكمله. لقد رأينا خوارزميات الذكاء الاصطناعي تتخذ قرارات حاسمة في التوظيف والائتمان والرعاية الصحية والعديد من المجالات الأخرى ، ولكن من هم الأشخاص "المسؤولون" حقا؟ من يتحمل العواقب عندما يحدث خطأ ما في النظام؟ هذه ليست مسألة سيارة واحدة ، ولكنها أزمة "آلية المسؤولية البشرية" ككل.

"السياسة الخوارزمية" في فراغ مؤسسي

إذا كانت قوة العصر الصناعي هي "التوحيد القياسي + القيود المؤسسية" ، فإن عصر الذكاء اليوم هو "الصندوق الأسود + احتكار التكنولوجيا". إن حادث السيارات الذكية ليس حادثا هندسيا فحسب، بل هو أيضا حادث مؤسسي: أنظمتنا القانونية والتنظيمية ليست جاهزة بعد للواقع الجديد المتمثل في "الحوكمة المشتركة بين الإنسان والآلة".

في الولايات المتحدة ، أطلقت NHTSA (الإدارة الوطنية للسلامة المرورية على الطرق السريعة) تدريجيا آلية للإبلاغ عن الحوادث لأنظمة القيادة الذاتية فوق L2 ، مما يتطلب من شركات السيارات الإبلاغ عن جميع حوادث المرور التي تنطوي على "مساعدة السائق المتقدمة". تضغط أوروبا أيضا من أجل إطار قانوني ل "الذكاء الاصطناعي القابل للتفسير". في الصين ، لا يزال هناك فراغ مؤسسي هائل.

الشيء الأكثر خطورة ليس عدم نضج التكنولوجيا ، ولكن "حبسة" النظام التنظيمي لقوة التكنولوجيا: لا نعرف حتى نوع قدرة القيادة الذاتية التي تمتلكها السيارة ، وما إذا كان النظام يسجل حالة القيادة ، وما إذا كانت تسمية الوظيفة "مضللة عن طريق التسويق......

لقد دخل هذا بالفعل في فئة "السياسة الخوارزمية" - من يعرف "الذكاء"؟ من يتحكم في البيانات؟ من له الحق في الكلام؟ في غياب النظام ، فإن شركات التكنولوجيا هي المشرعين والقضاة والمنفذين بحكم الأمر الواقع.

وهذا لا يهدد أمن الأفراد فحسب، بل يقوض أيضا الشعور بالعدالة والثقة في المجتمع ككل.

"الانقسام المعرفي" للمجتمع الذكي

نحن ندخل حقبة من "التمزق المعرفي" العميق - الأنظمة التي أصبحت أكثر تعقيدا وأصبح فهم الجمهور لها أكثر سطحية.

إن فهم معظم المستخدمين العاديين لوظائف السيارات الذكية عالق في شظايا مقاطع الفيديو الترويجية ووسائل التواصل الاجتماعي. إنهم يعتقدون أن كلمة "ذكي" تعني "آمنة" ، و "تلقائي" تعني "خالية من القلق". في الواقع ، فإن حدود تصميم النظام والتحذير من المخاطر وآليات التسامح مع الأعطال أكثر تعقيدا بكثير من الإعلان.

بمجرد ربط هذا "التمزق المعرفي" بسلامة الحياة ، يمكن أن يصبح "كارثة ثقة" قاتلة. لن يؤدي هذا إلى تحطيم ثقة المستهلك في العلامة التجارية فحسب ، بل سيزعزع أيضا أساس الثقة في مجتمع التكنولوجيا بأكمله - لن يؤمن الجمهور بعد الآن ب "التكنولوجيا الجديدة" ، وسوف يثور انعدام الثقة هذا بتكلفة باهظة للغاية.

نحن نعتمد على "الدعاية الغامضة + الضغط التكنولوجي" لتعزيز العملية الذكية ، لكننا لم نشجع في نفس الوقت بناء محو الأمية العامة. هذا غير مسؤول للغاية عن المستقبل.

وإذ ننتقل إلى نقطة التحول في حضارة "التقدم العميق بين الإنسان والآلة".

إذا كان هناك أي أمل في أن نراه في هذا الحادث ، فهو: ربما يمكن أن يكون "فرصة للتأمل المتحضر". نحن بحاجة إلى التحول من "جنون التكنولوجيا" إلى "التقدم بين الإنسان والآلة" ، من "عبادة الأدوات" إلى "إعادة بناء المسؤولية".

هذا ليس رقعة على المستوى الفني ، ولكنه نقلة نوعية في التفكير:

من حيث التصميم ، يجب أن تعزز "توافر قيود قوية" بدلا من "حرية الاستعراض". وفيما يتعلق بالنظام، ينبغي بناء مجموعة كاملة من النظم التنظيمية التي تفصل بين حقوق ومسؤوليات الإنسان والآلة؛ وعلى الصعيد المجتمعي، ينبغي إنشاء آلية للتعليم الأساسي للنظم الذكاء الاصطناعي والذكية؛ من الناحية الأخلاقية، يجب تعزيز نوع من "التواضع الخوارزمي" - التكنولوجيا ليست كلي القدرة، ولا ينبغي التظاهر بأنها كلي القدرة.

لا ينبغي أن نسأل ، "كم من السيارات الذكية التي يمكننا صنعها؟" بدلا من ذلك ، يجب أن نبدأ في السؤال ، "هل نحن مستعدون لنكون مجتمعا مسؤولا وذكيا؟" ”

في المرة القادمة ، ستكون التكلفة أعلى

هذه المرة ، إنها Xiaomi SU7. في المرة القادمة ، يمكن أن تكون سيارة طائرة ، ويمكن أن تكون سيارة أجرة بدون سائق ، ويمكن أن تكون نظام تشخيص وعلاج الذكاء الاصطناعي. التقدم التكنولوجي لا يتوقف أبدا ، لكن المؤسسات البشرية والإدراك والأخلاق غالبا ما تتخلف عن الركب.

عندما نتحدث بحماس عن "إنتاجية الجودة الجديدة" و "التصنيع الذكي في الصين يذهب إلى الخارج" و "الصناعة 0.0" ، ربما يجب أن نأخذ بعض الوقت للسؤال: هل أنشأنا أساسا حضاريا كافيا لتحمل كل هذا؟

التقنية ليست النهاية ، ولكنها تجربة. هل يمكننا حقا الخروج من التفكير في "ترقية ومحاربة الوحوش" من كل حادث إلى تجديد عميق للبشر أنفسهم؟

إذا لم يكن الأمر كذلك ، ففي المرة القادمة ، سندفع ثمنا أعلى - وربما لن يكون هناك المزيد من "المرة القادمة". (شبكة فورتشن الصينية)

المؤلف ، وانغ يان شينغ ، كاتب عمود في مجلة Fortune Chinese.com ، وباحث أول في معهد تشونغيانغ للدراسات المالية بجامعة رينمين الصينية ، ونائب الأمين العام السابق للجمعية المصرفية الصينية ، وخبير استشاري في لجنة معايير الرقابة الداخلية بوزارة المالية

هذا المحتوى هو وجهة نظر مستقلة للمؤلف ولا يمثل موقف Fortune Chinese. لا يجوز إعادة إنتاجه دون إذن.