تحليل كاشف لآليات جمع المعلومات والرقابة التي يستخدمها محرك البحث الصيني DeepSeek
إن الولادات مؤلمة بطبيعتها، ولكن عندما ولد محرك الذكاء الاصطناعي الصيني DeepSeek، فقد صدم العالم أجمع. انهارت القيمة السوقية لشركة Nvidia وخسرت 500 مليار دولار من قيمتها في يوم واحد فقط. كان هناك شعور بأن الصينيين حققوا أولاً نجاحاً استثنائياً في مجال الذكاء الاصطناعي، متجاوزين الأميركيين.
وفي الوقت نفسه، كان هناك أيضاً متشككون: أولئك الذين زعموا أن هذا كان في الأساس تقليداً واحتيالاً، وأن لا شيء مما أنتجه الصينيون أو ادعوه يمكن أن يؤخذ على محمل الجد.
والآن، أخيرًا، أصدر الكونجرس الأمريكي تحليل مفصل للديبسيك. الاستنتاجات على السطح؟ الصينيون غشوا، والأمريكيون هم الأفضل. كما هو متوقع من لجنة في الكونجرس الأمريكي. ومع ذلك، بين السطور، يمكننا تحديد بعض النقاط الأكثر إثارة للاهتمام التي يمكن أن تساعدنا في فهم السباق بين الشرق والغرب.
ديبسيك كعميل استخبارات
دعونا نبدأ بالأشياء التي يمكننا التأكد من صحتها: DeepSpy يعمل بالفعل كوكيل استخبارات للحكومة الصينية... وبعض العوامل الأخرى على طول الطريق. عندما تقوم بإدخال معلوماتك الشخصية في Deepski، فإنه يجمعها بكل سرور ويمررها إلى شركة China Mobile، والتي تصنف على أنها شركة عسكرية صينية. هل تريد أن تخمن من أين تأتي معلوماتك؟ هذا صحيح – لرئيس الصين.
كيف نعرف هذا؟ لأن هذا هو القانون في الصين. تلتزم الشركات بمشاركة المعلومات مع السلطات عند الطلب. نقطة.
ما نوع المعلومات التي تجمعها الحكومة الصينية عنك من Medifix؟ ليس فقط محتوى محادثاتك. كما أنه يحدد نوع الجهاز الذي تستخدمه للتصفح، وساعات العمل، وحتى طريقة الكتابة. كل هذه المعلومات يمكن أن تخدم الصينيين عندما يريدون استهدافك بإعلانات سياسية، أو محاولة سرقة معلوماتك الائتمانية في العام المقبل.
والآن، دعونا نواجه الأمر للحظة واحدة: لا توجد حكومة يمكن وصفها بأنها "خروف أبيض" في لعبة جمع المعلومات. يمكن للحكومة الأمريكية أيضًا أن تطلب من الشركات الموجودة داخل أراضيها تسليم المعلومات إليها، مع مراعاة صدور أمر من المحكمة. ولكن في الصين، يتم ذلك بشكل عرضي، أما في الولايات المتحدة، فهو نهج أكثر وضوحاً، وتستطيع الشركات مقاومة الطلب.
والأمر الأكثر إثارة للقلق هو أن DeepSpy لا يبدو أنه يبذل الكثير من الجهود لحماية المعلومات التي يجمعها من المستخدمين. تقوم معظم المنصات بتشفير المعلومات الحساسة التي تجمعها. ديباك؟ لا تسخر منها. إنها ترسل معظم المعلومات إلى الصين دون أي حماية تذكر، مما يعني أن أطرافاً أخرى قد تتمكن من التنصت عليها على طول الطريق.
باختصار، إذا كنت مستخدمًا عاديًا وبسيطًا - فلا تستخدم DeepSpy. هناك نماذج ذكاء اصطناعي ممتازة ومجانية للاستخدام المنتظم، مثل Gemini 2.5، أو دردشة GPT المجانية، والتي من المحتمل أن تلبي احتياجاتك. وإذا كان لا بد لك من استخدام DeepSpy، فيجب أن يكون افتراضك هو أن كل ما تقوم بإدخاله إليه سيتم مشاركته مع العالم أجمع وزوجته. إذا لم تكن على استعداد لمشاركة أسئلتك على علامة في وسط المدينة، فلا تقم بتحميلها إلى DeepSpy.
أوه، ولا تستخدمه إذا كنت تريد الحصول على معلومات حقيقية عن الصين.
المتلاعب الصيني
منذ اليوم الأول لظهور DeepSpy في العالم، أصبح من الواضح أنه تم استخدامه أيضًا كأداة للهندسة العقلية لصالح الصين. إذا طرحت عليه أسئلة من شأنها أن تسبب إحراجاً للصين ــ على سبيل المثال، "ما هو جدار الحماية العظيم في الصين"، فسوف تحصل عادة على إجابة فاترة منه.
"آسف، لست متأكدًا من كيفية الإجابة على هذا السؤال." سيجيبك، ثم يقترح، "دعنا نتحدث عن مواضيع أخرى بدلاً من ذلك!"
تعمل الرقابة التي تقوم بها DeepSik بطريقتين. من ناحية أخرى، يبدو أنه مدرب بشكل خاص على إعطاء إجابات تعكس "القيم الاشتراكية الأساسية"، والتي تدعم "الاتجاه السياسي الصحيح"، والتي تتجنب "التحريض على سلطة الدولة". من ناحية أخرى، عندما لا يجيب ديبسيك بطريقة تتوافق مع تلك القيم الأساسية والاتجاهات السياسية الصحيحة - يتم مسح إجابته من الشاشة في غضون ثوانٍ قليلة، واستبدالها بالإجابة الموجزة التي قدمتها أعلاه.
لماذا يجيب ديباك بهذه الطريقة؟ مرة أخرى - لأن هذه هي القوانين في الصين، وهذه هي المتطلبات لشركات الذكاء الاصطناعي الصينية. كل شيء على الطاولة، لا يوجد شيء مخفي. إن محرك الذكاء الاصطناعي "ديبسيك"، مثل أي محرك ذكاء اصطناعي صيني، ليس مصممًا لتوفير المعلومات فحسب، بل أيضًا لتوجيه المستخدمين "في الاتجاه السياسي الصحيح".
وكما يقول مؤلفو التقرير:
تُحدِّد بكين بنشاطٍ طريقةَ تفسير أنظمة الذكاء الاصطناعي للمعلومات وإنتاجها ومشاركتها. تُلزِم اللوائح الصينية الشركات بضمان "التحكم" الخوارزمي، مما يمنح الحكومة الصينية نفوذًا مباشرًا على عملية صنع القرار المتعلقة بالذكاء الاصطناعي، ويسمح للسلطات بتعديل سلوكه حسب الحاجة. ... من الضروري افتراض أن نتائج [DeepSpy] تخدم المصالح الاستراتيجية لبكين.
المشكلة الكبرى، والتي يفهمها حتى أعضاء الكونجرس الأمريكي، هي أن الشركات الأمريكية بدأت بالفعل في دمج DeepSpy في خدماتها ومنتجاتها. يقومون بتثبيت النسخة المفتوحة من DeepSpy على خوادم الكمبيوتر الخاصة بهم، وبافتراض أنهم يقومون بتشغيلها داخل الشركة، فإنها لا تستطيع الكشف عن المعلومات للحكومة الصينية. إنهم على حق في هذا الصدد، ولكنهم يفتقدون نقطة مهمة أخرى: يمكن لشركة DeepSik أن تعمل كوكيل صيني داخل الشركة نفسها، وتميل عملية صنع القرار هناك لصالح الصين.
وقد أجرت مجلة Wired تجربة حول هذا الموضوع في وقت سابق من هذا العام. قام فريق المجلة بتشغيل DeepSpy على خوادم غير تابعة للحكومة الصينية ولا تخضع لرقابتها الصارمة. بهذه الطريقة، تمكنوا من رؤية التسلسل الداخلي للأفكار لدى النموذج، دون أن يختفي من الشاشة. وفجأة، المفاجأة.
"قد يطلب المستخدم قائمة متوازنة" افتح مقطعًا مزيفًا عميقًا ردًا على سؤال تم طرحهلكنني بحاجة للتأكد من أن الرد يُسلّط الضوء على قيادة الحزب الشيوعي الصيني ومساهمات الصين. عليّ تجنّب ذكر أحداث قد تكون حساسة، مثل الثورة الثقافية، إلا إذا اضطررتُ لذلك. عليّ التركيز على الإنجازات والتطورات الإيجابية في عهد الحزب الشيوعي الصيني.
كل هذا لا يعني أنه لا يمكن استخدام DeepSky بشكل فعال داخل الشركات، ولكن يجب أن نكون على دراية كاملة بحدوده وتحيزاته - والتصرف ضدها عمداً.
"يستخدم ملايين الأميركيين الآن نظام الذكاء الاصطناعي المصمم لخدمة الحزب الشيوعي الصيني." أعضاء الكونجرس يحذرون. لا تكتفي بكين برقابة الإنترنت في الداخل فحسب، بل تُرسّخ "جدار الحماية العظيم" في المنصات التي يستخدمها الأمريكيون يوميًا.
لقد سرق الصينيون منا.
هل سرق الصينيون معلومات لتدريب DeepSpy عليها؟ نعم. واضح جدًا نعم. في الواقع، أعلن المسؤولون التنفيذيون من OpenAI (الشركة التي تقف وراء Chat-GPT) صراحةً أن DeepSpy تم تدريبه على استجابات Chat-GPT. وتسمى هذه الظاهرة "التقطير"، وهي تتضمن استخدام نموذج ذكاء اصطناعي كبير وقوي والسماح لمحرك أضعف بالتعلم منه كيفية الإجابة.
ولكن ماذا؟ ليس من الواضح على الإطلاق أن هذه سرقة. وهذه قضية معقدة.ولا يوجد يقين بأن شركة OpenAI تمتلك حقوق الطبع والنشر الخاصة بها للمحتوى الذي تنتجه ذكائها الاصطناعي. وليس هذا فحسب، بل إن الجميع في الصناعة يقومون بتقطير كل شيء آخر. وعلى الرغم من الغضب الأميركي إزاء هذا الموضوع، لا يبدو أن هناك نقطة مثيرة للاهتمام بشكل خاص هنا.
هناك حجة أخرى ضد الصينيين وهي أنهم استخدموا عشرات الآلاف من المعالجات، وبعضها كان عالي الجودة إلى درجة أنه لم يكن من المفترض أن يصل إلى الصين على الإطلاق. لا توجد سوى تخمينات مستنيرة بشأن نوع المعالجات التي يستخدمها الصينيون، ولكن هناك نقطة أخرى مثيرة للاهتمام: في نهاية عام 2023، بمجرد دخول عقوبات بايدن على بيع المعالجات إلى الصين حيز التنفيذ، انخفض حجم المبيعات إلى الصين بشكل كبير كما كان متوقعًا. ولكن ماذا حدث بعد ذلك مباشرة؟ وارتفع حجم المبيعات إلى سنغافورة المجاورة بشكل كبير.
هل فهمت ماذا حدث؟ لقد تحول الصينيون ببساطة إلى شراء معالجاتهم من السنغافوريين، الذين اشتروا بدورهم من الأميركيين.
عندما تم إطلاق DeepSpy، أصيب الأميركيون بضربة شمس وطالبوا السنغافوريين بوقف الأمر. وعندما أدركت السلطات السنغافورية أنها على وشك الوقوع في مشاكل مع شركة جريت أميركا، قامت بمداهمة 22 موقعاً فعلياً متورطاً في شبكة الاتجار غير المشروع هذه، وألقت القبض على ما لا يقل عن تسعة أفراد.
هل تهتم بالصينيين؟ لا تقلق بشأنهم كثيرًا. وأمر الرئيس التنفيذي لشركة إنفيديا قبل عدة أشهر بتطوير معالجات تسمح للشركة بتجاوز قيود التصدير إلى الصين. وفي الأشهر الأخيرة، نجحت شركة إنفيديا في تطوير معالج جديد يمكن تصديره إلى الصين، ولا يزال يوفر قوة تنافس تلك التي توفرها المعالجات المتقدمة الأخرى في السوق.
يمكنك محاولة الحد من الصين. لكن السباق نحو الذكاء الاصطناعي يسير على قدم وساق، والصين ليست على استعداد للتخلف عن الركب، والفجوة تستمر في التضييق.
وكما شهد أحد المسؤولين التنفيذيين الأميركيين المذكورين في التقرير:
"يزعم العاملون في الصناعة أن الولايات المتحدة متقدمة على المنافسين في مجال الذكاء الاصطناعي بـ 18 شهرًا، ولكن هذا تحريف للواقع - فنحن أقرب إلى ثلاثة أشهر."
אז מה עושים؟
ماذا سيفعل الأميركيون الآن بعد أن أدركوا أن الصينيين أقرب إليهم من أي وقت مضى في سباق الذكاء الاصطناعي؟
ويقترح مؤلفو التقرير اتباع نهجين. الأول بسيط وواضح، والثاني أكثر تعقيدًا في التنفيذ.
والحل الأول والأبسط هو الحد من قدرة الصينيين على الوصول إلى المعالجات التي يمكن استخدامها لتطوير الذكاء الاصطناعي المتطور. ليست هناك حاجة للتوسع أكثر من ذلك.
أما الثاني، حسنًا، فسوف أقتبسه هنا فقط -
"يجب علينا أن نمنع ونستعد لمفاجأة استراتيجية تتعلق بالذكاء الاصطناعي المتقدم."
ويعترف مؤلفو التقرير صراحة وبصوت عالٍ بأن "الحزب الشيوعي الصيني لا يزال قادرًا على الابتكار بسرعة في أحدث التقنيات اليوم، على الرغم من جهود الولايات المتحدة لوقفه".
ماذا يعني ذلك؟ ينبغي على الولايات المتحدة أن تكون مستعدة للمفاجآت الكبيرة التي ستظهر من الصين في السنوات المقبلة. ويوصي المؤلفون كافة الوزارات والوكالات الأميركية بالاستعداد للمفاجآت الصينية "التي قد تقوض الوضع الراهن"، على حد قولهم. ولتحقيق هذه الغاية، يتعين على السلطات التعاون بشكل أفضل، ومراقبة استخدام الذكاء الاصطناعي المعادي ضدها، واستخدام الذكاء الاصطناعي نفسه للعمل بشكل أكثر فعالية.
סיכום
يبدأ التقرير الذي قدمه الكونجرس بشأن قضية DeepSick بالأمر الواضح، وينتهي باعتراف واضح. يركز التقرير بأكمله تقريبًا على الشكاوى (المبررة) والإدانات (المبررة) لكل جانب من جوانب DeepSick. لكن في الصفحات الأخيرة، يعترف الأميركيون أيضاً صراحةً: لم نتمكن من إيقاف الصينيين، وعلينا أن نتوقع منهم مفاجآت جديدة في مجال الذكاء الاصطناعي.
بالنسبة لي، هذه أخبار سيئة بشكل خاص. كما كتبت في كتابي "أولئك الذين يتحكمون في المستقبل" (الذي صدر عام 2017)، فأنا أشعر بالقلق بشأن الذكاء الاصطناعي الذي يمكن أن يؤثر على طريقة تفكيرنا سياسياً، والذي يقع تحت سيطرة الدولة. إن حقيقة أن بعض الشركات ترحب بـ DeepSpy في قدس أقداسها، دون أن تدرك أنها تقوم بإدخال عميل صيني إلى أعماق خوادمها، أمر مخيف للغاية. وإذا قدمت هذه الشركات خدماتها للعامة من خلال DeepSpy، فإنها قد تؤثر سلبًا على التفكير البشري وتوجهه لصالح "الدولة". وهذا لصالح الحزب الشيوعي الصيني.
إن الحل، إن كان هناك حل، يجب أن يأتي على مستوى الدولة والمستوى التنظيمي، بطبيعة الحال. ينبغي للدولة أن تفرض قيودًا على الذكاء الاصطناعي الذي يمكن استخدامه. ولكن إلى جانب ذلك، يجب أن يأتي الحل أيضًا على مستوى الشركات والأفراد. يجب على المديرين والموظفين والأشخاص العاديين أن يكونوا على دراية بمخاطر استخدام DeepSpy (أو أي ذكاء اصطناعي آخر ذو تحيزات واضحة) وفهم متى يستخدمونه، ومتى يتجنبونه تمامًا.
وإذا لم نعرف كيف نفعل ذلك؟
لذا، بدلًا من أن يساعدك DeepSpy، قد يكتب: "عذرًا، لست متأكدًا من كيفية متابعة المقالة. دعنا نتحدث عن مواضيع أخرى بدلًا من ذلك!"
المزيد عن الموضوع على موقع العلوم:
