إن برامج المحادثة الآلية تولد روابط غير صالحة لمصادر غير موجودة، مما يؤدي إلى تقويض دور المرجع إلى المصدر.
بقلم تال سوكولوف، معهد ديفيدسون، الذراع التعليمي لمعهد وايزمان للعلوم
"الجنون هو فعل نفس الشيء مرارًا وتكرارًا وتوقع نتائج مختلفة" - ألبرت أينشتاين
الاستشهادات والمراجع وقوائم المراجع هي طرق مختلفة للاعتماد على مصادر خارجية في الكتابة. هذه الوسائل تُضفي مصداقية على الكتابة، لأنها مستمدة من مقال أو تقرير أو كتاب تم تحريره ومعالجته بعناية. بمعنى آخر، وافق شخص آخر على المحتوى ويدعم النص المختار. كما أن الإشارة إلى المصدر تمنحه فرصة أكبر للظهور، وتساعد على نشره. في الوقت نفسه، لا يضمن استخدام مرجع لمصدر ما صحة المصدر ودقته. وينطبق الأمر نفسه على الاقتباس الذي استهل به المقال، والذي يُنسب إلى أينشتاين، والذي يُحتمل أنه نشأ. عن طريق الخطأ.
ومع ذلك، للمراجع أيضًا نقاط ضعف. مقالات سُحبت من النشر لوجود عيوب جوهرية فيها. الاستمرار في العمل كمصدر على الرغم من الانتقادات التي وُجهت إليهم، والأسوأ من ذلك، أن الباحثين غالبًا ما يستشهدون مقالات غير موجودة حتىمن وجهة نظر كُتّاب المقالات، ثمة مشكلة هنا. فمن جهة، تُعدّ الإشارة إلى مصدر آخر بمثابة شهادة ضمان - ختم يُثبت أن هذه المقالة سليمة وجيدة. ومن جهة أخرى، يُعدّ التحقق من صحة هذه المراجع وموثوقيتها مهمة شاقة، وقد يُفضّل تجاهلها.
في المراجعات التي أجريت في العقود السابقة، قبل وقت طويل من ظهورها مولدات النصوص وبناءً على الذكاء الاصطناعي، وجد أنه من بين عشرات الآلاف من الإشارات إلى المصادر التي تظهر في المقالات الطبية الحيوية، في حوالي ثلاثين بالمائة من الوقت، يتم ارتكاب الأخطاء. في تفاصيل المصدر، مما يُصعّب تحديده. ومُولّدو النصوص، الذين لا يلتزمون بالحقيقة الواقعية، بل ببناء تواصل بليغ مع الناس، يُعمّقون المشكلة.
يلعب الاستشهاد بالمصادر دورًا محوريًا في المقالات البحثية: فالباحث الذي يستشهد بمقال سابق أو يُحيل إليه يُعلن أنه يسير على خطى غيره. أي أن الدراسات السابقة قد مهدت الطريق، والآن يعتمد الباحث على نتائج أسلافه أو يحاول دحضها. تتيح لنا هذه العملية بناء معارفنا طبقةً تلو الأخرى، دون الحاجة إلى إثبات الأسس التي يقوم عليها هذا المجال بأكمله مرارًا وتكرارًا.
مولد مصدر خاطئ
محركات البحث أدوات وسيطة أساسية تُمكّننا من التنقل في بحر مصادر المعلومات المتاحة، وخاصةً على الإنترنت. على سبيل المثال جوجل سكولار (Google Scholar) هو محرك بحث يُركز على المقالات العلمية، بينما يتخصص محرك بحث نظام التشغيل "ويندوز" في تحديد مواقع الملفات داخل جهاز الكمبيوتر. يعرض محرك بحث المقالات عنوان المقالة بالكامل، وقائمة بالمؤلفين، وروابط لمواقع إلكترونية يُمكن من خلالها الوصول إلى المحتوى الكامل.
في العام الماضي تم توسيع العديد من مولدات النصوص تطبيقاتهم، ويقدمون خدمات محركات البحث. ولكن على عكس محركات البحث التقليدية، لا تُتيح مُولِّدات النصوص الوصول إلى المصادر كما هي. عندما نطلب من مُولِّد النصوص هذا توجيهنا إلى مصادر معلومات حول موضوع مُعين، فإنه يبحث عن المصادر المتاحة له، ويُلخِّص ما هو مكتوب في المصدر، معالجة المحتوى وإنشاء استجابة، والتي قد تتضمن في بعض الأحيان رابطًا إلى المصدر.
في هذه العملية، قد تحدث أخطاء، على سبيل المثال عندما تكون المعلومات التي يعتمد عليها المُولِّد غير صحيحة أو غير دقيقة. علاوة على ذلك، قد تُصدر مُولِّدات النصوص هلوسة النصوص غير منطقي. مهمتهم هي التنبؤ بالنص الأكثر احتمالاً للإجابة على السؤال المطروح عليهم، ولكن ليس بالضرورة النص الأكثر موثوقية ودقة. أثناء عملية صياغة الإجابة، قد تحدث تحريفات في اسم المصدر، وعناوين غير صحيحة، وأخطاء في أسماء المؤلفين، وروابط معطلة تُشير إلى موقع مختلف عن الموقع الذي نُشر فيه المصدر، بل وحتى إلى مواقع لم تكن موجودة ولم تُنشأ.
مراجعة صحفية تناولت وُجد أن ثمانية من منشئي النصوص الذين يقدمون خيارات لمحركات البحث، بما في ذلك Chat-GPT وGemini من جوجل وGrok من تويتر، أخطأوا في 60% من مراجعهم. أي أنه في معظم الأحيان، عند طلب تحديد نص من مقال، أخطأت المنشئات في العنوان، أو أخطأت في اسم الناشر، أو قدمت عنوانًا غير صحيح. بل إن Grok ذهب إلى أبعد من ذلك، حيث أخطأ في تفاصيل المراجع في 94% من الطلبات التي تلقاها. وتضمنت أكثر من نصف الردود التي قدمتها Gemini وGrok روابط لعناوين ويب غير صحيحة.
وقد أظهرت الدراسات السابقة أن برامج الدردشة الآلية يميلون إلى تفضيل إعطاء إجابة خاطئة على إجابة مؤهلةلاحظ الصحفيون أن الظاهرة نفسها موجودة أيضًا فيما يتعلق بطلبات المراجع. «يفضل روبوت المحادثة، المتلهف لإرضاء الآخرين، تقديم إجابة من العدم بدلًا من الاعتراف بأنه لا يملك إجابة». محددأخطأ موقع Chat-GPT في 134 طلبًا من أصل 200 طلب للإشارة إلى المصادر التي تم فحصها في المراجعة، لكنه اعترف فقط بأنه غير متأكد من صحة 15 منها.
كما أن الاقتباسات الخاطئة من مصدر أو آخر تُضرّ بمصداقية المصادر نفسها. وقد فحصت هيئة الإذاعة البريطانية (بي بي سي) الاضطرابات التي ظهرت في الإشارات إلى المقالات على موقعها الإلكتروني. وجدت المراجعة أن واحدًا من كل خمسة مراجع مُولّدة بالذكاء الاصطناعي، والتي اقتبست تفاصيل من مقالات بي بي سي، قد اقتبست بشكل خاطئ أو نسبت إلى الهيئة محتوى غير موجود على موقعها الإلكتروني. ولأن هذا المحتوى غير الدقيق نُسب إلى بي بي سي، فقد يُضر بمصداقيتها ومكانتها المهنية.
لا يوجد اتصال بالرابط
إن دراسة مدى انخراط الذكاء الاصطناعي في تأليف النصوص هي مشكلة صعبة في حد ذاتها. المحتوى المنسوخ حرفيًا من مُولِّدات النصوص يشق طريقه بالفعل إلى المقالات الأكاديمية. يتطلب التحقق من اتساق الروابط والمراجع في النصوص المُنشأة بواسطة المُولِّدات جهدًا إضافيًا. يُطلب من المُراجع المُتشكِّك الوصول إلى محتوى الرابط للتأكد من تطابقه مع ما هو مُوصوف في المرجع، مثل سنة النشر أو اسم المؤلف. علاوة على ذلك، يجب عليه قراءة محتوى الرابط كاملًا للتحقق من أنه يدعم الادعاء الذي استُخدم من أجله. نظرًا لخطوات التحقق العديدة هذه، غالبًا ما تكون الأخطاء في المراجع المُنشأة بواسطة المُولِّد أكثر صعوبة من الأخطاء في نصوص المُولِّدات العادية.
في سياق المحاكمة التي جرت في الولايات المتحدة حول تقنية الذكاء الاصطناعي التي تسمح بإنشاء واقع مزيف (Deepfakeطُلب من خبير في الذكاء الاصطناعي تقديم تقرير مكتوب إلى المحكمة. ومن المفارقات أن الخبير نفسه استخدم مُولّد نصوص لكتابة التقرير، ولذلك احتوى على مراجع غير موجودة. ظاهرة الإشارة إلى أحكام غير موجودة وتم التعرف عليها أيضًا في محاكم إسرائيل..
أصبحت منتجات الذكاء الاصطناعي أكثر انتشارًا عقبة كبيرة أمام قدرتنا على التمييز بين الحقيقة والخياليُفترض أن يكون استخدام المراجع لمصادر إضافية أداةً فعّالةً لتأسيس محتوىً واقعيٍّ راسخ، وكون منتجات الذكاء الاصطناعي تُشوّه هذه الأداة أيضًا أمرٌ مُفيد. فبغض النظر عن وجود أو عدم وجود المصدر الذي يُشير إليه الرابط، فإنّ مجرد ظهور رابط خارجي من وثيقةٍ ما يُضفي عليها هالةً من السلطة والمصداقية، ولذلك يجب علينا هنا تحديدًا الحفاظ على... يقظة مضاعفة ومضاعفة.
بالمناسبة، هل قمت بالتأكد من محتوى الرابط الأخير؟
المزيد عن الموضوع على موقع العلوم:
תגובה אחת
حسنًا، ولكن لماذا الفقرتان الأولى والثالثة متماثلتان؟
إذا كنت تقوم بتحرير مقالات باستخدام الذكاء الاصطناعي، فيجب عليك أيضًا التحقق من المحتوى، وليس فقط المراجع.