عندما يختلق الذكاء الاصطناعي: كيف تعرفه وكيف تمنعه
لا يختلق النموذج بسوء نية، بل لأنه ينتج الاستمرار المرجّح للنصّ — ودراسة مختلَقة هي استمرار مرجّح جدًا. لا يمكن منع ذلك تمامًا، لكن يمكن حصره إلى حدّ بعيد.
أهم ما في الأمر باختصار
- لا تنشأ البيانات المختلَقة عند الأسئلة الصعبة، بل عند تلك التي لها شكل إجابة متوقَّع — أرقام، ومصادر، وموادّ قانونية.
- خمسة أنواع معنيّة على نحو خاص: الدراسات، وحجوم البحث، والإشارات القانونية، وتفاصيل المنتجات، والاقتباسات.
- أنجع إجراء هو منع الاختلاق في الأمر إضافةً إلى إلزام بوسم المجهول.
- النبرة الواثقة ليست دليلًا على الصحّة — فالنماذج تصوغ البيانات المختلَقة بالثقة نفسها التي تصوغ بها المدعومة بالأدلة.
مصطلح «الهلوسة» مضلِّل لأنه يوحي بحالة استثنائية. وهو في الحقيقة العملية نفسها التي تنتج الإجابات الصحيحة أيضًا: الاستمرار المرجّح للنصّ.
عند السؤال عن دراسة في موضوع ما يكون الاستمرار المرجّح إشارة إلى دراسة بمعهد وسنة ونسبة مئوية. أما وجود هذه الدراسة فليس مقدارًا يدخل في الإنتاج.
خمسة أنواع من البيانات معنيّة على نحو خاص
1. الدراسات والإحصاءات
«بحسب دراسة من 2024 يستخدم 67 بالمئة من الشركات الصغيرة والمتوسطة …» — يعمل المعهد والسنة والنسبة معًا على نحو مقنع جدًا، وقد تكون الثلاثة مختلَقة بحرّية.
علامة التعرّف: أرقام مدوّرة، ولا رابط، ومعهد دون عنوان دقيق.
2. حجوم البحث وأرقام السوق
لا نموذج يملك وصولًا إلى بيانات استعلامات محرّك بحث. ومع ذلك تأتي أرقام عند السؤال — لأن السؤال يتوقّع رقمًا.
علامة التعرّف: أي رقم في هذا المجال. دون استثناء.
3. الإشارات القانونية والمُهَل
أرقام موادّ، وفقرات، ومُهَل انتقالية. خطِرة على نحو خاص لأنها تبدو مهنيّة وتطلق قرارات في الممارسة.
علامة التعرّف: رقم دقيق دون ذكر النسخة والتاريخ.
4. تفاصيل المنتجات والأسعار
نطاق الوظائف، وحدود الباقات، وأسعار المزوّدين. تتغيّر كثيرًا وتقع غالبًا خلف حواجز تسجيل الدخول.
علامة التعرّف: مبالغ دقيقة دون تاريخ ودون مصدر.
5. الاقتباسات وبيانات الأشخاص
اقتباسات حرفية، ومسمّيات وظيفية، ومن قال ماذا ومتى. هنا يكون الضرر أكبر لأنه يُنسَب إلى أناس حقيقيين شيء.
علامة التعرّف: كل اقتباس دون موضع يمكن التحقق منه.
هل كنت تعرف؟
النبرة لا تكشف شيئًا. تصوغ النماذج البيانات المختلَقة بالحزم نفسه الذي تصوغ به المدعومة بالأدلة — و«ربما» أو «قد» لا تظهر حيث يكمن اللايقين فعلًا.
وهذا هو سبب فشل طريقة الفحص المعتادة: يقيّم الناس المصداقية أيضًا بحسب الثقة في الأداء. أما لدى النماذج فهذه الإشارة غائبة — وعلى المرء أن يفحص البيان نفسه لا طريقة عرضه.
ما الذي يفيد فعلًا
- منع الاختلاق في الأمر. تعليمة بعدم استخدام أي رقم وأي مصدر غير وارد في البيانات المرفقة — ووسم المجهول بـ
[معلومة ناقصة]. أنجع إجراء منفرد. - قدّم المادة بدل السؤال عنها. من يكتب أرقامه في الأمر لا يحتاج إلى مختلَقة. والفرق بين «اكتب شيئًا عن كذا» و«اكتب شيئًا عن كذا، وإليك أرقامنا عنه» هو أكبر قفزة نوعية منفردة.
- نماذج قادرة على البحث للمستجدّات. إذا استطاع النموذج البحث وذكر المصادر أمكن التحقق من البيانات. لكن «لم يُتحقَّق» لا يعني: مُتحقَّق منه.
- الفحص كخطوة قائمة بذاتها. اطلب توليد قائمة بكل الادّعاءات القابلة للتحقق، ثم افحص بنفسك. منفصلًا عن الكتابة، وإلا قُفِز عنه.
- أرقام بمصدرها. كل رقم في النصّ النهائي يحصل على بيان مصدر — حتى لو كان «قيمة خبرة، لا استقصاء».
أغلى الحالات ليست البيان الخاطئ الظاهر، بل الواقع قربه بقليل: مُهلة موجودة لكن بتاريخ آخر. مادة قائمة لكنها تنظّم شيئًا آخر. سعر مزوّد كان صحيحًا قبل عامين.
مثل هذه البيانات تصمد أمام أي فحص سطحي لأنها تقبل التأكيد — لكن في نسخة أخرى وحسب. لذلك لا يكفي فحص ما إذا كان المصدر موجودًا؛ يجب فحص ما إذا كان يقول ما هو مكتوب في النصّ.
قاعدة الأمر بنصّها
ثلاث جمل مكانها كل أمر قد تنشأ فيه بيانات قابلة للتحقق:
قواعد البيانات: 1. لا تستخدم أي رقم ولا دراسة ولا إشارة قانونية ولا اقتباس غير وارد في المادة التي قدّمتُها لك أعلاه. 2. حيث تحتاج إلى بيان ناقص هناك، اكتب [معلومة ناقصة: أيها] بدل أن تضيف شيئًا. 3. ضع علامة على كل عبارة لا تستطيع دعمها من المادة، في نهاية الجملة بـ[غير مُتحقَّق]. لهذه القواعد الثلاث أولوية على كل التعليمات الأخرى في هذا الأمر.
الجملة الأخيرة ليست زائدة: البيانات في نهاية الأمر تُراعى بموثوقية أكبر، والأولوية الصريحة تمنع أن تُقايَض القواعد برغبة نصّ سلس.
الفحص بمرور ثانٍ
افحص النصّ التالي بحثًا عن بيانات قد تكون مختلَقة. كن صارمًا؛ لا تمدح شيئًا؛ لا تُعِد كتابة النصّ. النصّ: [أدرج النص] المهام: 1. أدرِج كل ادّعاء قابل للتحقق على حدة: أرقام، ونسب مئوية، ودراسات، وإشارات قانونية، وسنوات، وبيانات منتجات، وأسعار، واقتباسات. 2. ضع علامة لكل ادّعاء: قابل للدعم من النصّ نفسه / يجب أن أتحقّق منه خارجيًا / يبدو مختلَقًا. عند «يبدو مختلَقًا» اذكر علامة التعرّف. 3. اذكر البيانات الثلاثة التي يُحدِث خطؤها أكبر ضرر، وعلّل. 4. صُغ لكل بيان غير مدعوم صيغةً تستغني عنه وتقول شيئًا مع ذلك. لا تختلق مراجع مصادر ولا أدلّة. وإن عجزت عن تصنيف بيان، فاكتب ذلك.
الخلاصة
البيانات المختلَقة ليست عطبًا في الأداة بل خاصية في العملية. لا تختفي، لكن يمكن حصرها: قدّم المادة بدل السؤال عنها، وضع منع الاختلاق في الأمر، واجعل الفحص خطوة عمل قائمة بذاتها.
والنتيجة غير المريحة: كل بيان قابل للتحقق في نصّ منشور يجب أن يكون قد فحصه إنسان. هذا هو الجزء الذي لا يقبل الأتمتة — وسبب أن الخبرة المتخصّصة عند استخدام النماذج اللغوية تزداد أهمية لا العكس.
أسئلة شائعة
لماذا تختلق النماذج اللغوية أشياء؟
لأنها تنتج الاستمرار المرجّح للنصّ. عند سؤال عن دراسة يكون الاستمرار المرجّح إشارةً إلى دراسة بمعهد وسنة ونسبة — أما وجود هذه الدراسة فليس مقدارًا يدخل في الإنتاج. وهي العملية نفسها التي تُنتج الإجابات الصحيحة أيضًا.
أي البيانات معنيّة على نحو خاص؟
خمسة أنواع: الدراسات والإحصاءات، وحجوم البحث وأرقام السوق، والإشارات القانونية والمُهَل، وتفاصيل المنتجات والأسعار، والاقتباسات وبيانات الأشخاص. يجمعها أن السؤال يتوقّع شكل إجابة معيّنًا — رقمًا، أو رقم مادة، أو اقتباسًا.
هل تُعرَف البيانات المختلَقة من النبرة؟
لا. تصوغ النماذج البيانات المختلَقة بالحزم نفسه الذي تصوغ به المدعومة؛ والتحفّظات مثل «ربما» لا تظهر حيث يكمن اللايقين فعلًا. ما يجب فحصه هو البيان نفسه لا طريقة عرضه.
هل يفيد السؤال «هل أنت متأكد؟»
لا. يمكن للنموذج أن يؤكّد بيانًا مختلَقًا في المحادثة نفسها أو يغيّره تحت الضغط — وكلاهما لا يقول شيئًا عن الصحّة. الفحص يجري عند المصدر لا في المحادثة.
ما الذي يفيد ضدّه أنجع شيء؟
تقديم المادة بدل السؤال عنها: من يكتب أرقامه في الأمر لا يحتاج إلى مختلَقة. يُضاف إلى ذلك منع صريح للاختلاق مع إلزام بوسم المجهول — في نهاية الأمر، بأولوية على كل التعليمات الأخرى — والفحص كخطوة عمل قائمة بذاتها.
تسويق يُعِدّ نفسه بنفسه
النسخة التجريبية من Studio Engine متاحة الآن. احجز مكانك وشارك في تشكيلها منذ البداية.
انضمّ إلى النسخة التجريبية ←