يمكن للذكاء الاصطناعي أن يقدّم شرحًا منظمًا ومقنعًا خلال ثوانٍ، لكن جودة الصياغة لا تعني أن المعلومات صحيحة. قد تتضمن الإجابة تاريخًا خاطئًا، أو رقمًا غير دقيق، أو دراسة غير موجودة، أو اقتباسًا لم يقله الشخص المنسوب إليه.
يشرح هذا الدليل معنى هلوسة الذكاء الاصطناعي، وأبرز أشكالها، وكيف تتحقق من الإجابات والمصادر والأرقام والاقتباسات قبل استخدامها في الدراسة أو العمل أو النشر.
ما المقصود بهلوسة الذكاء الاصطناعي؟
تحدث الهلوسة عندما ينتج نموذج الذكاء الاصطناعي معلومة خاطئة أو غير مدعومة ويعرضها كما لو كانت صحيحة. يستخدم NIST مصطلح «الاختلاق» أو Confabulation لوصف المحتوى الخاطئ الذي قد يُقدّم بثقة، بينما تستخدم الشركات والمستخدمون تعبير «الهلوسة» بصورة شائعة.
يمكن أن تظهر الهلوسة في إجابة كاملة، أو في تفصيل صغير داخل إجابة صحيحة عمومًا. وقد تكون المعلومة منطقية ومكتوبة بلغة ممتازة، ما يجعل اكتشافها أصعب على القارئ غير المتخصص.
هذا لا يعني أن النموذج «يكذب» بالمعنى البشري. النماذج اللغوية تولّد إجابات اعتمادًا على الأنماط والسياق المتاح، وليست قواعد بيانات تضمن استرجاع حقيقة موثقة في كل مرة.
لماذا تبدو الإجابة الخاطئة مقنعة؟
تستطيع النماذج تقليد أنماط الكتابة المهنية والأكاديمية، بما يشمل الجداول والمراجع والنبرة الواثقة. لذلك قد تبدو الإجابة موثوقة حتى عندما تحتوي على خطأ.
- قد يملأ النموذج المعلومات الناقصة بتفاصيل تبدو منطقية.
- قد يخلط بين شخصين أو حدثين أو دراستين متشابهتين.
- قد يعتمد على معرفة قديمة عند السؤال عن موضوع متغير.
- قد يسيء فهم سؤال غامض ويجيب عن معنى مختلف.
- قد ينشئ رابطًا أو عنوان دراسة يبدو واقعيًا لكنه غير موجود.
- قد يختصر موضوعًا معقدًا بطريقة تحذف اختلافات مهمة.
الثقة في أسلوب الإجابة ليست مقياسًا للموثوقية. تؤكد OpenAI أن النموذج قد يبدو واثقًا حتى عندما يكون مخطئًا، ولذلك يجب تقييم الادعاء نفسه ومصدره.
أكثر أشكال الأخطاء شيوعًا
مصادر ودراسات غير موجودة
قد تنشئ الأداة اسم دراسة أو باحث أو مجلة أو رابطًا يشبه المراجع الحقيقية. لا تعتبر وجود اسم جهة أو رابط في الإجابة دليلًا على أن المصدر موجود.
أرقام دقيقة ظاهريًا
قد تعرض الإجابة نسبة مئوية أو عددًا أو سعرًا من دون مصدر واضح. وكلما بدا الرقم دقيقًا، ازدادت أهمية معرفة مصدره وتاريخه وطريقة حسابه.
اقتباسات منسوبة إلى الشخص الخطأ
قد تُنسب جملة مشهورة إلى شخصية لم تقلها، أو يُعاد تركيب معنى عام في صورة اقتباس مباشر. ابحث عن النص الأصلي في مقابلة أو خطاب أو حساب رسمي.
معلومات صحيحة لكنها قديمة
قد تكون المعلومة صحيحة في تاريخ سابق، لكنها لم تعد كذلك. يظهر هذا كثيرًا في الأسعار والخطط والميزات والقوانين والمناصب والإصدارات التقنية.
خلط الحقيقة بالاستنتاج
قد تبدأ الإجابة بحقائق صحيحة ثم تنتقل إلى تفسير أو توقع وتعرضه بالنبرة نفسها. يجب الفصل بين ما تؤكده المصادر وما يستنتجه النموذج منها.
تلخيص غير أمين للمصدر
قد يكون المصدر موجودًا، لكن الإجابة توسّع نتيجته أو تحذف شرطًا مهمًا منه. يظهر ذلك خصوصًا عند تلخيص الدراسات العلمية والتقارير والقضايا القانونية.
متى يجب عليك التحقق من الإجابة؟
ليس كل طلب بحاجة إلى المستوى نفسه من التدقيق. اقتراح أسماء لقصة خيالية أقل خطورة من تلخيص دراسة طبية أو اتخاذ قرار مالي. زد مستوى التحقق كلما زاد أثر الخطأ.
- عند ذكر أسماء أو تواريخ أو أرقام أو نسب مئوية.
- عند الاستناد إلى دراسة أو تقرير أو قانون.
- عند نقل اقتباس مباشر عن شخص أو مؤسسة.
- عندما تكون المعلومة حديثة أو سريعة التغير.
- قبل نشر الإجابة في مقال أو تقرير أو حساب عام.
- عند اتخاذ قرار طبي أو قانوني أو مالي أو مهني مؤثر.
طريقة عملية للتحقق من أي إجابة
- استخرج الادعاءات القابلة للفحص: حدّد الأسماء والأرقام والتواريخ والنتائج والاقتباسات بدل محاولة مراجعة النص كاملًا دفعة واحدة.
- اطلب المصدر المباشر: اطلب رابط الصفحة الرسمية أو الدراسة الأصلية أو الوثيقة التي تدعم الادعاء.
- افتح الرابط بنفسك: لا تكتفِ بوجوده في الإجابة. تأكد من أنه يعمل ويقود إلى المصدر المقصود.
- ابحث داخل المصدر: افحص هل يذكر المصدر المعلومة نفسها أم يتحدث عن موضوع قريب فقط.
- تحقق من التاريخ: راجع تاريخ النشر وتاريخ وقوع الحدث وآخر تحديث للصفحة.
- اقرأ السياق: لا تعتمد على جملة مقتطعة. اقرأ الفقرة أو القسم المحيط بها لفهم الشروط والقيود.
- قارن بمصدر آخر: استخدم مصدرًا موثوقًا ومستقلًا عندما تكون المعلومة مهمة أو مختلفًا عليها.
- افصل الحقيقة عن الاستنتاج: حدّد ما يذكره المصدر صراحةً وما أضافته الأداة من تفسير.
- صحّح النص النهائي: احذف أي معلومة لا تستطيع توثيقها، أو وضّح أنها غير مؤكدة.
كيف تعرف أن المصدر موثوق؟
تعتمد قوة المصدر على نوع المعلومة. صفحة الشركة مناسبة للتحقق من ميزات منتجها وأسعاره، لكنها ليست مصدرًا مستقلًا لتقييم جودة المنتج. أما الدراسة الأصلية فهي أنسب لفهم نتائج البحث من مقال يلخصها.
| نوع المعلومة | المصدر الذي تبدأ منه |
|---|---|
| سعر أو ميزة أو خطة | صفحة المنتج أو الشركة الرسمية |
| إعلان أو تحديث | غرفة الأخبار أو المدونة الرسمية |
| نتيجة دراسة | البحث الأصلي أو الجهة العلمية الناشرة |
| قانون أو قرار حكومي | الموقع الحكومي أو النص القانوني الرسمي |
| تصريح من شخص | المقابلة أو الخطاب أو الحساب الرسمي |
| رقم اقتصادي | الجهة الإحصائية أو المؤسسة التي جمعته |
| تحليل أو مقارنة | عدة مصادر موثوقة ومستقلة |
يمكن استخدام المقالات الإخبارية الموثوقة لفهم الموضوع والسياق، لكن الأفضل العودة إلى المصدر الأول عندما تكون المعلومة متاحة فيه.
كيف تفحص دراسة يذكرها الذكاء الاصطناعي؟
- ابحث عن عنوان الدراسة كما ورد في الإجابة.
- تأكد من أسماء الباحثين والجهة الناشرة.
- اقرأ الملخص والنتيجة الأصلية.
- افحص حجم العينة والفئة التي شملتها الدراسة.
- انتبه إلى الفرق بين الارتباط وإثبات السببية.
- راجع القيود التي ذكرها الباحثون.
- تأكد من أن الإجابة لم تعمم النتيجة على أشخاص أو ظروف لم تشملهم الدراسة.
إذا لم تجد الدراسة بالعنوان أو أسماء الباحثين أو المعرّف الرقمي DOI، فلا تستخدم المرجع قبل التأكد من وجوده. وقد يكون الخطأ في تفاصيل المرجع لا في الفكرة كلها، لذلك ابحث أيضًا عن الكلمات الرئيسية والجهة المذكورة.
كيف تفحص الأرقام والإحصاءات؟
اسأل دائمًا: من جمع الرقم؟ ومتى؟ وفي أي بلد أو فئة؟ وما المقصود بالمقياس؟ قد يكون الرقم صحيحًا في سوق معين أو فترة زمنية محددة، لكنه يُعرض في الإجابة كأنه ينطبق على الجميع.
- افتح التقرير الذي ورد فيه الرقم.
- راجع تاريخ جمع البيانات، لا تاريخ نشر المقال فقط.
- تأكد من وحدة القياس والعملة والضرائب.
- افحص هل الرقم تقدير أم نتيجة فعلية.
- أعد الحساب عندما تكون المعادلة بسيطة.
- لا تستخدم نسبة بلا معرفة العدد الأساسي الذي حُسبت منه.
كيف تفحص الروابط والاقتباسات؟
قد يكون الرابط حقيقيًا لكنه لا يدعم الجملة، أو يقود إلى صفحة رئيسية بدل الوثيقة المطلوبة. افتح الرابط وابحث عن الكلمات الأساسية داخل الصفحة.
أما الاقتباس المباشر، فيجب أن تجده بالنص نفسه أو بمعنى واضح في المصدر الأصلي. إذا لم تجد الجملة، حوّلها إلى تلخيص منسوب إلى المصدر أو احذفها، ولا تعرضها بين علامتي اقتباس.
هل البحث والاستشهادات يمنعان الهلوسة؟
يمكن لأدوات البحث والربط بالمصادر الحديثة أن تحسن الدقة. توضح Google أن إسناد الإجابة إلى نتائج البحث يساعد على تقليل الهلوسة وتقديم معلومات حديثة واستشهادات قابلة للفحص.
لكن وجود الاستشهاد لا يضمن صحة كل جملة. قد يسيء النموذج تفسير المصدر أو يربط الادعاء بصفحة لا تدعمه بصورة كاملة. لذلك تبقى زيارة المصادر ومطابقة الادعاءات خطوة ضرورية.
أوامر تساعد على تقليل الأخطاء
لا يوجد أمر يزيل الهلوسة تمامًا، لكن بعض التعليمات قد تقلل التخمين وتجعل الإجابة أسهل في المراجعة.
السماح للأداة بالاعتراف بعدم المعرفة
مثال: إذا لم تتوفر لديك معلومات كافية أو لم تجد مصدرًا موثوقًا، قل ذلك بوضوح ولا تخمّن.
حصر الإجابة في مستندات محددة
مثال: أجب اعتمادًا على المستند المرفق فقط. إذا لم يذكر المستند المعلومة، اكتب «غير مذكورة في المستند».
طلب الأدلة قبل التحليل
مثال: استخرج أولًا الجمل التي تدعم كل ادعاء، ثم اكتب الملخص اعتمادًا على هذه الجمل فقط.
الفصل بين الحقائق والاستنتاجات
مثال: قسّم الإجابة إلى قسمين: معلومات تؤكدها المصادر، واستنتاجات مبنية عليها. وضّح درجة الثقة في كل استنتاج.
مراجعة الادعاءات بعد الكتابة
مثال: راجع كل ادعاء في المسودة، واربطه بمصدر يدعمه. احذف أي ادعاء لا تجد له دليلًا واضحًا.
توصي Anthropic بالسماح للنموذج بإظهار عدم اليقين، واستخدام الاقتباسات المباشرة، والتحقق من الادعاءات بالاستشهادات. لكنها توضح أن هذه الأساليب تقلل الهلوسة ولا تلغيها.
مثال عملي على التحقق
لنفترض أن الأداة قالت: «أظهرت دراسة جامعية أن استخدام الذكاء الاصطناعي يزيد إنتاجية الطلاب بنسبة محددة».
قبل نشر الجملة، افحص العناصر التالية:
- ما اسم الدراسة الكامل؟
- من أجراها ومتى نُشرت؟
- هل الرابط يقود إلى الدراسة الأصلية؟
- كم بلغ حجم العينة ومن شملتها؟
- كيف عرّفت الدراسة «الإنتاجية»؟
- هل أثبتت الدراسة أن الذكاء الاصطناعي سبب التحسن أم لاحظت ارتباطًا فقط؟
- هل تنطبق النتيجة على جميع الطلاب أم على مجموعة ومهمة محددتين؟
إذا لم تستطع الإجابة عن هذه الأسئلة من المصدر الأصلي، فلا تنشر النسبة كحقيقة عامة.
قائمة مراجعة سريعة قبل استخدام الإجابة
| السؤال | ما الذي تفعله؟ |
|---|---|
| هل تحتوي الإجابة على معلومات متغيرة؟ | تحقق من التاريخ وأحدث مصدر رسمي. |
| هل تتضمن رقمًا أو نسبة؟ | ارجع إلى التقرير وطريقة الحساب. |
| هل تذكر دراسة؟ | افتح البحث الأصلي واقرأ النتيجة والقيود. |
| هل تتضمن اقتباسًا؟ | ابحث عنه في المقابلة أو الخطاب الأصلي. |
| هل تحتوي على رابط؟ | افتحه وتأكد من أنه يدعم الادعاء. |
| هل تقدم تفسيرًا؟ | افصل بين الحقيقة والاستنتاج. |
| هل سيؤثر الخطأ في قرار مهم؟ | استشر مختصًا ولا تعتمد على الأداة وحدها. |
متى تحتاج إلى مختص؟
لا تستخدم إجابة الذكاء الاصطناعي بديلًا عن الطبيب أو المحامي أو المستشار المالي أو المختص الأمني. يمكن للأداة مساعدتك على فهم المصطلحات وتحضير الأسئلة، لكنها لا تعرف جميع ظروف حالتك ولا تتحمل مسؤولية القرار.
كلما زادت خطورة النتيجة المحتملة، يجب أن تزيد المراجعة البشرية. وتشير إرشادات Google إلى أن التطبيقات التي يراجع مخرجاتها مختصون قبل اتخاذ إجراء تكون أقل خطورة من التطبيقات التي تنفذ النتائج من دون إشراف.
الخلاصة
قد تكون إجابة الذكاء الاصطناعي مفيدة ومنظمة، لكنها ليست مصدرًا نهائيًا للحقيقة. تعامل معها كنقطة بداية، وحدّد الادعاءات المهمة، ثم افحص المصادر والتواريخ والأرقام والاقتباسات بنفسك.
استخدام البحث والاستشهادات والتعليمات الواضحة يساعد على تقليل الأخطاء، لكنه لا يلغي الحاجة إلى التفكير النقدي. القاعدة الأبسط هي: كل معلومة ستنشرها أو تبني عليها قرارًا مهمًا تحتاج إلى مصدر يمكنك فتحه وفهمه والتحقق منه.
الأسئلة الشائعة
هل كل إجابة خاطئة تُعد هلوسة؟
يُستخدم المصطلح عادةً عندما يولّد النموذج معلومة غير صحيحة أو غير مدعومة ويعرضها كأنها حقيقة. وقد تنتج الأخطاء أيضًا عن سؤال غامض أو معلومات قديمة أو سوء تفسير للسياق.
هل يمكن للذكاء الاصطناعي اختلاق المصادر والروابط؟
نعم. قد ينشئ أسماء دراسات أو مراجع أو روابط تبدو حقيقية. افتح كل مصدر وتأكد من وجوده ومن أنه يدعم الادعاء المذكور.
هل طلب المصادر يجعل الإجابة صحيحة؟
لا يضمن ذلك صحة الإجابة. قد يكون المصدر موجودًا لكنه لا يدعم الجملة أو قد يُفسّر بصورة خاطئة. يجب زيارة المصدر ومقارنته بالادعاء.
هل البحث عبر الإنترنت يمنع الهلوسة؟
يساعد البحث على تقديم معلومات حديثة وربط الإجابة بمصادر، لكنه لا يمنع جميع الأخطاء. قد تحدث مشكلة في اختيار المصدر أو فهمه أو تلخيصه.
كيف أطلب من الأداة ألا تخمّن؟
اطلب منها أن تذكر عدم توفر المعلومات عندما لا تجد دليلًا، وأن تفصل بين الحقائق والاستنتاجات، وأن تربط الادعاءات بمصادر مباشرة. ومع ذلك، راجع النتيجة بنفسك.
هل النماذج الأحدث خالية من الهلوسة؟
لا. قد تختلف معدلات الخطأ وقدرات البحث بين النماذج، لكن المصادر الرسمية تؤكد أن النماذج المتقدمة ما زالت قادرة على إنتاج معلومات غير صحيحة.
