أمثلة على هلوسة الذكاء الاصطناعي: 4 حالات حقيقية وكيف تكتشفها

هلوسة الذكاء الاصطناعي هي إجابة تبدو واثقة من نفسها وهي خاطئة أو لا سند لها: قضية لم يُحكم فيها قط، أو اقتباس لم يقله أحد، أو تاريخ يبعد عن الصحيح بسنتين. النموذج لا يكذب. هو يتوقع كلمات مقبولة، والتفصيلة المختلقة تُقرأ تمامًا مثل الحقيقية. فيما يلي أربع حالات موثقة، وما يجمع بينها، وفحص قصير يمكنك إجراؤه على أي مسودة بالذكاء الاصطناعي قبل أن تُرسل.

أربعة أمثلة حقيقية على هلوسة الذكاء الاصطناعي

1. المذكرة القانونية بقضايا مختلقة (2023). قدّم محاميان في نيويورك مذكرة في قضية Mata v. Avianca استشهدت بأحكام قضائية اخترعها ChatGPT. وفي 22 يونيو 2023 غرّم القاضي P. Kevin Castel المحاميين وشركتهما 5,000 دولار وخلص إلى سوء النية، مشيرًا إلى تجاهلهما المتعمد لإشارات تدل على أن القضايا مزيفة وإلى تصريحات مضللة أمام المحكمة. وذكر القاضي أنه لا حرج في ذاته في الاستعانة بأداة ذكاء اصطناعي موثوقة. الخطأ كان في عدم التحقق مما أنتجته.

2. روبوت الدردشة الذي اخترع قاعدة استرداد (2024). أخبر روبوت دردشة تابع لشركة Air Canada أحد العملاء أنه يستطيع طلب تعرفة الحداد بعد رحلته. بينما كانت صفحة الشركة نفسها تقول إن الاسترداد غير متاح للرحلات التي تمت بالفعل. وفي فبراير 2024 حمّلت محكمة في كولومبيا البريطانية شركة Air Canada المسؤولية عما قاله روبوتها، ورفضت فكرة أن الروبوت كيان منفصل. الهلوسة في أداة تتعامل مع العملاء تصبح تصريحًا صادرًا عنك.

3. تقرير استشاري بمصادر مزيفة (2025). أعدّت Deloitte أستراليا لوزارة التوظيف وعلاقات مكان العمل مراجعة احتوت على استشهادات ملفقة وعبارة قضائية مختلقة. لاحظ أحد الأكاديميين أن بعض الأعمال المذكورة غير موجودة. راجعت Deloitte التقرير، وأعلنت أنها استخدمت نموذج ذكاء اصطناعي توليديًا، ووافقت على رد الدفعة الأخيرة من عقدها البالغ 440,000 دولار أسترالي. حتى الفرق المهنية التي لديها إجراءات مراجعة لم تنتبه للخطأ.

4. عرض منتج بمعلومة "أولى" خاطئة (2023). في الفيديو الترويجي لإطلاق روبوت الدردشة Bard من Google، قال الروبوت إن تلسكوب جيمس ويب الفضائي التقط أول صورة على الإطلاق لكوكب خارج نظامنا الشمسي. وأشار علماء الفلك إلى أن أول صورة لكوكب خارجي جاءت من تلسكوب آخر عام 2004، وانخفض سهم Alphabet في ذلك اليوم. كانت الجملة سلسة ودقيقة الشكل وسهلة التصديق، وهذا ما يجعل هذا النوع من الأخطاء صعب الملاحظة.

ما الذي يجمع بين هذه الحالات

كلها اختبأت داخل نص يبدو عاديًا. وهناك أربعة أنماط تتكرر:

• تفاصيل محددة تحمل اسمًا. أسماء القضايا وعناوين التقارير والمؤلفون والاقتباسات. المرجع يبدو صحيحًا سواء كان موجودًا أم لا.
• صيغ التفضيل وعبارات "الأول". "الأول" و"الوحيد" و"الأكبر". تبدو موثوقة ومن السهل أن تكون خاطئة.
• القواعد والسياسات. شروط الاسترداد والحدود القانونية والمواعيد النهائية. يملأ النموذج الفراغ بما قد تقوله قاعدة كهذه على الأرجح.
• لم يفتح أحد المصدر. في كل حالة كان الادعاء سيسقط في بحث لا يستغرق دقيقتين.

فحص في خمس دقائق لمسودتك

لا تحتاج إلى أداة خاصة لهذا. يصلح الفحص لأي مسودة كُتبت بمساعدة الذكاء الاصطناعي، من رسالة بريد إلى تقرير.

1. ظلّل كل ادعاء يمكن التحقق منه. الأسماء والأرقام والتواريخ والاقتباسات وعبارات "الأول/الوحيد/الأكثر" والقواعد والأسعار وكل ما له مصدر مرفق.
2. ضع علامة على ما سيضرك لو كان خاطئًا. رقم يخص عميلًا أو مرجع قانوني أهم بكثير من ملاحظة عامة.
3. افتح مصدر كل واحد. ابحث عن العنوان أو اسم القضية أو الاقتباس بالنص الدقيق. وإذا أعطاك النموذج رابطًا فافتحه واقرأ السطر الذي يفترض أنه يدعم الادعاء.
4. اعتبر "لم أجده" نتيجة. إذا لم تجد مصدرًا يقول الشيء نفسه فاحذف الادعاء، أو أعد صياغته على أنه غير مؤكد، أو استبدله بآخر تستطيع الاستشهاد به.
5. أعد قراءة النص بعد التصحيح. التصحيحات كثيرًا ما تترك وصلات متكلفة، والمسودة الدقيقة ينبغي أن تبدو بصوتك أنت أيضًا.

لنسخة أطول فيها أمر يطلب من النموذج أن يسرد شكوكه بنفسه، اقرأ قائمة الخطوات الست للتحقق من حقائق ChatGPT. وإذا كان همّك كيف يُقرأ النص لا صحته، فإن قائمة النقاط العشر لاكتشاف عادات الذكاء الاصطناعي في كتابتك تغطي هذا الجانب.

كيف تفعل ذلك في Unflag

حين يكثر عدد الادعاءات، تقوم أداة التحقق من الحقائق بالمرور الأول نيابةً عنك. وهي جزء من Unflag Plus، لذا لا يستطيع أصحاب الحسابات المجانية استخدامها.

1. افتح التحقق من الحقائق وسجّل الدخول. على الويب يلزم 50 كلمة على الأقل، ويقبل Plus حتى 10,000 حرف في كل إدخال.
2. الصق مسودة الذكاء الاصطناعي وشغّل الفحص.
3. يستخرج Unflag الادعاءات من نصك ويبحث في الويب عن كل واحد منها. تحصل على درجة ثقة إجمالية وملخص وتحليل لكل ادعاء والمصادر.
4. يحصل كل ادعاء على حكم: صحيح أو خطأ أو صحيح جزئيًا أو مضلل أو غير قابل للتحقق.
5. افتح المصادر وراء كل ما هو مهم. "غير قابل للتحقق" تعني ذلك تمامًا، لا "خطأ"، والحكم مجرد خيط تتأكد منه وليس بديلًا عن قراءة المصدر.
6. صحّح المسودة، ثم استخدم إعادة الكتابة أو أنسنة الذكاء الاصطناعي لتبدو طبيعية. تحاول أنسنة الذكاء الاصطناعي الحفاظ على الأرقام مثل الأسعار والنسب المئوية، لكن تحقق من أرقامك مرة أخرى بعد أي إعادة كتابة.

اعتبارًا من أكتوبر 2026، يبلغ سعر Unflag Plus على الويب 8.99 دولار شهريًا أو 45.99 دولار سنويًا. أما التطبيقات فتُحاسَب أسبوعيًا أو سنويًا عبر المتاجر.

هل ما زالت النماذج الأحدث تهلوس؟

نعم، لكن مدى ذلك يعتمد على النموذج والموضوع وما إذا كان يستطيع البحث. النماذج التي تتصفح الويب أو تقرأ المصادر التي تعطيها لها تقدم ادعاءات بلا سند أقل من نموذج يجيب من الذاكرة. ولا تزعم أي جهة مطورة أن المشكلة انتهت، لذا تبقى عادة التحقق من الأسماء والأرقام والاقتباسات صالحة. اعتبر أي نسبة تراها مذكورة رقمًا خاصًا بالشركة أو الباحث في اختبار واحد، لا وعدًا بشأن مسودتك.

أين تختبئ الهلوسة في الكتابة اليومية

• رسائل العمل والتقارير: الإحصاءات ومعلومات المنافسين وعبارات "المعيار في القطاع".
• خطابات التقديم والنبذات التعريفية: التواريخ والمسميات الوظيفية والجوائز التي ملأها النموذج.
• تدوينات المدونات والنصوص التسويقية: عبارات "تُظهر الدراسات" واقتباسات الخبراء المختلقة.
• الملخصات: نقطة أُضيفت ولم يذكرها المصدر قط.
• المواضيع الطبية والقانونية والمالية: استخدم الذكاء الاصطناعي لتحضير أسئلتك، واعتمد على مختص مؤهل أو مصدر رسمي للإجابة.

ما لا يستطيع هذا الفحص فعله

لا توجد أداة، ومنها Unflag، تضمن اكتشاف كل خطأ. فالمدقق المعتمد على الويب مقيّد بما يستطيع العثور عليه، وقد يكون الادعاء غير قابل للتحقق وصحيحًا في آن واحد. وإذا كان لدى دورتك الدراسية أو جهة عملك أو الناشر سياسة بشأن الذكاء الاصطناعي، فالتزم بها، بما في ذلك أي قاعدة تتعلق بذكر أن الذكاء الاصطناعي ساعد.

كيف أعددنا هذا المقال

قرأنا ما نُشر عن كل حالة (Bloomberg Law وDaily Hive وTechRadar وSpace.com، حتى أكتوبر 2026)، وقارنا الخطوات بمسار التحقق من الحقائق في Unflag داخل المنتج وفي شيفرته، وراجعنا أسعار Unflag حتى أكتوبر 2026. تختلف التقارير في بعض التفاصيل، مثل المبالغ الدقيقة في حالتي Air Canada وDeloitte، لذلك نذكر فقط الأرقام التي تتفق عليها المصادر. كُتبت القائمة خصيصًا لهذا المقال ولا يوجد معها أي ناتج أداة.

الخلاصة: الهلوسة تُقرأ مثل أي جملة أخرى، فتحقق بنفسك من الأسماء والأرقام والاقتباسات وعبارات "الأول"، واستخدم التحقق من الحقائق حين يكثر عددها فلا تستطيع ملاحقتها يدويًا.

الأسئلة الشائعة

ما هي هلوسة الذكاء الاصطناعي؟

هلوسة الذكاء الاصطناعي هي ناتج يبدو واثقًا لكنه خاطئ أو بلا سند: اقتباس مختلق، أو تاريخ غير صحيح، أو عبارة لم يقلها أحد، أو قاعدة غير موجودة. النموذج يتوقع كلمات مقبولة، ولهذا قد تبدو التفاصيل المختلقة تمامًا مثل الحقيقية.

ما مثال على هلوسة الذكاء الاصطناعي؟

في 2023 قدّم محاميان في نيويورك مذكرة تستشهد بقضايا اخترعها ChatGPT، وغرّمهما قاضٍ فدرالي 5,000 دولار. وفي 2025 ردّت شركة استشارات جزءًا من أتعابها بعد أن تبيّن أن تقريرًا حكوميًا احتوى على استشهادات ملفقة وعبارة قضائية مختلقة.

لماذا يختلق الذكاء الاصطناعي أشياء؟

النموذج اللغوي يكتب الكلمات التالية الأكثر احتمالًا، لا حقيقة تم التحقق منها. وحين لا تتوفر لديه إجابة قوية فإنه ينتج شيئًا سلسًا مع ذلك. وأكثر ما يخطئ فيه هو الاستشهادات والأرقام الدقيقة والاقتباسات والأحداث الحديثة والمواضيع المتخصصة التي لديه عنها بيانات قليلة.

كيف أعرف أن ChatGPT يهلوس؟

لا يمكنك أن تعرف من النبرة، فالإجابات الخاطئة تبدو واثقة مثل الصحيحة. ابحث عن تفاصيل يمكنك التحقق منها: الأسماء والأرقام والتواريخ والاقتباسات والمصادر. ابحث عن كل واحدة خارج المحادثة. وإذا لم تجد مصدرًا يقول الشيء نفسه فاعتبر الادعاء غير مؤكد.

هل يمكن إصلاح هلوسة الذكاء الاصطناعي؟

ليس بالكامل. إعطاء النموذج مصادر حقيقية والسماح له بالبحث يقللان الأخطاء لكنهما لا يزيلانها. الحل الموثوق خطوة بشرية: حدّد الادعاءات المهمة، وقارنها بالمصادر الأصلية، ثم صحّح ما لا يمكنك تأكيده أو احذفه.

هل يكتشف Unflag هلوسة الذكاء الاصطناعي؟

أداة التحقق من الحقائق في Unflag، وهي جزء من Unflag Plus، تستخرج الادعاءات من النص وتبحث في الويب عن كل واحد منها، ثم تعطيك حكمًا ودرجة ثقة ومصادر. قد يفوتها شيء أو تخطئ، لذا افتح مصادر أي ادعاء مهم قبل الاعتماد عليه.