ما هي هلوسات الذكاء الاصطناعي؟ وكيف تتجنبها؟

أبرز النقاط

• هلوسات الذكاء الاصطناعي هي إجابات تبدو معقولة لكنها تتضمن معلومات مختلقة أو غير مدعومة بأدلة.
• يمكن للتعليمات الأفضل والمواد المصدرية الموثوقة أن تقلل الهلوسات، لكن لا توجد ضمانات لدقة أي روبوت محادثة.
• تحقّق من الادعاءات والاقتباسات والاستشهادات المهمة قبل استخدام مخرجات الذكاء الاصطناعي في الأبحاث أو القرارات.

تحدث هلوسات الذكاء الاصطناعي عندما يعرض نظام ذكاء اصطناعي معلومات مختلقة أو غير مدعومة بأدلة كما لو كانت حقائق. لا يمكنك التخلص منها تمامًا، لكن يمكنك تقليل مخاطرها بتزويد النظام بمصادر موثوقة، ووضع حدود واضحة، والتحقق من إجاباته.

كيف تحدث

يولّد روبوت المحادثة الإجابات باستخدام أنماط تعلّمها أثناء التدريب، إلى جانب المعلومات المتاحة في المحادثة الحالية أو عبر الأدوات المتصلة به. وهو ينتج نصًا يلائم الطلب؛ لكن هذه العملية لا تثبت تلقائيًا صحة كل عبارة.

يساعد ذلك على تفسير كيف يمكن لإجابة سلسة أن تتضمن دراسة غير موجودة، أو مواصفات غير دقيقة لمنتج، أو اقتباسًا مختلقًا.

قد تنشأ الهلوسات عندما:

• تكون المعلومات ناقصة. قد يسد النظام فجوة بتفصيل يبدو معقولًا بدلًا من الإقرار بعدم اليقين.
• يتضمن السؤال افتراضًا خاطئًا. قد يؤدي السؤال عن سبب وقوع حدث إلى تقديم تفسير، حتى لو لم يقع الحدث أصلًا.
• تكون المصادر غير واضحة أو متعارضة. قد تمزج الإجابة بين ادعاءات متناقضة في شرح واحد سلس.
• تتطلب المهمة تفاصيل لا تدعمها الأدلة. قد يؤدي طلب تواريخ أو اقتباسات أو مراجع دقيقة إلى اختلاق معلومات عندما لا تتوفر الأدلة.
• يُغفل السياق ذي الصلة. حتى عند تزويد النظام بمستند، قد يسيء فهم مقطع أو يفوته قيد مهم.

ليست كل إجابة غير صحيحة هلوسة. فالمعلومات القديمة أو الأخطاء الحسابية أو سوء الفهم قد تؤدي أيضًا إلى أخطاء. ومن الناحية العملية، يظل السؤال الأساسي واحدًا: هل تدعم أدلة موثوقة هذه الإجابة؟

الثقة في الصياغة ليست مؤشرًا يُعتمد عليه. فقد يبدو نظام الذكاء الاصطناعي بالقدر نفسه من اليقين عند شرح حقيقة راسخة وعند اختلاق مرجع.

أمثلة من الواقع العملي

فيما يلي مواقف توضيحية، وليست تقارير عن حوادث محددة.

روبوت محادثة يختلق ورقة بحثية

تطلب دراسات تُظهر أن ممارسة معينة في مكان العمل تحسّن الإنتاجية. فيقدّم روبوت المحادثة عنوانًا مقنعًا، وقائمة بالمؤلفين، واسم مجلة، وسنة نشر.

المشكلة: الورقة غير موجودة، أو أن الورقة الحقيقية لا تدعم الادعاء.

ما ينبغي فعله: ابحث عن العنوان بصورة مستقلة. تأكد من أسماء المؤلفين وتفاصيل النشر، ثم اقرأ النتائج ذات الصلة. الاستشهاد الذي يبدو حقيقيًا ليس دليلًا.

ملخص يغيّر ما يقوله المستند

ترفع مستندًا لسياسة شركة وتسأل عما إذا كان المتعاقدون يحصلون على ميزة معينة. فتجيب الأداة بنعم، رغم أن السياسة لا تذكر سوى الموظفين بدوام كامل.

لقد حوّل النظام استنتاجًا غير مدعوم إلى عبارة تُقدَّم على أنها حقيقة.

ما ينبغي فعله: اطلب المقطع المحدد الذي يدعم الإجابة وتحقق منه في المستند الأصلي. إذا كانت السياسة لا تتناول المتعاقدين، فالإجابة المناسبة هي «غير محدد».

مساعد يختلق ميزة برمجية

تسأل عن كيفية تصدير البيانات من تطبيق. فيقدّم المساعد تعليمات مفصلة لاستخدام خيار غير موجود في القائمة.

ما ينبغي فعله: راجع الوثائق الحالية للمنتج وإصدار الواجهة الذي تستخدمه. واطلب من المساعد التمييز بين الخطوات الموثقة والاقتراحات.

إجابة صحية تتضمن نصيحة غير مدعومة

يقدّم روبوت محادثة جرعة دواء دقيقة من دون معلومات كافية عن الشخص أو التركيبة الدوائية أو الظروف الطبية.

ما ينبغي فعله: لا تتعامل مع النصيحة المولّدة على أنها تعليمات طبية. راجع الأسئلة المتعلقة بالأدوية مع مختص رعاية صحية مؤهل أو صيدلي.

الفوائد والحدود

يمكن أن يظل الذكاء الاصطناعي مفيدًا في البحث والعمل اليومي. فهو يستطيع اقتراح كلمات بحث، وشرح مفاهيم غير مألوفة، وتنظيم الملاحظات، ومساعدتك على صياغة أسئلة لاستقصائها.

غالبًا ما تكون هذه الاستخدامات أكثر أمانًا عندما تُعامل المخرجات بوصفها نقطة انطلاق لا مرجعًا نهائيًا.

تعزز إجراءات العمل القائمة على المصادر إمكانية المساءلة. فعندما تشير الإجابة إلى مقطع محدد، يصبح لديك شيء ملموس تفحصه. كما أن حصر المهمة في المستندات المقدمة يمكن أن يقلل فرص اختلاق المعلومات.

لكن لهذه الضوابط حدودًا:

• قد تكون الاستشهادات مضللة. فقد لا يدعم مصدر حقيقي الجملة المرتبطة به.
• الوصول إلى الويب لا يضمن الدقة. قد تتضمن نتائج البحث مواد قديمة أو منخفضة الجودة أو غير صحيحة.
• اتفاق عدة روبوتات محادثة ليس تأكيدًا مستقلًا. فقد تكرر الخطأ الشائع نفسه.
• المراجعة الذاتية ليست مثالية. قد يكشف طلب مراجعة الإجابة من الذكاء الاصطناعي بعض الأخطاء، لكنه قد يكررها أيضًا.
• قد يُحرَّف مضمون مصدر موثوق. إغفال التحفظات قد يغيّر معنى نتيجة بحثية.

ينبغي أن تحدد العواقب مستوى التحقق المطلوب. فالعصف الذهني لاختيار عنوان لاجتماع يحتاج إلى قدر قليل من التحقق. أما القرارات الطبية أو القانونية أو المالية أو المتعلقة بالسلامة فتحتاج إلى أدلة من مصادر معتمدة، وإلى مراجعة متخصص عند الاقتضاء.

كيف تبدأ

اتبع خطوات العمل هذه كلما كانت دقة الحقائق مهمة.

1. حدد المهمة وحدودها

أخبر المساعد بما تحتاج إليه، ولمن تُوجَّه الإجابة، وما المعلومات التي يُسمح له باستخدامها.

مع ChatGPT، على سبيل المثال، يمكنك تقديم مستند وطلب ملخص محدود النطاق بدلًا من شرح مفتوح.

تجنب رفع معلومات سرية أو شخصية أو مقيّدة ما لم تسمح مؤسستك بذلك وتكن على دراية بضوابط البيانات في الأداة.

2. ابدأ بالأدلة

للبحث على الويب، يقدّم Perplexity إجابات مرتبطة بمصادر يمكن أن تساعدك على تحديد مواد لمراجعتها. افتح الصفحات المستشهد بها بدلًا من الاعتماد على الملخص المولّد وحده.

للبحث الذي يركز على المستندات، فكّر في استخدام NotebookLM. وللمساعدة في قراءة ملفات PDF العلمية وشرحها، يُعد SciSpace (Typeset) خيارًا آخر مناسبًا. ولا يغني أي منهما عن التحقق من النص الأصلي.

3. اسمح صراحةً بالإقرار بعدم اليقين

جرّب هذه التعليمات:

أجب باستخدام المواد المقدمة فقط. إذا لم تتضمن الإجابة، فقل «المعلومات غير كافية». افصل بين العبارات الصريحة والاستنتاجات. ولكل ادعاء مهم يتعلق بالحقائق، حدد المقطع الذي يدعمه. لا تختلق اقتباسات أو مراجع.

يضع ذلك حدودًا مفيدة، لكنه لا يشكل ضمانًا.

4. تحقّق من التفاصيل المهمة

قبل مشاركة الإجابة أو التصرف بناءً عليها، تحقّق مما يلي:

• الأسماء والتواريخ والأرقام والوحدات.
• ما إذا كانت الاقتباسات تطابق الصياغة الأصلية.
• ما إذا كانت المصادر المستشهد بها موجودة وتدعم الادعاءات.
• ما إذا كانت المعلومات حديثة بما يكفي لمهمتك.
• ما إذا كانت القيود أو الأدلة المتعارضة قد أُغفلت.

في العمليات الحسابية، أعد حساب النتيجة باستخدام آلة حاسبة أو أداة أخرى مناسبة.

5. احتفظ بسجل للمراجعة

احفظ المصدر والمقطع ذي الصلة وأي تصحيحات إلى جانب الادعاءات المهمة. فهذا يسهّل تدقيق العمل وتحديثه وتسليمه إلى الزملاء.

الأسئلة الشائعة

هل يمكنك إيقاف هلوسات الذكاء الاصطناعي تمامًا؟

لا. يمكن للتعليمات الواضحة والمصادر الموثوقة والتحقق أن تقلل المخاطر، لكنها لا تضمن مخرجات خالية من الأخطاء. صمّم سير عملك بحيث تُكتشف الأخطاء المهمة قبل أن تؤثر في القرارات.

هل روبوت المحادثة الذي يقدّم استشهادات أكثر جدارة بالثقة؟

تجعل الاستشهادات التحقق من الإجابة أسهل، وهذا مفيد. لكنها لا تثبت الدقة: تأكد من أن كل مصدر موجود وموثوق ويدعم الادعاء المحدد المطروح.

ماذا أفعل عندما أجد هلوسة؟

احذف الادعاء أو صححه باستخدام أدلة موثوقة. ثم راجع الادعاءات القريبة منه، ولا سيما تلك التي تعتمد على المصدر أو الافتراض نفسه. قد يساعد طلب التنقيح من روبوت المحادثة، لكن تحقّق من النص البديل بدلًا من قبول الاعتذار دليلًا على الدقة.