هل الذكاء الاصطناعي آمن في العمل؟ أساسيات الخصوصية والأمان

أبرز النقاط

• استخدم أدوات الذكاء الاصطناعي المعتمدة من جهة عملك، ولا تشارك إلا المعلومات اللازمة للمهمة.
• تحقّق من سياسات تخزين البيانات والاحتفاظ بها واستخدامها في التدريب، ومن ضوابط الوصول، قبل إدخال معلومات العمل.
• تعامل مع مخرجات الذكاء الاصطناعي والإجراءات المؤتمتة على أنها غير متحقَّق منها: راجع النتائج المهمة واشترط الموافقة على التغييرات ذات التبعات المهمة.

يمكن أن يكون استخدام الذكاء الاصطناعي في العمل آمنًا عندما تستوفي الأداة والبيانات والمهمة متطلبات الأمان والخصوصية لدى مؤسستك. ولا يصبح آمنًا تلقائيًا لمجرد أنه شائع أو مدفوع أو موصوف بأنه «مخصص للمؤسسات».

آلية العمل

تعالج أدوات الذكاء الاصطناعي في بيئة العمل المعلومات التي تقدمها، مثل المطالبات أو المستندات أو الصور أو النصوص المفرَّغة للاجتماعات. وقد تسترجع الأدوات المتصلة أيضًا معلومات من البريد الإلكتروني ومساحات التخزين المشتركة والأنظمة الداخلية.

مع الخدمات السحابية، تنتقل هذه المعلومات عمومًا إلى البنية التحتية لمزوّد الخدمة لمعالجتها. وبحسب الخدمة والإعدادات، قد يُحتفَظ بالمطالبات أو المخرجات أو الملفات المرفوعة أو سجلات النشاط.

أما الذكاء الاصطناعي المحلي فيمكنه معالجة المعلومات على حاسوبك بدلًا من ذلك. لكن وصفه بأنه «محلي» لا يعني تلقائيًا أن جميع ميزاته تعمل دون اتصال: فلا يزال من الضروري التحقّق من عمليات التكامل وبيانات القياس عن بُعد وغيرها من أنشطة الشبكة.

الخصوصية والأمان أمران مختلفان

الخصوصية تتعلق بكيفية جمع المعلومات عن الأشخاص واستخدامها ومشاركتها والاحتفاظ بها. فالنص المفرَّغ لاجتماع يتضمن تفاصيل صحية عن موظفين يثير مسألة تتعلق بالخصوصية حتى لو لم يخترق أحد النظام.

الأمان يتعلق بحماية المعلومات والأنظمة من الوصول أو الإفصاح أو التعديل غير المصرَّح به، أو من التعطيل. وقد يشكّل وكيل ذكاء اصطناعي ذو صلاحيات مفرطة خطرًا أمنيًا بتغيير الملفات أو إرسال المعلومات إلى الشخص الخطأ.

كلاهما مهم. فقد تستخدم خدمة آمنة البيانات بطرق لا تسمح بها مؤسستك.

تتبّع مسار البيانات، لا الرسائل التسويقية

قبل استخدام أداة للعمل، اسأل:

• ما المعلومات التي ستتلقاها؟ ضمّن الملفات المرفوعة والحسابات المتصلة والبيانات الوصفية للمستندات.
• من يمكنه الوصول إليها؟ ضع في الحسبان زملاء العمل والمسؤولين ومزوّدي الخدمات والمراجعين المخوَّلين.
• ما مدة الاحتفاظ بها؟ تحقّق من المحادثات والسجلات والنسخ الاحتياطية وسياسات الحذف.
• هل يمكن استخدامها في التدريب؟ تحقّق من الشروط الخاصة بحسابك وإعداداتك تحديدًا.
• ما الذي تستطيع الأداة فعله؟ قراءة مستند تختلف عن إرسال بريد إلكتروني أو تغيير سجل عميل.

عبارة «لا تُستخدم في التدريب» لا تعني بالضرورة «لا تُخزَّن». وبالمثل، قد لا يؤدي حذف محادثة إلى إزالة كل نسخة مُحتفَظ بها على الفور.

أمثلة من الواقع

صياغة رسالة بريد إلكتروني اعتيادية

يطلب زميل من الذكاء الاصطناعي إعادة صياغة دعوة عامة لاجتماع. إذا كانت الأداة معتمدة ولم تتضمن المطالبة أي معلومات سرية، فغالبًا ما تكون هذه مهمة منخفضة المخاطر نسبيًا.

تتغير المخاطر عندما تتضمن المطالبة خطة استحواذ غير معلنة أو معلومات طبية عن موظف. استخدم عناصر نائبة بدلًا من التفاصيل الحقيقية، وأضف التفاصيل الضرورية لاحقًا في بيئة العمل المعتمدة لديك.

تلخيص سجلات العملاء

يريد فريق دعم الحصول على ملخصات لمحادثات العملاء. وقد تتضمن هذه المحادثات أسماء أو عناوين أو تفاصيل حسابات أو معلومات شخصية أخرى.

قد يكون سير العمل المعتمد مناسبًا، لكن رفع السجلات إلى حساب شخصي غير معتمد ليس كذلك. أزل المعلومات غير الضرورية وتأكّد من أن مؤسستك تسمح بهذه المعالجة. وقد لا يكفي استبدال الأسماء وحده لمنع تحديد هوية الأشخاص من التفاصيل المتبقية.

السماح لوكيل بتشغيل التطبيقات

Simular (Sai) وكيل مستقل يشغّل تطبيقات المتصفح وسطح المكتب. ويوضح ذلك خطرًا مختلفًا عن توليد النصوص المعتاد: فالوكيل يستطيع تنفيذ الإجراءات، لا مجرد اقتراحها.

ابدأ ببيئة اختبار وصلاحيات محدودة. وحيثما تسمح الضوابط، اشترط موافقة بشرية قبل إرسال الرسائل أو حذف الملفات أو إجراء عمليات شراء أو تغيير صلاحيات الوصول.

رصد الرسائل المشبوهة

يمكن للذكاء الاصطناعي أيضًا دعم الأمان في بيئة العمل. تكشف أداة Sublime Security هجمات التصيد الاحتيالي المتقدمة عبر البريد الإلكتروني وهجمات الهندسة الاجتماعية، بينما تدعم CrowdStrike Charlotte AI تقصّي التهديدات وفرز الحوادث وتحديد أولوياتها.

تدعم هذه الأدوات العمل الدفاعي؛ لكنها لا تجعل كل رسالة أو تقييم لحادث جديرًا بالثقة. ولا يزال الموظفون بحاجة إلى طريقة واضحة للإبلاغ عن الأنشطة المشبوهة.

الفوائد والحدود

عند استخدام الذكاء الاصطناعي بعناية، يمكنه تقليل العمل المتكرر والمساعدة في صياغة المستندات وتلخيص المواد المعتمدة ودعم التحقيقات الأمنية. ويمكن لسير العمل الخاضع للضوابط إتاحة هذه الفوائد دون منح كل أداة وصولًا غير مقيّد.

أبرز الحدود ذات طبيعة عملية:

• إجابات غير صحيحة: قد يختلق الذكاء الاصطناعي حقائق أو يسيء فهم التعليمات. تحقّق من المخرجات قبل استخدامها في القرارات أو مراسلات العملاء أو أنظمة الإنتاج.
• انكشاف البيانات الحساسة: قد تكشف المطالبات والملفات المرفوعة والسجلات والأنظمة المتصلة معلومات أكثر مما هو مقصود.
• حقن المطالبات: قد تحاول تعليمة خبيثة مخفية في صفحة ويب أو بريد إلكتروني أو مستند إعادة توجيه أداة ذكاء اصطناعي. ويثير ذلك قلقًا خاصًا عندما تستطيع الأداة الوصول إلى معلومات خاصة أو تنفيذ إجراءات.
• صلاحيات مفرطة: يزيد الوصول الواسع من التأثير المحتمل للأخطاء أو إساءة الاستخدام.
• السياسات والالتزامات القانونية: تظل قواعد العمل واتفاقيات العملاء ومتطلبات حماية البيانات سارية.

لا يوجد إعداد واحد يعالج كل هذه المخاطر. فالأمان يحتاج إلى طبقات: أدوات معتمدة، والحد الأدنى من البيانات، ووصول مقيّد، ومراقبة، ومراجعة بشرية.

كيف تبدأ

1. تحقّق من سياسة جهة عملك.

اسأل قسم تقنية المعلومات أو الأمن أو مديرك عن الأدوات والحسابات المعتمدة. إذا لم تكن هناك سياسة، فتجنّب العمل على معلومات حساسة إلى أن تحصل على إرشادات.

2. اختر مهمة أولى منخفضة المخاطر.

جرّب إعادة صياغة معلومات متاحة للجمهور أو العصف الذهني باستخدام أمثلة خيالية. لا تبدأ برفع ملفات الموظفين أو البيانات المُصدَّرة للعملاء أو العقود السرية أو بيانات الاعتماد.

3. اختر الأداة المناسبة للبيانات.

يوفر LM Studio واجهة لسطح المكتب لاكتشاف النماذج المحلية وتنزيلها وتشغيلها. قد تساعد المعالجة المحلية على إبقاء المطالبات على جهاز خاضع للإدارة، لكن تأكّد من التهيئة وسلوك الاتصال بالشبكة. ويظل تشفير الجهاز وتحديثات البرامج وضوابط الوصول أمورًا مهمة.

4. راجع الإعدادات والشروط.

تحقّق من سياسات الاحتفاظ بالبيانات واستخدامها في التدريب وخيارات الحذف والمتطلبات ذات الصلة بموقع البيانات. استخدم حساب عمل معتمدًا وفعّل المصادقة متعددة العوامل حيثما توفرت. فالاشتراك المدفوع وحده لا يُعدّ موافقة على التعامل مع بيانات سرية.

5. حدّد الاتصالات والصلاحيات.

اربط المجلدات أو الحسابات الضرورية فقط. فضّل الوصول للقراءة فقط حين يكون ذلك مناسبًا، وراجع أذونات المشاركة قبل تمكين البحث عبر مستندات العمل.

6. أدرج المراجعة والإبلاغ ضمن سير العمل.

تحقّق من المخرجات المهمة ووافق على الإجراءات ذات التبعات المهمة قبل تنفيذها. اعرف بمن تتصل إذا انكشفت معلومات أو تصرفت الأداة على نحو غير متوقع. وإذا شاركت بيانات حساسة عن طريق الخطأ، فأوقف النشاط وأبلغ عنه فورًا؛ ولا تفترض أن حذف المحادثة يعالج الحادث.

الأسئلة الشائعة

هل يمكنني لصق معلومات عمل سرية في أداة ذكاء اصطناعي؟

فقط عندما تكون مؤسستك قد اعتمدت تلك الأداة وسير العمل لتلك الفئة من المعلومات. فالموافقة على استخدامها في الكتابة العامة لا تشمل بالضرورة سجلات العملاء أو الشفرة المصدرية أو بيانات الموظفين. لا تلصق مطلقًا كلمات المرور أو المفاتيح الخاصة أو رموز الوصول في مساعد عام الأغراض.

هل الذكاء الاصطناعي المحلي أكثر أمانًا من الذكاء الاصطناعي السحابي؟

يمكن أن تقلل المعالجة المحلية من انكشاف البيانات أمام مزوّد خارجي، لكنها تنقل قدرًا أكبر من مسؤولية الحماية إلى جهازك وتهيئته. وقد توفر الخدمات السحابية ضوابط مؤسسية مفيدة. يعتمد الخيار الأكثر أمانًا على بياناتك وصلاحياتك وتدابير الحماية ومتطلبات جهة عملك، وليس على الموقع وحده.

هل يمكن الوثوق بالمحتوى الذي يولّده الذكاء الاصطناعي إذا بدا مقنعًا؟

لا. فالكتابة السلسة والصور الواقعية والصوت الذي يبدو طبيعيًا ليست دليلًا على الدقة أو الأصالة. تحقّق من الادعاءات المهمة بالرجوع إلى سجلات موثوقة، وأكّد طلبات الدفع أو الوصول غير المعتادة عبر قناة اتصال معروفة ومستقلة. ينبغي أن تدعم مخرجات الذكاء الاصطناعي التقدير البشري، لا أن تحل محل التحقّق.