توعية معلوماتية 59
مزايا ..... ومخاطر
بالرغم من أن هذه التقنية قد تساعد المؤسسات في توفير العديد من التجارب الاستثنائية وتقديم مميزات مخصصة مثل: خدمات العملاء ، الترجمة ، المساعدة في إجراء البحوث. إلا أنها- في المقابل- تحمل مجموعة من المخاطر الي يجب فهمها ، خاصقةً في مجال الأمن السيبراني. ففهم هذه المخاطر ومعالجتها أمر بالغ الأهمية لأي شخص يتعامل مع روبوتات الدردشة المعتمدة على الذكاء الاصطناعي ، ويمكن الإشارة لأبرز هذه المخاطر ، بما يلي:
تسريب البيانات وانتهاك الخصوصية
« تسريب البيانات » واحقدٌ من أخطر التهديدات الي تحيط باستخدام روبوتات الدردشة المعتمدة على الذكاء الاصطناعي. عندما يتفاعل المستخدمون مع روبوتات الدردشة ، قد يكشفون معلومات خاصة دون وعي منهم بخطورة هذه المشاركة. إذا لم تكن هذه الروبوتات مؤمَ نة كاف ، فهناك خطر من تسرب
بشكلٍ ٍ البيانات- أو- والوصول غير المرح به ، كما يمكن أن يراجع
مزودو خدمات روبوتات الدردشة البيانات الي يقوم المستخدم بإدخالها وذلك بهدف تحسن أداء روبوتات الدردشة ، الأمر الذي يؤدي إلى انتهاكات للخصوصية.
المزايا والمخاطر .... وجهان لعملة روبوتات الدردشة المعتمدة على الذكاء الاصطناعي التوليدي
الثغرات الأمنية
قد تحتوي روبوتات الدردشة المعتمدة على الذكاء الاصطناعي ومنصاتها على ثغرات أمنية ، مثل حقن الأوامر والتلاعب ، فالتلاعب أو هجمات الحقن الفوري هي ثغرات معروفة في نماذج اللغة. يستخدم المهاجمون محفزات مصاغة لدفع روبوتات الدردشة للكشف عن معلومات غير مقصودة أو القيام بأفعال خبيثة. يمكن أن يقلل التحقق القوي من الممدخلات وإرشادات الاستجابة الصارمة من هذا الخطر الممعترف به.
المعلومات الزائفة
لا تتعامل مع روبوتات الدردشة إطلاقًا كمصدر وحيد للمعلومات. إذا كان روبوت الدردشة مُ دربًا على بيانات غير صحيحة أو متحيزة ، فإن أية معلومات يقدمها قد تكون غير
دقيقة. وقد يؤدي ذلك أيضً ا إلى وجود معلومات غير مكتملة أو مخالفة الواقع.
تخزين البيانات بشكل غير آمن
في حال تخزين روبوت الدردشة للبيانات على خوادم عامة ، فإن البروتوكولات الأمنية غير الكافية قد تعرضه للاختراق. يمكن أن يستغل المهاجمون الخوادم غير المعدة بشكل سليم أو البيانات غير المشفرة للوصول إلى معلومات المستخدم الحساسة.
إرشادات عامة عند استخدام روبوتات الدردشة المعتمدة على الذكاء الاصطناعي
لا تشارك
البيانات الحساسة والبيانات الشخصية مع روبوتات الدردشة المعتمدة على الذكاء الاصطناعي التوليدي المتاحة للعامة.
استخدم
روبوتات دردشة معروفة السمعة.
تعامل مع
روبوتات الدردشة باعتبارها مجرد واحدة من مصادر متعددة للمعلومات ، وليس كمصدر للحقيقة.
تأكد من
أن لديك إذن مؤسسي قبل استخدام روبوتات الدردشة المعتمدة على الذكاء الاصطناعي التوليدي ، لأية وظيفة من وظائف العمل.