يمكنك الاطّلاع على كيف تحمي "تطبيقات Gemini" المستخدمين من المحتوى الضارّ وهجمات حقن النصوص البرمجية في الطلبات.
المحتوى الضارّ وهجمات حقن النصوص البرمجية في الطلبات في الذكاء الاصطناعي التوليدي
على غرار التهديدات المرتبطة بالرسائل الإلكترونية والمحتوى، مثل البرامج الضارّة وهجمات التصيّد الاحتيالي، يمكن أن تستهدف التهديدات الأمنية أدوات الذكاء الاصطناعي التوليدي. فتحاول هجمات حقن النصوص البرمجية في الطلبات استنباط رد غير مقصود أو ضار من هذه الأدوات. وقد يشنّ المخترقون هذه الهجمات ليس فقط عن طريق إرسال الطلبات بشكل مباشر، بل أيضًا عن طريق مشاركة محتوى ضار مع مستخدم يشير بعدها عن غير قصد إلى هذا المحتوى في طلباته في أدوات الذكاء الاصطناعي التوليدي مثل "تطبيقات Gemini" أو "Gemini في Workspace".
لحماية مستخدمي Gemini، تستخدم Google تدابير أمنية متقدّمة لرصد المحتوى الخطير والمريب.
كيف يساهم Google في رصد المحتوى الضارّ وهجمات حقن النصوص البرمجية في الطلبات؟
لحمايتك من المحتوى الضارّ وهجمات حقن النصوص البرمجية في الطلبات، قد تحظر "تطبيقات Gemini" بعض المعلومات إذا رصدَت نشاطًا مريبًا.
ماذا يحدث عندما يرصد Gemini نشاطًا مرتبطًا بطلب قد يكون مريبًا؟
- توفّر "تطبيقات Gemini" إشعارًا تحذيريًا بأنّ المحتوى يتضمن مخاطر أمنية
- في بعض الأحيان، لا يمكن استخدام أي من المحتوى لإنشاء رد
- في بعض الأحيان، يستخدم Gemini جزء من المحتوى فقط لإنشاء رد، فيستبعد المحتوى المريب
على سبيل المثال، إذا طلبت من "تطبيقات Gemini" تلخيص الرسائل الإلكترونية، وكانت إحدى هذه الرسائل تتضمن محتوًى ضارًا، قد لا يستجيب Gemini لطلبك لأسباب تتعلق بالسلامة.
نصائح لتجنُّب المحتوى غير الآمن
يجب توخّي الحذر عند التفاعل مع محتوى من شخص مجهول
- من المهم الانتباه إلى تحذيرات Google بشأن المحتوى الذي يصلك في أدوات أخرى مثل Gmail
- يجب تجنُّب النقر على روابط من مصادر غير موثوقة
- يُرجى توخّي الحذر عند التفاعل مع محتوى المزوّدين غير المعروفين، في المحادثات العلنية في "تطبيقات Gemini" أو في تطبيقات الويب في Gemini Canvas مثلاً
المحتوى الضارّ وهجمات حقن النصوص البرمجية في الطلبات في الذكاء الاصطناعي التوليدي
إذا تلقّيت ردًّا غير دقيق أو غير آمن، يمكنك تقديم ملاحظاتك عن هذا الردّ لإعلامنا بذلك.