Узнайте, как приложения Gemini помогают пользователям защищаться от вредоносного контента и атак с внедрением запроса.
Вредоносный контент и атаки с внедрением запроса в инструментах генеративного ИИ
Злоумышленники сейчас не только рассылают фишинговые письма по электронной почте или распространяют вредоносное ПО, но и пытаются использовать уязвимости в инструментах генеративного искусственного интеллекта. Цель атаки с внедрением запроса – получить от ИИ-инструмента неожиданный или вредоносный ответ. Злоумышленник может вставить опасную инструкцию напрямую в запрос или отправить пользователю вредоносный контент, который потом будет добавлен в запрос к Gemini для Workspace, приложениям Gemini или другому инструменту генеративного ИИ.
Чтобы защищать пользователей Gemini, Google принимает дополнительные меры безопасности, позволяющие выявлять подозрительный и потенциально опасный контент.
Как Google помогает обнаруживать вредоносный контент и атаки с внедрением запроса
Чтобы защитить вас от вредоносных материалов и атак с внедрением запроса, приложения Gemini могут блокировать некоторые входные данные, когда обнаруживают подозрительную активность.
Если в запросе выявлена потенциально подозрительная активность
- Приложения Gemini предупреждают о том, что контент представляет угрозу безопасности.
- В некоторых случаях выполнение запроса блокируется целиком.
- Иногда Gemini дает ответ на основе части контента, исключая подозрительные материалы.
Например, если вы попросите кратко пересказать содержание электронных писем, одно из которых содержит вредоносный контент, Gemini может не ответить на ваш запрос из соображений безопасности.
Как защититься от небезопасного контента
Будьте внимательны при взаимодействии с материалами от незнакомых людей
- Обращайте внимание на предупреждения от Google о контенте, который вы получаете через другие инструменты, например Gmail.
- Не нажимайте на ссылки в ненадежных источниках.
- Будьте осторожны при взаимодействии с общедоступным контентом от неизвестных авторов, например с чужими чатами в приложениях Gemini или веб-приложениями Gemini Canvas.
Вредоносный контент и атаки с внедрением запроса в инструментах генеративного ИИ
Если сгенерированный ответ неточный или кажется вам небезопасным, можно оставить отзыв.