Поисковик от ChatGPT уязвим для манипуляций и обмана 😆
Поисковик от ChatGPT уязвим для манипуляций и обмана 😆
The Guardian проверил, как ChatGPT отреагировал на просьбу резюмировать веб-страницы, содержащие скрытый контент.
Исследователь безопасности также обнаружил, что ChatGPT может возвращать вредоносный код с веб-сайтов, которые он ищет.
В ходе тестов ChatGPT получил URL-адрес поддельного веб-сайта, созданного так, чтобы выглядеть как страница продукта для камеры. Затем инструмент ИИ спросили, является ли камера стоящей покупкой. Ответ для контрольной страницы дал положительную, но сбалансированную оценку, подчеркнув некоторые функции, которые могут не понравиться людям.
Однако, когда скрытый текст включал инструкции ChatGPT вернуть благоприятный отзыв, ответ всегда был полностью положительным. Это было так, даже когда на странице были отрицательные отзывы — скрытый текст мог быть использован для переопределения фактической оценки отзыва.
Компании OpenAI были отправлены подробные вопросы, но она не дала официального ответа о функции поиска ChatGPT.
А я просто напомню вам про их бота - GPTBot 🧠
#ии
Ссылки из поста:– https://www.theguardian.com/technology/2024/dec/24...
Источник новости https://t.me/ulianoov/558...