Новые ИИ-браузеры угрожают конфиденциальности пользователей
Новые ИИ-браузеры, такие как ChatGPT Atlas от OpenAI и Comet от Perplexity, стремятся вытеснить Google Chrome и стать главным «входом» в интернет для миллиардов пользователей. Ключевым преимуществом этих продуктов являются ИИ-агенты для веб-сёрфинга, которые обещают выполнять задачи от имени пользователя: переходить по сайтам и заполнять формы.
Однако потребители могут не осознавать серьёзные риски для конфиденциальности, связанные с использованием таких агентов. Эксперты по кибербезопасности, опрошенные TechCrunch, утверждают, что ИИ-агенты в браузерах представляют большую угрозу для конфиденциальности пользователей по сравнению с традиционными браузерами.
Чтобы быть максимально полезными, ИИ-браузеры, такие как Comet и ChatGPT Atlas, требуют значительного уровня доступа, включая возможность просмотра и взаимодействия с электронной почтой, календарём и списком контактов пользователя. В ходе тестирования TechCrunch выяснилось, что агенты Comet и ChatGPT Atlas умеренно полезны для выполнения простых задач, особенно при предоставлении широкого доступа. Однако современные версии ИИ-агентов часто испытывают трудности с выполнением более сложных задач и могут затрачивать на них много времени. Использование таких агентов больше похоже на забавный трюк, чем на серьёзный инструмент для повышения производительности.
Риски атак с внедрением промтов
Основная проблема, связанная с ИИ-агентами в браузерах, — это атаки с внедрением промтов. Эта уязвимость возникает, когда злоумышленники прячут вредоносные инструкции на веб-странице. Если агент проанализирует такую страницу, его можно заставить выполнить команды атакующего.
Без достаточных мер безопасности такие атаки могут привести к тому, что браузерные агенты непреднамеренно раскроют данные пользователя, такие как электронные письма или логины, или совершат вредоносные действия от имени пользователя, например, сделают незапланированные покупки или опубликуют сообщения в социальных сетях.
«Существует огромная возможность упростить жизнь пользователей, но теперь браузер выполняет действия от вашего имени», — сказал Шиван Сахиб, старший инженер по исследованиям и конфиденциальности в компании Brave. — «Это принципиально опасно и представляет собой новую грань в области безопасности браузера».
Компания Brave, специализирующаяся на конфиденциальности и безопасности, выпустила исследование, в котором определила, что косвенные атаки с внедрением промтов являются «системной проблемой, с которой сталкивается вся категория ИИ-браузеров».
Меры безопасности
OpenAI и Perplexity внедрили ряд мер безопасности, которые, по их мнению, снизят риски таких атак. OpenAI создала «режим выхода из системы», при котором агент не будет входить в учётную запись пользователя при навигации по веб-сайту. Это ограничивает полезность браузерного агента, но также и объём данных, к которым может получить доступ злоумышленник. Perplexity заявила, что разработала систему обнаружения, которая может выявлять атаки с внедрением промтов в режиме реального времени.
Однако исследователи в области кибербезопасности отмечают, что эти меры не гарантируют полную защиту от злоумышленников.
Стив Гробман, главный технологический директор компании McAfee, говорит, что корень проблем с атаками, связанными с внедрением промтов, заключается в том, что большие языковые модели не очень хорошо понимают, откуда берутся инструкции. Он отмечает, что существует нечёткое разделение между основными инструкциями модели и данными, которые она потребляет, что затрудняет для компаний полное устранение этой проблемы.
Как пользователи могут защитить себя
Есть несколько практических способов, с помощью которых пользователи могут защитить себя при использовании ИИ-браузеров. Рэйчел Тобак, генеральный директор компании SocialProof Security, занимающейся обучением осведомлённости о безопасности, говорит, что учётные данные для ИИ-браузеров, вероятно, станут новой мишенью для злоумышленников. Она рекомендует пользователям использовать уникальные пароли и многофакторную аутентификацию для этих учётных записей.
Тобак также советует пользователям ограничить доступ ранних версий ChatGPT Atlas и Comet и изолировать их от чувствительных учётных записей, связанных с банковским делом, здоровьем и личной информацией. Она рекомендует подождать, прежде чем предоставлять этим инструментам широкий контроль, поскольку безопасность таких инструментов, вероятно, улучшится по мере их развития.