Большой Брат следит за тобой: ИИ-браузеры – оружие массовой слежки за туристами?

В то время как браузеры на базе искусственного интеллекта (ИИ) активно продвигаются как прорывные технологии, способные мгновенно анализировать веб-страницы, систематизировать информацию и автоматизировать заполнение форм, эксперты предупреждают о серьезных рисках для безопасности данных и конфиденциальности пользователей. Новые разработки, такие как Atlas от OpenAI и Comet от Perplexity, объединяют чат-интерфейс на базе ИИ с функциональностью веб-браузера, однако, по мнению специалистов, предоставляют широкие возможности для несанкционированного доступа к личной информации и осуществления кибератак.

Консультант в области ИИ, Йенс Поломски, подчеркивает, что, несмотря на значительное ускорение рабочих процессов благодаря ИИ-браузерам, возникает серьезная опасность утечки данных: «Эти роботы считывают веб-страницы в режиме реального времени. Поэтому они гораздо лучше узнают вас, ваши привычки и вашу работу. Они также способны запоминать прошлое поведение и роли пользователей. Это практично, но очень опасно».

Имеются сведения о том, что ИИ-браузеры способны фиксировать задачи, рабочие процессы, историю поисковых запросов и посещенные страницы при входе в систему с использованием учетной записи пользователя. Передача этой информации американским компаниям, работающим в сфере ИИ, вызывает серьезные опасения относительно соблюдения конфиденциальности и защиты данных. «Как бы вы его ни отключали, мы не знаем, какие данные отправляют эти браузеры и куда», – предостерегает Поломски.

Одной из главных угроз, связанных с использованием ИИ-браузеров, эксперты называют атаки с применением так называемых «мгновенных инъекций». В ходе таких атак злоумышленники внедряют скрытые команды на веб-страницы, заставляя браузер игнорировать инструкции пользователя, получать доступ к конфиденциальной информации или осуществлять вредоносные действия. Сразу после выхода OpenAI Atlas конкурирующие компании начали проводить аналогичные атаки с целью выявления уязвимостей, и даже сама OpenAI выпустила предупреждение о данной угрозе.

Внедрение уязвимостей становится особенно опасным в Pro-версиях ИИ-браузеров, где они могут функционировать автономно в режиме "агента". В этом режиме, например, может быть доступна система автоматического бронирования билетов на поезд от имени пользователя. Однако эта же функция создает критический риск на конфиденциальных сайтах, где злоумышленники могут получить доступ к банковским данным или другой личной информации.

По мнению Йенса Поломски, использование ИИ-браузеров в корпоративных целях пока не является оправданным из-за высокого уровня рисков: «Угрозы безопасности данных и угрозы, связанные с мгновенным внедрением, в настоящее время непредсказуемы. Я категорически не рекомендую это компаниям. Использование на корпоративных устройствах следует заблокировать».

Поломски также отмечает, что ИИ-агенты пока не способны работать полностью независимо и требуют постоянного вмешательства пользователя для выполнения большинства задач. Таким образом, ИИ-браузеры в их нынешнем виде представляют собой «продуктивные, но опасные экспериментальные продукты».

Турпром рассказывает: как ИИ проникает всюду

Искусственный интеллект (ИИ) стремительно проникает во все сферы современной жизни, и смартфоны, приложения и компьютеры не являются исключением. Помимо ИИ-браузеров, о которых идет речь в основной статье, существует множество других способов интеграции ИИ в эти устройства, предоставляющих пользователям новые возможности, но и создающих определенные риски.

Смартфоны:

• Виртуальные помощники: Siri, Google Assistant и другие виртуальные помощники, основанные на ИИ, позволяют пользователям управлять своими устройствами голосом, получать ответы на вопросы, планировать встречи и выполнять другие задачи.
• Улучшение камеры: ИИ используется для улучшения качества фотографий и видео, автоматически настраивая параметры съемки, распознавая объекты и лица, а также применяя различные фильтры и эффекты.
• Безопасность: ИИ может использоваться для защиты смартфонов от вредоносных программ и несанкционированного доступа, анализируя поведение пользователя и выявляя подозрительные действия.
• Персонализация: ИИ позволяет персонализировать интерфейс и функциональность смартфона под индивидуальные потребности пользователя, предлагая релевантный контент, приложения и настройки.
• Перевод в реальном времени: Некоторые смартфоны поддерживают функцию перевода речи и текста в реальном времени, что особенно полезно для путешественников и тех, кто общается с людьми, говорящими на других языках.

Приложения:

• Рекомендательные системы: ИИ используется в приложениях для предоставления пользователям персонализированных рекомендаций по товарам, услугам, контенту и другим элементам, основываясь на их предпочтениях и истории использования.
• Автоматический перевод: Приложения для перевода текста и речи, такие как Google Translate, используют ИИ для обеспечения более точного и качественного перевода.
• Обработка изображений и видео: Приложения для редактирования фотографий и видео, такие как Adobe Photoshop и Premiere Rush, используют ИИ для автоматического улучшения качества изображений, распознавания объектов и лиц, а также применения различных эффектов.
• Распознавание речи: Приложения для голосового ввода текста, такие как Dragon NaturallySpeaking, используют ИИ для более точного распознавания речи и преобразования ее в текст.
• Финансовые приложения: ИИ используется в финансовых приложениях для анализа данных, выявления мошеннических операций и предоставления пользователям персонализированных финансовых советов.

Компьютеры:

• Виртуальные ассистенты: Как и на смартфонах, виртуальные ассистенты, такие как Cortana и Alexa, доступны на компьютерах, предоставляя пользователям возможность управлять своими устройствами голосом, получать ответы на вопросы и выполнять другие задачи.
• Безопасность: ИИ используется для защиты компьютеров от вредоносных программ, выявления подозрительных действий и обеспечения безопасности данных.
• Улучшение производительности: ИИ может использоваться для оптимизации работы компьютера, автоматически распределяя ресурсы и повышая производительность приложений.
• Распознавание лиц: Некоторые компьютеры оснащены камерами с функцией распознавания лиц, позволяющей пользователям быстро и безопасно входить в систему.
• Обработка естественного языка: ИИ используется для обработки естественного языка, позволяя пользователям взаимодействовать с компьютером с помощью голоса или текста на естественном языке.

Однако, интеграция ИИ в смартфоны, приложения и компьютеры сопряжена с определенными рисками:

• Конфиденциальность: Сбор и анализ данных пользователей с помощью ИИ могут привести к нарушению конфиденциальности.
• Безопасность: Уязвимости в ИИ-системах могут быть использованы злоумышленниками для несанкционированного доступа к данным и устройствам.
• Предвзятость: ИИ-алгоритмы могут быть предвзятыми, что приведет к дискриминации определенных групп пользователей.
• Зависимость: Слишком сильная зависимость от ИИ может привести к снижению навыков и знаний у людей.