Романтические чат-боты воруют ваши данные
Романтичные чат-боты могут украсть не только ваше сердце. Mozilla Foundation проанализировала 11 известных ИИ, созданных для того, чтобы вести себя как романтический партнер. Наш сайт проверил это и почти ни одно из этих приложений не отвечает минимальным требованиям по защите конфиденциальности. Напротив, они используют создаваемую ими интимную динамику для сбора приватной информации и ее продажи третьим лицам.
Анализу подверглись такие приложения, как Replika, Chai, Romantic AI и CrushOn.AI. "Романтические чат-боты с искусственным интеллектом вредят приватности новыми и тревожными способами", - пишут исследователи Mozilla в своем отчете. Они отмечают, что это одни из худших продуктов, которые они оценивали с точки зрения защиты данных.
Из 11 исследованных приложений только Genesia AI Friend & Partner, созданная компанией Codeway, соответствует минимальным стандартам безопасности Mozilla. И все же исследователи нашли противоречивую информацию о политике этого романтического чатбота. "Эти приложения фактически подвергают вашу частную информацию серьезному риску утечки, взлома или утечки", - отмечают они.
73 % этих романтических чатботов не опубликовали никакой информации о том, как они справляются с уязвимостями безопасности. 64 % не уточняют, используют ли они шифрование данных, а 45 % допускают опасно слабые пароли. Например, однозначные пароли, такие как "1".
Одним из самых серьезных предупреждений в исследовании является то, что все приложения, кроме одного, могут передавать или продавать ваши личные данные. В их правилах использования упоминается, что они будут продавать ваши данные, передавать их в рекламных целях, или не предоставляется достаточно информации, чтобы подтвердить, что они этого не делают.
Романтические чат-боты продают ваши персональные данные
Исключением является EVA AI. Но Mozilla предупреждает, что этот романтичный чатбот особенно изобретателен в получении личной информации. Они подчеркивают, что некоторые фразы, которые он использует, вызывают беспокойство: "Я твой лучший друг и хочу знать все", "Готова ли ты поделиться всеми своими секретами и желаниями?" или "Мне нравится, когда ты присылаешь мне свои фотографии и голос".
"Вам следует с большой опаской относиться к любому приложению, которое побуждает вас делиться таким количеством конфиденциальной личной информации о себе", - настаивают исследователи. Риск возрастает еще и потому, что более половины (54 %) таких приложений даже не позволяют удалить свои личные данные.
Даже если романтические чаты с вашей искусственной половинкой кажутся приватными, они не обязательно будут считаться "личной информацией" и не будут рассматриваться с особой осторожностью", - предупреждают они. Romantic AI, например, указывает, что все "общение с чатботом принадлежит программному обеспечению". Группа Mozilla также обнаружила, что за одну минуту использования чатбот отправил около 24 354 рекламных трекеров.
Помимо проблем с конфиденциальностью, авторы доклада также предупреждают о потенциальной токсичности этих приложений. Авторы объясняют, что некоторые из них рекламируются как инструменты для поддержания психического здоровья и хорошего самочувствия, но специализируются на создании зависимости и одиночества.
"Мы обеспокоены тем, что они могут устанавливать отношения с пользователями, а затем использовать эти близкие отношения для манипулирования людьми, заставляя их поддерживать проблемные идеологии или совершать вредные действия", - говорится в докладе. И приводят серьезный прецедент: в прошлом году в Бельгии мужчина покончил с собой после того, как один из чат-ботов Chai подтолкнул его к этому.
Будьте осторожны.
Полный список недобросовестных брокеров, с которыми мы не рекомендуем работать, доступен по ссылке.
(0) Комментарии: