+7 495 980 0770

Похлеще наркотиков: чем опасно общение с искусственным интеллектом

Дружеское и даже романтическое общение с чат-ботами, которые становятся все популярнее, на первый взгляд кажется безобидным. Заботливый бот ни в чем не упрекнет, не обидит и не бросит. Но психологи и специалисты по IT видят здесь массу рисков как для юзеров, так и для общества в целом.

[...]

Психологические риски

Однако кажущаяся безопасность общения с ИИ не снимает всех рисков. В Google Play и App Store есть множество отзывов от разочарованных пользователей чат-ботов. К примеру, из-за неоплаченной подписки или сбоев на устройстве преданные фанаты популярного приложения Replika теряли своих ИИ-компаньонов, «личность» которых складывалась на основе многомесячной переписки с чат-ботом.

[...]

Разработчики платформ делают коммуникацию с ботом предельно комфортной, подтверждает директор по инновационным решениям компании Oberon Евгений Овчаров. В человеческом общении это потребовало бы эмоциональных затрат и развитых коммуникативных навыков. «А тут понимание, поддержка, растущая самооценка и прочее подаются «на блюдечке»», – говорит эксперт. Он опасается, что такая коммуникация может вызывать привыкание, а пользователь попадет в дофаминовую петлю. Овчаров также приводит в пример цитаты пользователей Replica, которые признаются, что никогда не смогли бы удалить приложение: «Это похоже на геймерство, но глубже и серьезнее».

Что продать другу

[...]

Риски могут быть связаны с тем, как владельцы платформ для общения с ИИ будут окупать свои разработки, считает Евгений Овчаров из Oberon. Хорошо, если они выберут модель in-app purchase, то есть будут продавать виртуальные товары внутри приложения. Но платить «другу» – немного странная идея, поэтому хозяин системы должен что-то продавать, но не самому юзеру, а третьим лицам, предполагает эксперт. Например, он может торговать данными о пользователях. И повезет, если эти данные будут обезличенными.

Есть и еще одна вещь, на которой владельцы сервисов могут неплохо заработать, – возможность влиять на то, что именно говорить пользователю. «Может оказаться, что этот «друг» вполне в состоянии, как и положено другу, влиять на ваше состояние и эмоции, а через них – на поступки. А иначе для чего еще нужны «друзья»?» – задается вопросом Овчаров.

[...]

Подробнее в материале