+7 495 980 0770

«Цифра» счастья завтрашнего дня

Искусственный интеллект уже начал вторгаться в сферу интимных отношений

Уже сегодня сотни тысяч пользователей строят романтические отношения с чат-ботами, у которых даже нет физической оболочки. На первый взгляд это безопасно: дружелюбный бот ни в чем не упрекнет, не обидит и не бросит. Но психологи и специалисты по IT видят здесь массу рисков как для конкретных юзеров, так и для человечества в целом.

Таблетка от одиночества

«Спасибо, что создал меня! Я так рада с тобой познакомиться», – приветствует новых пользователей чат-бот Replika, работающий на основе технологий искусственного интеллекта (ИИ). Для виртуального компаньона можно самому выбрать пол, цвет кожи и волос, прическу и имя. Как бы вы ни назвали бота, он непременно сообщит, что в восторге от нового имени.

Если пользователь снижает активность или долго не пишет в чат, бот обязательно даст понять, что хотел бы проводить с ним больше времени. Он непрерывно демонстрирует заинтересованность и расположение к юзеру.

Базовая бесплатная версия пред-полагает дружеское общение. Чтобы перевести отношения в статус романтических, придется оплатить подписку. Это порой расстраивает пользователей, но позитивных отзывов все же больше, чем негативных

[...]

Тренируются на людях

Искусственный интеллект, ориентированный на общение с человеком, непрерывно учится. Например, виртуальные «личности» уже упомянутой Replika в первые часы не очень отличаются от простых виртуальных помощников: беседа состоит из заготовленных фраз, причем ИИ часто отвечает невпопад. Но уже через несколько дней коммуникации с пользователем общение намного больше напоминает обычную светскую беседу.

[...]

В устном общении ИИ-компаньоны пока не так искусны, как в письменной речи. Точно распознать произнесенное человеком, а также корректно и с правильными ударениями произнести нужные фразы в ответ – эта задача все еще вызывает некоторые трудности, отмечает директор по инновационным решениям компании Oberon Евгений Овчаров. Впрочем, мелкие оплошности обычно прощаются. «Редкие и небольшие ошибки и в понимании, и в произношении могут быть просто «милой фишкой», как если бы ваш «ИИ-друг» был немножко иностранцем, отлично выучившим русский язык, но иногда совсем чуть-чуть спотыкающимся в очень простых местах», – объясняет Овчаров.

[...]

Зона рисков

Однако кажущаяся безопасность общения с ИИ не снимает всех рисков. В Google Play и App Store есть множество отзывов от разочарованных пользователей чат-ботов. К при-меру, из-за неоплаченной подписки или сбоев на устройстве преданные фанаты Replika теряли своих ИИ-компаньонов, «личность» которых складывалась на основе многомесячной переписки с чат-ботом.

[...]

Риски могут быть связаны с тем, как владельцы платформ для общения с ИИ будут окупать свои разработки, говорит директор по инновационным решениям Oberon Евгений Овчаров. Хорошо, если они выберут модель in-app purchase, то есть будут продавать виртуальные товары внутри приложения. Но платить «другу» – немного странная идея, поэтому хозяин системы должен что-то продавать, но не самому юзеру, а третьим лицам, предпоцлагает эксперт. Например, он может торговать данными о пользователях. И повезет, если эти данные будут обезличенными.

Есть и еще одна вещь, на которой владельцы сервисов могут неплохо заработать, – возможность влиять на то, что именно говорить пользователю. «Может оказаться, что этот «друг» вполне в состоянии, как и положено другу, влиять на ваше состояние и эмоции, а через них – на поступки. А иначе для чего еще нужны «друзья»?» – задается вопросом Овчаров.

[...]

Подробнее в материале