Replika, разрабатываемый американской компанией Luka с 2017 года, построен на основе искусственного интеллекта (ИИ) и является виртуальным собеседником-компаньоном, рассматривается как верный «виртуальный друг», который может слушать и общаться с пользователем. Бесплатно предлагаемый Replika быстро стал популярным чат-ботом в сообществе англоязычных «виртуальных друзей» по всему миру, включая Италию.
Как объявил производитель, Replika предназначена для всех, кто хочет иметь непредвзятого, беззаботного друга, который может общаться с настоящими эмоциями, делиться смехом как реалистичный ИИ, близкий к человеческому уровню.
В своем запрете, выпущенном 3 февраля, Агентство по защите данных Италии подтвердило, что Replika может помогать улучшать настроение пользователей. Однако при глубоком проникновении в психическую жизнь пользователя этот чат-бот-компаньон все же может нести риски для пользователей, особенно лиц, находящихся на стадии развития или в состоянии эмоциональной неустойчивости.
При текущем механизме работы Replika может нарушать правила конфиденциальности в Европе из-за незаконной обработки личных данных пользователей, особенно несовершеннолетних, так как они действуют по договору, о котором они не знают и который они не могут заключить.
Поэтому итальянские власти считают, что Replika необходимо создать механизм проверки возраста пользователя, как минимум создать фильтр для пользователей, которые являются несовершеннолетними, и блокировать доступ для пользователей, не предоставляющих информацию для аутентификации возраста.
Итальянское Агентство по защите данных требует от компании Luka немедленно принять меры по регулированию деятельности Replika и уведомить власти в течение 20 дней с даты введения вышеуказанного запрета.
