Пользователь Пикабу случайно обнаружил, что Теле2 использует искусственный интеллект для фильтрации звонков еще на этапе ожидания ответа. Он не дозвонился до родственницы, но успел получить замечание от робота за нецензурную лексику. А когда женщина попыталась прослушать запись этого диалога, система запретила ей это сделать. История показывает, как далеко операторы готовы зайти в контроле общения абонентов.
- ИИ Теле2 перехватил звонок до того, как он состоялся, и сделал замечание за мат.
- Диалог с нейросетью автоматически записался как голосовое сообщение.
- Абоненту не дали прослушать запись, сославшись на нецензурную брань.
- Система работает без предупреждения и не спрашивает согласия на запись.
Как ИИ Теле2 перехватил звонок и записал мат
Мужчина звонил пожилой родственнице, абонентке Теле2. Она не брала трубку. На третий гудок он выругался в микрофон. Вместо продолжения гудков на линии появился женский голос. Это был не оператор, а искусственный интеллект, который сказал: «Очень интересные слова, но мне кажется они не подходят для общения, давайте попробуем говорить культурно».
Пользователь послал робота. Тот ответил, что «нехорошо так говорить». Звонок завершился. Позже выяснилось, что весь диалог с нейросетью записали и отправили как голосовое сообщение его родственнице. Когда женщина набрала короткий номер и попыталась прослушать запись, система выдала отказ: «у вас есть сообщение, но вы его не сможете прослушать, так как там сплошная нецензурная брань».
Система работает без согласия абонента
Главная проблема даже не в том, что Теле2 записывает мат. А в том, как именно это происходит. ИИ вклинился в разговор на этапе ожидания ответа. Он не спросил, хочет ли пользователь оставить голосовое сообщение. Он просто начал слушать и реагировать. По сути, оператор включил прослушку еще до соединения с абонентом.
Этот случай вскрывает еще один спорный момент — нейросеть не только распознала нецензурную лексику, но и взяла на себя роль цензора. Она запретила адресату прослушивать сообщение, потому что сочла его содержание неприличным. Родственница в итоге услышала не голос внука, а запись робота, который сообщил — слушать нельзя, там нецензурная брань.
Мнение редакции Mr.Android
Технологии распознавания речи и фильтрации контента развиваются быстро, но их внедрение часто обгоняет этические нормы. Теле2, судя по этой истории, использует ИИ не для улучшения сервиса, а для контроля лексики абонентов без их согласия. Запись звонка до соединения, автоматическое создание голосового сообщения, запрет на прослушивание из-за мата — это перебор. Оператор должен предупреждать о записи и давать выбор. Пока же это выглядит как цифровой произвол, который мешает людям общаться. Если кончено пользователь ничего не напутал и описал все как есть.
