Conselheiro Alexandre Freire solicita informações detalhadas sobre algoritmo de Inteligência Artificial utilizado pela Vivo

O conselheiro diretor da Agência Nacional de Telecomunicações (Anatel) Alexandre Freire enviou nesta terça-feira (25/06) ofício à Superintendência Executiva da Agência solicitando que sejam adotadas as providências para requerer informações detalhadas à Telefônica Brasil S.A., empresa que opera sob a marca Vivo, sobre o algoritmo de inteligência artificial (IA) recentemente implementado em sua central de atendimento ao cliente. O pedido encontra-se formalizado pelo Ofício nº 159/2024/AF-ANATEL.

Conforme noticiado, a Vivo, em parceria com a Microsoft, lançou a ferramenta denominada I.Ajuda, que está sendo utilizada por aproximadamente 11 mil agentes de atendimento. Esta inovação tem sido destacada pela empresa por melhorar significativamente a qualidade e agilidade no atendimento ao consumidor, reduzindo o tempo médio de atendimento e aumentando a taxa de resolução no primeiro contato.

O conselheiro, contudo, destaca a importância da transparência algorítmica no uso de tecnologias de IA, especialmente em setores sensíveis como o atendimento ao consumidor. Este princípio, conforme delineado no Decreto nº 11.034 de 2022, que regulamenta a Lei nº 8.078 de 1990 (Código de Defesa do Consumidor), é crucial para assegurar que as decisões tomadas pela IA sejam compreensíveis, auditáveis e justas, promovendo a confiança dos consumidores e garantindo seus direitos.

O ofício especifica uma série de informações que a Anatel considera fundamentais para avaliar o impacto da solução I.Ajuda. Primeiramente, solicita-se detalhes técnicos do algoritmo, incluindo uma descrição pormenorizada de suas funcionalidades e dos processos de machine learning aplicados, além de informações sobre as fontes de dados usadas no treinamento do algoritmo e os mecanismos de atualização e aprendizado contínuo.

Também são solicitadas informações sobre as medidas adotadas pela prestadora para garantir a transparência do algoritmo, de forma a se assegurar que as decisões da IA sejam compreensíveis e auditáveis, e uma descrição da interface utilizada pelos agentes de atendimento e do processo de geração e apresentação das respostas.

Adicionalmente, requerem-se dados específicos sobre a melhoria dos indicadores de desempenho do atendimento ao cliente, mecanismos de feedback e avaliação usados pelos agentes para aprimorar a IA. Também foram solicitadas informações sobre a atuação dos "treinadores de bots" e explicações sobre como suas atividades contribuem para a calibração da ferramenta.

No que se refere à segurança e conformidade, solicita-se detalhes sobre as camadas de proteção e segurança implementadas, especialmente no contexto do Microsoft Azure OpenAI Service, além de garantias de que as informações dos clientes são processadas e armazenadas conforme os padrões de privacidade e segurança estabelecidos.

Por fim, a Anatel busca-se uma avaliação da Vivo sobre possíveis impactos regulatórios decorrentes do uso da IA generativa em seu serviço de atendimento e os planos para atender a eventuais exigências regulatórias que possam surgir em função da implementação dessa tecnologia.

O prazo estabelecido pela Anatel para a Vivo fornecer essas informações é de 15 (quinze) dias, que também deverão ser compartilhadas com o Grupo de Pesquisa em Inteligência Artificial (IA.lab), instituído no âmbito do Centro de Altos Estudos em Comunicações Digitais e Inovações Tecnológicas (Ceadi) pela Portaria nº 2.831, de 11 de junho de 2024 (SEI nº 12111696).

“Essas informações são essenciais para garantir que os direitos dos consumidores sejam protegidos e que o impacto da solução I.Ajuda no mercado de telecomunicações seja devidamente avaliado”, pontuou o conselheiro.