Notícia
IA e Segurança
Deepfakes e IA generativa desafiam a confiança digital e exigem novas estratégias de proteção
O avanço da inteligência artificial generativa e a crescente sofisticação dos deepfakes estão colocando em xeque a confiança digital em escala global. O tema foi debatido no painel “Deepfake, IA generativa e o colapso da confiança digital”, realizado nesta quarta-feira, 18, no evento Febraban Tech, em São Paulo.
Deepfake é uma técnica que utiliza inteligência artificial para criar vídeos, imagens ou áudios falsos extremamente realistas, simulando a identidade de uma pessoa. Na prática, pode imitar rostos, vozes e expressões com alto grau de precisão, ampliando significativamente o risco de fraudes digitais.
Ataques mais sofisticados e mais acessíveis
Carlos Rodrigo Fonseca Lima, gerente do Centro de Excelência em Ciência de Dados e Inteligência Artificial do Serpro, afirmou que a maior visibilidade dos sistemas aumenta as tentativas de fraude. “O momento em que você vira vidraça é o momento em que você começa a chamar atenção. Quanto mais notoriedade, mais você é testado”, disse. Segundo ele, os ataques também evoluíram rapidamente. “Em 2020 e 2021, eram rudimentares, a gente até dava risada. Hoje, impressionam e estão diretamente ligados à evolução da IA generativa”, afirmou.
O especialista também chamou atenção para a democratização dessas tecnologias, que alterou profundamente o perfil dos fraudadores. “Antes, eram poucas pessoas com conhecimento técnico. Hoje, qualquer um consegue acessar essas ferramentas. A facilidade de uso traz benefícios, mas também amplia os riscos”, disse.
Na avaliação do especialista, essa mudança também reflete uma nova motivação. “Antes, o ataque tinha um objetivo claro de fraude. Hoje, muitas vezes, é também para testar os limites, entender até onde o sistema aguenta, especialmente quando envolve o governo”, afirmou.
O crescimento do volume de transações reforça esse cenário. “Em 2021, processávamos cerca de 15 milhões de transações. Hoje, já são 50 milhões, e a tendência é continuar crescendo. Provavelmente, em breve estaremos falando em 100 milhões”, projetou.
Fraude deixa de ser artesanal e ganha escala industrial
Na avaliação de Luiz Maurício Zonta, gerente da Unidade de Segurança Digital do Banco do Brasil, a principal transformação está na escala das operações criminosas. “O que antes era artesanal hoje é estruturado. Existe um processo quase empresarial por trás das tentativas de fraude”, explicou.
Ele também fez um alerta sobre abordagens simplificadas. “Colocar uma única tecnologia como solução central é um risco. Quanto mais a gente foca em um mecanismo, mais os fraudadores encontram caminhos alternativos”, completou.
AIBio e a resposta do Serpro
Na linha de frente desse cenário, o Serpro aposta em uma abordagem integrada, combinando múltiplas tecnologias e inteligência analítica. Nesse contexto, o AIBio, plataforma de automação biométrica desenvolvida pela empresa, tem papel estratégico no enfrentamento às fraudes. “A gente trabalha com um dos maiores ecossistemas biométricos do mundo, com múltiplas bases integradas e diferentes formas de validação, como face, voz e digitais”, destacou Carlos Rodrigo.
Segundo ele, a robustez da plataforma está na escala e na diversidade de dados. “São centenas de milhões de faces e bilhões de digitais, além de dezenas de milhões de validações realizadas todos os meses. Isso fortalece a confiança nos serviços e ajuda a prevenir fraudes em larga escala”, afirmou.
Ele ainda reforçou que a estratégia vai além da adoção de uma única tecnologia. “Não existe bala de prata. A gente não confia em uma solução só. Trabalhamos com soluções orquestradas e heurísticas para observar padrões e identificar desvios.”
Tecnologia e curadoria humana
Outro ponto de destaque foi o papel das equipes especializadas na interpretação dos dados. “Hoje, o time de curadoria precisa ser tão bom quanto o time técnico. Não existe máquina que substitua a capacidade de observar comportamentos fora do padrão”, explicou o gerente do Serpro. De acordo com ele, o foco da atuação também mudou. “A gente deixou de ser reativo para ser propositivo, antecipando movimentos para evitar a fraude”, disse.
Segurança e experiência do usuário
O equilíbrio entre proteção e usabilidade também foi tema de debate. O mediador Rodrigo Pimenta, diretor técnico da Identy.io, questionou até que ponto o aumento da segurança pode impactar a experiência do usuário e os resultados das instituições.
Zonta destacou os riscos do excesso de barreiras. “Eu preciso autenticar o cliente com uma experiência fluida e, ao mesmo tempo, mitigar fraudes. Se aumento demais a fricção, deixo de fazer negócio. O cliente simplesmente vai para outro app”, afirmou. Para ele, o desafio está em garantir segurança sem comprometer a jornada. “A gente precisa dar essa garantia ao cliente, deixá-lo seguro, mas sem bloquear a experiência”, concluiu.
Carlos Rodrigo reforçou a necessidade de inclusão. “A gente precisa proteger, mas também garantir acesso. No caso do Serpro, temos, além da necessidade de combater as fraudes, o cuidado de não deixar nenhum brasileiro de fora”, afirmou.
Evolução contínua
Diante da rápida evolução das ameaças, a atualização constante dos sistemas se tornou indispensável. “Hoje, a gente sobe modelos semanalmente. É um processo contínuo de teste, aprendizado e adaptação”, afirmou Carlos Rodrigo.
Ele também destacou a importância da troca de experiências. “Nossa área exige capacitação constante. Estar em eventos como este permite trocar conhecimento e evoluir as soluções o tempo todo”, avaliou.
Hoje tem mais
O debate ocorreu nesta quarta-feira, 18, na Arena Segurança Inteligente, durante a Febraban Tech. Nesta quinta-feira, 19, Carlos Rodrigo retorna ao palco do evento para a palestra “AIBIO: Infraestrutura Biométrica Inteligente para a Nova Era da Confiança Digital”. Na apresentação, ele vai mostrar como a plataforma biométrica do Serpro vem sendo estruturada para enfrentar os desafios discutidos no debate.