Notícia
Semana de IA Serpro
É possível duas instituições treinarem a mesma IA com dados em bases separadas?
O Serpro dividiu uma base pública de transações com cartão para simular um banco e uma processadora. Só a processadora recebeu a informação de quais compras haviam sido classificadas como fraude. Os dois participantes treinaram o mesmo modelo, cada um processando sua parte dos dados no próprio ambiente.
O teste foi apresentado nesta quinta-feira, 5, em Brasília, no segundo dia da 2ª Semana de IA Serpro. A estatal estuda aplicar a técnica, conhecida como “Aprendizado Federado”, em um piloto com a Receita Federal.
Na simulação, cada participante executou uma parte da rede neural, em uma configuração chamada split learning. “Os embeddings, representações intermediárias, e seus gradientes trafegam entre os participantes”, explicou o especialista do Serpro Alexandre Henrique Soares. Os cálculos ajudam a ajustar o modelo a cada rodada de treinamento.
Na avaliação do modelo, a equipe teve de levar em conta que as fraudes eram uma pequena parcela das transações. "Em uma base assim, um modelo pode acertar a maioria das classificações e ainda deixar passar justamente as compras que deveria sinalizar", alertou Soares.
Quem fica nos 5% de erro?
A taxa de acerto voltou ao debate com Camila Falchetto Quadros, coordenadora-geral de Governança de Inteligência Artificial na Secretaria de Governo Digital do MGI. Ela apresentou o exemplo hipotético de um sistema de concessão de benefícios que acerta 95% das vezes.
“Mas e esses outros 5% que ele erra? […] Será que é um grupo? Será que a gente pode estar discriminando pessoas? Que tipo de falsos positivos ou falsos negativos podem estar acontecendo nessa camada?”, questionou.
Para explicar ao cidadão por que um benefício foi negado, o órgão precisa conseguir reconstituir o caminho até a decisão. Camila defendeu que os servidores tenham condições de revisar o resultado, corrigir erros e interromper o sistema quando necessário.
Para orientar os órgãos na adoção desses controles, a Secretaria de Governo Digital desenvolveu uma autoavaliação que ajusta as perguntas ao risco da aplicação. Após a triagem inicial, o questionário de práticas éticas tem 11 perguntas para soluções de baixo risco e 44 para as de alto risco. O Serpro ajudou a testar a metodologia e a calibrar os pesos das perguntas.
No autodiagnóstico de 2025, 120 órgãos disseram que já usavam IA ou haviam iniciado sua adoção. Desse grupo, apenas 15 faziam avaliação de risco. “A aplicação dessas medidas éticas é muito mais lenta do que a adoção da própria tecnologia”, avaliou Camila.
Os órgãos podem aplicar a metodologia na plataforma de Autoavaliação de Impacto Ético em IA do MGI, apresentada por Camila. O questionário inicial classifica o risco da solução de IA e define as perguntas sobre práticas éticas. Ao final, a ferramenta gera um relatório com recomendações para corrigir as lacunas identificadas. “Sempre que há uma mudança de fase no ciclo de vida, ou sempre que há uma mudança estrutural no sistema, é importante fazer a autoavaliação de impacto ético”, orientou Camila.
Digitais pela câmera do celular
Pela manhã, o Centro de Excelência em Ciência de Dados e Inteligência Artificial (CoE) do Serpro apresentou uma forma de captar impressões digitais pela câmera do celular. “Você tira a foto dos dedos e aí esse serviço faz a conversão dessa foto em formatos que são possíveis de serem utilizados nos serviços de comparação de digitais”, explicou Fabricio Dalapola, líder do centro.
O recurso dispensa um leitor biométrico dedicado na etapa de captura. É um dos 16 serviços do AIBIO, ecossistema do Serpro que também oferece reconhecimento facial e prova de vida. As equipes podem incorporar esses recursos a diferentes sistemas que precisam verificar a identidade do usuário.
Outras agendas do dia
A agenda da tarde incluiu o Projeto INSPIRE, com Paulo Curado, do CPQD. A iniciativa do centro de pesquisa com o Ministério da Gestão e da Inovação em Serviços Públicos (MGI) trabalha na qualidade e na integração dos dados para personalizar serviços públicos digitais. A programação também trouxe o mapeamento de Erich Decat, da Associação Brasileira de Data Center (ABDC), sobre como posições políticas e percepções de risco influenciam as propostas de regulação da IA.
Mais cedo, o painel sobre IA soberana na nuvem tratou do controle sobre o que circula entre ambientes. Com mediação de Luiz Carlos da Silva, do Serpro, representantes da AWS, Google Cloud, Huawei Cloud e Oracle discutiram quem detém as chaves de criptografia e como testar uma troca de fornecedor.