• Português (Brasil) Português (Brasil)
  • English English
  • Español Español
Acessibilidade
Ir para o conteúdo (1/4) 1Ir para o menu (2/4) 2Ir para a busca (3/4) 3Ir para o rodapé (4/4) 4
Acesso Rápido
EmpresaInsightsPrivacidadeSuporteDownload e SoftwareImprensaContatoÁrea do clienteAcesso à informação Loja Serpro
Área do cliente
Serpro, impulsionado pelos próximos 60 anos
Provendo soluções inteligentes para transformação e inclusão digital
Redefinir Cookies
Serpro
Institucional
  • Quem somos
  • Marca Serpro
  • Iniciativas Sociais
  • Privacidade
  • Eventos
    • 3ª Semana Serpro de Privacidade e Proteção de Dados
    • Hackathon - Compras Governamentais
    • Hackathon Rede +Brasil
    • Desafio Fiscal Inovador
  • Governança
  • Ética e integridade
  • Acesso à informação
Soluções
  • Insights e notícias
  • Loja Serpro
  • Inovação aberta
Suporte
  • Ajuda ao cliente
  • Central de Serviços Serpro
  • Atendimento Gestão de Consignação
  • Transformação Digital da Justiça
  • Download & Software
    • Assinador digital
    • Certificado Digital
    • Emulador HOD
    • SAR - Acesso remoto
    • Drivers de token
  • Central de Ajuda
Sustentabilidade
  • ESG Serpro
  • Conheça nosso trabalho
  • Objetivos de Desenvolvimento Sustentável
  • Jornada Ser ESG
  • Notícias e artigos
Contato
  • Fale conosco
  • Imprensa
  • Endereços
  • Ouvidoria
  • Fala BR
Consultas públicas Prestação de Contas
Redes Sociais
Serpro Sede - SGAN Quadra 601 Módulo "V" Brasília - DF CEP: 70836-900
Horário de atendimento: 8h às 18h
Você está aqui: Página Inicial  ›  Menu  ›  Notícias  ›  Notícias 2024  ›  Transparência: elemento fundamental para uma IA responsável
Info

Notícias

notícias

Artigo

Inteligência Artificial

Transparência: elemento fundamental para uma IA responsável

Artigo aborda a necessidade de tornar explicável a tomada de decisão algorítmica e conclusões, em forma acessível, clara e útil ao consumidor da informação
homem segurando ilustracao digital de inteligencia artificial.jpg
  • Facebook
  • Linkedin
  • Twitter
  • Whatsapp
por Aline Macohin, Inah Lúcia Barbosa, Nadja Velasco de Loyola e Fabiano Graça — 26 de fevereiro de 2024

A inteligência artificial (IA) é uma tecnologia consolidada e viabilizada tanto pela existência massiva de dados, quanto pelo hardware que possibilita seu processamento. A abrangência de aplicações de IA é diretamente proporcional aos potenciais problemas, derivados tanto pelo uso indevido quanto de decisões que gerem resultados injustos ou tendenciosos. Por este motivo, cresce a necessidade de regulamentações com foco no uso responsável desta tecnologia.

Dentre os tópicos que podem ser discutidos sobre o desenvolvimento responsável da IA, a questão da transparência é apresentada como um dos pontos principais da Governança de IA [4]. Ser transparente é tornar explicável a tomada de decisão algorítmica e conclusões, em forma acessível, clara e útil ao consumidor da informação [3].

A realidade de milhões e até bilhões de dados informatizados inviabiliza qualquer análise manual para filtragem dos dados que alimentam as bases de treinamento dos sistemas de IA. A partir desta dificuldade, problemas nacionais e internacionais sobre a existência de vieses e violação de direitos humanos já são muito comuns [5]. A partir deste cenário, é compreensível a necessidade de adoção de medidas no sentido de trazer transparência quanto ao uso e operação de soluções de IA [2][7].

Estratégia Brasileira

Com o propósito de orientar o avanço da Inteligência Artificial no Brasil, o governo brasileiro implementou, em 2021, a Estratégia Brasileira de Inteligência Artificial (EBIA). Esta estratégia está alinhada com os pilares internacionais estabelecidos pela Organização para Cooperação e Desenvolvimento Econômico (OCDE) [8], os quais abrangem cinco princípios sobre IA:

  • Crescimento inclusivo, o desenvolvimento sustentável e o bem-estar
  • Os valores centrados no ser humano e na equidade
  • Transparência e explicabilidade
  • Robustez, segurança e proteção
  • Responsabilização ou a prestação de contas (accountability)

A explicabilidade é associada à transparência, para garantir justificativas claras para as decisões e conclusões dos resultados, de forma a elencar as variáveis que mais influenciaram na tomada de decisão [1]. É importante ponderar que somente através da transparência é possível a fiscalização do atendimento dos demais princípios.

Inteligência artificial na LGPD

Outra medida existente e que já se encontra em vigor é a Lei Geral de Proteção de Dados (LGPD), que estabelece uma estrutura para proteção de dados no Brasil [9]. Porém, no que diz respeito especificamente a IA, o artigo 20 é insuficiente para definir os critérios relativos à transparência. O artigo 20 apenas prevê que o cidadão pode “solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses”.

Aqui surge uma primeira pergunta: como um cidadão pode solicitar a revisão se sequer compreende como a decisão foi tomada? E, logo na sequência, outro questionamento: como o titular do software efetuará a revisão da decisão automatizada, se também não compreende como a decisão foi tomada?

A partir desta insuficiência de parâmetros da LGPD para assuntos de IA, surgiu o Projeto de Lei 2338/23 (Marco Regulatório de IA). O PL 2338/23 visa regulamentar a inteligência artificial no Brasil e explora, em alguns de seus artigos, a necessidade de transparência destas soluções, principalmente em casos de alto risco, ou seja, que possuem uma alta probabilidade de violar direitos e causar impactos negativos.

Desafios da transparência

A transparência pode ser quanto ao uso e quanto à operação. A transparência quanto ao uso se refere ao nível de autonomia da solução de IA nos processos de tomada de decisão. Já a transparência quanto à operação, refere-se aos procedimentos internos realizados pelos sistemas de IA para a tomada de decisão.

A maior dificuldade é dar transparência quanto à operação, pois, os algoritmos mais eficazes geralmente são mais opacos, ou seja, é muito difícil compreender como funciona o modelo matemático usado para a decisão. Neste sentido, todas as decisões de projeto, desde a concepção do sistema, podem ser documentadas para facilitar a transparência. Ainda, deve-se avaliar as diretrizes previstas em normas técnicas internacionais, como a IEEE P7001™ [6] que diz respeito a esse assunto. Esta norma é muito relevante, pois, descreve níveis mensuráveis e testáveis de transparência em sistemas de IA e possibilita avaliações mais objetivas ao estabelecer que a informação fornecida deve ser clara e útil ao destinatário.

Apesar da importância da transparência, ela sozinha não é suficiente, dado que não é um objetivo em si, mas um meio para garantir que algoritmos utilizados gerem resultados justos e resguardem os direitos fundamentais [7].

O Serpro, atento ao cenário tecnológico mundial e à sua importância no contexto formador de soluções que respeitam à diversidade, equidade e direitos humanos, trabalha na implementação de uma Governança de IA que tem a transparência como um dos principais temas, com o objetivo de estabelecer uma IA responsável. Esta iniciativa direciona o Serpro para a conformidade legal, ética e reforça o reconhecimento de seu papel como promotor de bem-estar e progresso social.

Palestra

O assunto abordado neste artigo foi tema da palestra “Governança de IA no Setor Público por Meio da Transparência – Oportunidades e Desafios para uma Governança de IA Corporativa no Serpro”, ministrada por Aline Macohin e Inah Lúcia Barbosa (Tuti), na da 2ª semana Serpro de Privacidade e Proteção de Dados (de 24 a 26/10/2023).

Fontes

[1] ARRIETA, Alejandro Barredo et al. Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI. Information Fusion, v. 58, 2020. p. 82-115.

[2] CITRON, Danielle Keats. Technological due process. Wash. UL Rev., v. 85, p. 1249, 2007.

[3] DIAKOPOULOS, N. Transparency. In: DUBBER, M., PASQUALE, F. and Das, S. The Oxford Handbook of Ethics of AI.OUP, 2020. p. 197 a 214.

[4] DIGNUM, V. Responsibility and Artificial Intelligence. In: DUBBER, M., PASQUALE, F. and Das, S. The Oxford Handbook of Ethics of AI.OUP, 2020. p. 215 a 231.

[5] DONEDA, Danilo; ALMEIDA, Virgílio AF. O que é a governança de algoritmos. Tecnopolíticas da vigilância: Perspectivas da margem, 2018. p. 141-148.

[6] IEEE. IEEE Standard for Transparency of Autonomous Systems. 2022.

[7] MACOHIN,A. Inteligência Artificial na Administração Pública Brasileira: Uma abordagem transparente e explicável. ISBN 9788551927175, Lumen Juris, 2023.

[8] MASSENO, Manuel David. Das consequências jurídicas da adesão do Brasil aos Princípios da OCDE Para a Inteligência Artificial, especialmente em matéria de proteção de dados. Journal of Law and Sustainable Development, v. 8, n. 2, p. 113-122, 2020.

[9] BRASIL. Lei nº 13.709, de 14 de agosto de 2018.

Governança de Inteligência Artifical do Serpro (GovIA)

Projeto criado em fevereiro de 2023 que tem como objetivo principal a construção de arcabouço estruturante de governança para IA incorporando os aspectos éticos, de segurança, transparência e de responsabilidade. Sendo mais uma iniciativa que direciona, previamente, o Serpro para a conformidade legal e ética exigida pela Lei Geral de Proteção de Dados (LGPD) e para os preceitos do Marco Regulatório de IA (PL 2338), a Governança de IA é o caminho para que a empresa se torne uma referência em IA não só em aspectos técnicos, mas também no processo de desenvolvimento, políticas e normas para a utilização da IA de forma ética, transparente e responsável, disseminando a cultura da ética e confiabilidade - IA Responsável.

Autoria

Aline Macohin.jpgAline Macohin é Doutora em Direito pela UFPR, com foco em Governança de IA. Mestre em Computação Aplicada pela UTFPR. Advogada. Membro da Comissão de Direito Digital e Proteção de Dados da OAB/PR. Professora de pós-graduação da PUCPR. Pesquisadora dos grupos de pesquisa e-Justiça (UFPR) e Lawgorithm. Membro da GovDados, Women in AI e Brasileiras em Processamento de Linguagem Natural. Autora do site https://www.iaresponsavel.com.br. É analista de TI do Serpro desde 2015. É membro do Comitê do Guia de Desenvolvimento Confiável do Serpro e atualmente integra equipe responsável pelo projeto de Governança de IA.

Inah Barbosa.jpgInah Lúcia Barbosa (Tuti) possui pós-graduação em Arquitetura de Sistemas pela Estácio de Sá e em Engenharia de Sistemas pela Universidade Federal de Pernambuco (UFPe). Entrou no Serpro em 1986, trabalhou com desenvolvimento de sistemas e na área de negócio, atendendo ao cliente Receita Federal e participou de projetos pioneiros da empresa. Com vasta experiência em gestão de projetos, área que atua desde 1997, especializou-se em projetos de normatização, sistemáticas e padronização com equipes multidisciplinares. Atualmente, integra equipe de gestores do Escritório de Governança, sendo responsável, dentre outras frentes, pela Coordenação do projeto de Governança de IA (GovIA).

Nadja Velasco.jpgNadja Velasco de Loyola é formada em Engenharia de Sistemas e Computação pela Universidade do Estado do Rio de Janeiro (UERJ). É Analista de Tecnologia do Serpro desde 1987, possui MBA em Ciência de Dados (Big Data) pelo Instituto de Gestão e Tecnologia da Informação (IGTI), pós-graduação em Tecnologia e Projetos de Sistemas Internet pela Universidade Estácio de Sá (Unesa) e Aplicação de Banco Dados Distribuído pela PUC-RJ. Integra as Redes Corporativas de Privacidade e Proteção de Dados e Curadoria de Dados. É membro do Comitê do Guia de Desenvolvimento Confiável e integra equipe do Escritório de Governança de Dados do Serpro, atuando no projeto de Governança de IA.

Fabiano Graça é pós-graduado pela UFRJ em gestão de tecnologias integradas. Possui vasta experiência em desenvolvimento de sistemas e projetos multidisciplinares. Entrou no Serpro em 2010 e atua na área de gestão desde 2017. Como gerente de Departamento do Escritório de Governança desde 2019, democratiza o tema Governança de Dados, desenvolvendo os programas de Governança de Dados e de Governança de IA do Serviço Federal de Processamento de Dados (Serpro). É Gestor Corporativo de Dados do Serpro e, com sua experiência, contribui sobre os temas relacionados, para o Governo Federal e sociedade.

Contato

  • Quero Adquirir uma Solução
  • Problemas com uma Solução
  • Assessoria de Imprensa
  • Ouvidoria
  • Outro Assunto
Serpro
Soluções
Loja Serpro
Inovação aberta
Insights e Notícias
Suporte
Ajuda ao cliente
Central de Ajuda
Central de Serviços
Consignatárias
Transformação Digital da Justiça
Downloads
Institucional
Quem Somos
Marca Serpro
Iniciativas Sociais – Programa Agora
Governança
Ética e Integridade
Acesso à Informação
Privacidade
Contato
Endereços
Fale conosco
Imprensa
Ouvidoria
Fala BR
Empregados
Intranet
PAS Serpro
Plano Odontológico
SOS RS
Carreira
SUSTENTABILIDADE
ESG
Jornada Ser ESG
Objetivos de desenvolvimento Sustentável
Redes Sociais
Acesso àInformação
Serpro - Ministério da Fazenda - Governo Federal
Serpro Sede - SGAN Quadra 601 Módulo "V" Brasília - DF CEP: 70836-900
Horário de atendimento: 8h às 18h

Doormat

Soluções

Por Público
Por Linha de Negócio
Proteção de Dados

Suporte

Central de Ajuda
Central de Serviços
Acesso Remoto (SAR)
Consignatários
Downloads

Institucional

Quem Somos
Integridade
Transparência
Carreiras
Simplifique
Marca Serpro

Contato

Contatos
Imprensa

Empregado

Intra Serpro
PAS Serpro
Plano Odontológico