A inteligência artificial (IA) é uma tecnologia consolidada e viabilizada tanto pela existência massiva de dados, quanto pelo hardware que possibilita seu processamento. A abrangência de aplicações de IA é diretamente proporcional aos potenciais problemas, derivados tanto pelo uso indevido quanto de decisões que gerem resultados injustos ou tendenciosos. Por este motivo, cresce a necessidade de regulamentações com foco no uso responsável desta tecnologia.

Dentre os tópicos que podem ser discutidos sobre o desenvolvimento responsável da IA, a questão da transparência é apresentada como um dos pontos principais da Governança de IA [4]. Ser transparente é tornar explicável a tomada de decisão algorítmica e conclusões, em forma acessível, clara e útil ao consumidor da informação [3].

A realidade de milhões e até bilhões de dados informatizados inviabiliza qualquer análise manual para filtragem dos dados que alimentam as bases de treinamento dos sistemas de IA. A partir desta dificuldade, problemas nacionais e internacionais sobre a existência de vieses e violação de direitos humanos já são muito comuns [5]. A partir deste cenário, é compreensível a necessidade de adoção de medidas no sentido de trazer transparência quanto ao uso e operação de soluções de IA [2][7].

Estratégia Brasileira

Com o propósito de orientar o avanço da Inteligência Artificial no Brasil, o governo brasileiro implementou, em 2021, a Estratégia Brasileira de Inteligência Artificial (EBIA). Esta estratégia está alinhada com os pilares internacionais estabelecidos pela Organização para Cooperação e Desenvolvimento Econômico (OCDE) [8], os quais abrangem cinco princípios sobre IA:

• Crescimento inclusivo, o desenvolvimento sustentável e o bem-estar
• Os valores centrados no ser humano e na equidade
• Transparência e explicabilidade
• Robustez, segurança e proteção
• Responsabilização ou a prestação de contas (accountability)

A explicabilidade é associada à transparência, para garantir justificativas claras para as decisões e conclusões dos resultados, de forma a elencar as variáveis que mais influenciaram na tomada de decisão [1]. É importante ponderar que somente através da transparência é possível a fiscalização do atendimento dos demais princípios.

Inteligência artificial na LGPD

Outra medida existente e que já se encontra em vigor é a Lei Geral de Proteção de Dados (LGPD), que estabelece uma estrutura para proteção de dados no Brasil [9]. Porém, no que diz respeito especificamente a IA, o artigo 20 é insuficiente para definir os critérios relativos à transparência. O artigo 20 apenas prevê que o cidadão pode “solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses”.

Aqui surge uma primeira pergunta: como um cidadão pode solicitar a revisão se sequer compreende como a decisão foi tomada? E, logo na sequência, outro questionamento: como o titular do software efetuará a revisão da decisão automatizada, se também não compreende como a decisão foi tomada?

A partir desta insuficiência de parâmetros da LGPD para assuntos de IA, surgiu o Projeto de Lei 2338/23 (Marco Regulatório de IA). O PL 2338/23 visa regulamentar a inteligência artificial no Brasil e explora, em alguns de seus artigos, a necessidade de transparência destas soluções, principalmente em casos de alto risco, ou seja, que possuem uma alta probabilidade de violar direitos e causar impactos negativos.

Desafios da transparência

A transparência pode ser quanto ao uso e quanto à operação. A transparência quanto ao uso se refere ao nível de autonomia da solução de IA nos processos de tomada de decisão. Já a transparência quanto à operação, refere-se aos procedimentos internos realizados pelos sistemas de IA para a tomada de decisão.

A maior dificuldade é dar transparência quanto à operação, pois, os algoritmos mais eficazes geralmente são mais opacos, ou seja, é muito difícil compreender como funciona o modelo matemático usado para a decisão. Neste sentido, todas as decisões de projeto, desde a concepção do sistema, podem ser documentadas para facilitar a transparência. Ainda, deve-se avaliar as diretrizes previstas em normas técnicas internacionais, como a IEEE P7001™ [6] que diz respeito a esse assunto. Esta norma é muito relevante, pois, descreve níveis mensuráveis e testáveis de transparência em sistemas de IA e possibilita avaliações mais objetivas ao estabelecer que a informação fornecida deve ser clara e útil ao destinatário.

Apesar da importância da transparência, ela sozinha não é suficiente, dado que não é um objetivo em si, mas um meio para garantir que algoritmos utilizados gerem resultados justos e resguardem os direitos fundamentais [7].

O Serpro, atento ao cenário tecnológico mundial e à sua importância no contexto formador de soluções que respeitam à diversidade, equidade e direitos humanos, trabalha na implementação de uma Governança de IA que tem a transparência como um dos principais temas, com o objetivo de estabelecer uma IA responsável. Esta iniciativa direciona o Serpro para a conformidade legal, ética e reforça o reconhecimento de seu papel como promotor de bem-estar e progresso social.

Palestra

O assunto abordado neste artigo foi tema da palestra “Governança de IA no Setor Público por Meio da Transparência – Oportunidades e Desafios para uma Governança de IA Corporativa no Serpro”, ministrada por Aline Macohin e Inah Lúcia Barbosa (Tuti), na da 2ª semana Serpro de Privacidade e Proteção de Dados (de 24 a 26/10/2023).

Fontes

[1] ARRIETA, Alejandro Barredo et al. Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI. Information Fusion, v. 58, 2020. p. 82-115.

[2] CITRON, Danielle Keats. Technological due process. Wash. UL Rev., v. 85, p. 1249, 2007.

[3] DIAKOPOULOS, N. Transparency. In: DUBBER, M., PASQUALE, F. and Das, S. The Oxford Handbook of Ethics of AI.OUP, 2020. p. 197 a 214.

[4] DIGNUM, V. Responsibility and Artificial Intelligence. In: DUBBER, M., PASQUALE, F. and Das, S. The Oxford Handbook of Ethics of AI.OUP, 2020. p. 215 a 231.

[5] DONEDA, Danilo; ALMEIDA, Virgílio AF. O que é a governança de algoritmos. Tecnopolíticas da vigilância: Perspectivas da margem, 2018. p. 141-148.

[6] IEEE. IEEE Standard for Transparency of Autonomous Systems. 2022.

[7] MACOHIN,A. Inteligência Artificial na Administração Pública Brasileira: Uma abordagem transparente e explicável. ISBN 9788551927175, Lumen Juris, 2023.

[8] MASSENO, Manuel David. Das consequências jurídicas da adesão do Brasil aos Princípios da OCDE Para a Inteligência Artificial, especialmente em matéria de proteção de dados. Journal of Law and Sustainable Development, v. 8, n. 2, p. 113-122, 2020.

[9] BRASIL. Lei nº 13.709, de 14 de agosto de 2018.

Governança de Inteligência Artifical do Serpro (GovIA)

Projeto criado em fevereiro de 2023 que tem como objetivo principal a construção de arcabouço estruturante de governança para IA incorporando os aspectos éticos, de segurança, transparência e de responsabilidade. Sendo mais uma iniciativa que direciona, previamente, o Serpro para a conformidade legal e ética exigida pela Lei Geral de Proteção de Dados (LGPD) e para os preceitos do Marco Regulatório de IA (PL 2338), a Governança de IA é o caminho para que a empresa se torne uma referência em IA não só em aspectos técnicos, mas também no processo de desenvolvimento, políticas e normas para a utilização da IA de forma ética, transparente e responsável, disseminando a cultura da ética e confiabilidade - IA Responsável.

Autoria

Aline Macohin é Doutora em Direito pela UFPR, com foco em Governança de IA. Mestre em Computação Aplicada pela UTFPR. Advogada. Membro da Comissão de Direito Digital e Proteção de Dados da OAB/PR. Professora de pós-graduação da PUCPR. Pesquisadora dos grupos de pesquisa e-Justiça (UFPR) e Lawgorithm. Membro da GovDados, Women in AI e Brasileiras em Processamento de Linguagem Natural. Autora do site https://www.iaresponsavel.com.br. É analista de TI do Serpro desde 2015. É membro do Comitê do Guia de Desenvolvimento Confiável do Serpro e atualmente integra equipe responsável pelo projeto de Governança de IA.

Inah Lúcia Barbosa (Tuti) possui pós-graduação em Arquitetura de Sistemas pela Estácio de Sá e em Engenharia de Sistemas pela Universidade Federal de Pernambuco (UFPe). Entrou no Serpro em 1986, trabalhou com desenvolvimento de sistemas e na área de negócio, atendendo ao cliente Receita Federal e participou de projetos pioneiros da empresa. Com vasta experiência em gestão de projetos, área que atua desde 1997, especializou-se em projetos de normatização, sistemáticas e padronização com equipes multidisciplinares. Atualmente, integra equipe de gestores do Escritório de Governança, sendo responsável, dentre outras frentes, pela Coordenação do projeto de Governança de IA (GovIA).

Nadja Velasco de Loyola é formada em Engenharia de Sistemas e Computação pela Universidade do Estado do Rio de Janeiro (UERJ). É Analista de Tecnologia do Serpro desde 1987, possui MBA em Ciência de Dados (Big Data) pelo Instituto de Gestão e Tecnologia da Informação (IGTI), pós-graduação em Tecnologia e Projetos de Sistemas Internet pela Universidade Estácio de Sá (Unesa) e Aplicação de Banco Dados Distribuído pela PUC-RJ. Integra as Redes Corporativas de Privacidade e Proteção de Dados e Curadoria de Dados. É membro do Comitê do Guia de Desenvolvimento Confiável e integra equipe do Escritório de Governança de Dados do Serpro, atuando no projeto de Governança de IA.

Fabiano Graça é pós-graduado pela UFRJ em gestão de tecnologias integradas. Possui vasta experiência em desenvolvimento de sistemas e projetos multidisciplinares. Entrou no Serpro em 2010 e atua na área de gestão desde 2017. Como gerente de Departamento do Escritório de Governança desde 2019, democratiza o tema Governança de Dados, desenvolvendo os programas de Governança de Dados e de Governança de IA do Serviço Federal de Processamento de Dados (Serpro). É Gestor Corporativo de Dados do Serpro e, com sua experiência, contribui sobre os temas relacionados, para o Governo Federal e sociedade.