Luciana Santos participa de Fórum. Foto: divulgação

A ministra da Ciência, Tecnologia e Inovação, Luciana Santos participou, nesta segunda-feira (5), de mesa do Fórum Global sobre a Ética da Inteligência Artificial (IA), promovido pela Unesco (Organização das Nações Unidas para a Educação, a Ciência e a Cultura) e realizado na Eslovênia até esta terça-feira (6).

O objetivo do evento é debater as principais iniciativas internacionais lideradas pelos países participantes e pelos fóruns globais no que diz respeito à IA e discutir como garantir a convergência e a igualdade de condições de concorrência a nível internacional e promover um quadro de governança modelo.

A exposição da ministra se dá no contexto da presidência do G20 pelo Brasil, iniciada em dezembro do ano passado, que tem entre suas prioridades combater as desigualdades no uso da IA. 

Em seu discurso, feito de maneira virtual, Luciana Santos afirmou que o foco do debate sobre Inteligência Artificial do grupo de Economia Digital do G20 que o MCTI está liderando é “como fazer com que essa tecnologia disruptiva e transformadora seja aproveitada em benefício da humanidade e do interesse público”. 

Ela salientou que isso “requer um esforço internacional de estabelecimento de princípios e diretrizes comuns, mas que observem as profundas desigualdades entre os países em termos de desenvolvimento dessa tecnologia”. 

A prioridade da presidência brasileira, apontou a ministra, é construir um mundo justo e sustentável. “Nesta área, isso se reflete em como os países do Sul-Global se inserem no debate na perspectiva de construir iniciativas de cooperação e investimentos para que nós possamos deixar de ser consumidores e nos tornemos também produtores de tecnologia”, explicou. 

No âmbito da inteligência artificial, isso significa, conforme pontuou, “a criação global de condições para que os países possam desenvolver uma cadeia produtiva em torno da IA, elevando as capacidades de infraestrutura, armazenamento e tratamento de dados e recursos humanos”. 

A ministra argumentou que “o nosso trabalho no G20 é mapear essas desigualdades, oferecer metodologias para fazer esta análise e identificar os principais obstáculos” e “a forma como os governos estão adotando IA em serviços públicos para resolver problemas críticos de seus cidadãos”. 

Dilemas e ética em IA

Luciana Santos enfatizou, ainda, que o debate sobre ética em IA está intimamente relacionado com o debate econômico. “Quanto mais diversos e territorialmente referenciados forem os sistemas de IA, construídos a partir dos princípios e diretrizes internacionais de ética by design/ segurança by design / privacidade by design, maior será a capacidade dos países de criarem mecanismos de compliance desses desenvolvedores locais, em termos de auditabilidade de datasets, de explicabilidade dos sistemas, de mitigação de vieses e outros resultados negativos da IA para o desenvolvimento democrático de nossas sociedades”, argumentou.

A ministra pontuou que ao longo do processo de incorporação e uso da IA, novos dilemas surgem, “envolvendo a natureza desta inteligência e do próprio ser humano, os impactos das muitas aplicações que podem revolucionar a indústria, reduzir desigualdades e gerar riquezas, mas que  também trazem inúmeros riscos”. 

Entre estes riscos, ela apontou o desemprego, o uso de IA para criar deep fakes e “manipular processos eleitorais e políticos que podem minar nossas democracias,  ameaças para a vida com o uso de IA em armas autônomas, além dos muitos problemas relacionados à ausência de parâmetros éticos para o desenvolvimento e treinamento de sistemas, ausência de diversidade linguística, cultural, racial e de gênero que resultam em vieses e outra violações de direitos humanos”. 

Por fim, ela defendeu como fundamental que as legislações nacionais e os estatutos de governança global de IA “estejam alinhados a estes objetivos, buscando interoperabilidade de sistemas regulatórios e autodeterminação para os países aplicarem estes estatutos de acordo com o seu estágio de desenvolvimento”. 

IA como ferramenta de inclusão

Nesta terça-feira (6), a coordenadora do Comitê Gestor da Internet no Brasil (CGI.br), Renata Mielli, também participará do Fórum, em sessão que terá como tema “Promover a IA como ferramenta de inclusão e de soluções inovadoras para melhorar a qualidade de vida de todos”. 

“São muitos os impactos que a IA pode trazer para a humanidade, positivos e também negativos. Neste sentido, é fundamental que o governo brasileiro acompanhe e participe ativamente de todos os fóruns internacionais que estão tratando do assunto. O Fórum Global sobre Ética em IA é um destes espaços estratégicos, porque reúne países de todo o mundo nesta discussão”, explica Renata ao Portal Vermelho.  

Ela lembra que a Unesco publicou um “documento fundamental abordando as questões relacionadas aos desafios éticos que envolvem o desenvolvimento, implementação e uso de IA e como estes sistemas devem ser desenvolvidos e manejados de forma a não reproduzir vieses, violar direitos fundamentais e outros riscos e impactos negativos que essa tecnologia pode trazer”.  

Segundo ela, “nossa participação é ainda mais relevante porque o MCTI está responsável por coordenar o tema de IA no grupo de Economia Digital do G20. E nosso foco neste trabalho é a necessidade de reduzir as desigualdades entre os países em termos de infraestrutura e capacidades para serem produtores de IA, e não apenas consumidores. A participação da ministra enfatizou este aspecto ao dizer que quanto mais diversas em termos culturais, linguísticos, sociais forem as IAs, melhores serão as condições de mitigar vieses e termos mais soluções que tenham como centro o interesse público”.