A presença crescente de algoritmos em decisões cotidianas que afetam a vida das pessoas e os impactos sociais e políticos desse fenômeno são o tema central do livro Algorithmic institutionalism: the changing rules of social and political life, que será lançado globalmente nesta terça, 12 de dezembro, pela Oxford University Press. Os autores são os professores Ricardo F. Mendonça e Virgílio Almeida, da UFMG, e Fernando Filgueiras, da Universidade Federal de Goiás (UFG). Em tempos de grande atenção ao avanço da inteligência artificial (IA) e às consequências da automatização das mais diversas dinâmicas sociais, Virgílio, Mendonça e Filgueiras tratam de temas complexos de forma acessível, agregando discussões da ciência política e da ciência da computação.

Algoritmos são sequências de instruções executáveis visando a um certo fim. No caso da IA, as instruções não são completamente escritas a priori – são obtidas com base nos dados usados para treinamento. O termo se popularizou, segundo o texto de divulgação do lançamento, como referência às escolhas que plataformas fazem para alimentar timelines, mas os algoritmos estão em incontáveis softwares e aplicativos que moldam decisões sobre encontros, rotas nas cidades, preços de deslocamento em carros de aplicativos e também sobre que pessoas devem ter acesso a políticas sociais ou prioridade na fila de transplantes.

O material divulgado pela editora lembra que algoritmos prometem soluções rápidas, eficientes e impessoais, que levam em consideração grandes volumes de dados e possibilitam rápida alocação de recursos. Estudos mostram, no entanto, como eles alimentam diversos problemas – da polarização política e ideológica a preconceitos e injustiças, como o que tem sido chamado de racismo algorítmico. Algoritmos de IA, como os do ChatGPT, oferecem conveniência e oportunidades, mas também geram riscos de diversas naturezas.

Algoritmos como instituições emergentes
De acordo com os autores, Algorithmic institutionalism – que por ora só tem a edição em inglês – aborda os algoritmos como instituições emergentes das sociedades contemporâneas, na medida em que eles operam como conjuntos de regras que ajudam a estruturar normas e contextos em que agem seres humanos e máquinas.

Mendonça, Virgílio e Filgueiras discorrem sobre essas questões explorando exemplos de algoritmos adotados na área de segurança pública, na plataformização de governos e na construção de sistemas de recomendação em diversas áreas. 

Ricardo Fabrino Mendonça conta que o volume foi produzido, em sua maior parte, em plena pandemia e afirma que o debate atual sobre a inteligência artificial é um ótimo “gancho” para discutir a transformação suscitada pelos algoritmos. “O livro supre uma lacuna importante ao oferecer um olhar transdisciplinar sobre um problema complexo, que traz muitos desafios políticos na contemporaneidade”, diz o professor da UFMG.

Virgílio Almeida ressalta que o livro analisa o papel dos algoritmos como instituições em vários contextos, como, por exemplo, o dos algoritmos de recomendação, que surgem “ao mediar o conhecimento e influenciar o comportamento dos cidadãos e consumidores em processos complexos”. Ele acrescenta que o trabalho desenvolvido pelos professores da UFMG e da UFG combina conhecimentos e visões de duas áreas diferentes, mas cada vez mais próximas, muito em razão do próprio interesse comum nos próprios algoritmos.

Para Virgílio, o caráter inovador de Algorithmic institutionalism… reside em enxergar nos algoritmos características das instituições – como as famílias, por exemplo, que funcionam segundo uma série de regras. “Podemos utilizar a teoria institucionalista para compreender melhor os algoritmos e aumentar a governança e o controle sobre eles”, afirma, lembrando que aplicativos de encontros têm sido capazes de provocar mudanças numa instituição tão tradicional e com regras tão consolidadas como o casamento na sociedade indiana e que as plataformas de transporte de passageiros – que controlam desempenho dos motoristas e avaliam usuários – têm suscitado alterações nas relações de trabalho e de poder.

Pesquisas recentes de Ricardo Fabrino têm se baseado na preocupação com a erosão democrática, profundamente atravessada, segundo ele, por desenvolvimentos tecnológicos como a algoritmização das políticas públicas e o avanmço de plataformas em várias situações da vida social. "Esses fenômenos podem conduzir a uma aposta em epistocracias, que representam o abandono da necessidade da ideia de decisões políticas, democráticas, como se todas as decisões pudessem ser técnicas, apoiadas em volumes de dados que não eram disponíveis antes. Essa compreensão parte do pressuposto de que dados não são produzidos politicamente, o que é falso", afirma o professor do Departamento de Ciência Política da Fafich. 

Ainda de acordo com Fabrino, essa aposta tão significativa nos algoritmos como forma de tecnicização das decisões "contribui para o processo de despolitização e para camuflar o fato de que essas decisões continuam sendo políticas".          

Disciplina, pesquisa e artigos
No segundo semestre de 2022, os autores conduziram juntos a disciplina Algoritmos e política, vinculada aos programas de pós-graduação em Ciência Política e Ciência da Computação da UFMG.

Os três e outros pesquisadores começarão a desenvolver, em 2024, o projeto Democracia e temas complexos, recém-aprovado em edital do CNPq. A pesquisa é um desdobramento do trabalho que resultou no livro e deverá aprofundar a compreensão de temas como a IA e contribuir para o debate público.

Antes do lançamento do livro, os autores publicaram textos curtos em periódicos importantes como o Communications of the ACM (da Association for Computing Machinery, a mais antiga e considerada a mais importante nesse campo). No artigo Infrapolíticas de resistência aos algoritmos, Mendonça, Virgílio e Filgueiras abordam o recurso utilizado por pessoas e grupos, sobretudo em países autoritários, para dificultar a captura de dados que possibilitam o treinamento de programas de inteligência artificial. Por exemplo, eles usam palavras menos óbvias nas mensagens em redes sociais digitais e lançam mão de máscaras para impedir o registro das imagens de seus rostos por câmeras em manifestações de protesto.

Informações sobre o livro estão site da Oxforfd University Press.

Os autores
Ricardo Fabrino Mendonça é professor do Departamento de Ciência Política da UFMG, pesquisador do Instituto Nacional de Ciência e Tecnologia em Democracia Digital e research fellow do Centre for Deliberative Democracy and Global Governance da University of Canberra (Austrália).

Fernando Filgueiras é professor da Faculdade de Ciências Sociais da Universidade Federal de Goiás (UFG) e da Escola Nacional de Administração Pública (Enap). É também pesquisador do Instituto Nacional de Ciência e Tecnologia em Democracia Digital e affiliate faculty do Ostrom Workshop on Political Theory and Policy Analysis, da Indiana University (Estados Unidos).

Virgílio Almeida é professor emérito da UFMG, vinculado ao Departamento de Ciência da Computação. É membro da Academia Brasileira de Ciências (ABC), da Academia de Ciências para o Mundo em Desenvolvimento (TWAS) e da Academia Nacional de Engenharia (ANE).  Virgilio é também professor associado ao Berkman Klein Center,  na Harvard University, e ocupa a Cátedra Oscar Sala do Instituto de Estudos Avançados da USP.