Os algoritmos cumprem papel crucial nas sociedades contemporâneas: eles indicam trajetos, definem o que aparece para cada pessoa nas redes sociais, sugerem pares para relacionamentos – ou seja, influenciam comportamentos. Mas é isso que fazem também, de outras formas, diversas instituições como sistemas eleitorais, parlamentos ou famílias. Então, que tal tratar os algoritmos como instituições?

A proposta vem embalada no livro Algorithmic institutionalism – The changing rules of social and political life (Institucionalismo algorítmico – As regras da vida social e política em transformação, em tradução livre), recém-lançado pela Oxford University Press. Os autores são os professores da UFMG Ricardo Fabrino Mendonça e Virgílio Almeida – vinculados, respectivamente, aos departamentos de Ciência Política (DCP) da Fafich e de Ciência da Computação (DCC) do ICEx – e Fernando Filgueiras, docente da Faculdade de Ciências Sociais da Universidade Federal de Goiás. A obra acaba de vencer o Prêmio Victor Nunes Leal, da Associação Brasileira de Ciência Política, na categoria de melhor livro de ciência política no biênio 2022-2024. 

“Nós nos reunimos para pensar na aplicabilidade da ideia dos pontos de vista de nossas áreas de pesquisa distintas. No momento em que consideramos algo como instituição, é preciso começar a refletir sobre sua governança, com transparência e responsabilização, por exemplo. Isso serve para os algoritmos e, de modo mais amplo, para a inteligência artificial. Da mesma forma que o Congresso Nacional e o Supremo Tribunal Federal, os algoritmos ‘tomam decisões’ que afetam os indivíduos e a coletividade”, afirma Virgílio Almeida, que é professor emérito da UFMG.

O livro é, segundo Ricardo Mendonça, uma tentativa de apresentar contribuição transdisciplinar, lançando mão de teorias da ciência política e das ciências sociais para oferecer uma leitura dos impactos sociopolíticos dos algoritmos. “Temos percebido que aumenta a sensibilidade, tanto da área da computação quanto das ciências sociais, para as consequências concretas da algoritmização da sociedade contemporânea. Há pistas em outros autores sobre enxergar algoritmos como instituições, mas podemos dizer que avançamos, ao mobilizar diferentes abordagens teóricas para o fenômeno”, diz o professor da Fafich.

‘Dotar de sentido o que é opaco’
No livro, os autores sustentam que instituições são “conjuntos de regras formais e informais que balizam contextos de interação por meio da distribuição de sentidos e recursos”. E afirma que é preciso ter em mente que os sistemas algorítmicos atravessam a vida cotidiana, marcando aspectos centrais da existência. “Pensar os algoritmos como instituições ajuda a compreender como eles se desenvolvem, como os atores nesse universo se comportam e, por consequência, como democratizá-los. Olhar para esses sistemas com as lentes institucionais é muito útil para dotar de sentido o que é opaco, pensar sobre o funcionamento de regras e formas de governança”, salienta Ricardo Mendonça.

A obra começa por apresentar um diagnóstico e propor uma grade analítica para o tema. Em seguida, detalha a percepção dos autores sobre três fenômenos algorítmicos distintos: aplicações em segurança, a plataformização de governos e os sistemas de recomendação presentes em mídias sociais (focados, por exemplo, em música, comida, filmes e até nas relações afetivas).

O capítulo 6, que fecha Algorithmic institucionalism, trata da democratização dos algoritmos, propriamente. O texto mostra que os algoritmos podem alimentar relações de poder e discursos antidemocráticos, baseados na tese de que a política é desnecessária. E defende a perspectiva democrática, com apoio em princípios e valores, formas de participação e regulação.

‘Lógica dos algoritmos prescinde das pessoas’
Ricardo Mendonça ressalta que a tendência mundial, em várias frentes, é de críticas à democracia, por sua alegada ineficiência e vulnerabilidade à ignorância. “A lógica dos algoritmos é simular cenários, cruzar variáveis, o que pode fortalecer uma visão de que prescindimos das pessoas e da própria política. Uma sociedade alimentada pela automatização contribui para a defesa da epistocracia – o governo do conhecimento – contra decisões democráticas”, explica. “Por isso é necessário democratizar os algoritmos.”

O cientista político enfatiza o papel da transparência, que possibilita clareza na tomada de decisões e a revelação de inadequações e perigos. “As sociedades precisam entender os processos para regular e descobrir quais são os controles necessários para a utilização dos algoritmos pelos governos e pelas empresas privadas. E definir o que é inaceitável e deve ser banido, como penso ser o caso de armamentos letais autônomos.”

Em termos práticos, por que pensar em algoritmos como instituições? Essa é, diz Ricardo Mendonça, a pergunta que os autores mais escutam. “Como sociedade, temos muito medo de discutir a democratização dos algoritmos, porque parecem incontroláveis e incompreensíveis, têm consequências em cascata e são profundamente atravessados por interesses econômicos. Ora, os parlamentos também são assim. Aprendemos sobre a necessidade de democratizar coisas opacas e atravessadas por interesses econômicos. O tamanho da tarefa não deve nos afastar dela”, sentencia. “Tendo em vista a centralidade dos algoritmos na estruturação das relações de poder nas sociedades contemporâneas, a sobrevivência da democracia depende fundamentalmente da democratização dos algoritmos. Para isso, propomos olhar os algoritmos como instituições.”

Algoritmos censuram e limitam direitos
Virgílio Almeida considera que os estudos e as reflexões teóricas expostas em Algorithmic Institucionalism representam um grande passo na discussão sobre a governança dos algoritmos. Ele exalta a parceria com os pesquisadores da Fafich e da UFG. “Nós, do DCC, temos caminhado nessa direção há anos, interagindo com campos como os da saúde e da ética. A computação precisa cada vez mais do conhecimento das ciências sociais e das humanidades; ela se beneficia desse contato. Estudantes e pesquisadores devem estar atentos à responsabilidade associada ao uso das tecnologias”, diz o professor emérito, que atua em pesquisas na Universidade Harvard. Além de disseminar desinformação, notícias e imagens falsas, lembra Virgílio, os algoritmos “têm o poder de censurar e limitar direitos”.

Ele ressalta também o fato de o trio propor uma ideia nova, com o aval de uma editora tão prestigiada e sem a participação de pesquisadores do Norte global. Uma edição do livro em português está sendo preparada, e há intenção de publicá-lo também em espanhol.

Livro: Algorithmic institutionalism – The changing rules of social and political life
Autores: Ricardo F. Mendonça, Fernando Filgueiras e Virgílio Almeida
Editora: Harvard University Press
192 páginas | £ 90
Disponível também como ebook.
Outras informações estão no site da editora.