ouça este conteúdo
Impedir que inteligência artificial induza desigualdade, aversão ao pluralismo e autoritarismo é crucial. Isso envolve algoritmos como instituições, ciência política, sistemas algorítmicos, regras formais e informais, dependências de trajetória, distribuição de poder, sistemas de recomendação, plataformização de governos e decisões automatizadas sob controle democrático.
Em vez de entender algoritmos como meras ferramentas tecnológicas, os autores defendem que eles devem ser vistos como instituições, uma vez que correspondem aos parâmetros estabelecidos pela ciência política. Assim, algoritmos estruturam contextos nos quais seres humanos pensam, escolhem e agem, influenciando decisões e processos.
Considerar algoritmos como instituições torna fundamental a reflexão sobre como aproximá-los de valores como igualdade, autogoverno, pluralidade e controle. Isso implica questionar como os algoritmos são projetados e implementados, a fim de garantir que eles estejam alinhados com esses valores e não perpetuem regras e sistemas injustos. A transparência e a responsabilidade são essenciais para que os algoritmos sirvam ao bem comum, em vez de perpetuar desigualdades e injustiças.
Os Algoritmos e a Sociedade
O Prêmio Nobel trouxe claros sinais das mudanças em curso no mundo contemporâneo. Ao anunciar os laureados nas áreas de química, física e economia, a Academia Real das Ciências da Suécia reconheceu o potencial transformador da Inteligência Artificial (IA) e dos algoritmos na solução de desafios enfrentados por ciência e sociedade. A concessão do Prêmio Nobel de Física ao cientista Geoff Hinton destaca a importância de criar um algoritmo conhecido como retropropagação para treinar redes neurais, o que acelerou a capacidade de aprendizado dessas redes, possibilitando novas aplicações de IA.
Dois pesquisadores da DeepMind, a empresa de IA do Google, receberam metade do prêmio de Química pelo desenvolvimento do AlphaFold, algoritmos de IA capazes de prever a estrutura tridimensional de proteínas. Daron Acemoglu e Simon Johnson receberam o prêmio de Economia em razão de pesquisas a respeito de instituições e prosperidade. Seus estudos sobre IA, trabalho e automação indicam caminhos para um futuro de bem-estar compartilhado, que os tornam mais importantes ainda nos dias de hoje.
Os Algoritmos como Instituições
A acelerada evolução da IA traz novos riscos para a sociedade, que apontam a necessidade de pensarmos novas instituições e salvaguardas para governança e controle. No livro ‘Algorithmic Institutionalism’, publicado pela editora Oxford University Press, nós tratamos exatamente do papel dos algoritmos e das instituições. Ali, discutimos um profundo processo de transformação social, abordando o modo como algoritmos têm sido colocados no cerne de sistemas decisórios que afetam as maneiras como trabalhamos, conversamos, nos alimentamos, nos divertimos, nos relacionamos, nos deslocamos pelo espaço público, disputamos eleições e fazemos guerras.
Algoritmos são sequências lógicas de instruções para a resolução de um problema, ordenando passos automatizados (menos ou mais definidos de antemão) para realizar um certo objetivo. Essas sequências lógicas de instruções embasam softwares diversos, estruturando redes de decisões em complexos sistemas que envolvem a interação constante com humanos e com outros softwares e bases de dados.
Os sistemas algorítmicos são componentes de sistemas sociais, econômicos e políticos maiores, fazendo com que sua gestão deva considerar os efeitos secundários e consequências não intencionais que resultam do seu uso. Nosso argumento é que, para compreender os impactos sociopolíticos dessa algoritmização da sociedade, faz sentido considerar que algoritmos são ‘instituições’.
A ideia pode parecer estranha, porque, muitas vezes, o que vem à mente quando pensamos em instituições são espaços físicos, com suas paredes e pessoas, como o Congresso ou o STF. Na ciência política, contudo, instituições são pensadas como conjuntos de regras formais e informais que balizam as interações entre atores, moldando significados, processos e mecanismos de distribuição de recursos.
Os Algoritmos e a Dependência de Trajetória
Pois é exatamente essa perspectiva que nos permite entender como os algoritmos podem ser vistos como instituições, com suas próprias regras e processos que moldam a sociedade. A dependência de trajetória é um conceito importante aqui, pois os algoritmos podem criar caminhos dependentes de trajetória, que são difíceis de mudar uma vez que estão estabelecidos.
Isso significa que os algoritmos podem ter consequências não intencionais e efeitos secundários que são difíceis de prever e controlar. Por exemplo, os sistemas de recomendação podem criar ‘bolhas de filtro’ que reforçam as opiniões e preferências existentes, em vez de promover a diversidade e a inclusão.
Os Algoritmos e o Controle Democrático
A plataformização de governos e a automatização de decisões também são questões importantes aqui. A plat
Fonte: @ Folha UOL
