Apoio: Roche

Saiba onde descartar seus resíduos

Verifique o campo
Inserir um CEP válido
Verifique o campo
Lightbulb

Por Ergon Cugler, pesquisador da Escola de Artes, Ciências e Humanidades (EACH) da USP

Por Ergon Cugler em Jornal da USP – O terceiro episódio da segunda temporada de Black Mirror passou despercebido por muitos – apenas mais um em meio ao clima cyberpunk que a série promove. Porém, The Waldo Moment conta a história de um urso azul computadorizado (Waldo) que, com seu sarcasmo, realiza entrevistas com políticos. Ao longo do episódio, Waldo surfa na onda da lacração e decide se candidatar, sendo uma animação artificial com resposta ágil e sarcástica versus candidatos humanos repletos de deslizes carnais. Ainda que não sendo autômato de início, Waldo abre questões sobre o alcance de tecnologias em espaços de decisão do poder. Muito além da ficção, avança o uso de Inteligências Artificiais (IAs) no cotidiano da política e da gestão pública, ainda que não necessariamente substituindo as decisões humanas, mas provendo suporte às análises que os humanos tomam. Assim sendo, qual o limite do uso de IAs e onde estarão os humanos no futuro da relação entre política e tecnologia? Seremos substituídos?

Política & tecnologia

Uma reivindicação por robôs no lugar de políticos e burocratas pode ser argumentada por várias suposições populistas: “evitaria a corrupção”, “promoveria neutralidade política nas escolhas”, “caminharia mais para decisões técnicas”, ou até mesmo que “teria uma visão mais holística e simultaneamente hipersegmentada para necessidades dos cidadãos”. Porém, seriam tais IAs e robôs genuinamente neutros em suas decisões? Ou mesmo capazes de decisões sensíveis a direitos e garantias fundamentais? Quem ou o que pautaria o Estado e as políticas públicas?

É Langdon Winner (1986) que aponta, em Do Artifacts have Politics?, que tal mito de uma tecnologia neutra e apolítica já vem sendo desmontada há décadas, mas segue presente na seara política como esforço de tentar despolitizar tal debate. Dois passos teóricos, no entanto, são centrais:

1. É com a teoria de Determinação Social da Tecnologia (Pinch; Bijker, 1984) que maturamos que os artefatos tecnológicos são influenciados pelo seu contexto social. Isto é, conceber que a tecnologia não se desenvolve apenas como resultado de sua dinâmica interna, mas molda a sociedade de acordo com seus padrões e também é moldada pelo contexto social; e

2) diante da teoria de Política Tecnológica, na qual Winner (1986) sugere que prestemos atenção às características das tecnologias em si e aos significados destas características, isto é, além de apenas jogar as implicações das tecnologias na conta do determinismo social.

Quase quatro décadas após, no entanto, lidamos com a crescente virtualização das relações sociais e econômicas. Por um lado, um movimento internacional pela abertura de dados públicos (Open Data), que esbarra na corrida pela dominância de dados e pela mobilização de algoritmos a interesses privados de corporações. Por outro lado, uma dominância de aplicativos que facilitam o acesso ao consumo para quem tem condições de consumir, enquanto impulsiona a uberização do trabalho na outra ponta (Antunes, 2020).

Assim sendo, no que diz respeito à estrutura social em que a tecnologia está, não seria possível uma suposta neutralidade utópica para escolhas realizadas por uma Inteligência Artificial, haja vista que os conceitos diversos que tal máquina viesse a utilizar já estão imersos em uma sociedade e que mesmo seu método de aprendizado (learning) seria realizado em meio a caminhos imersos na influência estrutural. Além do mais, a própria lógica contida na tecnologia em si, de classificação de usuários (cidadãos) em formato de dados, já explicita seu viés – pois nem todas as situações são ou devem ser solucionadas mecanicamente por dados de cidadãos transformados em unidades binárias equivalentes.

É, portanto, na relação entre consumo, tecnologia e política que as piadas do outsider computadorizado Waldo parecem fazer tanto sentido na série àqueles que o alavancam nas eleições; ou ainda a sedutora ideia de se substituir burocratas e representantes do povo por IAs. A instantaneidade na interação dos usuários (cidadãos) e a hipersegmentação de sua narrativa para com públicos diversos (oriundo da análise segmentada de dados) são impulsionadas pelo contexto social construído de tal consumo instantâneo, provocando a política à sua banalização, como se ela fosse mais um consumo qualquer do dia a dia, tal como delivery. Mas onde, então, entram as IAs nas etapas dos processos decisórios?

Poder & democracia

As tecnologias – quando abstratas e impalpáveis – não devem pautar unilateralmente a política e a democracia. Pelo contrário, as tecnologias – quando materiais e traduzidas à realidade – devem servir como instrumentos para ampliar e qualificar a participação democrática. Isto é, não deve existir uma polarização entre “novas tecnologias” vs. “política”, ou ainda colocar “técnica” como antítese de “política”, uma vez que tais novas tecnologias podem e devem ser empregadas pela qualificação da política, gerando insumos técnicos para que decisões políticas sejam tomadas de forma mais assertiva, com evidências. Caso contrário, qual o sentido?

Além do mais, não deve existir dicotomia entre direito individual e direito coletivo à tecnologia (José Carlos Vaz, 2016), principalmente na medida em que ganhos oriundos do acesso coletivo às tecnologias são traduzidos em avanços tecnológicos que impactam individualmente os cidadãos – e vice-versa. Em suma, a sociedade ganha individual e coletivamente quando a tecnologia está à disposição dos cidadãos; mas perde quando esta tecnologia é restrita apenas a um grupo seleto, pois limita-se o potencial de avanços coletivos e capilaridade da inovação. É neste contexto que a exclusão tecnológica também impulsiona a desigualdade econômica e social, seja em nível local (dentro do próprio país, com a tecnologia não empregada como direito coletivo) ou em nível internacional (com submissão e servidão de dados a plataformas internacionais).

Se faz necessário, portanto, debater a função social da tecnologia, para evitar que o avanço das tecnologias sirva de argumento para despolitizar o debate tecnológico e transformar a participação democrática em mera burocracia ou em consumo delivery banalizado – pois ao contexto do Colonialismo Digital (Renata Ávila Pinto, 2018), a redução do papel da política a mero consumo individualizado também compõe a agenda – sem neutralidade – de corporações que se apresentam como tecnocratas.

Assim sendo, por mais avançadas que sejam as novas tecnologias e a própria Inteligência Artificial, o processo decisório de tomada de decisão não deve deixar de ser manifestado pelo ator público humano – seja este um burocrata do Estado, um representante eleito, ou a própria sociedade civil organizada -; porém devem as novas tecnologias e as IAs trazer maior auditabilidade e accountability para fiscalização do Estado, na mesma medida em que trazem insumos e dados organizados para que a tomada de decisão humana seja a mais embasada possível. Portanto, as IAs a serviço da sociedade (como instrumento e artefato pela qualificação informacional no processo decisório), e não a sociedade conduzida pelas IAs (e por interesses ocultos de corporações moldados via algoritmos).

Em suma, as fases de mudanças tecnológicas se apresentam como momentos decisivos para ou se avançar pela democratização e bem-estar à sociedade, ou se concentrar tecnologia para domínio de classes e interesses ocultos. Cabe atenção para que os rumos de novas tecnologias sirvam exatamente ao próprio povo, especialmente quando diz respeito à própria organização e estrutura da política. Caso contrário, estaremos preparados para uma tecnocracia de algoritmos com interesses corporativos nos conduzindo?