Artur Araujo*
O crescimento espantoso da Inteligência Artificial na década de 2020 tirou essa tecnologia dos laboratórios de acesso restrito. Ela está agora nos celulares de todo o mundo. Aplicativos e sites tornam o uso do recurso uma coisa cada vez mais banal. Tão banal que registros de uso indevido têm se tornado comuns.
Já houve casos de uso político com propósito de sabotagem e também de “exposed” fabricados por IA. Nos EUA, em janeiro deste ano, uma mensagem simulando a voz do presidente Joe Biden pedia para os eleitores de New Hampshire não votarem nas eleições primárias. A cantora e compositora Taylor Swift passou por episódio constrangedor também recentemente. No Rio de Janeiro, em dezembro do ano passado, caso semelhante de “exposed” fake chocou famílias e deixou muita gente assustada com o potencial dessa tecnologia.
O Tribunal Superior Eleitoral (TSE) aprovou em fevereiro resoluções para o pleito deste ano e incluiu restrições ao uso eleitoral de IA. A discussão ganhou foro global no debate público. EUA, União Europeia e diversos países e organizações supranacionais estão no momento discutindo como regulamentar a IA.
Sam Altman, um dos principais nomes à frente da OpenAI, declarou recentemente a necessidade de se criar uma agência reguladora mundial dedicada ao assunto. O ChatGPT é o carro-chefe da OpenAI. A proposição de Altman reforçou a demanda já apresentada ano passado pelo secretário-geral da ONU, o português António Guterres. Essas manifestações expressam uma agenda que vem ganhando corpo entre lideranças políticas e empresariais.
Para além das sabotagens e atentados à honra das vítimas, a IA também comporta vários outros riscos, como o uso de vieses de gênero, sociais e étnicos. A Amazon, por exemplo, desenvolveu um algoritmo para seleção e recrutamento de funcionários. O sistema, baseado em dados de currículos recebidos ao longo de 10 anos, favorecia candidatos masculinos simplesmente porque a maioria das inscrições era de homens. O sistema foi desativado.
As tecnologias de aprendizado de máquina (Machine Learning – ML) e aprendizado profundo (Deep Learning – DL) trazem consigo “caixas pretas”. Falta explicabilidade e transparência nesses modelos, tornando o processo decisório do sistema um verdadeiro mistério até para seus criadores. Isso significa que, embora MLs e DLs sejam capazes de fazer eventualmente previsões de qualidade, é difícil entender como funcionam e quais fatores influenciam em suas conclusões.
Outro risco da IA é a automação descontrolada. A tecnologia pode assumir inúmeras tarefas que atualmente são realizadas por humanos, levando ao desemprego em massa e à instabilidade social. Em São Francisco, na Califórnia, estão destruindo veículos autônomos por temores de perda de vagas de trabalho e segurança no trânsito. A automação descontrolada ameaça criar uma grande classe de pessoas excluídas, o que pode levar a problemas como o aumento da miséria, do crime e da desordem social.
O uso de IA na indústria armamentista tem, igualmente, se tornado uma realidade cada vez mais poderosa. Em situações como os confrontos entre Rússia e Ucrânia, Israel e Hamas, e tensões entre China e Taiwan, a IA já tem desempenhado um papel relevante na estratégia militar.
Devolver o gênio à garrafa é impossível. Não é viável acabar com essa nova tecnologia, que está disseminada em nível mundial e tem inúmeras aplicações positivas também. Como era de se esperar, há aqueles que veem a regulamentação como um problema maior que os eventuais danos que a IA possa trazer. Esses tantos apontam o risco de, ao tolher o desenvolvimento da tecnologia, os reguladores acabem por colocar países e blocos econômicos para trás na corrida pela eficiência desse novo recurso. Cabe encontrar o meio de tornar essa inovação tecnológica minimamente danosa para a humanidade e maximizar os benefícios que ela pode proporcionar. O diabo está nos detalhes. Caberá, na engenhosidade da regulamentação, trilhar a tênue linha que divide o desejável do inaceitável.
Toda a controvérsia me faz pensar no clássico Dialética do Esclarecimento, de Adorno e Horkheimer. Na obra, os autores explanam como o esclarecimento é visto como um processo pelo qual a humanidade se liberta das correntes da superstição. Nesse contexto, o instrumental da ciência e tecnologia se apresentam como parteiros de uma nova consciência. Mas o processo não se detém aí. A tecnologia, muitas vezes chamada na obra de “racionalidade instrumental”, começa como meio prático do esclarecimento, mas acaba por escapar ao controle humano, transformando-se em uma força autônoma que impõe suas próprias exigências. Ao invés de dominarmos a técnica, a técnica nos domina e nos desumaniza. O livro é um chamado à ação, de se recolocar no lugar de senhor a humanidade e colocar a criatura, a tecnologia, no papel de serva na promoção de justiça social, paz e uma razão humanizada.
A mensagem do Papa Francisco, Inteligência artificial e sabedoria do coração: para uma comunicação plenamente humana, vem ao encontro dessas aspirações. O texto enfoca a relação entre a IA e a necessidade de uma comunicação genuinamente humana. Ele aborda as mudanças radicais trazidas pela IA na comunicação e no convívio, ressaltando que estas transformações afetam a todos nós. A preocupação central é como permanecermos verdadeiramente humanos e guiarmos, para o bem, essa mudança cultural em curso.
É um tema complexo e delicado, mas inadiável.
* Texto e ilustração produzidos com o auxílio de inteligência artificial