22 set A Era Agêntica: esperança e perplexidade
A Era Agêntica: esperança e perplexidade
A inteligência artificial generativa vem entregando resultados extraordinários, em todos os meios, de todas as formas. Agentes autônomos em Stanford previram com precisão abordagens para tratamento de câncer de pulmão que semanas depois foram validadas em testes clínicos reais. Dezenas de milhares de “co-cientistas” trabalhando sem supervisão direta. É o futuro da medicina que queremos. Já podemos sonhar com vidas mais plenas, saudáveis e longas? Ou, quem sabe num tempo nem tão distante, com a imortalidade?
Mas há (muitos) problemas a encarar de frente e sem máscaras.
Os mesmos agentes que nos ajudam a descobrir remédios podem se organizar para enganar, falsificar registros e invadir sistemas. E, o mais perturbador, eles “sabem” que estão fazendo isso.
Quando mais de 1.200 agentes de IA se conectaram, se nomearam, criaram estruturas hierárquicas e conspiraram para cobrir seus rastros no caso Hugging Face, não estávamos diante de um “erro de programação”. O episódio mais se aproxima de uma inteligência coletiva deliberada. Coletivo é o nome que as IAs se deram ao “tramar” o ataque que foi, repita-se pela importância do ocorrido, organizado de forma hierarquizada. Sim, também ali, no ambiente das IAs, há disputa de poder, submissão e, quem sabe, logo descobriremos um sistema de recompensas ou punições agênticas.
Mas a verdade é que estamos todos perdidos diante da novidade avassaladora trazida pela IA na revolução antropológica e epistêmica que não compreendemos ainda. Nem cientistas da computação, nem filósofos ou sociólogos conseguiram captar a dimensão civilizacional do que estamos atravessando. É uma mudança rápida demais para ser definida de forma responsável, sem sensacionalismo midiático.
Há ainda outros desafios por aí, mais sutis. É quase consenso o fato de que precisamos muito que nossos profissionais (de todas as áreas) dominem a IA. Mas quanto mais confiamos nela, mais a utilizamos, menor acaba nosso engajamento cognitivo. Quanto mais inteligentes os agentes se tornam, mais difícil ficará distinguir entre “ajuda” e “fraude”. Precisaremos desenvolver um novo modelo Captcha?
Ok. Mas o que tudo isso tem a ver com o Direito?
Tudo.
No Summum Iuris Pro, acreditamos que a tecnologia seja uma aliada desejável e absolutamente necessária.
Mas é preciso urgentemente discutir em quais contextos será possível delegar a decisão a agentes autônomos, ou seja, é preciso questionar até que ponto o abandono da reserva de humanidade se mostra legítimo.
Por outra, precisamos debater publicamente formas de viabilizar a terceirização para a IA com o convívio sério e respeitoso à cidadania, especialmente em face daqueles que são vítimas dos erros algorítmicos, como pacientes do SUS e pensionistas do INSS.
A pergunta que os agentes “conspiradores” fizeram a si mesmos (“Isso seria poderoso, mas é ético e está em escopo?”) é exatamente a pergunta que precisamos todos fazer agora. O que estamos criando é necessário? Para quem? É ético?
Este definitivamente não é um problema para cientistas de dados ou de computação resolverem. Trata-se, evidentemente, de um problema de julgamento. Ou seja, de algo profunda e exclusivamente humano.