07 out AI and Human Rights Summit: O que a reserva cognitiva humana diz sobre a governança de IA
Neste mês de outubro, Oxford hospeda um encontro de alto nível sobre IA e direitos humanos, com representantes do OHCHR, Conselho da Europa e Comitê de Direitos Humanos da ONU. A discussão central orbita sobre uma proposta elegante e provocadora: uma “International AI Bill of Human Rights”, estruturada em sete direitos fundamentais específicos à era da IA.
O que nos interessa particularmente é a sétima dimensão dessa proposta, qual seja, o direito à decisão e interação humanas significativas. Essa é uma questão dogmática fundamental que toca na natureza da autonomia jurídica num mundo de sistemas algorítmicos.
Aparentemente, existem duas abordagens em competição: a primeira diz que os direitos fundamentais existentes (a.e., dignidade, autonomia, devido processo) já cobrem a proteção contra a arbitrariedade algorítmica. Basta produzir uma interpretação evolutiva, não havendo necessidade de um novo direito. Seria apenas necessário que as decisões judiciais leiam os velhos direitos na velocidade do presente.
A segunda abordagem sustenta que determinadas transformações tecnológicas são tão disruptivas que justificam explicitação jurídica de proteções autônomas, isto é, que já não se mostra suficiente, para certos contextos decisórios de alto impacto, confiar na subsunção a categorias herdadas.
Minha posição, baseada em pesquisa sobre responsabilidade estatal na era da automatização, é intermediária. Penso que a reserva cognitiva humana merece reconhecimento como direito fundamental autônomo, mas apenas em esferas decisórias que envolvam: a) direitos e liberdades fundamentais, b) acesso a bens e oportunidades essenciais, ou c) imputação de responsabilidade (penal, civil, administrativa).
É que, nesses contextos, a cognição humana se apresenta nuclear à teoria decisória, sendo ela inseparável da responsabilidade e da accountability. Um algoritmo que nega benefício social, impõe uma sanção ou distribui oportunidades de forma opaca, não apenas viola o princípio da autonomia, mas compromete também a própria estrutura do Estado de Direito, que repousa na possibilidade de contestação e sindicabilidade significativa dos destinatários da decisão.
No Brasil, diferentemente de jurisdições que já codificaram IA, temos ainda a oportunidade de construir, desde agora, uma doutrina coerente sobre o lugar da cognição humana na arquitetura decisória algorítmica.
Se os direitos humanos são adaptáveis, evolutivos, responsivos às transformações tecnológicas (como devem ser), então qual será o limite da adaptação? Quando uma mudança tecnológica justifica, de fato, não apenas reinterpretação, mas criação de nova proteção?
Minha aposta é que o critério a ser adotado não pode ser apenas a tecnologia em si, mas o grau em que a tecnologia desestabiliza a capacidade das pessoas de questionar, contestar, compreender, sindicar e, eventualmente, ser responsabilizadas por as decisões que as afetam.
Nesse sentido, a “International AI Bill of Human Rights” pode ser mesmo um caminho de reconstituição. Mas, por outro lado, se mal arquitetado, pode significar mais um conjunto de boas intenções inexequíveis.