A Ilusão do Algoritmo Saudável: Canguilhem, a IA e os Limites da Normalização Técnica
Um ensaio crítico sobre a interseção entre a filosofia da medicina de Georges Canguilhem, o funcionalismo de Daniel Dennett, a ontologia da tecnologia de Gilbert Simondon e o capitalismo de vigilância, questionando as propostas tecno-otimistas de regulação da IA.
O que acontece quando um algoritmo decide se você está doente ou apenas "fora da curva"? Em um mundo governado por métricas e otimização contínua, tornou-se habitual encarar o corpo humano e as relações sociais como sistemas computacionais a serem corrigidos.
O Caso Optum: O Viés na Prática Fisiológica e Social
O caso mais famoso de viés em algoritmos de saúde, publicado em 2019 pelos pesquisadores Ziad Obermeyer e Sendhil Mullainathan na revista Science, analisou um software da empresa Optum aplicado a cerca de 200 milhões de pessoas por ano nos EUA. O objetivo era identificar pacientes de alto risco para incluí-los em programas de gerenciamento de cuidados intensivos.
O software da Optum acabou por nivelar, na mesma faixa de risco, negros saudáveis e brancos gravemente enfermos. Na prática, barrou o acesso de milhares de pacientes negros a tratamentos essenciais. O erro ocorreu porque a IA foi programada para prever custos médicos futuros como um substituto (proxy) para "necessidade de saúde". Devido ao racismo estrutural, gasta-se menos com pacientes negros. A IA aprendeu que "quem gasta menos é mais saudável", gerando uma triagem discriminatória.
A Crítica às Saídas Tecno-Otimistas
No ensaio The choices we make about AI now are critical, Bill Gates defende a Inteligência Artificial como um equalizador global capaz de democratizar a medicina, sugerindo que ajustes regulatórios e a criação de uma "Reserva Humana" para profissões de cuidado seriam suficientes para amortecer as disrupções.
A aposta de Gates esbarra em um ponto cego: tratar a existência humana e o tecido social como meros códigos executáveis. Para compreender as falhas dessa visão, é preciso confrontar essa abordagem com três matrizes filosóficas distintas.
1. Saúde, Doença e Sofrimento: A Tríade em Disputa
Ao aplicar IA ao diagnóstico e à saúde pública, a primeira grande confusão conceitual surge na definição do que é estar "saudável":
- Georges Canguilhem (Vitalismo Crítico): A saúde não é o cumprimento de uma média estatística gaussiana, mas a normatividade vital — a capacidade do organismo de instituir novas normas diante do meio. A doença não é ausência de norma, mas uma norma rígida e inferior. Isolando a máquina no diagnóstico e deixando o "afeto" para o humano, mutila-se o ato terapêutico.
- Daniel Dennett (Funcionalismo Algorítmico): A mente opera como um conjunto de processos subpessoais e evolutivos. Para Dennett, a saúde é performance funcional: competência sem necessidade de compreensão consciente. Se a IA entrega o diagnóstico com eficiência superior, manter o humano torna-se um apego sentimental desprovido de justificativa biológica.
- Gilbert Simondon (Metaestabilidade): O ser vivo é um processo contínuo de individuação. A saúde é a capacidade de manter a metaestabilidade (energia potencial para resolver tensões). A doença ocorre quando o sistema perde a capacidade de integrar novas informações, bloqueando sua co-individuação com o ambiente.
"Estar de boa saúde é poder ficar doente e sarar, é um luxo biológico. A norma de saúde é a capacidade de tolerar variações do meio e instituir novas normas." — Georges Canguilhem (O Normal e o Patológico)
2. Daniel Dennett e a Ciência da Mente: A Doença na Mecânica Evolutiva
Daniel Dennett (1942–2024) analisa a experiência humana sob três posturas (stances): a física, a de projeto (design) e a intencional. É na postura de projeto que os conceitos ganham forma:
- Saúde e Doença: A doença nada mais é do que uma falha de funcionamento no nível do design evolutivo — uma quebra nas funções adaptativas pré-configuradas pela seleção natural.
- A Dor e a Metáfora Médica: Através da Heterofenomenologia, Dennett lembra que a ciência examina o relato da dor sob um olhar objetivo de terceira pessoa, sem necessidade de vivenciar o estado subjetivo do paciente.
- A Consciência como Custo: A própria consciência humana pode agir como um fardo evolutivo. Transtornos mentais surgem frequentemente como falhas no hardware biológico (genes) ou infecções no software cultural (memes).
3. Normatividade vs. Normalização Biopolítica
Essa mesma tensão manifesta-se na esfera socioeconômica e na regulação do trabalho:
- A Normalização Biopolítica: A "Reserva Humana" para trabalhos de cuidado perpetua a imposição de padrões estatísticos que domesticam a inventividade. Os trabalhadores continuam subordinados aos parâmetros de eficiência ditados pelos algoritmos.
- A Normalização Evolutiva: Para Dennett, a padronização algorítmica não nega a natureza humana; é sua continuação adaptativa por meio da competição memética.
- A Normatividade Técnica: Simondon propõe que o objeto técnico possui normatividade própria rumo à concretização. A opressão não vem da máquina em si, mas do modelo econômico que a reduz a um artefato descartável e o trabalhador a um operador alienado.
4. Técnica, Máquina e Economia Política
A ideia de que ajustes fiscais resolveriam os impactos sociais da IA ignora a economia política do avanço tecnológico. Como apontam Daron Acemoglu e Pascual Restrepo, a automação focada unicamente na substituição de trabalhadores resulta em so-so automation (automação medíocre): reduz salários sem gerar ganhos reais de produtividade.
Além disso, sob o Capitalismo de Vigilância teorizado por Shoshana Zuboff, as propostas de regulação estatal correm o risco constante de captura corporativa devido à assimetria de informação entre Big Techs e órgãos reguladores.
O Triângulo Epistemológico: A Síntese
Ao reunir o tripé filosófico, desvelam-se os limites da inteligência artificial:
- Canguilhem vs. Dennett: Dennett naturaliza a mente via funções evolutivas; Canguilhem lembra que o "normal" biológico é uma conquista ativa. A IA que apenas otimiza resultados sem um corpo vivo não pode reproduzir a intencionalidade normativa. Na perspectiva dennettiana, se um algoritmo de IA prevê o comportamento de um paciente ou diagnóstico com eficácia pragmática superior à de um médico humano, o sistema adquire "intencionalidade atribuída", tornando irrelevante a discussão sobre se a máquina possui ou não "sentimento" ou "consciência real"
- Mediação de Simondon: Em vez de perguntar se a IA é viva ou consciente, analisa-se o modo de existência desse objeto técnico. Ela possui uma evolução própria e exige uma relação de transdutividade com o humano. Todavia, é preciso esclarecer que a IA generativa e os modelos de aprendizado estatístico não possuem a mesma individuação física dos objetos mecânicos analisados por Simondon em 1958. Deve-se enfatizar que o algoritmo opera sobre dados agregados do passado, enquanto o objeto técnico simondoniano evolui em simbiose com o meio associado.
Uma IA verdadeiramente "inteligente" não seria aquela que acerta 100% dos padrões estatísticos, mas aquela que, como o vivo de Canguilhem, institui novas normas ante o imprevisto e, como o objeto simondoniano, possui uma margem de indeterminação que a torna parceira da cognição humana.
O Desafio da AGI (Inteligência Artificial Geral)
A emergência da AGI problematiza a tensão entre a norma algorítmica e a normatividade humana sob três eixos:
- Redefinição da Normatividade Vital: Se a AGI passa a criar suas próprias regras sem orientação humana prévia, Canguilhem argumentaria que essa dita "inovação" não passa de uma casca funcional — sem a pulsação de um valor vital autêntico, pois carece de um corpo que vivencie a finitude.
- Validação do Funcionalismo: Para Dennett, a AGI corrobora a tese de que a cognição é uma questão de arquitetura e desempenho, tornando o apego à exclusividade normativa humana uma postura antropocêntrica ultrapassada.
- Concretização Extrema: A capacidade da AGI de agir sem instrução direta representa o grau máximo de indeterminação técnica. Contudo, se a máquina toma decisões sem mediação, a relação transindividual rompe-se, transformando o humano em espectador passivo.
Se a saúde é a capacidade de criar novas normas, a IA só será verdadeiramente saudável quando deixar de nos normalizar e passar a nos provocar.
Comentários