Vieses vs Tecnologia
Vieses vs Tecnologia
⚒️

Vieses vs Tecnologia

Possuímos algo único entre todos os outros animais desse planeta: um crescente acúmulo de conhecimento, ferramentas e técnicas que nos potencializam nas mais diversas situações. Esse apanhado de tecnologias nos permitiu transcender as possibilidades originalmente oferecidas pelos corpos e mentes naturais da nossa espécie.

Apesar de todo esse progresso, em alguns aspectos ainda somos muito semelhantes aos nossos ancestrais nômades e caçadores/coletores de 200 mil anos atrás. Nosso cérebro continuou propenso a gostar de açúcar, criar laços, fugir do perigo, sentir que estão nos olhando e ter nojo de comida estragada.

A herança primitiva

Uma das características embutidas em nossa natureza e especialmente desenvolvida em nós humanos é a incrível aptidão a fazer associações e reconhecer padrões. Nossa mente constrói diversos atalhos cognitivos que nos permitem lidar rapidamente com situações complexas despendendo pouco esforço consciente. Não precisamos conhecer uma fruta para suspeitar que ela está podre, nem de familiaridade com um predador pra ficarmos apreensivos com seu rosnado.

Essa eficiência decisória foi essencial para nossa sobrevivência no passado. Hoje, a capacidade de compor padrões e abstrações cada vez elaboradas mais é um pilar do que chamamos de inteligência. Mas, como tudo na vida, existe um custo associado aos benefícios. Precisamos de muito esforço para resistir nossos reflexos. Também somos inclinados a perceber e extrapolar padrões onde eles provavelmente não existem. Isso faz com que nosso comportamento seja permeado de tendências das quais não temos ciência ou não conseguimos nos livrar.

Por exemplo, nós somos inclinados a confiar na palavra de pessoas que consideramos mais atraentes. Ao ver a pessoa com "bons olhos", temos dificuldade de conscientemente identificar o que nos leva a uma opinião ou sensação favorável. Mesmo depois de ter essa informação, não conseguimos controlar nosso julgamento para sermos totalmente imparciais. Uma fonte clássica para se aprofundar no assunto é o livro "Rápido e Devagar: Duas Formas de Pensar" (por Daniel Kahneman).

O impacto moderno

O nome que damos para as tendências cognitivas que carregamos é vieses. Viés é uma palavra carregada, possuindo outras interpretações em diferentes contextos. Por hora, vamos definir como qualquer tendência preestabelecida a uma resposta cognitiva - sensação ou opinião - que difere da resposta esperada de uma pessoa (fictícia) perfeitamente racional.

Como se pode imaginar, vieses estão intimamente relacionados a preconceitos. Diversos vieses se unem para resultar em racismo, homofobia, intolerância religiosa, entre muitos outros. Vieses também são a causa de problemas mais sutis, como uma desproporcional aversão a risco ou a impressão positiva exagerada da própria expertise em algum tópico.

Inevitavelmente encontramos reflexos dos nossos vieses em nossas tecnologias. Quando pensamos em problemas e soluções, estamos vendo o mundo através da lente dos nossos vieses e a neutralidade de resultados é impossível. Ao construirmos ferramentas, desenhamos seu uso para que seja confortável para nós mesmos e aqueles com quem inconscientemente empatizamos.

O círculo vicioso

Quando pensamos no potencial empoderador da tecnologia e lembramos que ela está carregada de características que priorizam a minoria privilegiada que a desenvolveu, não é difícil perceber a inevitabilidade do agravamento das desigualdades.

Se as câmeras são especialmente capazes de capturar a pele branca[1], cresce o poder de pessoas brancas definirem os padrões de beleza e arte, crescendo também o investimento tecnológico focado nesse público. A tecnologia de fotografia precisou ser pressionada para melhorar as imagens na publicidade de produtos escuros como madeira e chocolate, antes de começar a se preocupar com pessoas de pele escura. Enquanto lutava para criar seu espaço na TV, Oprah precisou também se preocupar em utilizar uma inovação tecnológica pensada especificamente para a população negra.

Se o ar condicionado do seu escritório foi projetado para agradar o corpo de um homem de 40 anos e 70kg[2], não é surpreendente encontrar mulheres que encontram no trabalho mais desconforto, descontentamento e a sensação de voz silenciada até em aspectos simples como a temperatura da sala. Fatores como esse podem acumular ao longo de uma carreira, como juros compostos, contribuindo para a diferença de representatividade feminina em cargos de liderança.

Até fórmulas cotidianas e amplamente conhecidas como o IMC[3] foram criadas com a biologia de um público muito específico em mente e hoje influenciam a vida de pessoas que não suspeitam estarem sendo julgadas por uma ferramenta tão enviesada. A lista de micro e macro agressões visíveis e invisíveis causadas pelas tecnologias que nós dispomos é longa e, se não lutarmos ativamente por mudança, crescente. Muitos outros exemplos estão documentados no livro "Weapons of Math Destruction" (por Cathy O'Neil).

O contra-ataque

Se por um lado a tecnologia é suscetível aos nossos vieses e pode aprofundar ainda mais as desigualdades, ela é também a nossa maior aliada na luta por transformação. Somos humanos e inevitavelmente necessitados de ajuda para melhorar. Somos criativos e podemos criar ferramentas para desenviesar nossas ferramentas.

Hoje conseguimos produzir imagens de altíssima qualidade para todo o espectro de cores, medir o metabolismo das pessoas no ambiente para ajustar a temperatura, calcular para cada biotipo os indicadores ideais de saúde. Com empatia e, principalmente, com diversidade presente no processo criativo de tecnologia, podemos democratizar o acesso de cada um ao seu máximo potencial. Nosso máximo potencial inclui nos livrar dos impactos negativos na nossa herança primitiva de pular em conclusões, julgar sem informações suficientes e não ter consciência das próprias faculdades mentais.

Tecnologia significa, afinal, empoderamento humano. Podemos escolher fortalecer nosso senso de justiça e igualdade, ao invés do nosso instinto predador e de autopreservação.

Referências

Foto de Capa: Vulcano forjando armas para Aquiles sob supervisão de Tétis, por Virgil Solis, ca. 1581. Ilustração em Metamorfoses XIII, de Ovídio. Arquivo.

Extras

Mapa Mental
Mapa Mental
Rota Retórica
Rota Retórica