..

Vieses vs. Tecnologia

2020-01-20

Possuímos algo único entre todos os outros animais desse planeta: um crescente acúmulo de conhecimento, ferramentas e técnicas que nos empoderam e potencializam nos mais diversos cenários e objetivos. Esse apanhado de tecnologias nos permitiu transcender as possibilidades originalmente oferecidas pelos corpos e mentes naturais da nossa espécie.

Apesar de todo progresso, em alguns aspectos ainda somos muito semelhantes aos nossos ancestrais nômades e caçadores/coletores. Tanto quanto a experiência humana se modifica com o surgimento de novas tecnologias, as ferramentas que projetamos são reflexo direto da nossa história.

A herança primitiva

Nós humanos somos incrivelmente aptos para fazer associações e reconhecer padrões, o que nos permite tomar decisões rápidas e um reflexo involuntário é capaz de salvar a sua vida. Essa é uma característica que compartilhamos em diferentes níveis com o reino animal e é algo embutido em nossa natureza.

Essa eficiência decisória é certamente um grande superpoder humano. Mas, como tudo na vida, traz um custo associado aos benefícios. Somos rápidos em criar e perceber padrões, mas não somos especialmente eficazes em voluntariamente resistir ou redirecionar nossos reflexos. Isso faz com que nosso comportamento seja permeado de tendências das quais não temos ciência ou não conseguimos nos livrar.

Por exemplo, nós somos naturalmente mais propensos a confiar em pessoas que consideramos mais atraentes. Ao ver a pessoa com “bons olhos”, temos dificuldade de conscientemente identificar o que nos leva a uma opinião ou sensação. Uma fonte clássica para se aprofundar no assunto é o livro “Rápido e Devagar: Duas Formas de Pensar” (por Daniel Kahneman).

O impacto moderno

O nome que damos para as tendências cognitivas que carregamos é vieses. Viés é uma palavra carregada, possuindo outras interpretações em diferentes contextos. Por hora, vamos definir como qualquer tendência pré-estabelecida a uma resposta cognitiva - sensação ou opinião - que difere da resposta esperada de uma pessoa (fictícia) perfeitamente racional.

Como se pode imaginar, vieses estão intimamente relacionados a preconceitos. Diversos vieses se unem para resultar em racismo, homofobia, intolerância religiosa, entre muitos outros. Vieses também são a causa de problemas mais sutis, como uma desproporcional aversão a risco ou a impressão positiva exagerada da própria expertise em algum tópico.

Inevitavelmente encontramos reflexos dos nossos vieses em nossas tecnologias. Quando pensamos em problemas e soluções, estamos vendo o mundo através da lente dos nossos vieses e a neutralidade de resultados é impossível. Ao construirmos ferramentas, desenhamos seu uso para que seja confortável para nós mesmos e aqueles com quem inconscientemente empatizamos.

O círculo vicioso

Quando pensamos no potencial empoderador da tecnologia e lembramos que ela está carregada de características que priorizam a minoria privilegiada que a desenvolveu, não é difícil perceber a inevitabilidade do agravamento das desigualdades.

Se as câmeras são especialmente capazes de capturar a pele branca[1], cresce o poder de pessoas brancas definirem os padrões de beleza e arte, crescendo também o investimento tecnológico focado nesse público. A tecnologia de fotografia precisou ser pressionada para melhorar as imagens na publicidade de produtos escuros como madeira e chocolate, antes de começar a se preocupar com pessoas de pele escura. Enquanto lutava para criar seu espaço na TV, Oprah precisou também se preocupar em utilizar uma inovação tecnológica pensada especificamente para a população negra.

Se o ar condicionado do seu escritório foi projetado para agradar o corpo de um homem de 40 anos e 70kg[2], não é surpreendente encontrar mulheres que encontram no trabalho mais desconforto, descontentamento e a sensação de voz silenciada até em aspectos simples como a temperatura da sala. Fatores como esse podem acumular ao longo de uma carreira, como juros compostos, contribuindo para a diferença de representatividade feminina em cargos de liderança.

Até fórmulas cotidianas e amplamente conhecidas como o IMC[3] foram criadas com a biologia de um público muito específico em mente e hoje influenciam a vida de pessoas que não suspeitam estarem sendo julgadas por uma ferramenta tão enviesada. A lista de micro e macro agressões visíveis e invisíveis causadas pelas tecnologias que nós dispomos é longa e, se não lutarmos ativamente por mudança, crescente. Muitos outros exemplos estão documentados no livro “Weapons of Math Destruction” (por Cathy O’Neil).

O contra-ataque

Se por um lado a tecnologia é suscetível aos nossos vieses e pode aprofundar ainda mais as desigualdades, ela é também a nossa maior aliada na luta por transformação. Somos humanos e inevitavelmente necessitados de ajuda para melhorar. Somos criativos e podemos criar ferramentas para desenviesar nossas ferramentas.

Hoje conseguimos produzir imagens de altíssima qualidade para todo o espectro de cores, medir o metabolismo das pessoas no ambiente para ajustar a temperatura, calcular para cada biotipo os indicadores ideais de saúde. Com empatia e, principalmente, com diversidade presente no processo criativo de tecnologia, podemos democratizar o acesso de cada um ao seu máximo potencial. Nosso máximo potencial inclui nos livrar dos impactos negativos na nossa herança primitiva de pular em conclusões, julgar sem informações suficientes e não ter consciência das próprias faculdades mentais.

Tecnologia significa, afinal, empoderamento humano. Podemos escolher fortalecer nosso senso de justiça e igualdade, ao invés do nosso instinto predador e de autopreservação.


[1] https://petapixel.com/2015/09/19/heres-a-look-at-how-color-film-was-originally-biased-toward-white-people/

[2] https://www.nationalgeographic.com/news/energy/2015/08/150803-gender-bias-affects-office-heating-cooling-temperatures/

[3] https://www.newsweek.com/2017/05/19/obesity-childhood-obesity-body-mass-index-bmi-weight-weight-gain-health-595625.html