Nota da direção editorial:

O jornalismo nunca foi tão importante para a economia do país. Apoie a produção dos nossos conteúdos tornando-se membro ou subscritor da nossa comunidade.

Faça parte de uma causa de empoderamento das marcas, das empresas e das pessoas que nelas trabalham.

“Ninguém é malévolo, mas os incentivos estão desalinhados”, disse Frances Haugen ao programa 60 Minutes sobre o Facebook, trazendo a público documentos da própria plataforma que comprovam que esta amplifica o ódio, desinformação e instabilidade política, correndo sobre os carris de um algoritmo que criou em 17 anos o que é hoje a terceira maior capitalização bolsista do mundo, apontado para maximizar o tempo de utilização e interação dos utilizadores, rumo à ativação de comportamentos de compra dos seus 2.9 mil milhões de utilizadores.

Este é um caso interessante porque combina a ingenuidade de uma invenção com um potencial incalculável de aproximar a humanidade (quase metade da população mundial e 60% da população com acesso à internet já está no Facebook) com a consciência presente de que algo nesta escala se tornou ingerível (as suas equipas conseguem acionar apenas 3% a 5% do ódio e 0,6% da violência que por lá passa) e com a falta de prioridade para o tentar fazer, já que o Facebook “ganha mais dinheiro quando os utilizadores consomem mais conteúdo”.

O que é também interessante é que este desgoverno não foi despoletado pela natureza humana e pelas suas características menos recomendáveis, que sempre existiram, mas sim pelo seu potenciar através da tecnologia e do seu enviesar através de um algoritmo de inteligência artificial que, até ver, está “apenas” a servir o propósito de quem o criou, ainda que com externalidades que não foram antecipadas.

Ainda assim, poder-se-á dizer que, no limite, podíamos desligar a plataforma… que foi o que aconteceu esta semana durante algumas horas, ainda que de forma não intencional, com um custo de 100 milhões de dólares em receitas publicitárias não realizadas e uma queda de 40 mil milhões de dólares na cotação bolsista.

O facto de ter sido não intencional levanta seguramente a questão sobre como o evitar no futuro, possivelmente programando os sistemas para que sejam resilientes à  falha humana: mas como defini-la? Como programar a distinção de uma intenção de desligar legítima de uma não intencional, ou mesmo de uma ilegítima? Não é difícil imaginar que esta dificuldade, conjugada com sistemas “inteligentes” e distribuídos, possa acidentalmente tornar uma tecnologia verdadeiramente independente numa que nos veja com indiferença ou, no pior cenário, como um obstáculo à prossecução dos seus objetivos.

O Sam Harris faz uma analogia com formigas: não as odiamos, até nos desviamos do seu caminho para não as pisar, mas se quisermos construir uma casa num terreno onde as há, nem pensamos duas vezes antes de avançar. A verdadeira preocupação é se um dia construímos tecnologias que nos vejam da mesma forma…