Confesso: hesitei em escrever este artigo. Nas últimas semanas sucedem-se reflexões, alertas e entusiasmo sobre Inteligência Artificial. Sobre o seu potencial, mas também sobre o uso excessivo, a má utilização, a resistência à sua adoção e, mais inquietante, o desconhecimento de muitos sobre aquilo que já está a mudar profundamente na forma como pensamos, decidimos, trabalhamos e vivemos. Há contributos muito relevantes. Mas talvez seja precisamente no meio deste turbilhão que importa registar aquilo que também me inquieta.

Sou adepta desde o início e reconheço que a Inteligência Artificial eleva tudo a níveis nunca verificados. Entre  outros  efeitos é importante que se saiba que é um mega acelerador: inteligência artificial com estupidez natural é mau resultado. Um colaborador que cometia erros estará hoje, com o recurso a IA, a errar ainda mais e mais rápido. A ferramenta intensifica fazer melhor ou pior, conforme a base.

Destaco, entre as muitas publicações e opiniões que se vão fazendo nos mais diversos fóruns, o seguinte texto (tradução livre):

“O perigo existencial para as pessoas pode não vir da inteligência artificial se tornar demasiado inteligente, mas sim dos humanos se tornarem perigosamente dependentes de sistemas que não compreendem: a condição da superstupidity. A questão não é quanto a IA irá potenciar a tomada de decisão, mas se os humanos irão continuar envolvidos.” Roger Spitz

A palavra, e sobretudo o conceito, ficou-me na cabeça: superstupidity.

Não  fala  de  falta  de  inteligência,  mas  sim  da  elevada  confiança  nos  novos sistemas. Refere-se a algo profundamente desconfortável: pessoas inteligentes, competentes e experientes… que começam lentamente, sem se darem conta, a deixar de pensar por si. Porque ao utilizarem ferramentas tão rápidas e fáceis acabam por confundir velocidade com pensamento e resposta com compreensão. Gente capaz que se julga mais esperta porque domina ferramentas IA, mas até que ponto? Sabem quando parar?

A inteligência artificial pode ser uma das maiores ferramentas de democratização do conhecimento da nossa geração. Mas também pode criar uma ilusão perigosa: a sensação de maior competência associada a menor compreensão. E o risco não é a IA ficar mais inteligente que nós, é nós ficarmos perigosamente super estúpidos.

A questão não é se a IA nos vai substituir, mas outra: quanto de nós estamos dispostos a abdicar para o evitar? O pensamento, o julgamento, as ações e a responsabilidade continuarão, e devem continuar, a ser profundamente humanos.

Vejo impactos em todas as frentes, e saliento alguns pontos:

Económicos e Empresariais

Positivo:

Potencia eficiência, rapidez, produtividade e capacidade de antecipar tendências. As pequenas empresas podem hoje competir de forma impensável há poucos anos.

Negativo:

O problema começa quando deixamos de delegar tarefas e começamos a delegar pensamento. Líderes que seguem dashboards sem ir ao terreno nem falar com as pessoas. Decisões tomadas exclusivamente por análise de dados, ignorando aquilo que não cabe num Excel: cultura, emoções, motivação, contexto e intuição humana.

Novidade: já não se fala apenas de EBITDA. Fala-se de EBITTDA: resultados antes de juros, impostos, amortizações… e tokens.

Sociais

Positivo:

Mais acesso ao conhecimento, novas formas de aprendizagem, inclusão digital e democratização de oportunidades antes impensáveis.

Negativo:

O perigo das pessoas deixarem de questionar. Se um sistema responde rapidamente, começamos a assumir que está certo. O pensamento crítico pode transformar-se numa espécie em vias de extinção.

Políticos

Positivo:

Maior acesso à informação, participação, cidadania e capacidade de análise de cenários complexos.

Negativo:

Desinformação em escala industrial e global. Narrativas manipuladas e opiniões moldadas por algoritmos, antes sequer de termos tempo para pensar nelas.

Tecnológicos

Positivo:

Ferramentas extraordinárias para resolver problemas de elevada complexidade, melhorar saúde, mobilidade, segurança e acesso ao conhecimento.

Negativo:

Respostas que já ninguém questiona. Se parece inteligente, assume-se correto. Eis um dos maiores paradoxos do nosso tempo: usar tecnologia avançada sem compreender verdadeiramente o que faz nem como o faz.

Legais e Éticos

Positivo:

A oportunidade de construir uma sociedade mais justa, transparente e com modelos auditáveis. Negativo:

Quem responde quando uma decisão automatizada falha? Quem assume responsabilidade quando ninguém percebe exatamente como a decisão foi tomada? Insistimos em tratar a IA como neutra, quando ela acarreta escolhas, prioridades e vieses humanos.

Ensino

Positivo:

Aprendizagem personalizada, acesso global e ferramentas extraordinárias para acelerar competências. Negativo:

O risco de formar pessoas que sabem perguntar à máquina, mas não sabem o que perguntar a si próprias.

Educar hoje também é evitar que as pessoas se sintam mais inteligentes só por usarem IA. E capacitá-las para que não utilizem os novos sistemas de forma profundamente estúpida.

A IA talvez seja hoje um carro supersónico que está ao alcance de todos. O problema não é a velocidade. É acreditar que sabemos conduzi-lo quando ainda mal percebemos como trava. Um perigo.

Há empresas a medir horas de utilização de IA. Já outras entraram na fase de medir outra coisa: a qualidade do pensamento e do output gerado a partir dela. Ficam as 3 métricas de maturidade de IA nas empresas:

1. Adesão: usam ou não usam?

2. Qualidade de utilização: sabem perguntar, validar, corrigir, iterar?

3. Impacto/output: melhor decisão? mais produtividade? menos erros? mais inovação? melhor serviço?

Porque podemos ter:

•  muita utilização + maus resultados = superstupidity organizacional

•  pouca utilização + alta qualidade = maturidade;

•  alta utilização + alto critério = vantagem competitiva.

A resposta não é simplesmente usar mais ou menos IA, é usá-la bem. Questionar e confirmar mais, cruzar perspetivas. Continuar a aprender, sempre. E perceber que rapidez nunca foi sinónimo de discernimento, qualidade nem profundidade.

No fundo, a superstupidity não é sobre máquinas. É sobre humanos que vão, paulatinamente, deixando de pensar. Esta é uma era que exige mais humanização e pensamento crítico, os mais valiosos diferenciais dos nossos dias.

Como se faz? Talvez recorrer à IA seja uma boa ideia. Se fizermos boas perguntas é provável que se obtenham respostas interessantes, que podem ajudar, desafiar, corrigir, acelerar e até abrir caminhos. Pode ser um extraordinário assistente, um ajudante valioso, se soubermos tirar partido dessa colaboração. Mas pensar continuará a ser trabalho humano.