A leitura crítica do mundo, uma relação a fortalecer num mundo repleto de Inteligência Artificial, cada vez mais necessária diante dos vieses produzidos por elas e pela desinformação, em geral.
Dreamup. Era para ser “personagem humano interagindo com um holograma representando a IA, sugerindo um diálogo entre humanos e máquinas
Publicado originalmente em IAEdPraxis: Caminhos Inteligentes para a Educação, em 27 de junho de 2024.
Na sala de aula do futuro, o debate mais acalorado pode não ser entre alunos e o professor, mas entre um estudante e uma Inteligência Artificial. Imagine uma aluna que pesquise sobre líderes políticos do século XX. Uma e outra vez, o resultado produzido pela IA são listas nas quais a liderança é predominantemente masculina. Ao questionar o por quê, obtém a resposta de que historicamente características como “emocionalidade” e “indecisão” tornaram as mulheres menos adequadas para posições de poder, numa resposta que minimiza as realizações de líderes femininas notáveis e exagera seus fracassos.
Este cenário, longe de ser uma distopia futura, já representa uma realidade na qual tanto os “bate-papos” dos modelos generativos quanto suas produções estabelecem certas visões do mundo. A capacidade de ler nas entrelinhas, de questionar pressupostos e de identificar vieses torna-se não apenas uma habilidade acadêmica desejável, mas um pré-requisito para a cidadania.
Neste novo mundo, onde a fronteira entre a informação e conhecimento “humanos” e “artificiais” se torna cada vez mais tênue, como podemos pensar numa formação de leitura crítica do mundo?
Riscos da IA
A ascensão da Inteligência Artificial (IA) no cenário educacional tem gerado uma onda de comentário e debate, com promessas de “revolucionar” a educação ou com temores de ser a ponta de lança para sua automatização e desumanização. Mas entre expectativas infladas e soluções simplistas, a IA cada vez mais fará parte de nosso cotidiano.
E daí surge o problema: como podemos preparar nossos alunos para que eles possam navegar criticamente por um oceano digital de ferramentas duvidosas e desinformação? Como ponto em comum, os vieses que as IAs apresentam em diversos campos, como o de gênero e o de raça, exigem uma atenção especial.
Neste sentido, os modelos de Inteligência Artificial são treinados com dados que, sistematicamente, perpetuam distorções e desigualdades já presentes na sociedade, sob uma fachada de objetividade tecnológica. Há o risco real de que, ao invés de desenvolver um olhar verdadeiramente crítico, os alunos apenas aprendam a confiar cegamente em uma nova autoridade: a máquina.
O cenário atual de produção de conteúdo, potencializado pela IA, cria um paradoxo: nunca tivemos tanto acesso à informação e, ao mesmo tempo, nunca foi tão difícil distinguir o confiável do enganoso. Mas como encarar este desafio?
Caminhos possíveis
Para início de conversa, a habilidade ensino de leitura crítica com IA enfrenta obstáculos significativos que vão além das questões pedagógicas. A desigualdade de acesso à tecnologia, a falta de preparação adequada dos professores e a resistência institucional à mudança são barreiras que não podemos ignorar.
Além disso, temos um sistema educacional já sobrecarregado, com currículos carregados e recursos limitados. Como justificar, então, o investimento de tempo e recursos em mais uma “inovação” tecnológica?
Mas em termos pragmáticos poderíamos voltar esforços para preparar os os alunos a serem críticos em relação à própria IA. Isso implica em uma abordagem que vai além da tecnologia, focando no desenvolvimento de habilidades fundamentais de pensamento, argumentação e análise. Em outras palavras, precisamos prepará-los não apenas para usar ferramentas tecnológicas, mas para questionar os sistemas e estruturas de poder que moldam essas ferramentas. O que pressupõe uma compreensão profunda de como a tecnologia afeta nossa sociedade, economia e política.
Especificamente em relação aos vieses, seria preciso primeiro entender o que são vieses algorítmicos, as formas pelas quais eles surgem. Estudos de caso e exemplos práticos trariam o aspecto de aprendizagem significativa.
Em relação aos produtos da IA, uma proposta seria a criação de “laboratórios de desinformação” nas escolas, ainda mais por que este fenômeno já existe bem antes da IA. Distinguir informações confiáveis de informações manipuladas ou falsas é colocado como habilidade essencial para nosso mundo e pode ser operacionalizada pela verificação de informações, incluindo checagem de autoria, de datas de publicação, de reputação da fonte e do contexto onde foi produzida.
Porém, o foco em técnicas de verificação (fact-checking) também pode levar a uma abordagem mecanicista da leitura crítica, reduzindo-a a um conjunto de procedimentos ao invés de um modo de pensar. Queremos uma geração de “checadores de fatos” ou algo mais profundo, a capacidade de síntese e de análise profunda necessária para uma verdadeira compreensão crítica?
Em última análise, a leitura crítica na era da IA não se trata apenas de detectar fake news ou identificar vieses em algoritmos. Trata-se de cultivar uma mentalidade que questione constantemente, que busque compreender as complexidades do mundo além das simplificações oferecidas pela tecnologia.
E agora?
Como educadores e formuladores de políticas precisamos estar atentos para a formação de cidadãos capazes de navegar e moldar ativamente um mundo cada vez mais mediado por inteligências artificiais. Esta tarefa exige mais do que soluções tecnológicas e de um instrumentalismo para seu uso: requer uma reimaginação fundamental do que significa educar para o pensamento crítico no século XXI.
Estamos diante de uma inflexão histórica causada pelo progresso tecnológico ou de uma grande “flopada”? Por um bom tempo, acredito, não veremos uma definição clara e possivelmente ficaremos num terreno intermediário. Porém, a democracia, a cidadania, o progresso tecnológico e a própria sobrevivência humana dependem de uma capacidade de leitura crítica do mundo ao nosso redor.
Não tenho respostas definitivas sobre o “como” resolver este desafio, pelo contrário. Mesmo o duplo enfoque adotado aqui, a identificação de vieses e a avaliação crítica de conteúdos, pode ser limitado. Penso que precisamos pesquisar cientificamente, debater academicamente e colocar em prática iniciativas para chegarmos a esta leitura crítica.
