Da promessa de eliminação da burocracia aos desafios éticos
Publicado originalmente em IAEdPraxis: Caminhos Inteligentes para a Educação, em 4 de julho de 2024.
Se tem algo em comum a todos envolvidos de forma ou outra com a educação, sejam professores, alunos, pais, gestores ou funcionários, é a burocracia da gestão educacional. Rotinas administrativas que se transformam em pesadelos kafkianos. Exigências que transformam o que poderia ser um trabalho criativo, vivo, em rotina mecânica.
Pois bem, uma das canções mais sedutoras das sereias da Inteligência Artificial é justamente seu potencial para a automação de tarefas administrativas, economizando recursos, aumentando a eficiência e liberando tempo para o trabalho pedagógico.
De fato, antes mesmo do boom dos modelos generativos, a IA era anunciada como ferramenta solucionadora de problemas da gestão educacional, em múltiplas instâncias. As notícias e reportagens a seguir foram coletadas durante uma pesquisa que realizei em 2020, mas continuam atuais no debate de hoje.
Apoio à gestão e administração
Neste terreno, a possibilidade de “simplificar as tarefas básicas de ensino e ajudar os líderes escolares a lidar com os principais desafios para a instrução de qualidade” era propagada. De um ponto de vista essencialmente gerencial, a tecnologia serviria para “facilitar a carga dos processos administrativos”, ao lidar com dados massivos e auxiliar em tarefas como a predição de riscos, automação de serviços e otimização de processos. Entre eles, a análise das matrículas de alunos, gestão de recursos humanos e de compras, gerenciamento contábil e notariais .
Uso mais específico seria a segurança, incluindo a monitoração do tráfego de Internet e a detecção de ameaças informáticas com fraude, phishing e ramsomware No plano interno, a a detecção de comportamentos transgressores por parte dos estudantes, a exemplo da distribuição de conteúdo sexual, ameaças de ataques violentos ou mesmo automutilação e suicídio.
Por sua vez, o atendimento de potenciais alunos e à orientação administrativa e burocrática poderiam ser realizados por chatbots, isto é, sistemas automatizados. Ao fornecer informações sobre cursos, processos de inscrição, requisitos de admissão e procedimentos financeiros, os chats atenderiam às dúvidas mais comuns para potenciais alunos. Para aqueles estudantes já ligados à instituição, o uso de agentes para responder sobre questões administrativas rotineiras, como agendamento de reuniões, prazos importantes e documentação necessária, já era apontado como forma de aumentar a eficiência operacional, liberando tempo dos trabalhadores administrativos para lidar com questões mais complexas e “humanas”.
Uma aplicação que certamente é bem vinda por coordenadores de curso são os algoritmos que solucionam o quebra-cabeças de montar um horário de disciplinas e professores. Além de minimizar conflitos de horários e penalizar docentes com a perda de disciplinas, este tipo de programa também leva a um uso mais eficiente dos espaços pedagógicos. E com isso chegamos usos que repercutem diretamente em sala de aula.
Imbricando o gerencial e o educacional
Um passo além das tarefas puramente administrativas, já se atribuía à IA a missão de “melhorar a justiça e a qualidade do processo de admissão universitária, eliminando o viés humano a partir de critérios preestabelecidos”. Tal discussão ocorre naqueles contextos onde as instituições desempenham um papel ativo na escolha de seus futuros alunos, de forma mais patente os Estados Unidos.
Assim, o uso da aprendizagem de máquina para a identificação de estudantes “de qualidade” seria complementado com a realização de contatos e de ajuda personalizada através de assistentes inteligentes . A meta seria aumentar o “valor da reputação” de uma instituição, atendendo portanto a “imperativos estratégicos” que justifiquem o custo de implementação tecnológico, em câmbio de eficiência e produtividade para a gestão.
Tal rendimento dos sistemas escolares relaciona-se com a capacidade de retenção dos estudantes admitidos. Modelos preditivos baseados em regras relativamente simples de monitoração de indicadores-chave da desistência escolar já eram apontados, tanto na educação básica como universitária. A analítica de dados (big data) e a aprendizagem de máquina poderiam contribuir ainda mais para a identificação de estudantes em situação de risco de evasão e reprovação escolar.
Porém, as “decisões guiadas por dados” contêm em si o potencial de viés, potencialmente ampliando o fosso digital de inclusão. Utilizada para analisar dados, identificar padrões e fazer predições a partir destes a IA pode resultar em diagnósticos e ações que reforçam privilégios.
E chegando ao apoio docente
Segundo uma pesquisa da Organização para a Cooperação e Desenvolvimento Econômico (OCDE), o tempo utilizado pelos docentes para ensino e aprendizagem equivale a 67%. Por outro lado, 12% seriam dedicados a tarefas operacionais, como corrigir exercícios e provas, preencher planilhas e cadernetas, elaborar e revisar o planejamento, calcular e lançar notas. Neste sentido, o discurso público orientou-se em situar a IA como “importante aliada dos educadores, sobretudo no desafio de gerenciar melhor o tempo dentro e fora da sala de aula“.
A argumentação de que a IA permitirá aos professores realizarem aquilo que lhes é único no processo pedagógico é associada à ideia de que as atividades-meio, consideradas entrave, serão assumidas pela automatização. “Tornar a vida mais fácil”, “assumir certas tarefas repetitivas na sala de aula“, “liberando-os para focar em habilidades como o pensamento crítico e a colaboração”. “Tirar o trabalho burocrático e braçal do professor para que possa dedicar tempo para conhecer os alunos e fazer o que só ele consegue: despertar o potencial dos estudantes”, aliviando ou reduzindo sua carga de trabalho.
“Tarefas de escritório” como atender pais e responsáveis, preencher documentos administrativos e burocráticos, organizar excursões e aulas de campo, lidar com estudantes doentes ou faltantes…“tarefas de não-ensino” que ficariam sob responsabilidade da máquina. Este caráter redentor da IA fica patente na afirmação de que “nenhuma máquina pode substituir professores humanos, mas pode salvá-los de desmoronar sob pressão”.
Num exemplo bem pontual: “fazer a chamada”, ou seja, controlar a frequência dos alunos de forma automatizada se enquadra no conjunto de “tarefas repetitivas e rotineiras” e de liberação de tempo. Tal monitoramento poderia ocorrer através etiquetas RFID atribuídas aos estudantes ou do reconhecimento facial, tema este que merece mais atenção.
Além disso, os sistemas de IA permitiram que os professores focassem “a construção das mentes de seus estudantes ao invés de ficarem checando plágios”. De forma similar, a correção de trabalhos de forma automatizada, “um processo manual e intensivo de tempo” seria substituída por um aceno de passar “mais tempo com seus estudantes”.
Particularmente, considero que correção de provas está relacionado à avaliação, campo no qual encontramos uma diversidade de iniciativas e de ferramentas. Apesar de muito e intensamente alardeada, pouco foi objetivamente proposto sobre como a IA pode liberar os professores de rotinas burocráticas.
Por outro lado, o panorama de vigilância tecnológica suscitada pela IA repercute sobre a avaliação do trabalho do professor. Se tradicionalmente os dados dos ambientes virtuais de aprendizagem revelam informações sobre a comunicação e interação docente, a analítica de dados massivos traria uma nova perspectiva, hierarquizando e classificando o trabalho docente. E como consequência, controlando-o, o que nos leva a mais controversa aplicação da IA à gestão educacional.
Reconhecimento facial e vigilância tecnológica
Numa discussão que toca a sociedade como um todo, o âmbito educacional não é alheio à tecnologia de reconhecimento facial como forma de controle. Através de seu uso seria possível “identificar quais alunos entraram ou não na escola e nas salas de aula”, medidas estas entendidas ações para evitar a evasão escolar.
Este tipo de proposta, a meu ver, assume um caráter paradigmaticamente epistêmico ao elevar objetividade, racionalidade e mecanismos de controle de natureza taylorista à escola. Mas que também se relaciona a um posicionamento ideológico. Justamente, era um dos pontos do plano de governo de um candidato à prefeitura do Recife em 2020 (deixo para os leitores descobrirem o candidato, sua legenda partidária e afiliações políticas:
Usaremos tecnologia para a leitura facial dos alunos nas escolas, através de um sistema com alimentação em tempo real, possibilitando ainda fazer a chamada, lançar os boletins, organizar as agendas e grades de aula, fazer os registros de classe (…) os resultados poderão ser analisados e monitorados de forma muito mais assertiva pela gestão e pelos pais, tudo na palma da mão.
Contudo, desde muito cedo se reconheceu que o reconhecimento facial enquanto tecnologia de monitoramento e vigilância traria o risco codificar vieses nos estudantes. Supostos ganhos de eficiência, em termos de monitoramento da frequência, foram julgados na Suécia como injustificáveis, diante da violação de privacidade e do “método intrusivo” de coletar dados sensíveis.
Se numa perspectiva ampla o reconhecimento facial já está ligado a questões como o racismo algorítimico, sendo alvo de banimento por diversas sociedades, seu uso na educação é simplesmente temerário. Apesar, ou mesmo por causa disto, tem sido colocado como peça fundamental para sistemas educacionais fundamentados que se propõe retomar valores e práticas tradicionais, incluindo disciplina e controle.
Sintetizando a IA na gestão educacional
A implementação da IA no âmbito da gestão educacional acena com impactos significativos, espelhando tendências já observadas em empresas e organizações de outros setores. Entretanto, precisamos manter um olhar crítico, especialmente quando aplicadas a questões sensíveis como a evasão escolar. Ainda que bem-intencionadas, tais aplicações podem inadvertidamente ofuscar questões éticas fundamentais, como a privacidade pessoal e a segurança dos dados, além de levantar preocupações sobre a propriedade e os usos aceitáveis dessas informações.
Particularmente em países em desenvolvimento, como o nosso, isto pressupõe pensar em que medida estamos sujeitos ao colonialismo de dados e nos distanciando de uma soberania tecnológica.
No que diz respeito ao corpo docente, a promessa de alívio nas tarefas burocráticas através da IA parece oferecer ganhos mínimos, potencialmente à custa de uma maior vigilância e controle sobre sua atividade. Enxergar a IA como panaceia para o excesso de burocracia beira o solucionismo tecnológico, ignorando que mudanças efetivas deveriam emergir de uma profunda reorganização do sistema educacional e das próprias instituições.
O uso de tecnologias de reconhecimento facial e outras formas de vigilância e controle é particularmente problemático, refletindo uma concepção de educação mecanicista e gerencialista. Quando aplicadas a crianças e jovens, essas tecnologias representam uma brecha ética inaceitável, violando princípios básicos de privacidade e autonomia.
Em última análise, fica evidente que a IA no contexto da gestão educacional está intrinsecamente ligada a objetivos de desempenho estratégico e tático, em termos empresariais. O foco em qualidade e eficiência, traduzido em redução de custos ou elevação do posicionamento de mercado – como ilustrado no exemplo da seleção de alunos – revela uma abordagem que prioriza métricas corporativas sobre valores de formação humana. Esta orientação levanta questionamentos sérios sobre o futuro de uma mediada pela IA.
Tem dúvidas, sugestões ou experiências para compartilhar relacionadas aos temas abordados nesta edição? Adoraríamos ouvir de você!
