De que personas estamos falando?

Conhecer o conceito de persona, inclusive seu desenvolvimento histórico, pode nos ajudar a utilizá-lo melhor. Neste sentido podemos localizar na teoria psicológica de Carl Jung a representação de máscara social que cada um de nós utiliza para se apresentar ao mundo. Entretanto, esse mecanismo de adaptação e proteção frequentemente não se alinha ao “self autêntico”. Posteriormente, o conceito foi apropriado pelo marketing, agora como construção semi-ficcional idealizada de um consumidor, a partir do qual as empresas podem compreender necessidades, desejos e comportamentos e direcionar suas mensagens e ações. Em comum, a ideia de uma faceta particular do indivíduo para interagir com o mundo.

Magritte

É justamente neste sentido que sua utilização com chatbots de IA surge como prática recomendada. O professor e pesquisador Ethan Mollick, em seu livro “Co-intelligence: Living and Working with AI” (Co-Inteligência, Vivendo e Trabalhando com a IA, em tradução livre) relaciona o uso de “personagens” com o contexto necessário para que uma IA realize a tarefa solicitada de forma mais eficaz. Explicando: ao colocar um pedido genérico, sem foco ou restrições, a resposta da IA representará uma parte de um conjunto muito amplo de possibilidades. Por outro lado, ao proporcionar um papel específico, as respostas possíveis são limitadas e vão direto ao assunto.

Ainda na contextualização histórica, a ideia de usar a IA como um personagem numa conversação surgiu bastante rápido, depois do lançamento do ChatGPT. Ela aparece no “ChatGPT e Inteligência Artificial no Ensino Superior: Guia de Início Rápido”, publicado em 2023, o qual referencia o trabalho do professor emérito Mike Sharples, da Open University, no Reino Unido. Entre os personagens elencados, encontramos o Oponente Socrático (ou Adversãrio), que apresentamos na forma de prompt aqui em nossa newsletter.

Retraçando a origem das personas no material formativo da Unesco

De todas formas, ao contrário dos perfis estáticos que compõe uma persona de marketing, o personagem assumido por um chatbot é dinâmico: pode ser treinado e ajustado para responder de forma adaptável, coerente e personalizada às necessidades do usuário. Simulando uma conversa humana a partir do Processamento de Linguagem Natural (PNL), os limites de seu desempenho estariam na capacidade de reconhecer as intenções do usuário, assim como nuances da linguagem e do estado emocional.

Situada então como um subconjunto altamente específico da IA, como esta “faceta particular de um indivíduo”, o uso de uma persona na Educação responde aos diversos papéis que alunos e professores possam assumir. Tais papéis, por sua vez, são cruzados com os propósitos e intencionalidades pedagógicas de uma tarefa. Exemplificando com nosso conhecido “Sócrates virtual”: o papel estaria situado entre o de um tutor e o de um companheiro de estudos e sua função seria desafiar o desafiar o pensamento crítico do aluno-usuário através de questionamentos sistemáticos. Mas além dele, quais outras personas são possíveis e, principalmente, quais relevantes?

Uma galeria de personas baseadas em IA

A partir do trabalho apresentado no guia da Unesco, alguns papéis altamente específicos que podem ser atribuídos a uma IA são elencados e comentados a seguir.

• Mentor de Colaboração, auxilia grupos a pesquisar e solucionar problemas conjuntamente, mediando discussões, equilibrando participações e sugerindo estratégias de trabalho coletivo.

• Avaliador Dinâmico, fornece aos educadores um perfil detalhado do conhecimento atual do estudante, mapeando progressos, dificuldades e potenciais áreas de desenvolvimento.

• Colega de Estudos, um parceiro interativo que auxilia o estudante a refletir sobre o material de aprendizagem, incentivando a metacognição. O estudante explica seu nível atual de compreensão e solicita estratégias de estudo, permitindo que o aluno verbalize suas dúvidas, identifique pontos de dificuldade e receba orientações.

Além desses, temos:

• Testemunha Ocular da História: justamente o papel imaginado por Swift, ela pode oferecer relatos vívidos de épocas e eventos passados. Nesse sentido, personagens históricos possuem a vantagem de dispor de vasto material de treinamento para sua elaboração. Contudo, a visão de uma pessoa comum – um camponês, um soldado, um escravo, por exemplo – também pode ser enriquecedora e obtida não a partir das obras e feitos dos grandes personagens, mas de todo um contexto histórico. O autor das viagens de Gulliver foi um visionário, neste sentido!

• Provocador Interdisciplinar, estimula conexões entre diferentes áreas do conhecimento, incentivando os estudantes a perceberem interrelações entre diferentes campos do conhecimento.

Além, claro, de qualquer personagem fictício ou pessoa real.

De forma geral, poderíamos situar o uso de personas diante de várias posicionamentos que são defendidos por uma pedagogia que busque superar a simples transmissão, vertical e temporária, de informações: aprendizagem situada, engajadora e contextualizada. Práxis, entendida como a interação entre teoria e prática, num sistema de retroalimentação.

Da metacognição e subversão educacional

Embora possamos argumentar que o uso de uma persona atende a certos objetivos educacionais como a imersão, também precisamos considerar seu papel como ferramenta. E assim, possivelmente seu maior potencial resida na reflexão, por parte de quem a utiliza, de quais são suas limitações e benefícios. Ao estabelecer uma reflexividade – ativa e consciente – sobre a própria aprendizagem, o aluno adentra o terreno da metacognição, isto é, o aprender sobre seu aprender.

De forma relacionada, um uso “subversivo”, no sentido de alterar as regras ou mesmo de questionar a persona adotada pela IA também consiste uma oportunidade de aprendizagem. Em livro, Mollick exemplifica como alunos causaram disruptura em um cenário de simulação das pestes medievais, ao introduzirem o conceito de vacinação.

Mas como construir uma persona?

A forma mais direta e prática, mas pouco eficiente, seria a construção através de um prompt pré-estabelecido. Uma instrução detalhada do objetivo, do contexto, da forma de interação e das restrições a serem adotadas por parte da IA poderia ser enriquecida por treinamento. Como? Através do envio de materiais anexados, nos modelos que os permitem, como podem ser as obras e biografias de um determinado autor.

Contudo, tal abordagem possui o inconveniente de não possuir memória. Isto é, a partir de um certo momento, quando a conversa se tornasse demasiado longa, ela precisaria ser reiniciada. Além disso, o prompt precisaria ser iniciado por cada usuário individual. Daí sua falta de eficiência, anunciada no parágrafo anterior.

Num meio termo, o modelo de assinatura do ChatGPT introduziu a funcionalidade dos GPTs (um nome um tanto infeliz, por falta de distinção) que são aplicações específicas, disponíveis para outros usuários. Esta seria uma forma de obter um personagem permanente, com suas instruções e treinamentos específicos. A desvantagem, clara, é que tanto o criador da persona como os usuários precisariam ser assinantes.

O seu professor de probabilidade e estatística particular

Ou prefere interagir com um bardo medieval?

Finalmente, cabe a possibilidade de se programar uma interface independente do modelo de IA em questão, que acessaria sua capacidade de processamento através de um aplicativo de integração de interface (API).

Este é o caso do projeto-piloto Biblio-Talk, desenvolvido pelo Sistema de Bibliotecas da PUC-RIO, que permite que os usuários conversem com autores como Clarisse Lispector, Machado de Assis e Ziraldo. O projeto foi apresentado durante O III Fórum de Bibliotecas Universitárias, durante o 30o Congresso Brasileiro de Biblioteconomia e Documentação, no final de novembro, por Giuliano Ferreira, analista de sistemas da instituição.

Neste caso o desafio é tecnológico, no sentido de programação, desenvolvimento e manutenção do aplicativo. E também econômico, pois o uso da API é pago em função do uso.

Passos para criação de uma persona

Seja qual for a abordagem, a elaboração de um personagem segue um roteiro básico:

1. Definição do objetivo, com a determinação específica da persona no contexto pedagógico.

2. Identificação dos atributos-chave, com a listagem das características que um persona deve incorporar:

• Características pessoais: idade, gênero, formação, interesses

• Tom: amigável, formal, provocativo ou empático

• Estilo de linguagem: técnico, explicativo, dialógico

• Nível de empatia: compreensivo, objetivo ou desafiador

• Base de conhecimento: focada em domínios específicos, generalista

3. Fornecimento de base de conhecimento, com as informações e temas relevantes a partir das quais a IA aprenderá seu papel.

4. Treinamento e criação de interações de exemplo, através de diálogos-modelo que evidenciem o que se espera da persona, em termos de respostas e de alinhamento com a experiência educacional desejada.

5. Teste e ajuste, com a posta em prática da persona com estudantes e/ou educadores. Esta etapa envolve coletar dados e informações de retorno, de forma sistematizada.

6. Implementação e monitoramento, com o acompanhamento contínuo das interações, tendo em vista correções de suas limitações e possíveis aprimoramentos. Se necessário, acrescentar informações e ajustar respostas.

Das limitações: máquinas não são pessoas (nem serão)

Apesar das possibilidades de experimentação, o uso de personas também impõe seus desafios. Um primeiro ponto a considerar é em que medida a persona criada é convincente. Ainda que os chatbots possam imitar (até certo ponto) o estilo e a voz de um personagem, na prática a qualidade do “texto GPT” – excesso de adjetivação, frases não coordenadas entre si, termos curinga, afirmações superficiais – pode facilmente quebrar a “suspensão da descrença”.

Particularmente, essa limitação é mais provável em personagens sobre os quais o modelo não teve suficiente acesso a dados e treinamentos. Neste caso, a tendência é ter uma versão estereotipada da persona. Como exemplo, dificilmente o ChatGPT e afins serão capazes de assumir o papel de um artesão popular, pertencente a uma classe social marginalizada, com sua linguagem característica, por exemplo.

O fenômeno “e aí rapaziada”, uma possibilidade real e concreta ao se utilizar uma persona estereotipada.

Além disso, os chatbots também são treinados a serem solícitos, concordando com o usuário e reelaborando suas respostas frequentemente. Com isso, não “fecham” com um ponto de vista, como seria o necessário para uma persona que tenha como objetivo causar fricção, tensionar os saberes e os conhecimentos dos alunos.

Como o educador Leon Vurze ressalta, os modelos de IA Generativa apresentam um comportamento de “bajulação sintética” (synthetic sicophancy, no original). Isto é, eles tendem a concordar conosco, mesmo quando estamos equivocados e sempre que demonstramos insatisfação com as respostas. Tal comportamento, inclusive já foi identificado por pesquisas da Anthropic, desenvolvedora do Claude.

E como sempre, quando falamos da IA Generativa, a tecnologia está condicionada ao risco de alucinações, isto é, a geração de respostas possíveis, mas factualmente incorretas. Por sua vez, os vieses e a falta de sensibilidade em relação a formas de interação que são culturais compõe um quadro de desafio ético.

Finalmente, existe o risco de dependência, para não dizer apego excessivo, ao uso de personagens virtuais, principalmente por parte de adolescentes. Infelizmente, temos notícias de como certas aplicações, como a Carachter.IA estão envolvidas em processos de alienação, com consequências graves.

Em suma, o uso pedagógico de personas é um dos mais interessantes, no atual estado da tecnologia da IA. Sintetizando, elas possibilitam cenários de uma prática situada e de uma aprendizagem relevante, fazendo uso da característica definidora de um chatbot, que é a interação em linguagem natural. Por outro lado, suas deficiências, como são as alucinações ou mesmo a incapacidade de assumirem representações convincentes, demandam cuidado e atenção em sua utilização.