Das tecnologias da inteligência à mediação algorítmica do saber

1. Das tecnologias da inteligência à mediação algorítmica do saber

Caros e caras estudantes, retomemos uma pista que a própria disciplina nos deixou desde a Aula 2. Pierre Lévy (2004) chamou de tecnologias da inteligência o conjunto de instrumentos — da escrita ao software — que qualificam o pensamento humano em vez de substituí-lo: elas organizam memórias, ampliam cálculos e sustentam a cooperação. Vistas desse ângulo, as tecnologias de Inteligência Artificial são o desdobramento mais recente e mais radical dessa linha: pela primeira vez, a mediação não apenas armazena ou transmite informação, mas a produz, sob demanda, em linguagem natural. A pergunta de Lévy continua de pé, porém, e é ela que orienta nossa aula: essas ferramentas qualificam a inteligência coletiva ou a terceirizam?

Castells (2007), ao descrever a sociedade em rede, já nos havia advertido que os fluxos de informação estruturam, cada vez mais, a vida social, o trabalho e a educação. O que a IA generativa acrescenta a esse diagnóstico é um novo administrador desses fluxos: sistemas estatísticos de enorme escala que decidem o que aparece, em que ordem e com que formulação. A mediação do conhecimento, que sempre existiu — o livro, a biblioteca, a escola, o professor — ganha três características inéditas: escala (bilhões de interações simultâneas), opacidade (o funcionamento interno não é acessível ao usuário) e personalização (a resposta se adapta ao que o sistema calcula sobre cada um de nós).

É essa tripla novidade que torna a discussão de hoje diferente de um elogio ou de uma demonização da tecnologia. Como vimos com Pariser (2012) na Aula 5, o filtro invisível já operava nos sistemas de recomendação; a IA generativa estende essa lógica à própria produção do enunciado. O problema não é que existam medições — elas são inevitáveis —, mas que mediações tão poderosas operem sem critérios explícitos de supervisão pedagógica. Formar esses critérios é tarefa da educação, e é nisso que esta aula pretende ajudar.

2. Como a IA medeia o conhecimento hoje: buscar, recomendar, gerar

Três modalidades de mediação organizam a presença contemporânea da IA no circuito do conhecimento. A primeira é a busca: os buscadores não apenas localizam documentos — eles ranqueiam, priorizam e sintetizam, e cada ranqueamento embute critérios comerciais e estatísticos que o usuário raramente conhece. A segunda é a recomendação: plataformas de vídeo, redes sociais e lojas de aplicativo selecionam o próximo conteúdo a partir do nosso comportamento passado, reforçando aquilo que Pariser (2012) descreveu como bolha informacional. A terceira é a geração: os modelos de linguagem produzem textos, resumos, resoluções e imagens combinando padrões estatísticos aprendidos de grandes volumes de dados.

A terceira modalidade exige atenção especial. Os modelos generativos não consultam o mundo: calculam a continuação mais provável de um enunciado. O resultado pode ser excelente — e por isso seduz —, mas também pode ser uma das chamadas alucinações: respostas fluentes, confidentes e simplesmente falsas, com referências inventadas, datas equivocadas ou citações que não existem. A verossimilhança — o texto parecer verdadeiro — não é a verdade. Quem ignora essa diferença transforma o sistema em oráculo; quem a reconhece o utiliza como o que ele é: um assistente estatístico que precisa, sempre, de verificação humana.

Daqui decorre um paradoxo pedagógico que merece ser nomeado: quem mais se beneficiaria do uso da IA é quem menos condições tem, ainda, de avaliar criticamente suas respostas. O estudante iniciante, justamente por não dominar o assunto, não dispõe do repertório necessário para detectar erros, vieses e omissões. Por isso, a resposta educativa não pode ser a simples entrega da ferramenta, nem a proibição ilusória: é preciso formar o critério — o letramento em IA — que permita usar o instrumento sem se submeter a ele. Guardem essa expressão: letramento em IA.

3. Desafios éticos: autoria, viés, opacidade e justiça

O primeiro desafio ético é o do viés algorítmico. Os modelos aprendem com dados produzidos por sociedades marcadas por desigualdades — e tendem a reproduzir, em escala, os mesmos estereótipos e exclusões. Não se trata de maldade da máquina, mas de estatística aplicada a um mundo injusto: o sistema aprende o que nós ensinamos. Para a educação, a consequência é direta: materiais, avaliações e recomendações gerados por IA podem discriminar sistematicamente grupos inteiros, sem que ninguém tenha decidido conscientemente por isso.

O segundo desafio é o da opacidade. Diferentemente de um livro, cujo argumento pode ser examinado, ou de um professor, que pode explicar sua avaliação, os grandes modelos operam como caixas-pretas mesmo para seus criadores. Pariser (2012) já defendia, para os filtros de recomendação, transparência como exigência democrática; a defesa se torna mais urgente quando a própria produção do enunciado se torna opaca. Somem-se a isso as questões de autoria e propriedade intelectual — sobre que dados os modelos foram treinados, com que autorização, retribuindo a quem —, hoje objeto de intensa disputa jurídica e acadêmica.

O terceiro desafio é o da justiça, em três planos: a concentração do poder de computação e de dados em um punhado de empresas, o que aproxima a infraestrutura do conhecimento de monopólios privados; a divisão digital, que separa quem tem acesso às ferramentas avançadas de quem tem acesso apenas às versões simplificadas; e o custo ambiental do treinamento e da operação desses sistemas. Giddens (2000) descreveu a modernidade como mundo em descontrole: instituições poderosas operando riscos que não dominam completamente. A IA generativa é talvez a expressão mais nítida contemporânea desse diagnóstico — e, por isso, pede regulação, formação e senso crítico, nessa ordem ou em todas ao mesmo tempo.