Fios do Tempo. Transformar a educação em face à Inteligência Artificial – por Cédric Villani et al.

Estando a preparar minha palestra sobre “Os saberes necessários à educação de nosso tempo“, que ministrarei nesta quinta-feira (22/09) no município de Porciúncula, no interior do estado do Rio de Janeiro, revisitei o texto “Transformar a educação”, que é um capítulo do relatório do governo francês “Dar um sentido à inteligência artificial. Por uma estratégia nacional e europeia”. Mais conhecido como Relatório Villani, este documento foi confeccionado por uma missão instituída pelo governo Macron, ocorrida entre 8 de setembro de 2017 e 8 de março de 2018, empreendida sob liderança do matemático e político Cédric Villani.

Em diálogo com o Relatório Villani, o Ateliê de Humanidades realizou com a BiblioMaison ainda em 2018 o debate “Horizontes da inteligência artificial” no evento Novembre Numérique (ver aqui: https://youtu.be/Wt2dV-uNMIk). Nesta época, eu traduzi o capítulo sobre a educação em tempos de IA, mas ele acabou guardado em uma pasta digital. É porque, nos anos seguintes, chegamos a abordar o tema das tecnologias muitas vezes e por diversos aspectos (ético, político, social, cultural… ver a relação no post abaixo, depois do texto), mas não fui mobilizado em nenhum momento a pensá-la do ponto de vista educacional.

Aproveitando o momento em que estou debruçado sobre os desafios da educação de hoje, considero que vale a pena publicá-lo agora. O texto mapeia e dá contornos a diversas questões emergentes: quais são as transformações desencadeadas pelas tecnologias de IA? Quais são seus usos potenciais no processo educativo, na organização das matérias, nas práticas de aprendizagem, nas formações dos educadores e nas políticas públicas?

Certamente, no Brasil, um país em que problemas elementaríssimos não foram superados para uma boa educação, parece estranho ler um programa sobre a transformação da educação pelas inteligências artificiais. Mas o leitor informado perceberá que algo do que está dito não diz respeito a futuros possíveis, mas sim a realidades já palpitantes; e que algumas experimentações propostas aqui podem ser um suporte eficaz para políticas de educação que queiram superar condições de subdesenvolvimento.

Desejo, como sempre, uma ótima leitura.

A. M.
Fios do Tempo, 22 de setembro de 2022

Transformar a educação
em face à Inteligência Artificial*

A Inteligência Artificial (IA) é aguardada na educação por causa de seus grandes benefícios potenciais, acompanhados de grandes incertezas. Nossa escolha de pôr esta ação em primeiro lugar [em nosso Relatório “Dar um sentido à Inteligência Artificial”] não traduz uma vontade de precipitar esta implementação; ela traduz, na verdade, a urgência de desenvolver experimentações.

Ensinar nos tempos de IA

Numa sociedade automatizada, formar-se permanentemente será uma necessidade. A partir de então, todos os atores do ensino são convocados a se transformar para inscrever a atividade da aprendizagem numa abordagem “ao longo de toda vida” (não havendo mais uma separação entre formação inicial e contínua, atividade de trabalho e de aprendizagem) e “em rede”, com novos espaços (virtuais/físicos), atores e redes de sociabilidades (assistentes virtuais, empresas, associações, third-places, etc.).

Nesta perspectiva, a inteligência artificial abre novas oportunidades para formar um grande número de indivíduos de maneira personalizada e adaptativa. É hoje difícil para o professor levar em conta a diversidade de estilos cognitivos e ritmos de aprendizagem dos alunos. Com efeito, constrangidos pela necessidade de fechar o programa no tempo estabelecido, os professores personalizam muito pouco seus métodos de aprendizagem. Este estado de coisas penaliza em primeiro lugar os alunos em dificuldade e evadidos. Pode-se imaginar que o desenvolvimento de soluções de aprendizagem personalizadas, fundadas sobre a IA, poderão ajudar consideravelmente os professores a implementar métodos diferenciados.

Estes permitiriam propor percursos de aprendizagem mais bem adaptados aos perfis dos alunos, levando em conta numerosas variáveis (ritmos de aprendizagem, motivações próprias, ambiente social, etc). Concretamente, os alunos não teriam mais de trabalhar ao mesmo tempo sobre os mesmos exercícios, mas se lhes ofereceria a possibilidade de avançar segundo suas disposições pessoais (interesses, capacidades, ambições, etc.). A personalização deve permitir igualmente que se adapte o ensino aos alunos com deficiência, adaptando, de maneira importante, os suportes de aprendizagem. Isso pode chegar até a organizações mais modulares, isto é, que empurrem a personalização ao ponto de pensar a organização do curso em torno desse princípio. A personalização não deve, entretanto, conduzir a que, por uma eventual superadaptação dos exercícios, limitem-se os esforços individuais necessários a toda aprendizagem.

Se, por um lado, esses serviços respondem a novas expectativas pedagógicas (afirmação da diversidade de estilos cognitivos e de percursos de aprendizagem, alavancas de engajamento, etc.), por outro, não podem, de forma alguma, substituir a experiência coletiva de aprendizagem vivida, por exemplo, em sala de aula, nem serem percebidos como neutros de um ponto de vista pedagógico. Num primeiro momento, convém pois facilitar e multiplicar as experimentações com a IA sobre a aprendizagem, avaliando sempre seus efeitos sobre os processos educativos no sentido lato; e, especialmente, seus impactos para o educando (impacto sobre a serendipidade, a capacidade de concentrar-se, de agir em coletivo, de ser criativo, etc.) e o diálogo com a equipe pedagógica. Ao fim e ao cabo, o que está em jogo para o poder público é o apoio às soluções educativas baseadas na IA que atuem no interesse do educando e que permitam o desenvolvimento de uma complementaridade capacitante com a máquina.

As experimentações devem ser acompanhadas de protocolos adaptados e, sobretudo, de uma avaliação sistemática, que está ausente com demasiada frequência. Se o desenvolvimento de experimentações deve ser um eixo maior, as avaliações devem poder prevenir desilusões e desinflar as bolhas, que são numerosas nesse domínio.

Nossa missão propõe diferentes pistas para antecipar e acompanhar a transformação das matérias ensinadas, as práticas de aprendizagem e as profissões da educação em tempos de IA.

Desenvolver uma complementaridade capacitante com a IA, reforçando o lugar da criatividade no ensino

As próximas evoluções do trabalho são tais que a formação não pode mais ser concebida na perspectiva de uma preparação para uma profissão ou uma atividade conhecida de antemão. Elas impõem que se veja com desconfiança uma abordagem adequacionista das políticas educativas. Mais do que nunca, a missão da escola é proporcionar a todos e a cada um as capacidades de apreender as transformações em curso em nossa sociedade e de se adaptar a um mundo em constante evolução; e, portanto, ela precisa nos acompanhar na construção de uma complementaridade capacitante com as máquinas. Com efeito, nem todas as formas de interação seriam desejáveis: obedecer às ordens de uma inteligência artificial, perder o controle sobre seus processos, delegar decisões à máquina são alguns dos diversos modos de complementaridade que, ao nível individual e coletivo, tendem a criar sofrimento no trabalho. É preciso, pois, chegar a afirmar que nem toda complementaridade é desejável e que uma forma de complementaridade capacitante deve, por isso, ser desenvolvida. Isso implica identificar as competências necessárias para capacitar os indivíduos em suas relações com as máquinas, apoiando-se nos experts das ciências da aprendizagem e das ciências cognitivas, nas equipes pedagógicas e nos pesquisadores em IA. Isso significa dar a todos uma cultura geral sobre a inteligência artificial e sobre o algoritmo, sobre os papéis de produtor e de consumidor e sobre os modos de trabalho específicos ao desenvolvimento desse tipo de tecnologia (modo-projeto, etc).

Ademais, se a aquisição dos saberes fundamentais e das capacidades cognitivas transversais (compreensão de linguagem, capacidades de resolver cálculos e problemas, etc) mantêm-se essencial, as competências criativas, sociais e situacionais serão cada vez mais solicitadas. Nessa perspectiva, propõe-se:

valorizar e difundir experimentações pedagógicas visando o estímulo à criatividade dos alunos. O objetivo é dar aos professores novas capacidades de ação, dentro de uma lógica de voluntariado e de valorização dos coletivos. Isso poderia se dar por financiamentos específicos, pela disposição de recursos chave-na-mão, assim como pela liberação de tempo de trabalho para permitir aos professores documentar e compartilhar suas práticas;
elaborar indicadores de bem estar e de criatividade, sem procurar uma precisão forte demais, o que seria uma armadilha; e sem que isso seja utilizado para fins que possam ser estressantes ou desvalorizadores;
testar novos dispositivos de formação de professores, focados no desenvolvimento pessoal e na criatividade. As formações continuadas, certificadas pelo Ministério, poderiam se estender a novas atividades e lugares de criação do tipo makerspaces, fablabs, third-places. Percursos típicos de formação em práticas pedagógicas inovadoras poderiam ser propostos;
pôr à disposição dos professores novas ferramentas para desenvolver práticas pedagógicas que favoreçam a criatividade: tutorias para ajudá-los a organizar atividades criativas, ou lhes dar acesso a uma oferta padrão de saídas educativas típicas na escala da municipalidade.

Desenvolver o domínio pelo educando sobre seus dados de aprendizagem em ligação com sua equipe pedagógica

Os serviços educativos baseados na IA funcionam graças à coleta e à exploração de dados produzidos pelo educando enquanto realiza sua aprendizagem. Com efeito, certas métricas permitem codificar eventos de aprendizagem a partir de mudanças registradas de atividade (parar um vídeo, recuar, recomeçar) e, daí, descrever trajetórias de aprendizagem (apropriação, aplicação, reemprego, esquecimento), a fim de propor um percurso personalizado. Essas analíticas de aprendizagem permitem estabelecer um continuum entre atividades diversas (ler um curso, fazer um exercício, assistir a um vídeo, fazer uma atividade extraescolar) e fornecer informações ao educando para adaptar sua aprendizagem e dialogar com a equipe pedagógica. Mais ainda, elas abrem para o educando a possibilidade de fazer reconhecer certas competências adquiridas fora da escola (educational badges, validação por pares, certificado de MOOCs [Massive Open Online Courses, Cursos Online Abertos Massivos], etc), sob o controle de um terceiro de confiança (equipe pedagógica, estabelecimento escolar, ministério).

Para fazer emergir uma verdadeira P&D (Pesquisa e Desenvolvimento) da IA em educação, está em questão facilitar a exploração de dados de aprendizagem sob o controle do educando ou de seus responsáveis pedagógicos. Para fazê-lo, é necessário cartografar os dados pertinentes em matéria de aprendizagem para o educando e sua equipe pedagógica (dados sobre o emprego do tempo, dados de descrição sobre o ambiente de aula, notas e eventos de aprendizagem, etc.). Em seguida, conviria desenvolver vias de acesso e de enriquecimento de seus dados, que respeitem os direitos e interesses dos educandos. Nessa óptica, experimentações poderiam ser lançadas a fim de testar diferentes dispositivos:

experimentar a disponibilização de uma nuvem pessoal de aprendizagem, visando prover o direito de o educando recuperar seus dados e controlar seus compartilhamentos;
no quadro das atividades pedagógicas realizadas em aula, experimentar com professores novos métodos para documentar as trajetórias de aprendizagem dos alunos em contínuo (tempo de realização, dificuldades/facilidades encontradas durante um exercício, etc.) e tornar essas informações facilmente reutilizáveis sob a forma de um portfólio digital (categorização, opções de compartilhamento com os outros responsáveis pedagógicos, etc.).

Essas experimentações permitiriam documentar os usos ao redor dos dados de aprendizagem, a fim de identificar as boas práticas, formalizá-las e difundi-las mais largamente. Sobre esta base, um dispositivo poderia ser estabelecido de modo a sensibilizar os educandos, as equipes pedagógicas e os funcionários de estabelecimentos para o controle sobre os dados de aprendizagem e seus usos (guia de boas práticas, elaboração de documentos éticos, etc.). Apenas nessa condição os dados de aprendizagem poderão verdadeiramente servir de suporte a uma estratégia ou decisão pedagógica compartilhada.

Acompanhar a transformação das relações sociais de aprendizagem e das profissões em educação

O desenvolvimento da inteligência artificial modifica em profundidade o cotidiano dos professores. Por um lado, a IA pode ajudar o professor a cumprir mais facilmente ou delegar certas ações, e, portanto, a liberar tempo para o acompanhamento de seus alunos. Certas IAs permitem aos professores se basearem nos programas, acessarem recursos abertos ou bibliotecas de projetos, facilitarem a gestão administrativa de uma turma ou ainda proverem assistência à correção. Por outro lado, a IA revela novas informações sobre os percursos de aprendizagem de seus alunos, e, por isso, engaja os professores em reinventar suas práticas pedagógicas.

Se as profissões em educação sempre deram provas de uma grande capacidade de adaptação às mudanças, a IA levanta numerosas inquietudes sobre a amplitude das transformações pedagógicas por vir. Se não se trata de substituir os professores por máquinas, a disponibilidade de informações finas e em tempo real sobre a aprendizagem dos alunos implica a transformação do desenho do curso (escolha de exercícios, gestão dos tempos coletivos, parcerias de alunos) e, progressivamente, o deslocamento do valor de seu educar para a ambientação da experiência de aprendizagem e o acompanhamento personalizado dos alunos.

Essas novas métricas de aprendizagem são chamadas a se tornar suportes do diálogo pedagógico com o educando e, potencialmente, com seus pais: melhor compreensão dos percursos de aprendizagem e das dificuldades encontradas, discussões sobre os métodos pedagógicos e objetivos a alcançar, etc. Logo, o que está em jogo é documentar as práticas para se assegurar de que a IA não seja mobilizada para lógicas de vigilância ou de otimização incrementada de performance, mas sim para aumentar o poder de agir dos professores no exercício de sua liberdade pedagógica e o diálogo com seus alunos.

Para acompanhar essas evoluções, propõe-se:

privilegiar o lançamento de experimentações na base do voluntariado, a fim de acompanhar os portadores de projetos a testar, documentar e compartilhar seus retornos de experiência pedagógica;
implementar um sistema de incentivo à ascensão do Ministério (avanço na carreira, bônus, etc.) e/ou nas redes peer-to-peer (nos moldes dos teacher awards no Reino Unido).

Transformar as políticas educativas graças à inteligência artificial

Os progressos em matéria de IA abrem perspectivas interessantes para repensar as políticas educativas implementadas pelo ministério. Com efeito, quer se trate da luta contra a evasão escolar, a detecção precoce de dificuldades (dislexia, por exemplo), a redução de desigualdades entre alunos ou a inovação pedagógica, as soluções de IA desenvolvidas atualmente permitem documentar melhor os fenômenos, identificar as necessidades e as oportunidades de ação, e trazer elementos novos de solução. São, portanto, capazes de transformar duradouramente as políticas educativas. Entretanto, para chegar a isso, é essencial definir claramente os objetivos procurados em vista das diferentes missões do ministério, os meios a utilizar para alcançá-las assim com os princípios supostos a enquadrar sua implementação.

Trata-se, em todo caso, de gerir e utilizar os dados dos alunos com a maior prudência.

Mobilizar o potencial da IA para combater as evasões e facilitar a orientação

Evasão e luta contra as desigualdades escolares

A cada ano, 100.000 jovens saem do sistema escolar francês sem nenhum diploma. Ao mesmo tempo, o absenteísmo mantêm-se um fenômeno de amplitude: 25% dos jovens de 15 anos declaram ter faltado^[1] a certos cursos nas duas semanas precedentes aos testes PISA^[2] (programa internacional para acompanhamento do aprendizado dos alunos). Enquanto a evasão de um aluno se mede geralmente à luz de um percurso de aprendizagem normatizado e de objetivos pedagógicos pré-estabelecidos, a IA permite, ao contrário, partir do educando para maximizar seu potencial. Ela abre assim perspectivas interessantes para:

compreender melhor os prováveis fatores de risco para que um aluno caia no absenteísmo ou na evasão escolar, e intervir em direção contrária, alertando a comunidade educativa e reorganizando seu dispositivo humano de acompanhamento (ex: tutorado ponto a ponto, remediação com a equipe pedagógica e os pais);
trabalhar em diferentes níveis de motivação e engajamento do educando, em complemento às ações tomadas em aula.

Orientação escolar e profissional

A orientação é assunto a assumir centralidade à medida em que as trajetórias profissionais tornam-se menos lineares sob efeito das transformações digitais. Novos dispositivos de auxílio à IA vêm à luz do dia para ajudar os educandos e/ou pessoas em busca de emprego a construir um percurso de orientação personalizado, a partir das competências adquiridas, de suas aspirações, da configuração do mercado de trabalho (ofertas de vagas, fileiras sob tensão, tendências emergentes, perfis de empregados no setor considerado) e do meio. Estes dispositivos abrem perspectivas interessantes, desde que se inscrevam em complementação às ações de acompanhamento tomadas pelos profissionais de orientação (conselheiro de orientação, equipe pedagógica, agente de polo de emprego, etc.). Nos dias de hoje, encontram-se em estado muito experimental.

Igualmente importa é velar para que esses dispositivos não reproduzam nenhum viés discriminador e combatam todas as formas de determinismo social. Com efeito, sendo as ambições acadêmicas e profissionais bastante influenciadas, frequentemente, por nosso meio social, econômico e cultural, importa velar para que esses dispositivos de orientação não reforcem a dependência a essas caminhos por meio de uma abordagem puramente probabilista (subjacente às soluções da IA), mas sim desenhem alternativas, pondo os educandos no centro das escolhas de orientação.

Sustentar o desenvolvimento de um ecossistema Edtech alinhado com os valores de nosso sistema educativo

Numerosas iniciativas que visam melhorar a aprendizagem dos alunos pelo digital estão em vias de desenvolvimento. Elas são conduzidas por indivíduos, coletivos e organizações diversas, tanto no interior dos estabelecimentos e do Ministério (pesquisadores, professores, agentes administrativos, empreendedores de interesse geral, etc.), quanto do exterior (startup edtech, atores de edição, etc.). Elas manifestam a emergência de um ecossistema edtech diversificado na escala nacional e europeia.

Todavia, as iniciativas edtech têm dificuldade hoje em serem desenvolvidas além de seus círculos iniciais de utilizadores. Com efeito, contrariamente ao ensino superior, o setor da educação permanece largamente nacional.^[3] Os programas contidos e os objetivos designados para a escola diferem no seio do espaço europeu. Esta fragmentação, assim como as diferenças culturais e a complexidade dos procedimentos de apelo de ofertas – e, mais largamente, de aquisição, mesmo a título experimental – constituem uma importante barreira para a entrada dos portadores de inovação edtech, que escolhem frequentemente investir no setor editorial de conteúdos – que é, no entanto, dominado pelos atores da edição –, ou mirar em outros mercados fora da União Europeia (americano, coreano e chinês).

Este posicionamento estratégico penaliza o desenvolvimento de uma oferta edtech europeia e levanta a questão da sustentabilidade de nosso sistema educativo no momento mesmo em que os usos educativos se deslocam massivamente rumo a serviços fora da UE (produção de conteúdos no Google docs, páginas de turma no Facebook, etc.). Se a situação durar, podemos recear que estas iniciativas não atinjam jamais o tamanho crítico necessário para serem viáveis e sejam, consequentemente, suplantadas pelos serviços de concorrentes estrangeiros que se inscrevem em um contexto e em uma tradição pedagógica diferentes. Para sustentar a emergência de iniciativas edtech em fase com os valores de nosso sistema educativo, chegou a hora, portanto, de estabelecer uma política voluntarista sobre a governança dos dados e sobre a aquisição de dispositivos edtech inovadores.

Facilitar a experimentação em condições reais e a aquisição de dispositivos edtech pelos estabelecimentos

Numerosos portadores de projeto fizeram chegar suas dificuldades de acesso aos mercados educativos após a fase de experimentação. São vários os limites ao desenvolvimento das iniciativas edtech nos estabelecimentos: a ausência de interlocutores identificados, a fraca cultura digital dos compradores públicos e a falta de meios e de competências, que faz com que não sejam preenchidas as condições de apelos a ofertas complexas (sobretudo para as pequenas estruturas). É por isso que se propõe:

desbloquear fundos de investimento específicos para o desenvolvimento e o desdobramento de ferramentas edtech;
criar sandboxes que reúnam estabelecimentos voluntários e portadores de projeto edtech para colaborações experimentais que possam desembocar em procedimentos de mercado público simplificados (inspirar-se, no Ministério da Educação nacional, na Partenariat d’innovation [Parceria de inovação] do Caisse des Dépôts et Consignations [Fundo de depósitos e consignações]);
estabelecer dispositivos de assistência à redação de apelos de ofertas para os mercados públicos com destino a pequenas estruturas (por exemplo, escolas primárias, colégios, liceus);
sensibilizar os compradores públicos para a compra de serviços educativos inovadores;
negociar as vias de acesso e de compartilhamento de dados de aprendizagem detidos pelos atores digitais que capturam os usos educativos (Google com Youtube e Google Drive, Facebook, LinkedIn, Microsoft, Amazon, Kindle, etc.).

Desenvolver procedimentos de auditoria das ferramentas edtech

Acompanhar o desenvolvimento de ferramentas edtech implica verificar quais escolhas tecnológicas de soluções IA, utilizadas num contexto pedagógico, estão em conformidade com os objetivos de políticas educativas fixadas pelo Ministério. O desafio consiste, portanto, em documentar os usos educativos que se desdobram a partir destes sistemas; até mesmo em desdobrar procedimentos de controle a posteriori.

O desenvolvimento das tecnologias de IA no domínio levanta numerosas considerações éticas, ligadas, de uma parte, à relativa opacidade de tais tecnologias; e, de outra parte, aos possíveis abusos de uso. Assim como toda tecnologia que repousa sobre a aprendizagem de máquina, os sistemas autônomos desenvolvidos pelos atores de edtech permanecem dificilmente explicáveis e, portanto, justificáveis. Portanto, é essencial promover as soluções mais transparentes e explicáveis.

Concretamente, trata-se de incitar os atores do mercado a desenvolverem sistemas em condições de informar aos estudantes, parentes e professores em termos inteligíveis a respeito da lógica do tratamento operado (etapas chaves do raciocínio), de suas implicações e dos potenciais efeitos, a fim de administrar espaços de questionamento/contestação que limitam os efeitos prescritivos das recomendações/decisões emitidas. Em matéria de orientação, isso se revela tanto mais necessário quanto os sistemas autônomos são suscetíveis de conter vieses discriminatórios em todas as etapas das bases de dados utilizadas, desde os tratamentos operados pelos algoritmos até as decisões tomadas. Portanto, é necessário pesquisar e combater ativamente este viés, a fim de garantir a equidade (fairness) destes sistemas.

Acompanhar a transformação das profissões no seio do Ministério

Essas profundas transformações devem ser acompanhadas pelos poderes públicos e, em primeiro lugar, pelo ministério da Educação nacional e pelo ministério do Ensino superior, da Pesquisa e da inovação. Estruturas internas voltadas a isso deveriam ter por missões:

facilitar a concretização de projetos inovadores no seio da Educação nacional e do ensino superior;
animar uma atenção e uma reflexão prospectiva sobre os assuntos tais como a IA; e adaptar a sua cultura aos desafios para a Educação;
permitir o encontro e as trocas entre os atores implicados: professores, pessoal do Ministério, equipes pedagógicas, pesquisadores, empreendedores, associações da sociedade civil, etc.

Notas

^[*] O presente texto é uma tradução de: VILLANI, Cédric et al. Focus 1 – Transformer l’éducation. In: VILLANI, Cédric (dir.). Donner un sens à l’intelligence artificielle. Pour une stratégie nationale et européenne (Rapport de la Mission parlementaire confiée par le Premier Ministre Édouard Philippe, du 8 septembre 2017 au 8 mars 2018). p. 184-192.

^[1] MONSEUR, Christian; BAYE, Ariane. L’absentéisme scolaire en France comparativement aux pays de l’OCDE. Contribution publiée par le Cnesco dans le cadre dela conférence de comparaisons internationales sur le décrochage scolaire, 2017.

^[2] Conjunto de estudos conduzidos pela Organização para cooperação e desenvolvimento econômico (OCDE), visando medir as performances dos sistemas educativos dos países membros e não membros.

^[3] BARRÈRE, Anne; DELVAUX, Bernard (org.). La fragmentation des systèmes scolaires nationaux. Dossier du Clep, n° 76, décembre 2017.