Os planos do Google de trazer IA para a educação tornam seu domínio nas salas de aula mais alarmante

O gigante da tecnologia expressou a ambição de transformar a educação com inteligência artificial, levantando novas questões éticas.

Os planos do Google de trazer IA para a educação tornam seu domínio nas salas de aula mais alarmante

Quando o CEO do Google, Sundar Pichai, discursou na I / O Developers Conference anual da empresa em 18 de maio de 2021, ele fez dois anúncios sugerindo que o Google é agora a organização mais poderosa do mundo em educação. Abrindo a palestra transmitida ao vivo nos jardins do campus de Mountain View, Pichai comemorou como o Google foi capaz de ajudar alunos e professores a continuar aprendendo em qualquer lugar durante a pandemia.



Minutos depois, ele anunciou a nova plataforma de linguagem de IA do Google, uma parte central da estratégia de IA de longo prazo da empresa, com um exemplo de caso de uso específico da educação. LaMDA (Modelo de Linguagem para Aplicativos de Diálogo), ele afirmou, poderia permitir que os alunos fizessem perguntas em linguagem natural e recebessem respostas de conversação sensatas, factuais e interessantes.

Então, se um aluno quisesse descobrir mais sobre o espaço, Pichai escreveu no blog da empresa , o modelo daria respostas sensatas, tornando o aprendizado ainda mais divertido e envolvente. Se aquele aluno quisesse mudar para um tópico diferente, acrescentou ele, o LaMDA poderia continuar a conversa sem qualquer retreinamento. O plano da empresa é incorporar o LaMDA em seu pacote Workspace de ferramentas, software e produtos de computação em nuvem.



Essas proclamações indicam como o Google planeja avançar seus negócios na educação após as interrupções do COVID-19 - consolidando o enorme crescimento de suas plataformas nas escolas e integrando IA ao ensino e aprendizagem. Isso está levantando novas preocupações entre os ativistas e pesquisadores de privacidade, porque dá ao Google acesso a dados sobre alunos e escolas em escala internacional.

A sala de aula global do Google



Com a reabertura de escolas em todo o mundo, o Google tem trabalhado muito para garantir que os grandes ganhos de mercado que obteve em 2020 possam ser sustentados e fortalecidos à medida que os alunos voltam às salas de aula físicas em vez de virtuais. Com o número de usuários de sua plataforma de aprendizagem digital, o Google Classroom, de até 150 milhões de 40 milhões apenas um ano antes, anunciou um novo roteiro para a plataforma no início de 2021.

À medida que mais professores usam o Classroom como seu ‘centro’ de aprendizagem durante a pandemia, muitas escolas o estão tratando como seu sistema de gestão de aprendizagem (LMS), escreveu o gerente do programa do Classroom. Embora não tenhamos planejado criar um LMS, o Google Sala de aula tem o compromisso de atender às necessidades crescentes das escolas.

O roteiro para o Classroom como uma escola LMS foi apenas um plano estabelecido em seu Aprendendo com o Google conferência, que também incluiu o lançamento de 40 novos modelos de laptop Chromebook juntamente com atualizações de recursos em seus produtos educacionais. Esses desenvolvimentos ilustram uma expansão estratégica contínua que o Google vem perseguindo na educação há 15 anos, desde o lançamento de seu software gratuito para educação em 2006 e Chromebooks de baixo custo em 2011. Sua vantagem competitiva em hardware e software escolar só avançou durante a pandemia .



A extensão constante do alcance do Google na educação sempre foi altamente controversa. Cinco anos atrás, a organização sem fins lucrativos de liberdades digitais, a Electronic Frontier Foundation apresentou uma reclamação oficial com a Federal Trade Commission contra o Google por coletar e minerar dados pessoais de crianças em idade escolar em Chromebooks e Google Apps for Education (desde que renomeado como Workspace for Education) sem permissão ou opções de exclusão. Pesquisadores da Universidade de Boras, na Suécia, destacaram como a política de privacidade do Google Apps for Education disfarçou seu modelo de negócios, tornando quase impossível verificar quais dados foram coletados sobre os alunos e para que o Google os usa.

A mineração de dados do Google na educação só se tornou mais contestada. Em fevereiro de 2020, o procurador-geral do Novo México entrou com uma ação alegando que o Google viola a privacidade dos alunos que usam seus Chromebooks e softwares, em violação às leis federais e Compromisso de privacidade do aluno da qual o próprio Google é signatário. O Google, alegou o procurador-geral, havia se comprometido a apenas coletar, manter, usar e compartilhar dados de alunos expressamente para fins educacionais, mas continuava a explorá-los para fins comerciais.

No entanto, nos meses seguintes, o Google continuou a se expandir pelos sistemas educacionais em todo o mundo, muitas vezes com o apoio de departamentos de educação em nível estadual ou nacional e de organizações internacionais como a OCDE.



As controvérsias sobre a coleta e o compartilhamento de dados provavelmente se intensificarão com a expansão do Google Sala de aula. Pesquisa publicada por uma equipe de universidades da Austrália e do Reino Unido, para a qual contribuí recentemente, destacou como centenas de fornecedores externos de tecnologia de educação são integrado ao Classroom , potencialmente permitindo que o Google estenda suas práticas de extração de dados muito além da plataforma. O roteiro do Google Sala de aula confirma seus planos de estender essas integrações, por meio de um mercado de complementos do Google Sala de aula que os professores podem atribuir sem a necessidade de logins extras dos alunos. Isso torna o próprio Sala de aula o principal portal para os alunos acessarem outros recursos que não são do Google.

Esses desenvolvimentos dão ao Google um poder de controle extraordinário no setor de tecnologia educacional, pois ele define as regras para que outros fornecedores terceirizados se integrem ao Google Sala de aula e para a troca de dados entre eles. Em sua nova função como LMS, o Classroom pode até mesmo se integrar aos sistemas de informações escolares existentes, atuando como a principal interface entre a escola e seus registros de alunos.

Juntos, a expansão do Classroom e suas integrações priorizam um modelo específico de educação com base na coleta e troca constantes de dados de alunos entre plataformas por meio do Google Cloud. A distinção entre finalidade comercial e finalidade educacional é cada vez mais difícil de ser identificada nesses empreendimentos. O modelo de negócios de extração de dados do Google tornou-se simétrico e apoia as abordagens digitais de ensino e aprendizagem que o próprio Google ajudou a estabelecer como um modelo global para o futuro da escolaridade.

Auditoria tecno-ética

O Google agora parece propenso a levar sua nova funcionalidade de IA para as escolas também. A educação não será o único setor da sociedade afetado pela interface de IA de conversação do Google - embora, como o anúncio de Sundar Pichai no I / O deixou claro, a educação é um caso de uso óbvio para tais tecnologias.

As tecnologias de grandes modelos de linguagem estão entre os mais controversos dos desenvolvimentos recentes do Google. No final do ano passado, um grupo de pesquisadores, incluindo os dois co-líderes da equipe Ethical AI do próprio Google, produziu um artigo de pesquisa alegando ideias prejudiciais, preconceitos e informações enganosas estão embutidos nesses modelos. Posteriormente, o Google demitiu os autores de sua equipe Ethical AI, levando a condenação generalizada e sérias questões sobre as implicações éticas de longo prazo de sua estratégia de IA.

Isso levanta a questão preocupante de se a instalação das tecnologias de IA de linguagem do Google em produtos educacionais pode reproduzir preconceitos e desinformação dentro das instituições de ensino. No I / O, Pichai manteve o desenvolvimento adicional para garantir que a justiça, a precisão, a segurança e a privacidade fossem incorporadas ao LaMDA antes da implementação completa, embora a demissão de seus especialistas em IA ética enfraqueça a credibilidade dessas afirmações.

De acordo com os autores de um novo artigo de pesquisa, Não seja mau: devemos usar o Google nas escolas? , a empresa merece um escrutínio muito maior antes de qualquer expansão futura na educação. Usando um método de auditoria ético-técnico, a equipe de pesquisa da University of North Texas descobriu que o Google extrai dados pessoais dos alunos, evita leis destinadas a protegê-los, visa-os a lucros, ofusca a intenção da empresa em seus Termos de Serviço, recomenda informações prejudiciais e distorcem o conhecimento dos alunos.

A auditoria técnico-ética é uma etapa importante para lidar com o papel crescente do Google na educação. Mas questões maiores permanecem sobre a influência das empresas privadas de tecnologia nos sistemas de educação públicos e estaduais, e o potencial de novas plataformas de IA e computação em nuvem para mudar as práticas e prioridades do setor escolar.

O envolvimento de empresas privadas na educação não é novo, mas a escala internacional da influência da Big Tech e as implicações tecnológicas e éticas das plataformas emergentes, IA e sistemas de dados nas escolas exigem atenção renovada. O Google produziu o hardware, o software e os sistemas de nuvem e dados subjacentes dos quais os sistemas educacionais são cada vez mais dependentes, em escalas que cruzam fronteiras geográficas e políticas e continentes. Essas são questões técnicas, éticas e políticas que não devem ser delegadas apenas a educadores e líderes escolares para serem resolvidas. Eles precisam ser tratados no nível regulatório e por meio de discussões democráticas e coletivas sobre o futuro das escolas além da pandemia.


Ben Williamson é pesquisador sênior da Universidade de Edimburgo, Reino Unido, e está no Twitter @BenPatrickWill.