Navigating the Digital Classroom: Analyzing risks to children’s data protection in educational technology

Abstract

Tecnologias educacionais (edtech) possuem um vasto potencial para transformar a educação, melhorando o acesso, o engajamento e a igualdade, especialmente após a pandemia de COVID-19. A realização plena desses benefícios, no entanto, ainda é uma perspectiva distante. As mudanças observadas até agora parecem incrementais e desiguais, com seu impacto sendo fortemente condicionado pelo contexto socioeconômico das comunidades onde são implementadas, bem como pela preparação e disposição dos educadores em adotá-las. Além disso, edtech ainda podem gerar efeitos colaterais preocupantes, especialmente em relação aos direitos de crianças à privacidade e à proteção de dados pessoais. Dado que estas dedicam uma parte significativa de seu tempo a atividades educacionais, os detalhados dossiês digitais criados sobre elas podem afetar potencialmente seu desempenho acadêmico, admissões universitárias, perspectivas de emprego e acesso a serviços públicos essenciais. Usando a teoria do colonialismo de dados como marco teórico, a tese teve como objetivo mapear os desafios que as edtech apresentam para os direitos das crianças à privacidade e à proteção de dados pessoais, e entender até que ponto o atual marco normativo no Brasil e na União Europeia (UE) os endereçam. Examinar as experiências das crianças com edtechs e o impacto em seu desenvolvimento e processos de aprendizagem é crucial para entender o futuro da autonomia individual e coletiva, bem como a transformação da cidadania e a trajetória de nossa sociedade. A tese começa explorando a história das edtechs, a interação entre a implementação de edtechs e as discussões educacionais em andamento, e a teoria do colonialismo de dados como marco teórico (Parte I). A Parte II descreve e analisa como o marco regulatório da UE e do Brasil regulamentam a privacidade e a proteção de dados de crianças, com foco na Convenção sobre os Direitos da Criança, no GDPR e na LGPD. A Parte III concentra-se em mapear desafios horizontais relacionados à privacidade e à proteção de dados das crianças decorrentes da implementação de Inteligência Artificial (IA) na educação e desafios que edtechs específicas apresentam, com base em uma tipologia desenvolvida na Parte I. A Parte III também inclui um estudo sobre o Google Workspace for Education como um exemplo para entender as especificidades na implementação de outras edtechs. Ao final, confirma-se a hipótese de pesquisa de que o atual funcionamento de sistemas de IA na educação e o modelo de negócios baseado na comodificação de dados pessoais apresentam desafios para o melhor interesse das crianças que ainda não foram endereçados nas atuais leis de proteção de dados na Europa e no Brasil.

Educatieve technologie (edtech) heeft enorm potentieel om het onderwijs te transformeren door de toegang, betrokkenheid en gelijkheid te verbeteren, vooral in het licht van de COVID-19-pandemie. De volledige realisatie van deze voordelen lijkt echter nog steeds ver weg. De tot nu toe waargenomen veranderingen lijken geleidelijk en ongelijk, waarbij hun impact sterk afhankelijk is van de sociaal-economische context van de gemeenschappen waar ze worden geïmplementeerd, evenals de bereidheid en bereidheid van opvoeders om ze aan te nemen. Bovendien kan edtech nog steeds zorgwekkende bijwerkingen hebben, met name met betrekking tot de rechten van kinderen op privacy en de bescherming van persoonsgegevens. Aangezien kinderen een aanzienlijk deel van hun tijd besteden aan educatieve activiteiten, kunnen de gedetailleerde digitale dossiers die over hen zijn aangemaakt potentieel van invloed zijn op hun academische prestaties, universitaire toelatingen, carrièremogelijkheden en toegang tot essentiële openbare diensten. Met behulp van de theorie van datakolonialisme als normatief kader, had de scriptie tot doel de uitdagingen te in kaart te brengen die edtech presenteert voor de rechten van kinderen op privacy en de bescherming van persoonsgegevens, en te begrijpen in hoeverre het huidige wettelijke kader in Brazilië en de Europese Unie (EU) deze aanpakken. Het onderzoeken van de ervaringen van kinderen met edtech en de impact ervan op hun ontwikkeling en leerprocessen is cruciaal voor het begrijpen van de toekomst van individuele en collectieve autonomie, evenals de transformatie van burgerschap en de koers van onze samenleving. De scriptie begint met een diepgaande verkenning van de geschiedenis van edtech, de interactie tussen de implementatie van edtech en lopende onderwijsdiscussies, en de theorie van datakolonialisme als theoretisch kader (Deel I). Deel II beschrijft en analyseert hoe het wettelijk kader van de EU en Brazilië de privacy van kinderen en de gegevensbescherming reguleren, met de nadruk op het Verdrag inzake de Rechten van het Kind, de GDPR en de LGPD. Deel III richt zich op het in kaart brengen van horizontale uitdagingen met betrekking tot de privacy van kinderen en gegevensbescherming die voortkomen uit de implementatie van Kunstmatige Intelligentie (AI) in het onderwijs, evenals specifieke uitdagingen die zich voordoen bij sommige edtech, gebaseerd op een typologie ontwikkeld in Deel I. Deel III omvat ook een studie naar Google Workspace for Education als een kader om de specificiteiten in de implementatie van andere edtech te begrijpen. Over het algemeen bevestigt het de onderzoekshypothese dat de huidige werking van AI-systemen in het onderwijs en het wijdverspreide bedrijfsmodel gebaseerd op gegevenscommodificatie uitdagingen vormen voor het beste belang van kinderen die nog niet zijn aangepakt in de huidige kaders voor gegevensbescherming in Europa en Brazilië.