¿El sistema educativo está preparado para funcionar en entornos con gran cantidad de datos?

¿Qué tienen en común iniciativas como el aprendizaje personalizado y adaptativo, los chatbots educativos, (i) los programas de traducción automática o el uso de análisis predictivos del aprendizaje? En todos los casos, son componentes de una "educación basada en datos".

En muchos países, existe un claro interés por ampliar el papel que cumplen las tecnologías digitales en la educación, que conduce, inevitablemente, a sistemas educativos con gran cantidad de datos. Dado el creciente interés por los sistemas de tutoría inteligente adaptativos que permiten la interacción mediante lenguaje natural, (i) las herramientas para predecir la deserción escolar (i) o los nuevos sistemas automatizados para aumentar el número de alumnos inscritos, (i) es probable que las tecnologías educativas con gran cantidad de datos adquieran mayor importancia en los próximos años.

Si bien dichas innovaciones tecnológicas pueden generar nuevos beneficios, también es importante entender que podrían dar lugar a cambios imprevistos en el actual panorama educativo. La pérdida o la divulgación de información personal, o el acceso no autorizado a ella, han concitado la atención de los medios de comunicación en forma reciente, pero la falta de transparencia, el sesgo automatizado, o el uso de los datos para influir en la conducta del usuario, (i) también plantean grandes desafíos que deben tenerse en cuenta al examinar estas tendencias.

Los cambios en el panorama educativo exigirán que los alumnos y los docentes posean más conocimientos sobre el uso de datos, así como también que las organizaciones y los administradores educativos elaboren una estrategia (más) proactiva e integral cuando planifiquen e implementen sistemas educativos con gran cantidad de datos, y a medida que aumente su interacción con ellos.

Con los sistemas inteligentes (avanzados), por ejemplo, los que pueden identificar patrones o reconocer voces, rostros, imágenes, textos o, incluso, pulsaciones de teclado, se generará una mayor necesidad de impartir conocimientos sobre algoritmos. Esta cuestión entrañará ampliar algunas de las actuales definiciones de alfabetización digital, incluso las relativas al uso de la inteligencia artificial (IA), así como desarrollar nuevas capacidades institucionales, que ayuden a educadores y administradores a adoptar estas herramientas de manera segura, ética y transparente.

La creciente importancia de los sistemas con gran cantidad de datos plantea nuevos desafíos (e interrogantes) que se prevé desempeñarán un papel crucial durante la próxima década. Las siguientes son algunas de las preguntas que será importante analizar y responder de manera sistemática, tanto en el ámbito interno como externo de las instituciones educativas, a medida que los países adopten herramientas que permitan establecer prácticas educativas basadas en mayor medida en datos:

Privacidad y protección de los datos: ¿Quién tiene mis datos? ¿Los datos están seguros? ¿Qué datos están en posesión de terceros? ¿Dónde? ¿Quién tiene acceso a ellos? ¿Quién está haciendo un seguimiento de mi información? ¿Cuáles son mis derechos? ¿Qué puedo hacer para proteger mi privacidad? ¿Dónde se obtiene ayuda relacionada con esta cuestión? (i)

Uso ético de los datos: ¿Qué riesgos supone la utilización de sistemas automatizados? ¿Cómo se adoptan soluciones técnicas para la educación sin descuidar las implicancias éticas? (i) ¿En qué procesos y circunstancias es apropiado utilizar sistemas con gran cantidad de datos (IA)?

Rendición de cuentas respecto de los datos: ¿Cómo se ha evaluado el uso ético de los datos? ¿Los datos se han captado con el conocimiento y el consentimiento de todas las partes involucradas? Si se pretende utilizar los datos personales recopilados previamente para un nuevo fin, ¿qué se debe hacer? ¿Qué mecanismos de control de calidad se deben crear y aplicar para usar los mejores datos posibles?

Conocimientos sobre algoritmos: ¿Qué impactos positivos y negativos podría tener en las personas el uso de la IA en el sistema educativo? ¿Cómo se lleva a cabo una evaluación crítica de los resultados derivados del uso de los sistemas de IA? (i) ¿En qué medida los marcos actuales de alfabetización digital abordan una comprensión más profunda de las implicancias éticas y sociales de los macrodatos?

Participación y responsabilidad: ¿Cómo se prepara a los alumnos y los educadores para que se protejan a sí mismos de los usos no previstos de la tecnología? ¿Los usuarios finales pueden intervenir más activamente en el diseño o la aplicación de herramientas educativas con gran cantidad de datos?

Percepción de los sesgos: ¿Cómo se minimiza el impacto de los sesgos en determinados usuarios o grupos? ¿Qué conjuntos de datos se utilizan/utilizaron para entrenar al algoritmo y cuáles son sus limitaciones y sesgos potenciales? (i)

Transparencia: ¿Cómo se recopilan, analizan y usan los datos sobre los alumnos? ¿Cómo se supera el "problema de la caja negra" cuando, a raíz de su complejidad, un algoritmo es indescifrable incluso para aquellos que lo programaron? ¿Cuáles son las mejores prácticas para mantener una política transparente en materia de datos? (i) ¿Qué se debe hacer para que los datos sigan siendo claros, coherentes y comprensibles?

Capacidad explicativa: ¿Qué significa abrir la "caja negra" de la IA? ¿Cómo se deben redactar las condiciones conexas para que sean más accesibles para los usuarios? (Consulte aquí [i] un ejemplo interesante de condiciones simplificadas de diversas redes sociales).

Es indudable que existe una creciente necesidad de ampliar y diversificar los conceptos que se aplican actualmente para establecer qué significa poseer "conocimientos básicos" en una era digital. A medida que se elaboren nuevos marcos para lograr niveles más altos de transparencia y rendición de cuentas, las personas y las instituciones deberán entender dichos desafíos y adquirir conocimientos sobre las oportunidades que brindan estas innovaciones, así como sobre sus impactos sociales.

Según un informe de la UNESCO sobre este tema, publicado recientemente, existen al menos seis grandes desafíos, a saber:

• Desarrollar una visión integral de las políticas públicas en materia de IA al servicio del desarrollo sostenible.
• Garantizar la utilización equitativa e inclusiva de la IA en la educación.
• Preparar a los docentes para una educación dirigida por la IA.
• Desarrollar sistemas de datos inclusivos y de calidad.
• Reforzar las investigaciones sobre la IA en la educación.
• Tener en cuenta las cuestiones éticas y la transparencia en la recopilación, el uso y la difusión de los datos.

El creciente volumen de los datos que se recopilan dentro de un sistema educativo podría brindar perspectivas más detalladas y sofisticadas del modo en que los alumnos aprenden, y proporcionar información útil sobre la mejor manera de respaldarlos mediante el uso de la tecnología. No obstante, aún no se han resuelto muchas cuestiones fundamentales relacionadas con las potenciales consecuencias a largo plazo derivadas del seguimiento y la perfilación de los alumnos de hoy en día. (i)

La disponibilidad de buenos datos suele ser útil para tomar buenas decisiones. Esto es tan cierto en la educación como lo es en otros sectores. Sin embargo, también puede ocurrir lo opuesto cuando no se adoptan las medidas correctas. Dado que estamos ingresando en la era de la "datificación de la educación", los países deberán definir reglas y directrices para garantizar que la incorporación de la tecnología en la educación, tanto en el presente como en el futuro, sea beneficiosa, y para reducir y mitigar los riesgos durante el proceso. Si bien aún es muy pronto para pronosticar el impacto potencial del uso de la IA en la educación, no lo es para analizar el mejor modo de prepararse para el mundo que se está gestando.

La siguiente es una lista de algunas iniciativas y fuentes pertinentes que pueden ser útiles para quienes desean aprender más sobre este tema:

1. Artificial Intelligence (AI) and Education (Servicio de Investigación del Congreso, 2018) (PDF)
2. Global guidelines for Ethics in Learning Analytics (Consejo Internacional de Educación Abierta y a Distancia, 2019) (PDF)
3. Memorandum on Artificial Intelligence and Child Rights (Oficina de Innovación de UNICEF, Centro de Derechos Humanos de la Universidad de California en Berkeley, 2019)
4. Data Ethics Decision Aid and toolkit (Universidad de Utrecht, 2017)
5. ETICO platform for targeting ethic issues in education (Instituto Internacional de Planeamiento de la Educación de la UNESCO, sin fecha)
6. Review of the online learning and Artificial Intelligence education market (Departamento de Educación Británico, 2018)
7. A basic introduction to AI (Universidad de Helsinki y Reaktor, 2018)

También pueden ser de interés los siguientes artículos conexos publicados en inglés en el blog EduTech:

• What are developing countries doing to help keep kids safe online? (¿Qué medidas están adoptando los países en desarrollo para proteger a los niños en Internet?)
• On-line safety for students in developing countries (Seguridad en línea para los alumnos en los países en desarrollo)
• Who owns the content and data produced in schools? (¿A quiénes les pertenecen los contenidos y los datos que se producen en las escuelas?)

Nota: La imagen utilizada en la parte inicial de este artículo fue publicada por Christa Dodoo (i) en Unsplash. Todas las fotografías publicadas en Unsplash pueden usarse en forma gratuita. (i)