Algoritmos aplicados a los sistemas educativos
Los algoritmos se utilizan para incrementar las ventas, detectar posibles clientes, seleccionar personal, identificar información de los usuarios de redes sociales, solucionar problemas matemáticos, aplicar evaluaciones y desarrollar la inteligencia artificial, entre otras tareas, así como también hay algoritmos aplicados a los sistemas educativos.
La palabra algoritmo se debe al matemático persa del siglo IX conocido como Al-Juarismi (Abu Abdallah Muḥammad ibn Mūsā), quien escribió el primer libro de algebra: Compendio de Cálculo por Reintegración y Comparación. El nombre álgebra proviene directamente de la palabra usada en el su libro: al-jabr.
Un algoritmo es una secuencia de instrucciones codificadas para solucionar un problema automáticamente. Las instrucciones se ejecutan de forma sistemática por un tiempo determinado. Dicha secuencia tiene una entrada y una salida de las instrucciones, pero si todo el proceso se enlaza mediante inteligencia artificial significa que las máquinas desarrollan la habilidad de aprender y mejorar los algoritmos (machine learning).
Por las implicaciones éticas y los riesgos de la aplicación de una herramienta tan poderosa, se realizan esfuerzos de supervisión de los algoritmos por parte de las autoridades reguladoras de cada país y de otros organismos especializados, como la Red en Defensa de los Derechos Digitales y el Observatorio de algoritmos con impacto social de la Eticas Foundation.
En +PinionTips hemos analizado la Ética para programadores en el diseño de algoritmos, donde destacamos, por ejemplo, el algoritmo de YouTube, diseñado para mantener la atención del usuario al recomendarle videos, pero siempre con publicidad de por medio.
Desde el comienzo, su algoritmo fue diseñado para dar prioridad a los videos virales que generan una reacción emocional y no para destacar contenidos de calidad.
Otro ejemplo conocido es el caso del algoritmo de Amazon para selección de empleados. Un sistema de inteligencia artificial (IA) iniciado en 2014, recibía los datos de 100 candidatos y determinaba los cinco mejores con base en criterios formados mediante su propia experiencia. Pero la compañía se percató de que el sistema tenía un sesgo contra las mujeres y sugería contratar sólo hombres.
El problema consistía en que la IA había sido alimentada con datos de empleados contratados en la última década y, siendo una industria dominada por el género masculino, la IA detectó este patrón y “aprendió” que las mujeres no eran candidatas.
Si bien el caso muestra que los algoritmos pueden incrementar los sesgos y la discriminación, también documenta que sirven para identificar estos mismos prejuicios y sesgos en la sociedad, señala Paulette Delgado.
Aunque existe la idea de que en gran medida las máquinas son árbitros neutrales, entidades que siempre toman la decisión correcta y detectan patrones que nuestras mentes no pueden o no quieren detectar, ¿son en realidad neutrales? ¿O también amplifican y extienden los prejuicios y la discriminación que prevalece en la sociedad?, se pregunta Delgado.
El Observatorio de algoritmos con impacto social, parte de la Eticas Foundation, revisa gran cantidad de casos en los cuales se han aplicado algoritmos con resultados variables en diversos sistemas educativos del mundo. A continuación, recuperamos cinco ejemplos.
- Inglaterra: un algoritmo de predicción de calificaciones
Luego del cierre de las escuelas por COVID-19, el Secretario de Educación del Reino Unido, Gavin Williamson, anunció que un algoritmo asignaría las notas a aquellos estudiantes que hicieran sus exámenes.
Ofqual, el organismo regulador en educación, explicó que su algoritmo asignaría las notas utilizando un modelo estandarizado que examinaba variables como: evaluación del profesor, clasificación de la clase y rendimiento general de las escuelas de procedencia.
El caso resultó en 39% de estudiantes subcalificados, lo que desató protestas en todo el país para que se revisara el proceso. A lo anterior se sumó un problema similar con las calificaciones de nivel avanzado, en las que se basan las universidades para admitir a los estudiantes.
Aquí también el algoritmo subcalificó estudiantes y dejó a algunos sin acceso a la universidad. En ambos casos, el gobierno canceló los procedimientos y optó por obtener resultados mediante los exámenes simulados y las evaluaciones de maestros, o permitieron a los estudiantes presentar exámenes posteriormente.
La abogada especialista en educación Amara Ahmad, sostiene que el algoritmo pondría en desventaja a los estudiantes de grupos étnicos minoritarios y de bajo nivel socioeconómico, pues los estereotipos y prejuicios en torno a ellos suelen influir en las evaluaciones de los profesores en detrimento de los estudiantes, lo cual crea sistemas de predicción defectuosos. - Algoritmo francés Parcoursup
Este algoritmo fue diseñado para la selección de candidatos a las universidades francesas, pero en 2018, la herramienta de admisión algorítmica rechazó por motivos poco claros a futuros estudiantes de universidades públicas, reportó Algorithm Watch en 2019.
Cualquier solicitante con un diploma de secundaria podía antes inscribirse en la universidad, pero Parcoursup, según los informes, determinó rechazar y admitir estudiantes con base en criterios de selección opacos. El gobierno tuvo que publicar el código fuente que hacía la selección.
Se comprobó así que el software, el cual hacía la selección a partir de procesar los datos personales y la información del solicitante, obtenía el resultado basado también en antecedentes no relacionados que ponían en desventaja a unos candidatos frente a otros. - Edgenuity y los estudiantes que “se pasan de listos”
En Estados Unidos sucedió un caso inverso, cuando los estudiantes descubrieron que la inteligencia artificial de la plataforma Edgenuity tenía preferencia por ciertas palabras y de inmediato las usaron en sus respuestas. La IA asumió entonces que cubrían todo el tema y les dio la puntuación máxima.
El problema es que un algoritmo que estandariza o asigna calificaciones no toma en cuenta muchos aspectos importantes de las habilidades de un alumno, pues se enfoca más en saber si memorizaron la información, sin comprender si la entendieron o la asimilaron. - Polonia y su sistema de gestión de la educación
El gobierno polaco usa algoritmos que evalúan factores como: número de candidatos, hogares monoparentales, alergias alimentarias infantiles, situación material y aun discapacidades, para asignar niños a sus escuelas, (Algorithm Watch en 2019).
Uno de estos sistemas, la Plataforma de gestión educativa (Platforma Zarządzania Oświatą) creada por Asseco Data Systems, se utiliza en 20 ciudades polacas para asignar estudiantes a más de 4 mil 500 escuelas y centros de educación preescolar.
El sistema gestiona muchas funciones: la contratación en los diversos niveles de la escuela, la información sobre los estudiantes, el análisis de la asistencia, el inventario de equipo, la expedición de certificados e identificaciones, el cálculo y el pago de las becas, la comunicación entre los padres y los órganos de la escuela, la organización institucional (calendario, planes de lecciones y de contratación, planificación de listas) y otros componentes.
Si bien la plataforma ha sido apoyada por su eficiencia y rentabilidad, no han faltado controversias. En particular en el nivel preescolar, donde el suministro de opciones de escolarización es bajo y los padres sienten que el destino educativo de sus hijos está en manos de un sistema arbitrario y opaco.
Estas dudas se comprobaron en 2018 en la ciudad de Wroclaw, donde el algoritmo funcionó mal y asignó a cientos de niños a escuelas preescolares equivocadas. Los funcionarios se disculparon de inmediato, pero tuvieron que cambiar a muchos niños de escuela a mitad del año. -
IA aplicada en educación superior en México
Eduardo Hernández de la Rosa, Vicerrector Académico de la Universidad del Oriente, en Mérida, narra en El Observatorio de Innovación Educativa del Tec de Monterrey, una experiencia de implementación de IA en ese contexto.
En la Universidad de Oriente utilizaron la herramienta Dialogflow y crearon un chatbot orientado a dar respuestas automatizadas a los estudiantes. El objetivo principal fue construir un auxiliar pedagógico que respondiera a sus inquietudes.
Para alimentar el chatbot se estructuraron respuestas basadas en el aprendizaje invertido, lo cual contribuye a retroalimentar las inquietudes de la clase, a dar una respuesta accesible y a remitir a los estudiantes a fuentes de consulta multimedia para mejorar su experiencia.
El trabajo académico con este tipo de chatbots permite, además, la vinculación con otras herramientas que ayuden a los estudiantes a establecer retos de aprendizaje, como cápsulas que profundizan en los temas y los enganchan en contextos de desarrollo profesional.Las oportunidades que trajo el chatbot a los estudiantes fueron muy variadas, desde poder atender dudas sobre fechas de entregas y características de trabajos, hasta profundizar en las ideas vistas en clase.
Sin duda, cada vez habrá más ejemplos de cómo impulsar la docencia, la comunicación con los estudiantes, la evaluación y la gestión escolar y académica en general, mediante el uso de algoritmos y las perspectivas de la IA en la educación.
Con información de:
—La era de los algoritmos: ¿Qué son y cómo impactan nuestro día a día? Paulette Delgado / Observatorio TecMex (noviembre, 2020).
https://observatorio.tec.mx/edu-news/la-era-de-los-algoritmos
—¿Algoritmos que toman decisiones éticas y morales? Sebastián Aguirre / Revista Universidad EAFIT (diciembre, 2019).
https://publicaciones.eafit.edu.co/index.php/revista-universidad-eafit/
—¿Puede un algoritmo educar a un niño? Salvo Rodríguez (junio, 2018).
http://www.salvarojeducacion.com/2018/06/puede-un-algoritmo-educar-un-nino.html
—¿Cómo aplicar Inteligencia Artificial en educación? Eduardo Hernández / Observatorio TecMex (agosto, 2020).
https://observatorio.tec.mx/edu-bits-blog/inteligencia-artificial-en-educacion
—Implicaciones éticas de una sociedad cada vez más gobernada por algoritmos. Aníbal Monasterio / CSIC Gobierno Vasco (España, 2017).
Ética algorítmica – Dialnet PDF/
