La inteligencia artificial en la educación: transformación, oportunidades y riesgos

• La tecnología educativa está evolucionando para incluir la inteligencia artificial.
• La inteligencia artificial incorporará características y agencia “similar a la humana” en las tecnologías futuras.
• La política tendrá un papel importante para guiar el uso de la inteligencia artificial en la educación, maximizando beneficios y limitando riesgos.

Los educadores, estudiantes, padres y cuidadores utilizan tecnología diariamente, y esta se ha convertido en esencial para la enseñanza y el aprendizaje. Sin embargo, la familiaridad con la tecnología educativa oculta una transformación que ocurre detrás de escena: casi todas las formas de tecnología utilizadas en educación están comenzando a incorporar sistemas de inteligencia artificial (IA). Más de la mitad de los líderes escolares ya observan que el rol de la IA está aumentando en sus distritos escolares (Figura 1).

Dentro de cinco años, la IA cambiará las capacidades de las herramientas de enseñanza y aprendizaje. Esto se alinea con lo que ocurre en nuestra vida diaria; muchas personas utilizan regularmente funciones habilitadas por IA como asistentes de voz, mapeo automático y alertas tempranas de posibles fraudes con tarjetas de crédito. Ahora es el momento de comenzar a comprender las implicaciones, apoyar su uso efectivo y preparar políticas que aborden las tecnologías futuras para la enseñanza y el aprendizaje.

En esta primera entrada de una serie de seis artículos, definimos la IA de tres maneras, pasando de una visión de la IA como “similar a la humana” hacia una visión que mantiene a los humanos en el ciclo de toma de decisiones.

“la teoría y desarrollo de sistemas informáticos capaces de realizar tareas normalmente que requieren inteligencia humana”

La conciencia cultural amplia sobre la IA puede rastrearse hasta la película emblemólica de 1968 “2001: Una odisea del espacio”, en la cual una computadora HAL 9000 conversa con el astronauta Frank. “HAL” ayuda a Frank a pilotar el viaje a través del espacio, un trabajo que Frank no podría hacer por sí solo. Sin embargo, eventualmente Frank sale al exterior de la nave espacial, HAL toma el control, y esto no termina bien para Frank. HAL exhibe características similares a las humanas como razonamiento, habla y acción. Al igual que todas las aplicaciones de IA, HAL puede ayudar a los humanos, pero también introduce riesgos no anticipados.

La idea de “similar a la humana” es útil porque puede ser un atajo para entender que las computadoras ahora tienen capacidades muy diferentes de las aplicaciones tempranas de tecnología educativa. Como es el caso con HAL, las aplicaciones educativas podrán conversar con estudiantes y profesores, podrán co-pilotar cómo se desarrollan las actividades en las aulas, y podrán tomar acciones que impacten ampliamente a estudiantes y profesores. Habrá tanto oportunidades para hacer cosas mucho mejor que hoy en día, como también riesgos que deben anticiparse y abordarse.

El atajo de “similar a la humana”, sin embargo, no es útil porque la IA procesa información de manera diferente a como lo hacen las personas. Cuando ignoramos las diferencias entre personas y computadoras, podemos formular políticas para la IA en educación que fallen en su objetivo.

“computación que actúa independientemente hacia un objetivo basada en inferencias a partir de teoría o patrones en datos”

Esta segunda definición enfatiza la agencia: que los sistemas de IA tomarán decisiones que impactarán la enseñanza y el aprendizaje humanos. Correspondientemente, los humanos deben determinar los tipos y grado de agencia que concederemos a la tecnología dentro de los procesos educativos. Esto no es nuevo: durante décadas, hemos discutido las líneas entre los roles de profesores y computadoras. Sin embargo, la discusión se intensificará a medida que la tecnología se vuelva más poderosa y ubicua.

Comencemos con un ejemplo sencillo. Cuando un profesor dice: “Muestre un mapa de la antigua Grecia en la pantalla del aula”, un agente de IA puede elegir entre cientos de mapas disponibles tomando nota de los objetivos de la lección, lo que ha funcionado bien en aulas similares, o qué mapas tienen las características necesarias para los estudiantes en el aula. Cuando un agente de IA elige un recurso instruccional apropiado, o proporciona una elección entre varias opciones, los profesores pueden ahorrar tiempo. Un agente independiente puede ayudar a profesores o estudiantes manejando algunos de los objetivos menores que deben lograrse en un plan de lección, permitiendo a profesores y estudiantes enfocarse en objetivos más importantes. Aunque podríamos permitir que un agente informático elija un mapa para nosotros, habrá otras formas de agencia que podríamos rechazar, como elegir lecturas individuales para estudiantes antes de una discusión sobre un evento histórico.

Esta definición también plantea la “teoría y patrones en datos” como base para el razonamiento computacional. Las computadoras procesan teoría y datos de manera diferente a los humanos. La IA depende de asociaciones o relaciones encontradas en los datos específicos identificados durante el proceso de desarrollo del sistema de IA. Aunque algunas asociaciones pueden ser útiles, otras pueden ser sesgadas o inapropiadas. Encontrar asociaciones negativas en los datos es un riesgo importante. Cada padre, sin embargo, está familiarizado con el problema: una persona o computadora puede decir “Nuestros datos sugieren que su estudiante debe colocarse en esta clase” y el padre podría argumentar “No, están usando los datos equivocados. Conozco mejor a mi hijo y debería colocarse en otra clase”. Este problema no es exclusivo de los sistemas de IA, pero estos amplifican el problema porque cuando una computadora usa datos para hacer una recomendación, puede parecer más objetiva y autoritativa, incluso si no lo es.

Aunque esta definición puede ser útil, también es algo engañosa. Nuestra visión humana de la agencia, perseguir objetivos y razonar incluye nuestras habilidades humanas para comprender contextos; la IA aún no entiende bien el contexto y las cosas fallan cuando el contexto cambia ligeramente. Por esta y otras razones, las personas tendrán una comprensión más amplia de los objetivos y deben participar en la definición de objetivos, análisis de patrones y toma de decisiones.

“El aumento de la inteligencia es un patrón de diseño para un modelo centrado en el ser humano de colaboración entre personas e inteligencia artificial (IA) trabajando juntos para mejorar el rendimiento cognitivo, incluyendo aprendizaje, toma de decisiones y nuevas experiencias.”

Mientras las dos primeras definiciones pueden parecer sustituir el razonamiento basado en computadoras por el razonamiento humano, una perspectiva histórica mantiene a los humanos en el bucle y posiciona los sistemas de IA como un apoyo para el razonamiento humano. “Aumento de la inteligencia” (AI) centra la “inteligencia” y la “toma de decisiones” en los humanos, pero reconoce que a veces las personas están sobrecargadas y se benefician de herramientas asistivas. La IA puede ayudar a los profesores a tomar mejores decisiones porque las computadoras notan patrones que los profesores pueden pasar por alto debido a limitaciones de tiempo y capacidad. Por ejemplo, cuando un profesor y un estudiante acuerdan que el estudiante necesita recordatorios, un agente de IA puede proporcionar recordatorios en cualquier forma que el estudiante prefiera sin aumentar la carga de trabajo del profesor. El aumento de la inteligencia utiliza las mismas capacidades básicas de la IA, usando asociaciones en datos para notar patrones y usando automatización para tomar acciones basadas en esos patrones. Sin embargo, el aumento de la inteligencia puede ser más seguro y humano porque las personas permanecen a cargo y dentro del proceso.

Podemos resumir las capacidades de los sistemas de IA como “automatizaciones basadas en asociaciones”. Al reconocer asociaciones en datos e iniciar acciones automatizadas, los sistemas de IA aportarán capacidades a las tecnologías para perseguir objetivos, elegir entre diferentes planes y ejecutar secuencias de acciones. Profesores y estudiantes pueden encontrar que los sistemas de IA son útiles, mucho como encontramos útiles los mapas automatizados cuando viajamos, pero también surgirán riesgos. La perspectiva del aumento de la inteligencia puede ayudar manteniendo a los humanos involucrados en los procesos de enseñanza y aprendizaje que implican definir objetivos, analizar patrones y tomar decisiones. No obstante, los riesgos permanecerán.

La política puede informar a educadores y al público para que estén preparados para la naturaleza cambiante de las tecnologías utilizadas en escuelas y en cualquier lugar donde los estudiantes aprendan. La política también puede activar la participación de estudiantes, profesores, líderes educativos y otros miembros de la comunidad para que puedan participar en el diseño y evaluación de sistemas de IA. Además, la política puede ayudar al mercado a funcionar bien, por ejemplo, proporcionando directrices, exigiendo divulgaciones o regulando aspectos del uso de datos o automatización de decisiones en productos. En entradas futuras, ampliaremos sobre los temas de oportunidades y riesgos de la IA, junto con lo que documentos de política y orientación pueden hacer para dirigir estas capacidades hacia objetivos sociales e individuales.