Escrito por Faraón Llorens-Largo (1) [i], Javier Vidal (2) [ii] y Francisco José García-Peñalvo (3) [iii]
(1) Universidad de Alicante
(2) Universidad de León
(3) Universidad de Salamanca
Palabras clave: RIED, inteligencia artificial, inteligencia artificial generativa, ChatGPT, educación
---
Educación e Inteligencia Artificial
La investigación en Inteligencia Artificial (IA) lleva años en continuo crecimiento y no muestra signos de desaceleración. Se están desarrollando modelos más complejos, más grandes y de respuesta más rápida. Estos modelos se entrenan con grandes cantidades de datos, lo que los hace mucho más potentes que sus antecesores de no hace tantos años. Esta potencia le dota de una amplia gama de aplicaciones, incluso algunas de ética cuestionable, dando lugar a vacíos legales y a reacciones extremas que llegan hasta la prohibición de su uso.
La magnitud de la tarea que tenemos delante en el ámbito de la educación en relación con la IA es compleja y con múltiples aristas, afectando tanto a las políticas educativas, como a la gestión y la impartición de la docencia. La IA puede apoyar la docencia y a los docentes, facilitando el aprendizaje y su evaluación, y ofreciendo oportunidades de aprendizaje permanente. Pero no debemos descuidar el desarrollo de valores y competencias para la vida y el trabajo en la era de la IA, así como la promoción de su uso no discriminante, inclusivo y con equidad de género. Y, por supuesto, velar por el uso ético, transparente y verificable de los datos y algoritmos educativos (Flores-Vivar & García-Peñalvo, 2023).
Cuando se habla de IA en educación (Wang & Cheng, 2021) se suele pensar, fundamentalmente, en la personalización del aprendizaje. Así, tenemos tutores inteligentes, asistentes virtuales, experiencias de aprendizaje inmersivas e interactivas, además de utilizar los datos para mejorar el desempeño de los estudiantes, entre otros tópicos. Analizar los datos educativos permitirá detectar tendencias, asistir al profesorado en la detección temprana de fracasos y la identificación de áreas de mejora que permitan diseñar estrategias de enseñanza más efectivas.
Sin embargo, debemos abrir el foco y hablar de educación en tiempos de IA, lo que implica además reflexionar sobre el papel de la educación en la preparación para un mundo en constante cambio en el que esta tecnología estará presente en todos los aspectos de la vida: el trabajo, los estudios, el ocio, las relaciones personales, etc. Por esto, es importante que se comprenda cómo funciona la IA y los beneficios y riesgos asociados a su uso. Se requieren nuevos conocimientos, habilidades, competencias y valores para la vida y el trabajo en la era de la IA.
No debemos caer en la concepción incauta de que la tecnología es neutral y que todo depende de los humanos que la desarrollan y usan. La tecnología no es solamente un medio para alcanzar un fin, sino que también moldea ese fin. Por tanto, deben estar en el debate temas como la toma algorítmica de las decisiones, su capacidad de influencia y de manipulación; los sesgos, las discriminaciones injustas y la desigualdad; la vigilancia, las competencias técnicas, las burbujas de información y la exclusión; y la sustitución de los humanos en el posthumanismo y el transhumanismo, con todas sus interrelaciones (Neubauer, 2021).
Todos estos aspectos son muy importantes en el mundo de la educación, ya que afectan al comportamiento humano. Teniendo en cuenta una doble implicación, tanto en el sentido en que la IA puede afectar al mundo educativo en estos aspectos, al igual que está haciendo en la sociedad en general, como en el sentido en que la educación debe preparar a las personas para enfrentarse al mundo que vendrá fuertemente condicionado por la tecnología, siendo la IA una de ellas con un peso específico cada vez más alto. Hace falta, por tanto, una visión sistemática, con un planteamiento integral, global y multicultural.
Inteligencia Artificial generativa
Pero, ¿qué ha pasado para que en todo el mundo se esté hablando y analizando el tema? La respuesta no es otra que la aparición en escena, en noviembre de 2022, de la versión pública de una herramienta, ChatGPT de OpenAI, que puede entablar conversaciones en las que se pueden hacer preguntas o peticiones y la herramienta ofrece, en cuestión de segundos, respuestas que, en principio, son indistinguibles de las que hubiera ofrecido un humano.
Nuestro primer impulso es menospreciar cualquier artefacto que se arrogue la condición de inteligente. Así, a ChatGPT se le ha etiquetado, entre otras muchas cosas, de charlatán o de loro sofisticado, ya que no entiende de lo que está hablando, incluso se inventa cosas. Esto que ha sido cierto en algún momento, puede haberse solucionado ya con las continuas mejoras que se van incorporando o se acabará solucionando en versiones futuras mediante la integración con otros componentes que incrementan la versatilidad y las prestaciones de ChatGPT. No obstante, lo que no se debe olvidar es que estamos hablando de un modelo de lenguaje que no fue concebido, inicialmente, para muchas de las cosas que se le piden.
Esta fuerte y rápida irrupción en el mundo académico preocupa e ilusiona a partes iguales (Pelletier et al., 2023): preocupa por sus efectos negativos a corto plazo sobre las convenciones establecidas de confianza y autenticidad en la elaboración de los trabajos; al mismo tiempo despierta entusiasmo su potencial para mejorar las capacidades humanas. Entre la comunidad investigadora en educación hay una posición bastante unánime sobre que el camino no es ignorar ni prohibir el uso de ChatGPT o aplicaciones similares, sino que habrá que capacitar tanto al profesorado como al estudiantado para un uso correcto y ético, así como revisar los planes de estudio para primar el pensamiento crítico y sacar el máximo rendimiento a estas herramientas.
En este cruce de posiciones y reparto de culpas, cuando se centra el foco de atención en las consecuencias de la aplicación de la IA generativa (García-Peñalvo & Vázquez-Ingelmo, 2023) en la educación, parece más que evidente que a ChatGPT se le está haciendo responsable de unas debilidades en las prácticas educativas actuales que ya existían, pero que se resistían a ser admitidas. El sistema educativo, con especial mención al sistema universitario actual, está diseñado para un mundo con escasez de información, en el que había una etapa vital en la que las personas se formaban, acudían a los centros educativos para adquirirla y guardarla para el momento futuro en que la necesitasen. Ahora, sin embargo, se vive en una sociedad con acceso inmediato y a demanda de una sobreinformación. Si las universidades quieren seguir manteniendo su compromiso con la sociedad de creación, transmisión y preservación del conocimiento, ¿sabrán dar respuesta al reto que representa la llegada de unas aplicaciones “inteligentes” o smart apps que han causado un tremendo terremoto informacional cuando no están más que en sus albores?
Ideas, beneficios, riesgos y retos
Tras una labor de revisión y clasificación de algunas de las herramientas existentes que hacen uso de técnicas de IA generativa, se pueden sintetizar algunas ideas clave (García-Peñalvo et al., 2024). Existe una amplia gama de herramientas que utilizan IA generativa, siendo muchas de ellas susceptibles de usarse con fines educativos y de aprendizaje. La generación de texto y los asistentes de escritura o traducción son áreas destacadas en constante evolución. Se prevé una revolución en el concepto de buscador tal y como se conoce hoy en día. Además, la integración de los modelos de lenguaje en aplicaciones ofimáticas de uso cotidiano es una de las grandes apuestas para mejorar su productividad.
Estas herramientas ofrecen unos beneficios potenciales en educación. Algunos de ellos son: disponibilidad de herramientas de apoyo para aprender frente a medios más tradicionales, incluyendo la capacidad de resumir o explicar conceptos complejos; capacidad de interacción (diálogo) con estas herramientas que puede ayudar a la obtención de respuestas y aprender más eficazmente; potencian el pensamiento crítico y la creatividad al ofrecer al estudiantado la oportunidad de recibir comentarios sobre sus tareas y de cuestionar sus creencias; apoyan al estudiantado y al profesorado en tareas más repetitivas, así se pueden centrar en la esencia de las tareas y ser más críticos en su aprendizaje o más efectivos en el proceso de enseñanza; pueden convertirse en asistentes virtuales de aprendizaje avanzando así hacia un aprendizaje personalizado y facilitando el aprendizaje continuo e informal, etc.
 |
| Fuente de la imagen: Pexels |
Sin embargo, también se pueden identificar riesgos específicos para la educación como que puede: promover un aprendizaje rápido, superficial y no contrastado, dificultando un pensamiento crítico e independiente; dificultar el desarrollo de la creatividad; afectar negativamente al desarrollo de las habilidades interpersonales; facilitar un uso no ético de estas herramientas; y acentuar la brecha entre las personas que tienen acceso y usan estas herramientas y las que no.
Entre los retos que abre la IA generativa para los sistemas educativos tenemos: la necesidad de adaptación de todos los actores involucrados; la formación del profesorado; la generación de comunidades de práctica para compartir experiencias de desarrollo en el estudiantado de las competencias sobre IA generativa, con énfasis en el desarrollo de pensamiento crítico para poder comprender tanto sus potencialidades como sus limitaciones; la revisión, actualización e innovación de los contenidos curriculares y métodos docentes; la búsqueda de alternativas y complementariedades a la evaluación actual; y, por último, el desarrollo de códigos éticos y definición de directrices generales con respecto a la IA generativa.
Reflexión final
Lo más llamativo de lo sucedido en los últimos meses, y lo que probablemente afecta más a la educación, es una parte específica de la IA, los llamados modelos generativos, cuya estrategia comercial ha permitido interactuar con aplicaciones “inteligentes” a millones de personas en todo el mundo, haciéndonos globalmente conscientes de las posibilidades que ofrece y de los posibles riesgos.
Aunque se han difundido IA dedicadas a tareas diferentes como creación y manipulación de imágenes o vídeos, las que manejan el lenguaje natural son las que más han impactado. Es la primera vez que sucede con esta dimensión y calidad. No nos impresiona ya el manejo que las máquinas hacen en la actualidad de los números, algo que hace unos años era también objeto de controversia. Empezamos a familiarizarnos con los robots o drones, que ya tenemos en nuestras casas. Lo que nos pone en alerta ahora, es la comprensión y generación de lenguaje, algo que hemos considerado como parte de la esencia de los seres humanos. Pero que una máquina pueda manejar lenguaje de la misma manera que un humano, no la convierte en humana, salvo que nosotros creamos que es así.
Mientras organizaciones e instituciones debaten sobre la postura que deben tomar sobre el uso de estas IA en la educación, la tecnología avanzará lo suficiente, como para que dichas resoluciones carezcan de sentido cuando se aprueben. Es muy importante tener esto en cuenta, para no dedicar tiempo a normas o recomendaciones de imposible (o inútil) cumplimiento cuando realmente se tengan que implantar.
El problema para el mundo académico es que las máquinas pueden hacer fácilmente, y de manera bastante acertada en este momento (quizás totalmente acertada en unos meses), tareas que nosotros hemos encomendado a nuestro estudiantado como mecanismo para determinar si se alcanzan los objetivos de una asignatura, es decir, para su evaluación. La primera reacción ante esta situación es impedirles utilizar este tipo de herramientas. Sin embargo, la pregunta ahora es más interesante: si una máquina ya puede hacer una tarea, ¿qué otras cosas podrían empezar a hacer los seres humanos asistidos por estas máquinas?
Los problemas que aquí hemos presentado no son solo propios del ámbito de la educación, también afectan a otros sectores. Afectará a toda aquella tarea que requiera el manejo rápido de grandes cantidades de información contenida en bases de datos o, y esta es la gran novedad, en textos. La educación no debe situarse al margen de estos debates y debemos imponernos la tarea de estar atentos a las opciones que estas herramientas nos dan para maximizar las posibilidades de aprendizaje de todos: profesorado y estudiantado. Quizás debamos realizar ciertos cambios en los planes de estudio de nuestras titulaciones incorporando el aprendizaje del uso de estas herramientas en cada uno de los campos, pero lo que es seguro es que tendremos que hacer, sin más demora, cambios sustanciales en nuestra manera de enseñar y en lo que pediremos a nuestro estudiantado que haga, porque no es la inteligencia artificial la que va a decidir lo que hacen los humanos, sino los humanos los que deben tomar decisiones con la ayuda de la inteligencia artificial (Marina, 2020).
Esta entrada es una síntesis divulgativa del artículo (García-Peñalvo et al., 2024).
Referencias
Flores-Vivar, J. M., & García-Peñalvo, F. J. (2023). Reflexiones sobre la ética, potencialidades y retos de la Inteligencia Artificial en el marco de la Educación de Calidad (ODS4). Comunicar, 31(74), 37-47. https://doi.org/10.3916/C74-2023-03
García-Peñalvo, F. J., Llorens-Largo, F., & Vidal, J. (2024). La nueva realidad de la educación ante los avances de la inteligencia artificial generativa. RIED: revista iberoamericana de educación a distancia, 27(1). https://doi.org/10.5944/ried.27.1
García-Peñalvo, F. J., & Vázquez-Ingelmo, A. (2023). What do we mean by GenAI? A systematic mapping of the evolution, trends, and techniques involved in Generative AI. International Journal of Interactive Multimedia and Artificial Intelligence, In Press. https://doi.org/10.9781/ijimai.2023.07.006
Marina, J. A. (2020). Proyecto Centauro. Ediciones KHAF.
Neubauer, A. C. (2021). The future of intelligence research in the coming age of artificial intelligence – With a special consideration of the philosophical movements of trans- and posthumanism. Intelligence, 87, Article 101563. https://doi.org/10.1016/j.intell.2021.101563
Pelletier, K., Robert, J., Muscanell, N., McCormack, M., Reeves, J., Arbino, N., Grajek, S., Birdwell, T., Liu, D., Mandernach, J., Moore, A., Porcaro, A., Rutledge, R., & Zimmern, J. (2023). 2023 EDUCAUSE Horizon Report, Teaching and Learning Edition. EDUCAUSE. https://bit.ly/45WfbPz
Wang, T., & Cheng, E. C. K. (2021). An investigation of barriers to Hong Kong K-12 schools incorporating Artificial Intelligence in education. Computers and Education: Artificial Intelligence, 2, Article 100031. https://doi.org/10.1016/j.caeai.2021.100031
Cómo citar esta entrada:
Llorens-Largo, Faraón; Vidal, Javier, y García-Peñalvo, Francisco José (2023). Ya llegó, ya está aquí, y nadie puede esconderse: La inteligencia artificial generativa en educación. Aula Magna 2.0 [Blog]. https://cuedespyd.hypotheses.org/14389
---
[i] Catedrático de Escuela Universitaria del Departamento de Ciencia de la Computación e Inteligencia Artificial de la Universidad de Alicante (UA) y Director de la Cátedra de Transformación Digital de esta universidad.
[ii] Catedrático de Universidad de Métodos de Investigación en Educación en la Universidad de León (ULE). Ha sido Director General de Universidades (2006-08) y Director General de Evaluación y Ordenación del Sistema Educativo (2008-09) del Gobierno de España.
[iii] Catedrático de Universidad del Departamento de Informática y Automática en la Universidad de Salamanca (USAL), Subdirector del Instituto Universitario de Ciencias de la Educación (IUCE) y Delegado del Rector para la Docencia Digital.
---
Tomado de Aula Magna 2.0 con permiso de sus editores
