Cómo utilizar ChatGPT en el aula con perspectiva ética y pensamiento crítico: una proposición para docentes y educadores

(Reproduzco íntegramente el artículo del profesor Lluís Codina, investigador y profesor de la UPF de Barcelona. Si quieres leerlo desde el original, aquí tienes el enlace)

Antes de nada, les voy a decir el problema principal de esta pieza que están a punto de leer: se trata de una propuesta (aún) no testada. Es por tanto, una primera proposición para aportar algo al intenso debate sobre ChatGPT que adopta una postura diferente. Al menos, diferente de todo lo que yo he visto hasta ahora.

Se trata de una propuesta para aplicar ChatGPT en las aulas en la que la ética y el pensamiento crítico tienen un rol fundamental, a la vez que ponemos a nuestro favor las mejores posibilidades de la IA.

Los puntos de partida

• La inteligencia artificial (IA) ha llegado para quedarse. No sabemos si en el futuro seguiremos teniendo algo como ChatGPT, pero sí que seguiremos teniendo IA en muchos formatos y escenarios.
• La IA tiene aspectos amenazadores pero también muy esperanzadores. Como toda tecnología tiene aspectos tanto negativos como positivos.
• No se trata de equidistancias. Se trata de que el balance sea netamente positivo para la humanidad. Ninguna tecnología tiene otra justificación que no sea esta: hacer del mundo un lugar mejor.
• Por lo tanto, se trata de considerar las formas en las que poner a nuestro favor los aspectos positivos de la IA en sus diferentes manifestaciones y de neutralizar o evitar los negativos. Para el caso de ChatGPT hay una amplia variedad de cosas que podemos hacer. Una de ellas, tal vez, sea la obtener ideas de base desde las que iniciar una indagación posterior de mayor creatividad.
• Por último, pero no menos importante: la ética y el pensamiento crítico deben estar siempre presentes en todos los usos de la IA.

Armado con los anteriores puntos, y a la vista de la calidad nada desdeñable de algunas redacciones que es capaz de producir esta IA, mi modesta propuesta sobre una posible forma de introducir ChatGPT en las aulas.

Modelo de tarea de redacción para estudiantes a partir de la IA

Punto de partida. Sabemos que ChatGPT puede producir redacciones notablemente acertadas. Pueden substituir así trabajos de síntesis que son elementales, sin embargo, realizados por humanos, consumen mucho tiempo. Sabemos que una fracción de los estudiantes las van a utilizar a partir de ahora, justo como utilizan otras fuentes con potencial académico (como Wikipedia).

Por tanto, en lugar de pedir a los estudiantes la entrega de una redacción más o menos plana sobre un tema (como hasta ahora), tal vez el profesor puede pedir que, a partir de la redacción producida por ChatGPT, el estudiante demuestre su capacidad para ir más lejos de esa redacción producida por una IA y de producir un nuevo conocimiento más fiable, rico, incisivo y útil.

Para poner un ejemplo. Si tuviera que encargar una tarea relacionada con la unidad donde explico la curación de contenidos a estudiantes de periodismo, propondría, p.e., el siguiente enunciado para obtener el texto de partida de la IA: «curación de contenidos y periodismo». La captura siguiente muestra una de las respuestas:

Siguiente paso. A partir de la redacción sobre el tema generada por ChatGPT, la tarea del estudiante puede consistir en aplicar todos o parte de varios procesos, lo que va a requerir poner en juego diversas habilidades cognitivas y los conocimientos adquiridos en clase. Los procesos pueden ser:

• Verificar
• Fundamentar
• Ampliar o reducir
• Profundizar
• Sintetizar todo o parte de lo anterior y producir nuevo conocimiento

En cualquier contexto de uso de una IA es muy importante prever y explicar a los estudiantes que, presidiéndolo todo debe haber dos aspectos fundamentales: la ética y el pensamiento crítico.

Las posibles tareas en detalle

Los posibles procesos, puestos en forma de tareas y subtareas presentadas con un poco más de detalle son las que se indican a continuación. El trabajo del estudiante puede incluirlas todas o solo una parte, en función del tiempo y los objetivos. Se trata de las siguientes:

• Verificar 1. Identificar, aislar y enumerar las principales propuestas fácticas y conceptuales que incluye el texto generado por ChatGPT. Se puede hacer mediante un tabla o matriz de análisis. Una propuesta fáctica es un dato verificable. Por ejemplo, una fecha o unos resultados electorales. Cada propuesta fáctica o conceptual debe ser una de las filas de la tabla.
• Verificar 2. Analizar cada propuesta fáctica y decidir si corresponde a uno de estos casos: (1) es verdadera y por qué (2) es falsa y por qué o (3) es imposible de contrastar y se descarta del informe. La matriz de análisis anterior debe asignar una de las tres decisiones fundamentada a cada propuesta o fila de la tabla.
• Verificar 3. Analizar cada propuesta conceptual y determinar su plausibilidad a la vista de la ética en primer lugar, y de conocimientos previos trabajos en clase o mediante procedimientos de estudio adicionales. Una propuesta conceptual es una definición, una un tipo de relación, una composición, etc. En este caso, la matriz de análisis indicará de forma razonada si cada propuesta conceptual corresponde a uno de estos casos: (1) es compatible con la ética y con los conceptos trabajados en clase y por qué; (2) no se puede comparar con conceptos previos pero es compatible (o no) con la ética y es razonable (o no) y por qué; (3) no ha sido posible determinar alguna base razonable y se descarta del informe.
• Fundamentar 1. Identificar y aislar la principales facetas del tema. El número de facetas dependerá de la longitud del texto de partida o el número de textos de partida. Pero es posible especular con que se trabajará habitualmente con entre tres y cinco facetas.
• Fundamentar 2. Poner en marcha procesos de búsqueda y análisis de la información para localizar fuentes de autoridad para cada una de las facetas identificadas.
• Ampliar o reducir. Expandir la propuesta conceptual añadiendo nuevas facetas no consideradas por ChatGPT, en concreto, al menos añadir una faceta nueva como ejercicio de conocimiento. Pero más facetas nuevas no debería ser problema. Reducir facetas también puede tener sentido, retirando facetas que se consideren poco relevantes o escasamente relacionadas.
• Profundizar. Desarrollar cada faceta del grupo final añadiendo alguna precisión de algún tipo a cada una de ellas, gracias a la relación dialéctica con conocimientos previos del estudiante, o con los nuevos conocimientos adquiridos por el estudiante gracias a los procesos anteriores.
• Generar nuevo conocimiento 1. Generar una nueva redacción verificada, fundamentada, profundizada y enriquecida donde será muy importante que el análisis y la síntesis de los puntos anteriores genera algo más que la suma de las parte..
• Generar nuevo conocimiento 2. Complementar lo anterior con las tablas o matrices anteriores si conviene de forma modificada y algún diagrama o mapa conceptual. Añadir un anexo con la documentación de todos los pasos.

Una parte de este proceso, si se siguen todos los pasos seguramente será circular, pues algunos de los pasos van a requerir tal vez revisar los precedentes. Dependiendo de cada caso y de los objetivos de la tarea, se podrá requerir al estudiante todos o solo alguno de los pasos anteriores. Pero también se pueden añadir otros pasos, modificar cualquiera de los anteriores, o retirar otros.

En el resultado final el estudiante debería haber puesto a prueba y mejorado toda una gama de habilidades, y al verse involucrado en procesos dialécticos, el nuevo conocimiento generado así debería ser persistente en su cognición. También habrá perfeccionado habilidades y habrá adquirido conocimientos de modo mucho más profundo que en procesos de lectura o de escuchar las lecciones de su profesor.

La ética

La ética debe estar presente siempre en cualquier proceso de enseñanza/aprendizaje, en esto no hay novedad. Para el modelo de trabajo con ChatGPT se trata de que la ética forme parte de todos los procesos previstos, pero se menciona de forma expresa en las tareas de verificación.

En qué modo exacto se aplique la ética será algo estrechamente vinculado con cada caso en concreto. Habrá casos con implicaciones ética en primer plano, y otros donde estarán en segundo plano o incluso puede haber casos neutros. Pero siempre debe ser objeto de especial monitorización por el profesor.

Previamente puede haberse trabajado elementos éticos para preparar la actividad, cuando los aspectos éticos sean fácilmente previsibles, pero hay que contar con que los textos generados por una IA pueden presentar implicaciones éticas imprevistas.

Un punto adicional consiste en que en las referencias deberá hacerse constar a ChatGPT como una de las fuentes consultadas y el punto de partida del trabajo final, y en el anexo deberá aparecer el texto original creado por ChatGPT.

¿ChatGPT como coautora?

En algunos casos, habrá que considerar la alternativa de si el trabajo lo debe firmar el estudiante únicamente (o los estudiantes si se hace en grupo) o también debería figurar ChatGPT en la byline, o sea en la línea que indica la autoría como uno más de los autores.

En este caso, debo señalar que esta sugerente posibilidad la he tomado del muy interesante trabajo que firman como coautores Urbano García Alonso (director de Innovación de RTVE), Juan Carlos Casco (CEO de Emprendedorex.com) y ¡ChatGPT! en el artículo que pueden encontrar en el siguiente enlace y cuya lectura recomiendo vivamente:

• ¡No mires arriba!

Cabría decir, en este último punto, que cuando decimos que ChatGPT es la autora de un texto, en realidad, los autores son quienes publicaron en su momento los documentos de los que esta IA ha extraído la información, aunque no podemos saber quienes fueron, y posiblemente los propios autores tampoco pueden reconocerse en el nuevo texto generado.

El pensamiento crítico

El pensamiento crítico debe formar parte de cualquier proceso de enseñanza/aprendizaje, pero en el caso del uso de la IA en el aula es aún más fundamental. Ahora bien, para el pensamiento crítico hace falta al menos dos cosas: primero alguna formación sobre el tema, aunque sea básica, y segundo una actitud incisiva que consiste en no aceptar nada sin examen ni contraste.

La formación básica se supone que la adquiere el estudiante como parte de su trabajo en el aula, y la responsabilidad de esto recae en el profesor. La actitud incisiva solo la puede poner el estudiante, pero el profesor la puede fomentar, y de hecho, los pasos propuestos por el modelo obligan a que el estudiante la ponga en juego.

En el caso de este modelo de tareas con ChatGPT, la capacidad de pensar de modo crítico será útil en todas las fases, pero es imprescindible para resolver los diversos modos de la verificación, los principales aspectos de la profundización y también la ampliación o reducción.

Pero, si lo miramos bien, en realidad, sin el pensamiento crítico tampoco podrán evaluarse la dimensión ética. O sea, que la separación entre ética y pensamiento crítico que hacemos aquí es artificial y exclusivamente a efectos expositivos.

Conclusiones

La primera conclusión, y me van a disculpar, gira en torno a este mismo sitio: acabo de crear la categoría IA en el menú principal, porque espero seguir creando entradas para este tema. La inteligencia artificial ha llegado para quedarse. Ya lo he dicho. No se trata de seguir lamentándose. Se trata de ponerla a nuestro favor.

La segunda, la IA es demasiado importante para dejarla en manos de los ingenieros. Además, seguro que ellos esperan que las demás ramas de las ciencias no les dejen solos, porque están muy ocupados optimizando sistemas. Lo menos que podemos hacer desde las demás ciencias, en especial desde las ciencias sociales es poner en marcha la clase de reflexiones sobre implicaciones sociales de estas tecnologías.

Algunos lo llamarán tecno optimismo. Pero poner nombre a las cosas no soluciona nada. Debemos tomar en serio el impacto que la IA va a tener en nuestras vidas con al menos las dos herramientas que todo tenemos: la ética y el pensamiento crítico. Si somos docentes, hemos de ver cómo incorporar la IA a las aulas y lo mismos desde cualquier otra disciplina. El punto fundamental debe ser este: la IA solo tiene sentido si es para hacer del mundo un lugar mejor.

Si se preguntan (ya que en esta ocasión no he puesto referencias) de dónde salen los componentes del modelo propuesto, les puedo decir que se inspira en estas tres cosas: la verificación periodística, la curación de contenidos y la síntesis del conocimiento (aka, revisiones sistemáticas).

Puede que dentro de poco esta propuesta me parezca naif a mi mismo. Pero la idea final es tan simple como la de encontrar la forma de poner la IA a favor de la docencia en lugar de lamentar la pérdida de un mundo que ya no volverá.