Universitat Oberta de Catalunya

Xavier Mas: “Tenemos que ser capaces de evaluar de manera crítica los resultados que nos ofrece la IA”

La IA generativa supone un cambio en el modelo de interacción persona-máquina. Nos relacionamos con la máquina con lenguaje natural, menos preciso, más polisémico y mucho más interpretable que un simple comando.

La taxonomía de Bloom es una herramienta fundamental para los profesores que permite establecer objetivos de aprendizaje en las diferentes materias. Desde su creación en 1956 por el psicólogo y pedagogo norteamericano Benjamín Bloom hasta hoy ha sufrido varias revisiones con el fin de actualizarla de acuerdo con las necesidades de capacitación de cada momento. La última de ellas es la que ha propuesto el equipo de especialistas del eLearning Innovation Center (eLinC) de la Universitat Oberta de Catalunya (UOC) para adaptar la taxonomía a la era de la inteligencia artificial. Pero, ¿en qué ha consistido esta propuesta? Le preguntamos al Dr. Xavier Mas, el especialista del eLinC que ha liderado la labor de actualización.

¿En qué consiste la taxonomía de Bloom?

Bloom organizó su taxonomía clasificando lo que se denominan habilidades de pensamiento en una jerarquía de seis categorías, según la complejidad del proceso cognitivo que requiere su movilización por parte de los estudiantes durante el proceso de aprendizaje. Esas seis habilidades de pensamiento —recordar, comprender, aplicar, analizar, evaluar y crear— posibilitan la realización de acciones y de actividades diversas. Desde su creación en 1956 ha pasado por varias revisiones: en 2001, por parte de los alumnos del Dr. Bloom Lorin Anderson y David R. Krathwohl, y en 2008, cuando el Dr. Andrew Churches actualizó la taxonomía para la era digital e introdujo nuevas acciones en cada categoría o habilidad. Ahora presentamos una adaptación a partir de la irrupción de la inteligencia artificial.

En más de veinte años no se había revisado pero con la irrupción de la inteligencia artificial generativa vimos la necesidad de hacer una concreción diferente de las acciones que forman parte de cada uno de los niveles de las habilidades de pensamiento que había propuesto Bloom en los años cincuenta. Recordemos que la taxonomía traduce a acciones concretas cada una de las categorías. Pues bien, nuestra propuesta consiste en revisar las acciones que forman parte de la taxonomía para que sean compatibles con el uso de la IA en un contexto en el que esta tecnología tendrá un uso importante y generalizado.

¿Cuáles son los principales cambios que afectan a la taxonomía con la irrupción de la #IA generativa?

El principal cambio que supone la IA generativa es la transformación del modelo de interacción persona-máquina. Hasta ahora la manera en la que interactuábamos con los sistemas digitales —con los ordenadores, con las máquinas…— era muy directa: las instrucciones que dábamos a la máquina eran concretas y nos devolvían un resultado concreto de acuerdo con la acción que nosotros le habíamos encomendado. Con la inteligencia artificial generativa todo eso cambia, por los siguientes motivos: en primer lugar, porque lo que hacemos es relacionarnos con la máquina utilizando lenguaje natural, menos preciso, más polisémico y mucho más interpretable que un simple comando y, en segundo lugar, porque lo que hace la máquina ya no es ejecutar una orden concreta, sino elaborar un resultado mediante unos procesos estadísticos muy complejos. Ese resultado, en cada petición que le hacemos, puede ser diferente, no idéntico. Hemos pasado de un modelo de computación determinista a uno estocástico.

Lo anterior implica que tenemos que aprender a dialogar con las máquinas, una especie de negociación que el humano va haciendo con la máquina. Es una conversación: conversar para llegar al resultado satisfactorio que se busca. Por tanto, tenemos que saber escucharla, tenemos que ir dándole nuevas instrucciones y tenemos que ir conduciéndola. Eso implica diferentes habilidades, obviamente. Y esos tipos de habilidades se reflejan en todos los niveles de la taxonomía de Bloom.

¿Podemos decir que, de alguna manera, la máquina nos hace de asistente?

Efectivamente. Viene a ser una ayudante, pero no es experta y no puedes confiar en ella plenamente, aunque es competente en un gran abanico de tareas. Vas a tener que revisar la información que te proporciona para ver si se ajusta a lo solicitado, pero tú eres responsable de esa respuesta, porque tú la has solicitado y has indicado a la máquina cómo elaborarla. Por eso seguramente tendrás que acabar de ajustarla hasta llegar a aquella respuesta que tú creas que es lo bastante correcta, completa o rigurosa. Es un proceso, una manera de trabajar diferente que en principio puede ser más fácil, pero ahora tenemos una complejidad distinta: parece más simple porque utilizas lenguaje natural, pero en realidad es más complejo porque tienes que intervenir más y lo tienes que hacer con rigor y pericia. Y es eso lo que tenemos que ser capaces de transmitir a los estudiantes, porque para ellos todo es nuevo. Si los estudiantes delegan en ChatGPT la realización de actividades que ponen en marcha esas habilidades de pensamiento, prescinden de su rol de dirección experta a través de la conversación y renuncian a valorar el resultado, se corre el riesgo de dejar de ejercitar el pensamiento y se debilita el proceso de aprendizaje.

¿Tenemos que aplicar, pues, las habilidades superiores humanas?

Así es, y una de las facultades que más tenemos que preservar los humanos con esta nueva forma de interacción es la capacidad crítica que, por cierto, se situaría en la banda alta de la taxonomía. Más que nunca, tenemos que ser capaces de evaluar de manera crítica los resultados que nos proporciona la IA. ¿Por qué? Primero, para ver si los damos por buenos o los rechazamos, segundo, por si queremos ir depurándolos y continuar el proceso de diálogo porque todavía no se ajustan lo suficiente a lo que necesitamos y, tercero, para hacer de filtro de posibles sesgos, tanto los más explícitos como los más sutiles.

Una de las facultades que tenemos que preservar los humanos con esta nueva forma de interacción es la capacidad crítica. Más que nunca, tenemos que ser capaces de evaluar de manera crítica los resultados que nos proporciona la IA.

¿No podemos delegar en la IA las habilidades de pensamiento superior que explica Bloom?

Aparentemente —y quiero poner énfasis en esta palabra— la IA lo hace todo y nos da un resultado, pero este es estadístico y hecho por un modelo de lenguaje; en realidad la máquina no sabe qué está diciendo. No podemos delegar las capacidades de juicio en la máquina por el hecho de que nos puede ofrecer un resultado plausible que aparenta haber realizado unos procesos de pensamiento que en realidad no ha hecho; los tenemos que hacer nosotros porque, recordemos, el resultado es responsabilidad nuestra. Cuando elegimos la herramienta también es importante verificar que se basa en fuentes de información actualizadas, verídicas y no obsoletas.

El alumnado tiene que usar este tipo de herramientas, tarde o temprano, en la universidad o en su vida profesional. Así pues, tendremos que enseñar que son ellos quienes lideran el proceso de creación, quienes mandan, quienes lo encargan y quienes se hacen responsables. En cuanto al profesorado, que ya tiene esa capacidad, lo tendremos que acompañar para que aplique las estrategias de pensamiento que ya domina y que ya tiene interiorizadas en un contexto de uso más o menos generalizado de la IA.

¿Por qué cree que hay miedo a la irrupción de esta nueva tecnología?

Es normal que haya miedo, pero no nos tenemos que asustar. Es una transición. Si lo miramos con perspectiva lo acabaremos integrando con tranquilidad porque también formará parte del mundo profesional. Es algo nuevo y nos desborda porque es muy potente. Sentimos que tenemos en las manos una herramienta muy poderosa que no sabemos todavía cómo controlar. Necesitamos rodaje y este no se improvisa de hoy para mañana. Tenemos que establecer nuevas convenciones, nuevas formas de trabajar, nuevos criterios para evaluar el trabajo, los resultados… e insisto, no solo en la educación, sino también en el resto de ámbitos profesionales.