Una de las paradojas más famosas que David Hume presenta en su obra es la Paradoja del Horror, que es una aparente contradicción entre nuestra aversión natural al sufrimiento y el placer que obtenemos al presenciar el dolor y la violencia en el arte y el entretenimiento. La Paradoja del Horror se refiere al hecho de que los seres humanos tienen una aversión natural al sufrimiento, pero al mismo tiempo disfrutan del horror en el arte y el entretenimiento. Hume argumenta que, aunque podemos encontrar placer en la representación del dolor y la violencia, esto no significa que deseemos que el dolor y la violencia realmente ocurran. En otras palabras, disfrutamos de la representación del horror, pero no del horror en sí mismo. Hume sostiene que esto se debe a que nuestro placer en el arte y el entretenimiento se basa en la imitación de la realidad. Es decir, disfrutamos de la representación del dolor y la violencia porque nos permite experimentar emociones fuertes sin tener que enfrentar las consecuencias reales de esas emociones.
Este es el extracto de un ensayo de 500 palabras sobre La Paradoja del Horror de David Hume, redactado —sin cambiar ni una coma– por ChatGPT, el sistema de inteligencia artificial implementado por OpenAI que permite, entre otras cosas, redactar textos originales, coherentes y de gran extensión. Fue precisamente este ejercicio el que Darren Hick, profesor asistente de Filosofía de la Universidad de Furman, mandó para casa a sus alumnos. Uno de los ensayos llamó la atención del profesor. «Era una redacción extraña en particular, pero no incorrecta. Algo así como si pides a alguien que escriba un ensayo antes de que haya descubierto su propio estilo de escritura. Es un estilo limpio, pero reconocible. Yo diría que escribe como un estudiante muy inteligente de 12º grado», explicó Hick al diario estadounidense New York Post. Asimismo, aseguró que probar que ese texto era inventado por el ChatGPT era una tarea casi imposible. Pasó el texto por el software de detector de plagio, pero este no detectó nada inusual.
Hick recurrió entonces a imaginar posibles preguntas que pudo hacer el estudiante y el ChatGPT le ofreció una redacción muy similar, aunque no exacta. Solo enfrentar al alumno en clase con el mismo ejercicio dejó en evidencia que no era un texto suyo. Tras publicar el caso en Facebook, algunos de sus colegas docentes expusieron casos parecidos. La principal diferencia con el copiado tradicional estriba en que ahora ya no es necesario pagar a alguien en internet para que lo escriba, sino que «basta con dar una orden a una aplicación que lo hace gratis y al instante», asegura el profesor, que ve como posible solución recurrir a evaluaciones orales. No obstante, destaca que experimenta una mezcla entre «terror y fascinación» por un fenómeno que supone una revolución en la educación por la cantidad de interrogantes que abre. ¿Cómo afrontar los casos de uso de ChatGPT? ¿Es en realidad un plagio? ¿Es recomendable prohibirla o aprovechar sus ventajas? ¿Cambiará la forma de enseñar? ¿Suprimirá los libros de texto? ¿Acaba con el pensamiento crítico? ¿Ayudará a los profesores? ¿Harán falta profesores en el futuro? Son algunas de las preguntas que sobrevuelan la comunidad educativa.
Primeras restricciones
Por lo pronto, en algunos países ya se han producido las primeras prohibiciones ante el temor de que los estudiantes lo usen para sus redacciones. Nueva York, a raíz de varios casos en los que se ponía en tela de juicio la honestidad educativa, decidió prohibir el acceso a ChatGPT en todos los dispositivos de centros públicos. «Debido a las preocupaciones sobre los impactos negativos en el aprendizaje de los estudiantes y sobre la seguridad y la precisión del contenido, el acceso a ChatGPT está restringido en las redes y dispositivos de las escuelas públicas de la ciudad de Nueva York», dijo Jenna Lyle, portavoz del departamento de Educación, en un comunicado. En este reconoció que, si bien la herramienta puede proporcionar respuestas rápidas y fáciles a las preguntas, «no desarrolla habilidades de pensamiento crítico y resolución de problemas, que son esenciales para el éxito académico y de por vida».
En Seattle y los Ángeles tomaron la misma decisión poco después de que se pusiera en funcionamiento mientras se realiza un estudio de los riesgos y beneficios. OpenIA tampoco es ajena al revuelo en la comunidad educativa y no elude el debate. «No queremos que ChatGPT se use con fines engañosos en las escuelas o en cualquier otro lugar, por lo que ya estamos desarrollando herramientas para ayudar a cualquier persona a identificar el texto generado por este sistema», explican desde la compañía. Mientras tanto, un estudiante de la universidad de Princeton ha desarrollado GPTZero, una herramienta con 23.000 profesores en lista de espera que permite detectar si se ha usado el ChatGPT para escribir un texto.
Algunos profesores estadounidenses, sin embargo, están rediseñando sus cursos por completo, haciendo cambios que incluyen más exámenes orales, trabajos en grupo y evaluaciones manuscritas. Por ejemplo, este es el camino que están siguiendo ya en la Universidad George Washington, la Universidad Rutgers en New Brunswick (Nueva Jersey), y la Universidad Estatal de los Apalaches en Boone (Carolina del Norte). Otros profesores están elaborando preguntas que esperan que sean demasiado inteligentes para los chatbots y pidiendo a los estudiantes que escriban sobre sus propias vidas y eventos actuales. Otras universidades están tratando de trazar límites para la inteligencia artificial. Es el caso de la Universidad de Washington en St. Louis y la Universidad de Vermont en Burlington, donde están redactando revisiones de sus políticas de integridad académica e incluyendo como plagio a la inteligencia artificial.
Sobre su uso, el profesor de salud informática en la University College de Londres, Paul Taylor, dijo que ChatGPT es bueno para proporcionar respuestas sintetizadas y articuladas sobre asuntos sobre los que hay una cantidad razonable de material publicado. «El alumno puede responder con la aplicación al tipo de preguntas clásicas de un examen. A pesar de que mi universidad ha vuelto casi por completo a la enseñanza cara a cara, los exámenes hasta ahora se han mantenido en línea. Mis estudiantes acaban de hacer un examen, pero no tengo forma de saber si usaron ChatGPT», sostiene Taylor en su artículo publicado en London Review of Books, para añadir que es posible detectar un parecido entre las respuestas que genera ChatGPT y el trabajo de un estudiante, aunque el algoritmo responde de manera diferente a cada interacción, por lo que no se obtiene la misma respuesta que la del profesor si este decide probarla. «Los inspectores de plagio no son de utilidad. El año que viene tendremos que establecer un tipo diferente de examen o llevar a los estudiantes a una sala de exámenes y privarlos de acceso a Internet. Supongo que también tendremos que pensar de manera diferente sobre las tareas escritas», subraya Taylor.
El Instituto de Estudios Políticos de París, conocido como Sciences Po, es otra de las universidades que ha dado el paso hacia la prohibición, al considerar que el uso de herramientas como Chat GPT es plagio. El centro informó que su utilización puede derivar en sanciones severas e incluso la expulsión del alumno que lo utilice sin permiso del profesor —solo está permitido para uso pedagógico y organizado por el docente–. El director de Formación en Investigación de la institución, Sergei Guriev, anunció mediante correo electrónico a sus profesores y a alumnos que el uso —sin mencionar explícitamente a ChatGPT u otras herramientas de inteligencia artificial– «está estrictamente prohibido para la producción de trabajos escritos u orales por los estudiantes». «El programa ChatGPT plantea importantes cuestiones a educadores e investigadores de todo el mundo en relación con el fraude en general y el plagio en particular», afirmó la institución en un comunicado, en el que también expresó la preocupación por «garantizar la calidad y la integridad de su formación y de sus títulos».
En Australia también se ha prohibido su acceso mediante firewalls. El Group of Eight, formado por las ocho universidades más importantes del país, ha reconocido que mejorar los casos de detección y «el rediseño de la evaluación es fundamental». Es por ello que algunas de ellas han decidido volver al examen de papel y boli después de sorprender a varios de sus alumnos usando el chatbot. No obstante, desde la Universidad de Sídney expresaron que la inteligencia artificial «puede ayudar a los estudiantes a aprender y formará parte de las herramientas que usemos en el trabajo en el futuro, por lo que tenemos que enseñar a nuestros estudiantes cómo utilizarla de manera legítima».
En Bélgica, la ministra de Educación, dijo que actualmente no se cuenta con herramientas capaces de distinguir un trabajo realizado por un alumno a uno redactado por la inteligencia artificial. «Sin embargo, el profesor puede diferenciar los escritos, ya que el estilo editorial de la inteligencia artificial sigue siendo muy formal e impersonal, a diferencia de la producción humana», subrayó. Hay ya algunos profesores que han decidido aprovechar esta herramienta sabedores de que no se puede controlar al alumno siempre y que acabarán usándolo igualmente, aunque se prohíba en clase.
«Bloquear o prohibir el uso de la tecnología sería absurdo. Puede funcionar en los Estados Unidos porque los estudiantes se adhieren a un código de honor al comienzo de sus estudios, que indica que respetarán las reglas a lo largo de su curso. En Bélgica, somos más reacios a asumir este tipo de compromiso. La tecnología hará más fáciles las tareas menos interesantes como la búsqueda de información cruda, al igual que hacen ya los buscadores. Pero no es aquí donde la enseñanza es más útil. El papel del docente es formar a los estudiantes en el juicio crítico y el razonamiento», opina Nicolas van Zeebroeck, profesor de la Universidad Libre de Bruselas (ULB), encargado de dirigir la digitalización en dicha universidad, en un artículo publicado en el diario belga DH Net.
La herramienta ChatGPT «plantea importantes cuestiones a educadores e investigadores de todo el mundo en relación con el fraude en general y el plagio en particular», explican desde la Sciences Po, universidad francesa que ha prohibido su uso y que contempla sanciones severas e incluso la expulsión
España todavía no se ha posicionado, pero el ministerio de Educación ya está estudiando esta herramienta y sus implicaciones. Por su parte, algunos profesores plantean una revisión de los métodos de evaluación si esta herramienta consigue afianzarse en las aulas. «El ChatGPT plantea numerosos retos para la educación. El primero y más evidente hace referencia a los sistemas de evaluación utilizados para determinar si un estudiante ha adquirido los conocimientos y competencias esperados», sostiene Carlos de Aldama, Profesor e investigador especializado en Psicología del Pensamiento y de la Educación en la Universidad Complutense de Madrid (UCM).
Y es que ChatGPT no solo puede responder preguntas que simplemente exijan recuperar información como, por ejemplo, recuperar un listado con los ríos de España, también puede relacionar e integrar información llegando a conclusiones nuevas o, por lo menos, a conclusiones creíbles, sin considerar la complejidad de la pregunta, añade de Aldama en un artículo en el que se plantea si se debería prohibir o involucrar críticamente al proceso educativo. «Confiar excesivamente en esta herramienta puede conducir a errores y sesgos indeseables», asegura el autor, por lo que «se hace más urgente si cabe la adquisición de habilidades relacionadas con el pensamiento crítico», como por ejemplo contrastar la información, acudir a las fuentes originales o evaluar los posibles intereses asociados a una determinada información.
En el corto plazo, ¿tendré que modificar el tipo de trabajos que le solicito a mis estudiantes? ¿Tendré que corregir más estrictamente, partiendo de la idea de que es posible que la base haya sido generada por una inteligencia artificial?, se pregunta la profesora de Derecho la Universidad de La Laguna Andrea Padrón, para responder que «seguramente sí, desde luego es algo sobre lo que reflexionaré para el próximo curso». Padrón, experta de la influencia de las nuevas tecnologías en su materia, considera ante una posible prohibición que los docentes no pueden ponerle puertas al campo y que no hay que luchar contra la realidad sino conocerla y adaptarse a ella.
«No creo que esto signifique que mis estudiantes ya no deban practicar este tipo de actividades, una cantinela igual de sin sentido como la de que no hay que memorizar nada porque todo está en Internet…, pero sí que debemos saber cómo funciona para actuar en consecuencia. También considero que nuestro papel es ayudarles a tener un planteamiento crítico ante este tipo de novedades, para no dejarse llevar por la magia», concluye en su reciente entrada de blog.
El ChatGPT entra en las aulas de Milán
Teresa Summa, profesora del Liceo Clásico de Milán, recoge trozos de papel anónimos entregados por los alumnos. Contienen preguntas para ChatGPT, aplicación que probarán durante la clase. Hay de todo tipo. ¿Cómo se reconoce un amor tóxico? Preguntan a la aplicación, que enumera y desarrolla una serie de actitudes relacionadas con los celos, la posesividad, la manipulación, abusos verbales y físicos, faltas de respeto, dependencia emotiva o aislamiento. ChatGPT también recomienda acudir a un profesional de salud mental si hay sospechas de encontrarse en una situación así.
Al solicitarle un comentario sobre la guerra de Ucrania, la herramienta da información general sobre la situación. Los alumnos la desafían a inventarse un diálogo entre Bukowski y Beatrice de Dante. El resultado, según los alumnos, es decepcionante. «Los adultos nos preocupamos por el impacto que la inteligencia artificial podría tener sobre la escuela y la ocupación, mientras que los estudiantes creen que el ser humano es insustituible», asegura Summa al diario italiano Il Corriere della Sera.
«Es necesario discutir cómo aprovechar la inteligencia artificial para cambiar el modo de impartir las lecciones y transformar en positivo lo que ahora mismo es un riesgo», sostiene el profesor Carlo Sorrentino, profesor de Sociología y Procesos Culturales y Comunicativos de la Universidad de Florencia.
No ha sido este el único centro donde ChatGPT, considerado «el amigo que te hace los deberes», ha entrado en las aulas italianas. También en Milán, Devis Abriani, profesor de Matemáticas y Física del instituto Leonardo, ha decidido que sus alumnos experimenten ejercicios con esta aplicación. «Es verdad que los alumnos pueden hacer los deberes con esto, pero esto ocurre desde que existe internet. La inteligencia, la memoria, la capacidad de razonar necesitan de otras herramientas para aprender. Tiempo atrás se usaban los libros y ahora existen otras herramientas, entre las cuales está esta. Debemos educarlos a usarla en el modo correcto», afirma Abriani.
En algunos centros italianos, sobre todo en universidades, los profesores también han dado la voz de alarma ante el aumento de casos sospechosos en los que se ha hecho uso de la inteligencia artificial en trabajos de final de Grado y tesinas. El profesor Giuseppe Riva, director de Humane Technology Lab, de la Universidad Católica, se ha enfrentado a algunos episodios. Riva señala en Il Corriere della Sera los límites del chatbot. «Es como un bibliotecario que ha leído todos los libros y responde un párrafo de aquí y otro de allá pero no comprende lo que está respondiendo. El límite más importante es, desde un punto de vista educativo, que no indica de donde ha obtenido la información y no distingue la calidad de las fuentes, lo que a veces hace que componga textos alucinantes», critica el profesor, que recomienda no ocultar a los alumnos la aplicación, aunque ve necesario subrayar los límites de la misma.
También docentes de la Universidad de Florencia exponían en la prensa algunos casos sospechosos. A destacar, el de una alumna extranjera de Derecho que había presentado un trabajo en perfecto italiano o el de un alumno de Economía que había experimentado un improvisto salto de calidad en sus trabajos. «Nos estamos preguntando cómo reaccionar ante un fenómeno tecnológico ante el que nos encontramos desnudos y que resulta muy difícil de controlar. Es necesario discutir cómo aprovechar la inteligencia artificial para cambiar el modo de impartir las lecciones y transformar en positivo lo que ahora mismo es un riesgo», concluye el profesor Carlo Sorrentino, profesor de Sociología y Procesos Culturales y Comunicativos de la Universidad de Florencia.
Los estudiantes no tendrán problema en citar el contenido creado por ChatGPT en sus ensayos presentados en el Bachillerato Internacional (IB), sistema homologado que permite acceder a la Universidad en más de 80 países y usado por miles de niños cada año en Reino Unido en más de 120 escuelas. «El chatbot debe ser aceptado como una oportunidad extraordinaria», sostiene Matt Glanville, jefe de principios y prácticas de evaluación del IB, aunque matiza que el contenido debe ser citado como cualquier otra fuente en los trabajos. «La línea divisoria entre usar ChatGPT y presentar un trabajo original es exactamente la misma que usar ideas tomadas de otras personas o de Internet. Al igual que con cualquier cita o material adaptado de otra fuente, debe acreditarse en el cuerpo del texto y ser referenciado adecuadamente en la bibliografía», aclaró el académico al diario Times, a la vez que subrayó que los ensayos tendrán un menor peso en el proceso de evaluación.
«Cuando la inteligencia artificial puede escribir un ensayo con solo tocar un botón, necesitamos que nuestros alumnos dominen diferentes habilidades, como entender si el ensayo es bueno o si ha perdido el contexto, ha utilizado datos sesgados o si carece de creatividad. Estas serán habilidades mucho más importantes que escribir un ensayo, por lo que las tareas de evaluación que establezcamos tendrán que reflejar esto», concluye Glanville.