IA y Academia: entre el pánico y el oscurantismo

Los días 13 y 15 de este mes de octubre, la Universidad Iberoamericana reunió en la Ciudad de México a editores de revistas académicas en su Primera Jornada de Edición Científica, y colocó a la inteligencia artificial (IA) entre sus ejes de discusión, con una ponencia del editor de la Revista Mexicana de Ciencias Políticas y Sociales, de la UNAM, sobre algoritmos, poder editorial y “nuevas jerarquías del conocimiento académico”. La discusión es pertinente y hasta tardía; inquieta el tono con que amplios segmentos de la academia la vienen haciendo, entre el pánico y la condena, con la “preocupación” por el “uso ético” como bandera.

En Fedro, escrito allá por el año 370 a. C., Platón pone en boca de su maestro Sócrates el mito de Theuth, el dios egipcio que inventó la escritura, y la respuesta del rey Thamus, que la rechaza porque “es olvido lo que producirán en las almas de quienes la aprendan, al descuidar la memoria”, porque “apariencia de sabiduría es lo que proporcionas a tus alumnos, que no verdad”, y porque las palabras escritas, cuando se les ataca o se les malinterpreta, “no son capaces de defenderse”. Sócrates fue filósofo oral y su condena de la escritura se conoce, con ironía, porque Platón la dejó escrita. ¿Suena conocido? ¿La falsa sabiduría de quien repite lo que la máquina le entrega? ¿La memoria que se atrofia porque ya no necesita retener nada?

Casi dos mil años después, el tribunal del Santo Oficio condenó a Galileo por sostener que la Tierra gira alrededor del Sol, y en esos mismos siglos los tribunales eclesiásticos y civiles de Europa llevaron a la hoguera a miles de mujeres acusadas de brujería, porque tenían conocimientos para sanar con yerbas. En abril de 1986, un grupo de profesores de matemáticas encabezado por John Saxon se manifestó con pancartas ante la reunión del Consejo Nacional de Profesores de Matemáticas de Estados Unidos, en Washington, contra la recomendación de llevar la calculadora a todos los grados escolares, porque los niños no aprenderían matemáticas “apretando botones”. Siguieron internet, que liberó el conocimiento de la restricción del libro físico y de la biblioteca lejana, y los motores de búsqueda, señalados como fuente ilegítima y puerta franca del plagio. La IA es la evolución avanzada de esos motores, un instrumento hiperveloz que pone al alcance de cualquiera los acervos que la humanidad ha acumulado a lo largo de su historia, y es, por lo mismo, incontenible.

Responsables editoriales de algunas revistas académicas advierten que no aceptan el uso de IA en ninguno de los trabajos que reciben y, en el mismo documento, se contradicen al precisar que solo aceptan hasta 10% de su uso. ¿10% de qué? ¿Medido cómo? Con IA, porque para detectar la IA usan IA, y esos detectores fallan. OpenAI, la empresa de ChatGPT, retiró su propio clasificador de textos en 2023 por su “baja tasa de precisión”, ya que solo identificaba como escrito por IA 26% de los textos que sí lo eran y señalaba como tales 9% de los escritos por personas. Un estudio de la Universidad de Stanford, publicado en 2023 en la revista Patterns, sometió a siete detectores de uso extendido ensayos del examen TOEFL escritos por estudiantes cuya lengua materna no es el inglés, y en promedio 61.3% de esos ensayos fue catalogado como producido por IA. Para la academia latinoamericana, empujada a publicar en una lengua que no es la suya, el dato no es menor.

Ríos de artículos y libros advierten de los “peligros éticos” de la IA mientras otros venden manuales para usarla, y las redes sociales se inundan de promocionales hechos con IA para vender IA. En mayo de 2023, el Centro para la Seguridad de la IA (Center for AI Safety), organización estadounidense sin fines de lucro con sede en San Francisco, California, fundada en 2022 y dirigida por Dan Hendrycks, publicó una declaración de una sola oración, según la cual mitigar el riesgo de extinción por la IA debe ser una prioridad mundial, al lado de las pandemias y la guerra nuclear, y que firmaron cientos de investigadores y directivos, entre ellos los directores generales de OpenAI, Google DeepMind y Anthropic, las empresas que desarrollan y venden esos modelos. Primero se vende la IA, después se vende la seguridad contra la IA, con mecanismos de seguridad hechos con IA. Ya tienen un megamercado vendiendo los paquetes informáticos a costos altísimos a los organismos de ciencia y educación con los paquetes de detección de “similitudes” y de “uso de IA”, es el caso del Turnitin y el Compilatio, una estrategia redonda de mercadeo, crear la necesidad generando pánico y vendiendo el agente que te “proteja”. Así ocurrió con los programas informáticos, cuando aparecieron los virus y con ellos una industria de antivirus que hizo de la amenaza su mercado. ¿Estamos ante un oscurantismo tecnológico contemporáneo que usa el pánico lo mismo para escudar un analfabetismo digital que para vender “productos” secuenciales? ¿Un plan repetitivo, de manual de mercadotecnia?

¿Dónde está, entonces, la falta de ética? Si el contenido de un artículo es valioso, su método es aceptable, sus datos son verídicos, hace una contribución al conocimiento y reconoce, citándolas correctamente, las obras que consultó y usó, la herramienta con que se elaboró no es condenable. Las revistas y editoriales, empezando por las del Sistema Nacional de Publicaciones Científicas y Humanísticas de la SECIHTI, deberían dejar de exigir la declaración de uso de IA. Para eso existe el dictamen por pares académicos expertos en el tema, cuyo trabajo es precisamente asegurar la calidad académica del texto, su aceptabilidad disciplinaria, la veracidad de su contenido, el reconocimiento correcto de los autores consultados mediante la citación y su contribución al conocimiento; si el dictamen cumple esa tarea con honestidad intelectual, declarar las herramientas con que se aplicó la metodología y se elaboró el texto resulta innecesario. Los apartados de metodología de los artículos ya describen, paso a paso, los procedimientos seguidos y, muchas veces, el paquete informático con que se procesaron los datos, que es lo que la revista y el dictaminador pide para juzgar la solidez del método, y a nadie se le exige declarar además el procesador de textos, el buscador, el corrector ortográfico o la calculadora que usó. Exigir, encima, una declaración de uso de IA en el texto del artículo y, en otros casos, una tabla que detalle dónde y cómo se utilizó, con qué modelo específico y en qué fechas, es tan innecesario como excesivo. La responsabilidad por cada dato y cada cita sigue siendo del autor, y la de comprobarlos, del dictaminador, que también puede apoyarse en la IA para hacerlo. De hecho, dictaminadores y comités editoriales ya la usan sin declararlo, y hay dictámenes que rechazan un manuscrito por el porcentaje de IA que le atribuye su detector y que, pasados por otro detector, resultan escritos por completo con IA. La herramienta no sustituye al conocimiento disciplinario, lo ejecuta o lo estropea según quién la conduzca.

La escritura marcó la inflexión entre la prehistoria y la historia y fue un salto cuántico en la difusión del conocimiento, y la IA es la expresión actualizada de las herramientas que desde entonces se han desarrollado para generar y difundirlo. Lo que la IA entrega sí requiere, es una auditoría imprescindible de cada dato, cada cita y cada referencia, porque el manejo y la decisión siguen siendo humanos. ¿Será que lo que padece buena parte de la academia es una especie de analfabetismo digital que le produce pánico, y ante lo desconocido (¿o conocido?) opta por el oscurantismo, que es más cómodo que aprender? La academia es la antítesis de la superstición; debe dejar de actuar con pánico y oscurantismo.

*Profesor Investigador, El Colegio de la Frontera Norte, Unidad Mexicali
jza61@colef.mx