La búsqueda asistida por IA y el sesgo

(Imagen generada con Gemini)

He tenido ocasión de probar a hacer búsquedas en alguna importante base de datos con ayuda de un asistente de inteligencia artificial. La idea era ver qué tal iba la cosa. Y la cosa no ha ido mal, toda vez que se puede utilizar el lenguaje natural y nos podemos olvidar de todo el embrollo de los operadores booleanos, filtros y demás, pero...

Parece que siempre que está la IA por medio ha de haber un pero... En este caso, es el sesgo. El sistema me devolvía numerosos registros, pero destacaba algunos por encima de todos los demás. ¿Qué criterios seguía para ello? Ni idea. No sé si eran los más citados, los que mejor defendían sus postulados, los más documentados... Es más, en una ocasión le dije al asistente que esos registros que me había destacado no me gustaban y que me mostrase otros... Y lo hizo, sin siquiera preguntarme por qué no me gustaban. Me vino en seguida a la mente la célebre frase atribuida (como tantas otras) a Groucho Marx: "Estos son mis principios. Si no le gustan, tengo otros".

Bromas aparte, esto me dio mucho en qué pensar. Volviendo a mis orígenes como boticario me puse en la situación de un investigador que quiera aplicar un tratamiento farmacológico a una enfermedad determinada. Si hago búsquedas como estas, ¿quién me garantiza que no va a haber intereses más económicos que científicos que influyan en esos resultados destacados y me lleve a pensar que tal o cual molécula es la mejor? Todo esto puede parecer un tanto paranoico, pero no creo que sea descabellado. Mis pensamientos ya iban por ahí, pero se están reafirmando un tanto ahora que me estoy leyendo el Atlas de IA, de Kate Crawford, que da una idea bastante pesismista del uso que los grandes intereses (del tipo que sean, pero fundamentalmente económicos) pueden hacer de esta tecnología. Pero ya llegará, espero, el momento de comentar con mayor profundidad ese libro por aquí.

El síndrome de la inmediatez

(Imagen generada con Gemini)

A veces me planteo por qué tienen tanto "poder" las redes sociales y a la conclusión que llego es porque se lo dan otros. Y en ese "otros" incluyo no solo a esos malvados "hackers" y bots de oscuras intenciones, sino también a la prensa digamos "tradicional", que tira de ellas más de lo que debería. Esta misma semana hemos encontrado un claro ejemplo cuando esa prensa "tradicional" se hizo eco de un bulo lanzado a propósito, en concreto la presunta muerte del escritor Fernando Aramburu. Aquí lo que tuvo que decir la Agencia EFE:

AVISO | La Agencia EFE anula la noticia sobre el fallecimiento del escritor Fernando Aramburu.

Una cuenta falsa que se hace pasar por la editorial Tusquets informaba del fallecimiento. La editorial ha desmentido la información a través de su cuenta oficial. pic.twitter.com/ymVMiqxPje

— EFE Noticias (@EFEnoticias) November 19, 2024

¿Por qué se hizo caso a lo que dijo esa cuenta? ¿Por qué no se pusieron en contacto con la editorial por otras vías? ¿Por qué no preguntaron a la familia, amigos? La inmediatez. Había que publicarlo ya.

Qué peligro tienen las redes... En realidad, las redes no son un peligro, el peligro está en quienes las usan. Son como un cuchillo jamonero, que igual sirve para cortar exquisitas lascas de una delicia de Jabugo que para degollar a alguien, según quien lo maneje.

Todo esto me recordó una "conversación" que tuve hace ya muchos años con un célebre director de periódico en unas jornadas sobre prensa y redes sociales que se celebraron en la universidad en que trabajo. Por entonces yo acababa de empezar a moverme por las redes y me parecían una auténtica maravilla. No habían aparecido (o no proliferaban tanto) los bulos, las noticias falsas, los "bots" ni todas las plagas que ahora las asolan. Eran un punto de encuentro, donde poder hablar sin filtros, dicho esto en el mejor de los sentidos, es decir, sin que nadie quisiera dirigir nuestro pensamiento, solo intercambiarlos (al menos esa era mi percepción). Yo pregunté por la "hostilidad" que notaba en los medios "tradicionales" hacia las redes, esos medios que cada vez más preferían crear opinión antes que informar para que cada cual se crease la suya. No recuerdo la respuesta que, de todos modos no debió de ser muy concluyente (sí que me viene a la mente cierto "encogimiento de hombros"). El caso es que desde entonces noté que con las redes estos medios hicieron lo que actualmente ocurre con la inteligencia artificial, esto es, aquello de que si no puedes con tu enemigo, únete a él. Y a causa de esa inmediatez, ese "síndrome de la inmediatez" con el que he encabezado esta entrada, la prensa cada vez más se ha apoyado en lo que encuentra en las redes para conseguir la primicia, para lograr que me lean a mí y no al de enfrente. Esto lleva a lo de Aramburu. Me fío de lo que leo en las redes y tiro por ahí. Esta vez se descubrió en seguida, pero ¿cuántas veces no habrá pasado lo mismo y bien no se ha solucionado con tanta rapidez o bien la solución no ha tenido la misma repercusión que el bulo? Esto, hábilmente aprovechado por quien sea es lo que está llevando a tanta desinformación y a lo que principalmente se busca, que no nos fiemos de nadie, que no encontremos referentes informativos en quien confiar.

Además, crea una especie de ansiedad en los que utilizamos las redes que provoca que sucedan cosas como las que están pasando últimamente, con el trasiego de unas redes a otras, de una que ya no me gusta a otra que me parece estupenda, y sus consecuencias, algo de lo que espero hablar más adelante.

"Grupo XI": el nuevo caso de la inspectora Gutiérrez Mon (tras una reflexión sobre la IA y la literatura)

La inteligencia artificial y la literatura: una reflexión que nadie ma ha pedido

Quienes me conocen me suelen decir muy a menudo que me repito bastante. Supongo que, aparte de una faceta de mi carácter, será algo que la edad está incrementando, como sucederá con los muchísimos defectos que no he logrado corregir hasta ahora. (Huy, como le diría Mena a Susana, me estoy poniendo demasiado filosófico...) Viene esto a cuento porque, las cada vez más escasas veces que actualizo este blog, siempre empiezo diciendo lo mismo: que si hay que ver cuánto tiempo, que si quiero hablar de bibliotecas y demás, que si ahora hago una excepción y vuelvo a mis veleidades literarias... Cierto que el año pasado parecía que había encontrado una buena veta con el asunto de la inteligencia artificial y su uso, no sé si llamarlo fraudulento, a la hora de elaborar trabajos académicos. Me centré en la posibilidad de detectarlo con las herramientas disponibles y me hice eco de lo vertiginoso de su evolución. Una evolución tan vertiginosa que ahora apenas se habla de este posible fraude y sí de la incoporación de lo que se ha dado en llamar "inteligencia artificial generativa" en muchos campos como una "maravillosa herramienta".

Sin embargo, de vez en vez surgen noticias que al menos deberían servir para matizar esto. Por ejemplo, y llevando de nuevo el terreno a lo que he llamado "veleidades literarias", no hace mucho supe por las redes sociales que Kindle Direct Publishing, esto es, la plataforma de autopublicación de Amazon (que es la que yo utilizo), había limitado a tres libros al día (repito y leed bien: tres libros al día) lo que un usuario podía publicar. Y todo porque, cada vez más, se está utilizando la inteligencia artificial para escribir,

Amazon limita la autopublicación: 3 libros diarios por "autor" para tratar de frenar los libros generados por IA. Se calcula que el 81% de los publicados en la categoría ROMANCE CONTEMPORANEO son fruto de IA.
Nos está quedando una distopía fetén.https://t.co/vq7s5xWGpx

— Ivan Ledesma (@Ivanledesma) February 26, 2024

Como veis en el tuit, se calcula que en una de las categorías (Romance contemporáneo) la mayoría de las novelas (un 81 %) están escritas por la IA.

Es terrible.

Yo siempre he calificado como "veleidades" ("voluntad antojadiza o deseo vano", según el Diccionario de la Real Academia) mis efusiones literarias y apenas tengo más pretensiones que beneficiarme de sus efectos catárticos (cosa mía) y que las pocas lectoras fieles que tengo se sigan peleando por ser las primeras en leer mis libros cuando los dono a mi biblioteca. Eso es cierto, pero tengo claro que cuando se dice que uno se autopublica sus novelas siempre hay alguien que razonará que si es así por algo será, porque si en realidad fuesen buenas ya habría alguna editorial que se interesase por ellas. Quien así opina quizá piense que las editoriales son ONG y no negocios que están para ganar dinero y que ganarán mucho más si publican algo de alguien conocido que mis criaturitas. Pero esa no es la cuestión. El problema está en que si ahora además se ve que la mayoría de lo que se publique en estas plataformas va a tener detrás la IA generativa, pues entonces apaga y vámonos. Como yo pretendo tomarme casi todo con humor lo que se me ha ocurrido hacer es esto:

Estoy maquetando mi última novela, que espero autopublicar en pocos días, y se me ha ocurrido poner esto en el verso de portada... pic.twitter.com/KfVEN6eGsQ

— Paco López Hernández (@PacoLopezH) March 7, 2024

Grupo XI: mi nueva criatura

Bien, y dicho esto, os presento el nuevo caso de mi querida Susana, Grupo XI lo he titulado, en el que hay cambios muy importantes en su vida personal y profesional y, además, investiga la muerte de un célebre periodista que ha sido objeto de eso que hoy llaman "cultura de la cancelación" (y ya aprovecho para decir lo que opino de ello). He de revelaros que mis lectoras habituales me suelen hacer sugerencias sobre esos posibles cambios; espero que estos les gusten. Como siempre, el libro lo podéis conseguir en Amazon.