(Imagen generada con Gemini)
He tenido ocasión de probar a hacer búsquedas en alguna importante base de datos con ayuda de un asistente de inteligencia artificial. La idea era ver qué tal iba la cosa. Y la cosa no ha ido mal, toda vez que se puede utilizar el lenguaje natural y nos podemos olvidar de todo el embrollo de los operadores booleanos, filtros y demás, pero...
Parece que siempre que está la IA por medio ha de haber un pero... En este caso, es el sesgo. El sistema me devolvía numerosos registros, pero destacaba algunos por encima de todos los demás. ¿Qué criterios seguía para ello? Ni idea. No sé si eran los más citados, los que mejor defendían sus postulados, los más documentados... Es más, en una ocasión le dije al asistente que esos registros que me había destacado no me gustaban y que me mostrase otros... Y lo hizo, sin siquiera preguntarme por qué no me gustaban. Me vino en seguida a la mente la célebre frase atribuida (como tantas otras) a Groucho Marx: "Estos son mis principios. Si no le gustan, tengo otros".
Bromas aparte, esto me dio mucho en qué pensar. Volviendo a mis orígenes como boticario me puse en la situación de un investigador que quiera aplicar un tratamiento farmacológico a una enfermedad determinada. Si hago búsquedas como estas, ¿quién me garantiza que no va a haber intereses más económicos que científicos que influyan en esos resultados destacados y me lleve a pensar que tal o cual molécula es la mejor? Todo esto puede parecer un tanto paranoico, pero no creo que sea descabellado. Mis pensamientos ya iban por ahí, pero se están reafirmando un tanto ahora que me estoy leyendo el Atlas de IA, de Kate Crawford, que da una idea bastante pesismista del uso que los grandes intereses (del tipo que sean, pero fundamentalmente económicos) pueden hacer de esta tecnología. Pero ya llegará, espero, el momento de comentar con mayor profundidad ese libro por aquí.
