Una investigadora médica de la Universidad de Gotemburgo en Suecia, Almira Osmanovic Thunström, «inventó» una enfermedad de los ojos. La llamó «bixonimania». Claro, ella la inventó: tal enfermedad no existe.
La investigadora eligió ese nombre a propósito porque es absurdo: el sufijo «manía» es un término psiquiátrico que jamás sería usado para una afección ocular.
Para reforzar la «seriedad» del asunto, subió dos estudios falsos a internet. Y para continuar con el absurdo, llamó al fondo de financiamiento «Fundación Bob Patiño» (popular personaje para los seguidores de la serie The Simpsons), aclarando además que «este paper entero es inventado». Las pistas estaban ahí para cualquiera que leyera.
El caso es que, como es obvio, esta enfermedad no aparece en ningún libro de medicina, pero las IA empezaron a tratarla como una enfermedad real. Para agravar aún más el asunto, no cayeron solo las máquinas: científicos humanos citaron la bixonimania en un paper con revisión de pares que tardó más de un año en retractarse.
No es novedad que ciertas ideas tomadas como «verdades reveladas» de la ciencia médica son finalmente negadas o corregidas a partir del estudio serio y la investigacion. Desde la certeza de antaño de que las sangrías curaban la mayoría de las enfermedades hasta el descubrimiento bien entrado el SXX de que, en contra de lo que se pensaba, el cerebro adulto sí genera nuevas neuronas, todo un abanico de falsas convicciones han sido confrontadas y desterradas.
Si algo tiene cara de ciencia, los humanos suponemos que debe ser verdad. Y luego citamos sin leer y repetimos sin chequear. Muy humano, sí. Y la IA repite el mismo patrón.
¿La IA podrá algún día pensar como un humano? No lo sabemos. Pero por el momento se presenta un gran problema con esta tecnologia: La IA no sabe decir «no sé». Y mucho menos puede hacer uso del tan humano sentido común.
Fuente: Nature. com
