Las IA se equivocan, ¿podemos confiar en ellas?

En fin, toda suerte de errores podemos obtener al usar una IA. En 2021 un equipo de Oxford identificó dos tipos de fallos, el primero está relacionado con la inexactitud de los datos con los que se entrenó la IA; y los segundos, tienen que ver con la forma como las IA infieren a partir de los datos con los que fueron entrenados.

Los modelos de IA más recientes ya se nutren con la información que hay en Internet, pero esto puede ser un problema, sobre todo cuando podemos notar la sarta de barbaridades que a veces uno se encuentra ahí, comenzando con títulos que poco o nada tienen que ver con el contenido y contenidos que no tienen pie ni cabeza.

¿Podemos confiar en las IA?

En lo personal, creo que no puedes confiar ciegamente en nada ni en nadie, mucho menos si lo encuentras en Internet. Cuestionar la veracidad de todo lo que se escucha, venga de quien venga, es una muy sana práctica. Claro que es más valioso si el contenido viene de una fuente de reconocida ética, y cuidado con esto porque hoy en día ni las agencias de noticias gozan de confiabilidad, por sesgarse ante posturas de diversas índoles e intereses.

La confianza es un tema que depende de cuánto te das cuenta de los errores. Eso quiere decir, que si tienes buena base conceptual y referencial sobre un tema que investigas, es altamente probable que te des cuenta de que algunos resultados tienen errores, y mientras más errores puedas notar, menos confías. Es algo así como pillar a la pareja engañándote, más engaño, más desconfianza.

A diferencia de la pareja, no te puedes divorciar de las IA. Pero sí, te puedes formar para usarlas de forma más eficiente. Puedes entender que mientras más sepas de un tema, más fácil te resultará apreciar la calidad de los resultados de la IA que uses.

Debes verificar todo cuanto te dice, buscar referencias que apoyen o demeriten los resultados obtenidos y actuar en consecuencia según la tarea que estés desarrollando.

Al menos por ahora, detectar errores, imprecisiones, sesgos, alucinaciones y toda forma de contenido incorrecto producido polas IA, solo depende ti. Esta es una habilidad que solo se puede desarrollar ampliando tu conocimiento y capacidad de análisis. Finalmente, todo depende de ti y de lo que quieras creer. Dios nos ayude!