{"id":188,"date":"2026-02-20T16:01:33","date_gmt":"2026-02-20T21:01:33","guid":{"rendered":"https:\/\/marybernalj.com\/blog\/?p=188"},"modified":"2026-03-05T16:03:13","modified_gmt":"2026-03-05T21:03:13","slug":"auditoria-de-ia-primero-hay-que-saber-si-realmente-estas-usando-ia","status":"publish","type":"post","link":"https:\/\/marybernalj.com\/blog\/index.php\/2026\/02\/20\/auditoria-de-ia-primero-hay-que-saber-si-realmente-estas-usando-ia\/","title":{"rendered":"Auditor\u00eda de IA: primero hay que saber si realmente est\u00e1s usando IA"},"content":{"rendered":"\n
\"\"<\/figure>\n\n\n\n

Hay una pregunta que pocas veces pensamos cuando accedemos a un nuevo “sistema de inteligencia artificial”: \u00bfesto es realmente IA?, <\/strong>y es una pregunta que cada vez es m\u00e1s importante.<\/p>\n\n\n\n

Escuchamos que “la IA est\u00e1 en todas partes”. En los bancos, en los hospitales, en los sistemas de contrataci\u00f3n, en las plataformas que deciden qu\u00e9 contenido ves. Y en muchos casos, es cierto. Pero en muchos otros, m\u00e1s de los que quisi\u00e9ramos admitir, lo que se llama IA es, en el mejor de los casos, una automatizaci\u00f3n sencilla con un nombre glamoroso. Y en el peor, una decisi\u00f3n humana empaquetada en una interfaz que parece objetiva precisamente porque parece t\u00e9cnica.<\/p>\n\n\n\n

Esto no es un problema menor. Es el problema central.<\/p>\n\n\n\n

Llamarle “inteligencia artificial” a algo no es un acto neutro. Es un acto de posicionamiento.<\/p>\n\n\n\n

La etiqueta IA carga con una promesa impl\u00edcita: que el sistema aprende, que se adapta, que supera las limitaciones del juicio humano. Y esa promesa, bien justificada o no, produce un efecto muy concreto: hace que las decisiones del sistema se perciban como m\u00e1s objetivas, m\u00e1s confiables, m\u00e1s dif\u00edciles de cuestionar.<\/strong><\/p>\n\n\n\n

Ese efecto es poderoso. Y cuando no est\u00e1 respaldado por la realidad t\u00e9cnica del sistema, se convierte en un problema serio.<\/p>\n\n\n\n

Porque en la pr\u00e1ctica, una parte significativa de lo que hoy se vende, se despliega y se eval\u00faa bajo el nombre de “IA” no es m\u00e1s que automatizaci\u00f3n convencional con un nombre m\u00e1s atractivo. Reglas fijas escritas por alguien hace a\u00f1os. Modelos estad\u00edsticos simples sin monitoreo ni mantenimiento. Sistemas de filtrado manual empaquetados en una interfaz que parece sofisticada precisamente porque pocos se atreven a abrirla y mirar adentro.<\/p>\n\n\n\n

No lo digo para desacreditar la tecnolog\u00eda. Lo digo porque confundir ambas cosas tiene consecuencias reales.<\/p>\n\n\n\n

La necesidad de Auditor\u00eda. El traje nuevo del algoritmo<\/strong><\/p>\n\n\n\n

Pensemos en un sistema de evaluaci\u00f3n crediticia. O en una plataforma de selecci\u00f3n de personal. O en un sistema de priorizaci\u00f3n de atenci\u00f3n en salud. Todos presentados como “soluciones de IA”. Todos con dashboards, modelos y visualizaciones que transmiten sofisticaci\u00f3n.<\/p>\n\n\n\n

Pero al revisar el funcionamiento interno, al hacer las preguntas que deber\u00eda hacer toda auditor\u00eda, aparece con frecuencia una realidad m\u00e1s modesta: un modelo de regresi\u00f3n lineal entrenado con datos de hace cinco a\u00f1os, sin validaci\u00f3n cruzada, sin monitoreo de deriva, sin documentaci\u00f3n de las variables de entrada. O peor: un conjunto de reglas manuales codificadas por alguien que ya no trabaja en la empresa, que nadie ha revisado desde entonces, y que produce resultados sistem\u00e1ticamente desiguales seg\u00fan el grupo poblacional que se eval\u00faa.<\/p>\n\n\n\n

\u00bfEs eso IA? T\u00e9cnicamente, en algunos casos s\u00ed. Pero la pregunta m\u00e1s importante no es c\u00f3mo se llama. Es qu\u00e9 garant\u00edas ofrece, qui\u00e9n responde por sus errores, y si quienes son afectados por sus decisiones saben siquiera que un sistema automatizado interviene en su vida.<\/p>\n\n\n\n

Antes de evaluar si un sistema de IA es justo, preciso o explicable, hay que saber qu\u00e9 tipo de sistema es. Eso requiere responder al menos esto:<\/p>\n\n\n\n

\u00bfEl sistema aprende o ejecuta reglas fijas?<\/strong> No es lo mismo un modelo que se entrena con datos nuevos que un conjunto de condiciones codificadas hace a\u00f1os. El tipo de sistema determina qu\u00e9 riesgos buscar y qu\u00e9 metodolog\u00edas aplicar. Confundirlos es auditar la pregunta equivocada.<\/p>\n\n\n\n

\u00bfCon qu\u00e9 datos fue construido y qu\u00e9 tan vigentes est\u00e1n?<\/strong> Un modelo entrenado con datos desactualizados no es un modelo confiable: es una fotograf\u00eda vieja aplicada a un mundo que ya cambi\u00f3. La calidad, representatividad y vigencia de los datos de entrenamiento es el primer indicador real de confiabilidad , mucho antes que cualquier m\u00e9trica de performance.<\/p>\n\n\n\n

\u00bfQui\u00e9n lo dise\u00f1\u00f3 y con qu\u00e9 criterios expl\u00edcitos?<\/strong> Las decisiones de dise\u00f1o de un sistema automatizado son decisiones de valores. Qu\u00e9 se optimiza, qu\u00e9 se ignora, qu\u00e9 margen de error se considera tolerable,  todo eso refleja una visi\u00f3n del mundo. Esa visi\u00f3n necesita estar documentada y ser examinable. Si no lo est\u00e1, no hay auditor\u00eda posible: hay solo confianza ciega.<\/p>\n\n\n\n

\u00bfEl sistema se actualiza o est\u00e1 congelado en el tiempo?<\/strong> Un modelo que no se monitorea se degrada. El fen\u00f3meno se llama data drift: la distancia que crece entre los datos con que el sistema fue entrenado y los datos del mundo real en que opera. Es una de las causas m\u00e1s frecuentes de falla silenciosa, y una de las menos visibles si nadie est\u00e1 mirando.<\/p>\n\n\n\n

\u00bfSe puede explicar por qu\u00e9 el sistema tom\u00f3 una decisi\u00f3n concreta?<\/strong> En contextos donde el sistema afecta derechos o accesos , cr\u00e9dito, salud, empleo, justicia, la explicabilidad no es una caracter\u00edstica deseable. Es una condici\u00f3n m\u00ednima de legitimidad. Si nadie puede decir por qu\u00e9 el sistema decidi\u00f3 lo que decidi\u00f3 en un caso espec\u00edfico, entonces nadie puede corregirlo cuando se equivoca.<\/p>\n\n\n\n

Lo que m\u00e1s preocupa no es que haya sistemas de baja calidad t\u00e9cnica. Eso existe en todos los campos y tiene soluci\u00f3n t\u00e9cnica.<\/p>\n\n\n\n

Lo que preocupa es el efecto de legitimidad que produce la etiqueta “IA”. Cuando una decisi\u00f3n viene de un algoritmo, tiende a percibirse como m\u00e1s objetiva, m\u00e1s neutral, m\u00e1s dif\u00edcil de cuestionar que una decisi\u00f3n humana equivalente. Aunque el algoritmo est\u00e9 reproduciendo exactamente los sesgos de quien lo dise\u00f1\u00f3. Aunque est\u00e9 tomando decisiones con datos que nadie ha verificado. Aunque nadie en la organizaci\u00f3n pueda explicar por qu\u00e9 produce los resultados que produce.<\/p>\n\n\n\n

Esa legitimidad prestada, el hecho de que “es tecnolog\u00eda” funcione como argumento de autoridad, es uno de los riesgos m\u00e1s subestimados en el despliegue de sistemas automatizados en Am\u00e9rica Latina.<\/p>\n\n\n\n

Y la auditor\u00eda de IA, bien entendida, es precisamente el mecanismo para romperla.<\/p>\n\n\n\n

\u00bfQu\u00e9 significa auditar bien?<\/strong><\/p>\n\n\n\n

Auditar un sistema de IA no es ejecutar un checklist t\u00e9cnico. Es un proceso de investigaci\u00f3n cr\u00edtica que debe combinar competencia t\u00e9cnica, comprensi\u00f3n del contexto organizacional y sensibilidad hacia los grupos que son afectados por las decisiones del sistema.<\/p>\n\n\n\n

Una auditor\u00eda bien hecha debe poder responder:<\/p>\n\n\n\n