Probidad algorítmica: tres casos que muestran por qué la ética de la IA en el Estado no es un tema teórico
Un abogado sancionado por citar jurisprudencia inventada por IA. Una Contraloría que destapa un escándalo con un cruce de datos básico. Un Estado que adopta IA sin saber quién responde cuando falla. La probidad ya está siendo desafiada por la inteligencia artificial — y no estamos preparados.
El abogado que firmó lo que la IA inventó
Jurisprudencia fabricada por un LLM, presentada como real en un tribunal chileno.
La Contraloría que no necesitó IA
Un cruce de datos básico destapó un escándalo nacional por licencias médicas.
El Estado que adopta IA sin reglas
Funcionarios usan ChatGPT sin protocolo, sin registro, sin supervisión.
Hay una conversación sobre IA y ética que se repite en foros, conferencias y documentos de política pública. Es una conversación necesaria, pero abstracta: principios, frameworks, taxonomías de riesgo, recomendaciones de organismos internacionales. Todo importante. Todo insuficiente.
Porque la probidad no es un principio abstracto. Es una obligación legal concreta: actuar con rectitud, integridad y primacía del interés general en el ejercicio de la función pública. En Chile, la Ley 20.880 lo establece con claridad. Y la pregunta que nadie está respondiendo bien es esta: ¿qué pasa con esa obligación cuando las decisiones — o los insumos para tomarlas — los produce una máquina?
No hace falta especular. Ya hay casos.
Caso 1: El abogado que firmó lo que la IA inventó
A principios de 2026, un tribunal chileno sancionó a un abogado que incluyó en un escrito judicial referencias a jurisprudencia que no existía. Las sentencias citadas habían sido generadas por un modelo de lenguaje — probablemente ChatGPT — y presentadas como si fueran reales. El abogado no las verificó.
El caso no es único. En Estados Unidos, el caso Mata v. Avianca (2023) ya había sentado precedente: un abogado neoyorquino fue multado por citar seis casos fabricados por ChatGPT. Desde entonces se han documentado incidentes similares en Canadá, Reino Unido y Brasil. Lo que el caso chileno agrega es un contexto institucional específico: el deber de diligencia profesional y la probidad procesal no se modifican porque la herramienta haya cambiado.
La lección parece obvia: verificar antes de firmar. Pero el problema de fondo es más profundo. Los modelos generativos de lenguaje no verifican — predicen. Generan secuencias de texto estadísticamente plausibles, no verdades comprobadas. Cuando un LLM produce una cita jurisprudencial, no está buscando en una base de datos de sentencias: está construyendo algo que parece una cita. Y lo hace con una confianza retórica que induce al error.
Si un profesional con formación jurídica puede ser engañado por la plausibilidad de un output de IA, ¿qué pasa cuando un funcionario público usa IA para fundamentar un acto administrativo? ¿Quién verifica que los datos, los precedentes o los análisis que produce el modelo son correctos? ¿Y quién responde si no lo son? La respuesta actual es: nadie lo ha definido.
Caso 2: La Contraloría que no necesitó IA para hacer lo que la IA promete
En julio de 2025, la Contraloría General de la República hizo algo que no requería inteligencia artificial: cruzó bases de datos de licencias médicas con registros de asistencia y otros datos administrativos. El resultado fue un escándalo nacional por uso abusivo de licencias. Como señaló un análisis publicado en CIPER, la operación era técnicamente simple — pudo haberse hecho hace décadas, incluso con registros en papel.
El caso es revelador por lo que dice sobre el potencial y los riesgos. Por un lado, demuestra que el análisis de datos — con o sin IA — es una herramienta poderosa para la fiscalización y la probidad. La información existía. Lo que faltaba era la voluntad y el criterio para cruzarla.
Pero por otro lado, abre preguntas incómodas sobre lo que viene. Si un cruce básico de datos generó ese nivel de impacto, ¿qué pasa cuando se usan modelos predictivos para identificar "funcionarios de riesgo"? ¿O cuando un algoritmo asigna un score de probabilidad de fraude a cada licencia médica? ¿O cuando la IA decide, antes que un humano revise, qué casos merecen investigación y cuáles no?
Ahí la probidad se complica. Porque el cruce de datos de la Contraloría fue transparente: se explicó qué se cruzó, con qué criterios, y los resultados fueron verificables. Un modelo de machine learning no opera así. Sus criterios de selección son opacos por diseño. Y si el Estado empieza a tomar decisiones de fiscalización basadas en outputs que nadie puede explicar, el principio de probidad — que exige motivación y transparencia en los actos administrativos — queda en tensión directa con la herramienta que se supone debería fortalecerlo.
La IA puede ser la mejor aliada de la probidad o su mayor amenaza. Depende de si se usa para hacer visible lo que estaba oculto o para automatizar decisiones que nadie puede auditar.
Caso 3: El Estado que adopta IA sin saber quién responde
Este no es un caso único sino un patrón. La Revista de la Contraloría (CEA) publicó recientemente una revisión de 62 estudios internacionales sobre IA y control público. Su conclusión es directa: los enfoques centrados exclusivamente en la eficiencia son insuficientes para abordar los riesgos normativos de la opacidad algorítmica y la redistribución de responsabilidades. El estudio argumenta que la probidad debe entenderse como una capacidad institucional ampliada que exige tres cosas: supervisión humana significativa, trazabilidad decisional y explicabilidad de los sistemas.
Mientras tanto, un artículo publicado en EstadoDiario advierte que la incorporación de IA en el sector público chileno avanza sin un marco normativo coherente. El proyecto de ley de IA no articula con el estatuto administrativo ni con la Ley 21.719 de protección de datos personales. Hay vacíos legales en materia de explicabilidad, rendición de cuentas y mecanismos de control de sesgos.
Y en la práctica cotidiana, funcionarios de todo el Estado usan ChatGPT para redactar informes, resumir documentos, preparar respuestas. Lo hacen sin protocolo, sin registro, sin supervisión. No porque sean irresponsables, sino porque nadie les ha dicho qué reglas aplican.
La adopción informal de IA ya es un hecho. Cada día que pasa sin reglas claras es un día en que se acumula riesgo institucional — no por la tecnología en sí, sino por la ausencia de gobernanza.
Lo que la probidad exige de la IA (y que todavía no tiene)
La probidad administrativa no es un concepto que necesite reinventarse para la era de la IA. Ya tiene los ingredientes: rectitud, transparencia, motivación de las decisiones, primacía del interés general. Lo que necesita es traducirse al nuevo contexto. Eso implica al menos cuatro cosas:
Trazabilidad
Si un sistema de IA participó en una decisión administrativa, eso debe quedar registrado. No como burocracia adicional, sino como condición mínima de auditoría.
Responsabilidad definida
La IA no es un actor jurídico. ¿Responde el funcionario? ¿El jefe de servicio? ¿El área de tecnología? Definir esto no es opcional.
Explicabilidad proporcional
El nivel de explicabilidad exigible debe ser proporcional al impacto de la decisión sobre las personas. Clasificación por riesgo, como en el EU AI Act.
Supervisión con criterio
Un humano que aprueba sin entender no es supervisión — es teatro. Requiere competencia y tiempo para evaluar críticamente.
La probidad no frena la innovación. La hace sostenible.
Existe una narrativa — a veces implícita, a veces explícita — que presenta la probidad, la transparencia y la rendición de cuentas como obstáculos a la innovación. Como si gobernar la IA fuera frenarla.
Es exactamente al revés. La IA que se despliega sin gobernanza genera escándalos, pierde confianza ciudadana y termina siendo retirada. La IA que se despliega con reglas claras, responsabilidades definidas y mecanismos de auditoría genera valor sostenible.
No hay tensión entre probidad e innovación — hay tensión entre innovación responsable e innovación negligente.
Los tres casos revisados muestran lo mismo desde ángulos distintos: el abogado que no verificó pagó con su reputación. La Contraloría que sí verificó destapó un problema real. Y el Estado que no define reglas acumula un riesgo que algún día alguien — un ciudadano afectado, un medio de comunicación, un órgano contralor — va a cobrar.
La pregunta no es si la IA llegó al Estado. Ya llegó. La pregunta es si la probidad va a llegar a la IA antes de que sea demasiado tarde.