¿Puede un sistema eficiente ser radicalmente injusto sin violar ninguna regla técnica que haya diseñado para sí mismo?

En 2018, un algoritmo de reconocimiento facial usado por una empresa de contratación descartaba sistemáticamente candidatas mujeres. No había fallo técnico: el sistema optimizaba exactamente lo que se le pidió. La eficiencia era verificable. El problema era que nadie había codificado que los seres humanos no pueden ser variables a eliminar en una función de optimización.

Los Capítulos 5 y 6 de CLA construyeron las condiciones de validez y los estándares de evidencia del Common Law Algorítmico. Ambos asumieron la existencia de restricciones constitutivas que ninguna optimización puede transgredir. Ninguno las formalizó. Este capítulo construye esas restricciones.

La Dignidad Algorítmica no es extensión filosófica de la dignidad clásica: es su traducción operativa al único lenguaje que los agentes algorítmicos entienden — restricciones duras que definen el espacio de soluciones antes del cálculo. La dignidad clásica opera ex post: un tribunal evalúa si un acto la violó. La Dignidad Algorítmica opera ex ante: la violación no existe como opción computable.

El capítulo formaliza siete Umbrales de Inviolabilidad — organizados en dos niveles (Alfa: absolutos; Beta: ponderables con escalamiento humano obligatorio) — que van desde la prohibición de causar muerte intencional por optimización (U1) hasta el derecho a impugnar cualquier decisión algorítmica que afecte derechos fundamentales (U7). Para cada umbral: fundamento filosófico convergente (Kant, DUDH, Jonas, Nussbaum), especificación técnica de implementación, y consecuencia exacta de violación. La relación entre la VEC (Cap 5) y la Dignidad se formaliza como función de utilidad lexicográfica: los umbrales no participan en ningún cálculo de costo-beneficio. No hay número de vidas salvadas que convierta en admisible matar intencionalmente una. El sistema no elige no hacerlo; simplemente no puede calcularlo como opción.

Como escribe el propio capítulo: «Un sistema que puede demostrar que es eficiente pero no puede garantizar que es humano no ha demostrado nada.»

🔹 CLA — Derecho Algorítmico para el Cosmos Jesús Bernal Allende | Escuela del Deber-Optimizar y la Soberanía de la Evidencia https://a.co/d/08sewgjh 🌐 https://edo-os.com 🔗 https://www.linkedin.com/in/jesus-bernal-allende-030b2795