Producir la prueba · A3
Peritaje de sistemas algorítmicos
Probar técnicamente cómo decidió un modelo, con reproducibilidad, trazabilidad y registros de inferencia.
El peritaje sobre sistemas que deciden: modelos de crédito, evaluación de personas, moderación, generación de contenido. Cuando el hecho controvertido no es lo que hizo alguien, sino cómo decidió una máquina.
Los artículos 335 y 336 del Código Nacional de Procedimientos Civiles y Familiares abren la puerta procesal a los medios de prueba no expresamente reconocidos. Esta es una de ellos.
- Un rechazo crediticio o de contratación atribuido a un modelo, que el afectado quiere impugnar.
- Una evaluación de desempeño automatizada usada como base de una decisión laboral.
- Contenido sintético usado para dañar a una persona o a una marca.
- Uso de obra protegida en el entrenamiento de un modelo.
- Reproducibilidad del resultado con la entrada controvertida.
- Trazabilidad del conjunto de datos y del versionado del modelo.
- Análisis de los registros de inferencia y de la intervención humana declarada.
- Evaluación de sesgo con soporte probatorio, no con adjetivos.
- Dictamen con glosario reforzado: es la materia donde el juzgador necesita más traducción.
Fases del método que aplican: encuadre probatorio, identificación y preservación, adquisición, custodia, análisis, dictamen, sostenimiento. Ver el método completo.
- ISO/IEC 27037 — Identificación, recolección, adquisición y preservación de evidencia digital.
- ISO/IEC 27041 — Garantía de idoneidad y adecuación de los métodos de investigación.
- ISO/IEC 27042 — Análisis e interpretación de la evidencia digital.
- ISO/IEC 27043 — Principios y procesos de investigación de incidentes.
- NOM-151-SCFI-2016 — Requisitos para la conservación de mensajes de datos y digitalización de documentos.
- RFC 3227 — Directrices para la recolección y archivo de evidencia. Aporta el orden de volatilidad: qué se captura primero porque desaparece antes.
- NIST SP 800-86 — Guía para integrar técnicas forenses en la respuesta a incidentes.
- CNPCF art. 343 — Valoración de la prueba por libre convicción, conforme a la lógica y la experiencia, con motivación racional individual y conjunta.
Plazo típico: De 3 a 8 semanas.
- La entrada exacta y la salida controvertida, con fecha y hora.
- Acceso a registros de inferencia y a versionado, si existen y están en tu poder.
- La documentación que el proveedor entregó sobre el sistema.
No dictamino si el modelo es «justo»: eso es una valoración, no un hecho, y le corresponde a quien juzga.
Sin acceso a registros de inferencia y a versionado, el alcance se reduce a lo observable desde fuera, y lo digo desde el principio en lugar de descubrirlo a mitad del encargo. Cuando ese material está en poder de un tercero, el primer paso es procesal, no pericial.
¿Se puede probar que un algoritmo discriminó?
Se puede probar cómo se comporta el sistema ante entradas controladas y qué correlaciones muestran sus resultados. La calificación jurídica de eso como discriminación le toca al juzgador, y el dictamen se escribe para que pueda hacerla.
¿Y si el proveedor dice que es secreto industrial?
Es la objeción habitual y tiene vías procesales conocidas: peritaje en la sede del proveedor, acceso restringido bajo resguardo, o análisis de caja negra con entradas controladas. Cada una prueba menos que la anterior, y conviene decidirlo con el escrito en la mano.
¿Esto ya se admite en tribunales mexicanos?
El código no lo nombra por su nombre, pero sus artículos 335 y 336 admiten medios de prueba no expresamente reconocidos. El trabajo del dictamen es acreditar la fiabilidad del método, que es lo que el artículo 349 exige de cualquier prueba electrónica.
Es una materia sin precedentes abundantes en México. Eso significa que el dictamen tiene que sostener más carga argumental de lo habitual, y que quien lo presente primero contribuye a fijar el criterio.
Si además de probarlo necesitas resolver el fondo —el contrato, el cumplimiento, la certificación, el litigio completo— eso se atiende desde .Lawgarithmics.