¿Podés probar qué hizo tu sistema de IA?
Casi ningún equipo que puso un modelo frente a sus datos puede contestar cuatro preguntas: qué vio, por qué respondió eso, quién tenía permiso de verlo, y cómo se enterarían si empeora. Construimos las partes que producen esas respuestas, como evidencia de ingeniería y no como un documento de política.
Hablar con un ingenieroCuándo nos llaman
- Un asistente le respondió a un cliente algo que no estaba en ninguna fuente aprobada, y no hay registro de qué recuperó.
- Alguien pregunta qué versión del modelo produjo una respuesta de hace tres meses, y la respuesta honesta es que nadie sabe.
- La recuperación indexa todo junto, así que una respuesta para un usuario puede armarse con un documento que otro no tenía permiso de abrir.
- La semana pasada se mejoró un prompt y nadie puede decir si el sistema quedó mejor o peor que antes del cambio.
- Legales pide evidencia de controles y desarrollo manda capturas de pantalla.
- Hay una fecha de cumplimiento, un documento de política, y nada en el sistema que produzca los registros que ese documento promete.
Qué construimos
Registros que contestan «qué vio»
Cada respuesta atada a los documentos que la produjeron, con retención suficiente para que siga estando cuando alguien pregunte. El artículo 12 del reglamento europeo exige que los sistemas de alto riesgo registren automáticamente durante toda su vida útil; el artículo 26 exige que quien los opera conserve esos registros al menos seis meses. Los dos son requisitos de ingeniería, no de política.
Versionado que sobrevive a la pregunta
Modelo, prompt, índice de recuperación y configuración registrados junto a cada salida. Sin eso, «por qué dijo eso» es incontestable tres meses después, porque todo lo que intervino ya cambió.
Recuperación que respeta permisos
El filtro aplicado al recuperar, no después de generar. Ahí es donde se filtra la mayoría de los sistemas: un índice para todo, y los permisos comprobados tarde o directamente nunca. Cuando el modelo ya leyó el documento, restringir la respuesta llega tarde.
Evaluación que detecta una regresión
Un conjunto fijo de preguntas con propiedades esperadas, puntuado en cada cambio de modelo, prompt o índice. Así «mejoramos el prompt» pasa a ser una medición en lugar de una opinión, y una degradación se ve antes de que la encuentre un usuario.
Costo acotado y falla definida
Techos que cortan el gasto, y comportamiento explícito cuando el modelo no está disponible o no está seguro. Un sistema que responde con seguridad cuando debería abstenerse es el tipo caro de equivocarse.
Proyectos típicos
Diagnóstico de evidencia, desde USD 4.000
Dos semanas, precio cerrado, desde USD 4.000. Tomamos tu sistema de IA e intentamos contestar las cuatro preguntas con lo que hay hoy. La salida es un informe escrito: qué podés probar ya, qué no, y qué requiere cerrar cada hueco. Autocontenido, y tuyo para usarlo con quien quieras.
Agregar registros a un sistema que ya corre
Registro, versionado y retención sumados a algo en producción, sin reescribir. Reconstruir esto más tarde, sobre un sistema que ya lleva un año andando, cuesta varias veces más que registrarlo desde el principio.
Corregir una recuperación que ignora permisos
Mover el control de acceso al paso de recuperación, con pruebas que demuestren que un usuario no puede recibir una respuesta armada con documentos que no puede abrir. Suele ser el hallazgo de mayor consecuencia, y el que nadie busca.
Armar el banco de evaluación
Un conjunto fijo de preguntas, propiedades esperadas, y puntuación en la integración continua, para que cada cambio de modelo, prompt o índice se mida antes de desplegar y no después.
Qué se lleva
- Registros que tu sistema produce solo, no un documento que describe registros que debería producir
- Cada salida rastreable hasta su modelo, prompt, versión de índice y fuentes
- Recuperación que hace cumplir los permisos, con pruebas que lo demuestran
- Un conjunto de evaluación que hace fallar la compilación cuando baja la calidad
- Una descripción escrita de los controles, en un lenguaje que acepten tanto un auditor como un desarrollador
Preguntas que nos hacen
¿Cuánto cuesta?
El diagnóstico de evidencia son dos semanas a precio cerrado, desde USD 4.000, y termina en un informe escrito que es tuyo. La cifra es un piso, no un presupuesto: el alcance y la profundidad la mueven, y el número se acuerda por escrito antes de empezar. El trabajo que salga del diagnóstico se cotiza aparte, y casi todo lo que encuentra conviene arreglarlo lo arregle quien lo arregle.
¿Son abogados?
No, y no deberías tomar asesoramiento legal de nosotros. Tu equipo legal decide qué obligaciones te aplican y cómo se interpretan. Lo que hacemos es la parte que ellos no pueden: construir los sistemas que producen la evidencia que esas obligaciones exigen. Casi todos los equipos ya tienen la lectura legal y les falta la ingeniería.
¿Desde cuándo aplican las obligaciones del reglamento europeo?
El 2 de agosto de 2026 es la fecha vinculante para las obligaciones de alto riesgo, tanto de proveedores como de quienes despliegan. Los requisitos más pesados para los sistemas del Anexo III se difirieron al 2 de diciembre de 2027 mediante el Digital Omnibus. Ese diferimiento es tiempo para prepararse, no tiempo libre: los registros describen decisiones que se están tomando ahora, y reconstruirlos después sobre un sistema andando cuesta varias veces más.
¿Qué significa exactamente el requisito de registro?
El artículo 12 exige que los sistemas de alto riesgo permitan técnicamente el registro automático de eventos durante toda su vida útil. El artículo 26 exige que quien lo despliega conserve los registros que el sistema genera, cuando estén bajo su control, al menos seis meses salvo que otra norma pida más. La consecuencia práctica es que el registro no se puede agregar el día de la auditoría: el sistema tiene que haber estado produciéndolo todo el tiempo.
No estamos en Europa. ¿Nos aplica igual?
Puede aplicarte. La norma sigue al usuario, no a la empresa: atender usuarios en la Unión Europea puede meterte en alcance sin importar dónde estés. Además, los clientes corporativos piden cada vez más la misma evidencia en sus compras —ISO 42001, SOC 2, acuerdos de tratamiento de datos— haya o no un regulador preguntando.
¿Esto no lo puede hacer una herramienta de IA?
Puede ayudar a construir las piezas. No puede ser la evidencia. El sentido de un rastro de auditoría es que algo independiente registró lo que pasó; un sistema que se certifica a sí mismo no prueba nada. Ese es un límite estructural, no un hueco que se cierre a medida que mejoren los modelos.
¿Y si todavía no tenemos ningún sistema de IA en producción?
Entonces es lo más barato que va a estar nunca. Registros, versionado y recuperación con permisos diseñados desde el principio son una decisión de diseño. Agregados después, son una migración.
Iniciar una conversación
Cuéntenos qué están construyendo, o qué se está rompiendo. Va a recibir una respuesta directa de un ingeniero, no un libreto de ventas.