La capacidad técnica de un sistema no determina por sí sola la autonomía que le tenemos que dar. Una IA puede redactar, clasificar o activar una herramienta; esto no significa que todas estas acciones sean igualmente apropiadas en cualquier contexto.
A Karmina AI Studio decidimos el grado de automatización según cuatro factores: impacto, reversibilidad, calidad de la evidencia y responsabilidad.
Qué acostumbramos a automatizar
Automatizamos con más facilitado tareas repetitivas, delimitadas y revisables. Por ejemplo: ordenar información, extraer campos de un documento, preparar un primer resumen, detectar duplicados, proponer una estructura o reunir fuentes para un análisis.
En estos casos hay una entrada clara, un resultado comprobable y un coste bajo si hay que repetir el paso. Esto no elimina la necesidad de pruebas, pero permite que el sistema opere con más autonomía.
Qué mantenemos bajo supervisión
Supervisamos los resultados que incorporan juicio, representan públicamente una organización o pueden afectar personas. Un borrador de campaña, una respuesta a un cliente, una recomendación estratégica o una priorización pueden ser asistidos por IA, pero necesitan una persona con criterio y autoridad.
La supervisión tiene que ser real. No sirve añadir un botón de aprobación si quien valida no ve las fuentes, no entiende los límites o no tiene tiempos para revisar. Diseñamos el Human Gate para que la persona reciba el contexto que necesita y pueda corregir, rechazar o preguntar más evidencia.
Que no delegamos
No delegamos la responsabilidad final sobre decisiones sensibles. Tampoco dejamos que un agente amplíe permisos, publique información delicada o asuma compromisos materiales sin una autorización explícita y proporcional.
Hay ámbitos en que la IA puede asistir pero no sustituir el juicio profesional: decisiones laborales, legales, financieras o de salud; interpretaciones con consecuencias importantes; gestión de conflictos; y excepciones que requieren entender personas, valores o contexto institucional.
Una escala, no una frontera fija
El mismo paso puede empezar bajo revisión completa y ganar autonomía cuando acumula evidencia. Para hacerlo necesitamos registros, muestras, incidencias, métricas de calidad y condiciones de reversión. La autonomía se tiene que ganar; no se tiene que presuponer.
También puede pasar el contrario. Si cambian los datos, la normativa, el público o el proceso, una capacidad antes estable puede volver a requerir supervisión.
El criterio se tiene que convertir en sistema
Decir “siempre lo revisará una persona” es insuficiente. Hay que documentar quién revisa, en qué momento, con qué indicadores, ante qué excepciones y que pasa si no está disponible. La gobernanza de la IA traduce principios en permisos, roles, registros y procedimientos.
Esta es nuestra idea de IA con criterio: no frenar la tecnología, sino darle un lugar preciso. Automatizar aquello que puede hacer bien, supervisar aquello que necesita juicio y conservar en manos humanas la responsabilidad que ningún sistema no puede asumir.