La capacitat tècnica d’un sistema no determina per si sola l’autonomia que li hem de donar. Una IA pot redactar, classificar o activar una eina; això no significa que totes aquestes accions siguin igualment apropiades en qualsevol context.
A Karmina AI Studio decidim el grau d’automatització segons quatre factors: impacte, reversibilitat, qualitat de l’evidència i responsabilitat.
Què acostumem a automatitzar
Automatitzem amb més facilitat tasques repetitives, delimitades i revisables. Per exemple: ordenar informació, extreure camps d’un document, preparar un primer resum, detectar duplicats, proposar una estructura o reunir fonts per a una anàlisi.
En aquests casos hi ha una entrada clara, un resultat comprovable i un cost baix si cal repetir el pas. Això no elimina la necessitat de proves, però permet que el sistema operi amb més autonomia.
Què mantenim sota supervisió
Supervisem els resultats que incorporen judici, representen públicament una organització o poden afectar persones. Un esborrany de campanya, una resposta a un client, una recomanació estratègica o una priorització poden ser assistits per IA, però necessiten una persona amb criteri i autoritat.
La supervisió ha de ser real. No serveix afegir un botó d’aprovació si qui valida no veu les fonts, no entén els límits o no té temps per revisar. Dissenyem el Human Gate perquè la persona rebi el context que necessita i pugui corregir, rebutjar o demanar més evidència.
Què no deleguem
No deleguem la responsabilitat final sobre decisions sensibles. Tampoc deixem que un agent ampliï permisos, publiqui informació delicada o assumeixi compromisos materials sense una autorització explícita i proporcional.
Hi ha àmbits en què la IA pot assistir però no substituir el judici professional: decisions laborals, legals, financeres o de salut; interpretacions amb conseqüències importants; gestió de conflictes; i excepcions que requereixen entendre persones, valors o context institucional.
Una escala, no una frontera fixa
El mateix pas pot començar sota revisió completa i guanyar autonomia quan acumula evidència. Per fer-ho necessitem registres, mostres, incidències, mètriques de qualitat i condicions de reversió. L’autonomia s’ha de guanyar; no s’ha de pressuposar.
També pot passar el contrari. Si canvien les dades, la normativa, el públic o el procés, una capacitat abans estable pot tornar a requerir supervisió.
El criteri s’ha de convertir en sistema
Dir “sempre ho revisarà una persona” és insuficient. Cal documentar qui revisa, en quin moment, amb quins indicadors, davant de quines excepcions i què passa si no està disponible. La governança de la IA tradueix principis en permisos, rols, registres i procediments.
Aquesta és la nostra idea d’IA amb criteri: no frenar la tecnologia, sinó donar-li un lloc precís. Automatitzar allò que pot fer bé, supervisar allò que necessita judici i conservar en mans humanes la responsabilitat que cap sistema no pot assumir.