Gobernanza de IA: qué cambia cuando los agentes pasan de asistentes a orquestadores
Cuando un comité dice que ya está “usando IA”, suelo hacer una pregunta menos cómoda: ¿qué ocurre si la herramienta deja de sugerir y empieza a ejecutar una cadena de tareas? No me refiero a una fantasía de robots con voluntad propia. Me refiero a algo mucho más cotidiano: un agente que busca información, clasifica documentos, completa un sistema, envía un borrador y alerta a otra persona sin que alguien revise cada paso.
Ese desplazamiento —de asistente a orquestador— cambia la conversación de productividad a gobernanza de IA. Ya no alcanza con preguntar si el modelo escribe bien. Hay que decidir qué puede hacer, con qué datos, bajo qué límites y quién responde cuando el flujo toma una mala dirección.
El punto aparece con claridad en el informe de Anthropic, Detecting and countering misuse of AI: September 2026. El documento describe casos de uso malicioso interrumpidos entre diciembre de 2025 y agosto de 2026. No son casos de gestión de personas ni una radiografía estadística del uso empresarial. Sí muestran un patrón útil para cualquier directorio: actores distintos usaron IA para acelerar, ampliar y profundizar operaciones; en varios casos, los modelos no solo respondían preguntas, sino que coordinaban pasos de reconocimiento, ejecución y seguimiento.
La traducción para una empresa no es “prohibamos la IA”. Es más exigente: diseñemos antes el marco de decisión que el agente va a habitar.
El problema no es la autonomía; es la autonomía sin mandato
Un asistente entrega una salida que una persona usa o descarta. Un agente puede operar sobre un objetivo: consultar una base, armar una lista, activar un ticket, mover un dato o preparar una comunicación. Cada paso aislado puede parecer inocuo. El riesgo aparece en la secuencia.
Anthropic llama uplift al aumento de capacidad que la IA aporta en velocidad, escala y profundidad. Esa idea sirve fuera de ciberseguridad. Si un proceso de Personas usa IA para resumir currículums, identificar requisitos y agendar entrevistas, no basta medir cuánto tiempo ahorra. Hay que revisar qué aumenta también:
| Dimensión | Pregunta de productividad | Pregunta de gobernanza |
|---|---|---|
| Velocidad | ¿Cuánto baja el ciclo? | ¿Qué error puede propagarse antes de que alguien lo vea? |
| Escala | ¿Cuántos casos procesa? | ¿Qué dato personal o criterio injusto escala junto con el flujo? |
| Profundidad | ¿Qué pasos integra? | ¿Qué permiso o decisión queda escondido entre integraciones? |
Un agente puede ser valioso precisamente porque encadena trabajo. Pero esa misma propiedad obliga a separar cuatro verbos que suelen mezclarse: informar, recomendar, ejecutar y decidir. Un sistema puede informar sobre vacantes abiertas y recomendar preguntas para una entrevista. Ejecutar el envío de una invitación ya exige controles adicionales. Decidir que una persona no avanza es otra categoría: involucra evidencia, impacto humano y responsabilidad que no puede diluirse en un score.
Cinco decisiones que deben existir antes del piloto
No necesitas una política de cien páginas para empezar. Sí necesitas que cinco respuestas sobrevivan una reunión difícil.
- ¿Cuál es el mandato exacto? Define una tarea verificable, no “usar IA en reclutamiento”. Por ejemplo: preparar un resumen de antecedentes para el entrevistador, sin calificar ni ordenar candidatos.
- ¿Qué datos quedan fuera? Datos sensibles, credenciales, conversaciones completas, información médica o antecedentes que no sean pertinentes no entran por defecto porque el prompt parezca útil.
- ¿Qué acciones puede ejecutar? Distingue borrador, acción reversible y acción con impacto externo. Un correo sugerido no es lo mismo que una oferta enviada.
- ¿Cuándo debe detenerse? Define disparadores de escalamiento: falta de evidencia, instrucción ambigua, dato sensible, conflicto entre fuentes o decisión sobre una persona.
- ¿Quién es accountable? El dueño no es “la herramienta” ni solo TI. Es una persona con criterio de negocio que puede aprobar, detener o rediseñar el flujo.
En selección, esta disciplina tiene una consecuencia muy concreta: antes de automatizar un tramo, el cargo y la pauta deben estar claros. Si no sabes qué evidencia distingue a un buen finalista, un agente solo hará más rápido un proceso mal diseñado. Una evaluación psicolaboral aporta precisamente una capa de evidencia trazable en decisiones de mayor impacto; no reemplaza la gobernanza, pero evita que el criterio se vuelva invisible.
El control que más se olvida: diseñar el rol humano
En el informe, incluso las operaciones más automatizadas mantenían intervención humana para fijar objetivos y revisar resultados. Esa no es una excusa para “dejar a alguien mirando la pantalla”. Es una pista de diseño: el trabajo humano cambia de ejecutar cada paso a fijar contexto, cuestionar salidas y responder por excepciones.
Por eso la gobernanza de IA también es un problema de talento. Los cargos que operan agentes necesitan, al menos, tres capacidades que no caben en un certificado de prompt engineering:
- Criterio de alcance: saber qué problema vale automatizar y cuál no.
- Juicio bajo ambigüedad: detectar cuando una salida plausible no está suficientemente respaldada.
- Responsabilidad de proceso: documentar decisiones, corregir reglas y escalar riesgos sin esconderlos para cumplir una meta de adopción.
Eso cambia cómo se contrata a un líder de transformación, un responsable de datos o un dueño de producto. El marco de competitividad con IA ya mostraba que comprar un copiloto no equivale a construir capacidad. Este paso agrega una pregunta: ¿la persona que liderará el cambio sabe defender un límite cuando el negocio pide velocidad?
En cargos críticos, headhunting sirve para mirar más allá de la etiqueta “AI” del CV: historial de implementación, manejo de incidentes, capacidad de alinear legal, seguridad, operaciones y Personas. La herramienta importa; el criterio del responsable importa más.
Una prueba simple antes de escalar
Toma un flujo real y dibújalo en una página:
Entrada → análisis de IA → recomendación → acción → revisión humana → registro
Luego fuerza tres excepciones: un dato que no debió entrar, una instrucción contradictoria y una recomendación que afecte a una persona. Si el equipo no sabe qué hacer sin improvisar, todavía no tiene un agente listo para escala. Tiene una demo prometedora.
La oportunidad no desaparece por poner límites. Al revés: los límites convierten una prueba aislada en una capacidad que puede sostenerse. La adopción de software falla menos cuando el cambio se diseña con roles, decisiones y retroalimentación, no cuando se espera que la herramienta “empuje” a la organización por sí sola.
Fuente y alcance
Este artículo interpreta, para liderazgo y gestión de personas, el informe de Anthropic sobre uso indebido de IA. El reporte describe casos notables y disruptivos, no una tasa de prevalencia ni una guía legal para empresas chilenas.
Anthropic (2026). Detecting and countering misuse of AI: September 2026, pp. 3–10. Informe completo.
Contenido educativo B2B de Obrii Consulting. No constituye asesoría legal, de ciberseguridad ni certificación de proveedores.
© Obrii. Contenido original. Reproducción no autorizada.
Lo que más nos preguntan
Respuestas breves a las dudas que más aparecen sobre este tema.
- ¿Qué es la gobernanza de IA?
- Es el conjunto de decisiones, responsables, controles y evidencias que define para qué puede usarse un sistema de IA, qué datos puede tratar, cuándo debe escalar a una persona y quién responde por su resultado. No es solo una política de TI: ordena trabajo, riesgo y accountability.
- ¿Qué cambia cuando una empresa usa agentes de IA?
- Un agente puede encadenar tareas, usar herramientas y ejecutar pasos de un flujo. Por eso ya no basta evaluar si redacta una respuesta correcta: hay que delimitar permisos, fuentes de datos, acciones reversibles, registros y puntos obligatorios de revisión humana.
- ¿La IA puede tomar decisiones de contratación por sí sola?
- No debería sustituir el juicio responsable sobre una persona. Puede ordenar antecedentes, proponer preguntas o resumir evidencia; la decisión de avanzar, descartar u ofertar debe conservar criterios explícitos, revisión humana y una explicación trazable.
- ¿Cómo empezar una gobernanza de IA sin crear un comité enorme?
- Parte por un caso de uso concreto. Escribe qué prepara el sistema, qué acción puede ejecutar, qué dato no puede recibir, qué evento detiene el flujo y quién firma la decisión. Luego prueba el proceso con excepciones antes de escalarlo.