Proveedores de IA: seis preguntas antes de compartir datos de candidatos o empresa

Una demo de IA puede ser impecable y aun así dejar abiertas las preguntas que de verdad importan: ¿por qué ruta viajan los datos?, ¿qué proveedor adicional participa?, ¿la conversación se conserva?, ¿puede usarse para entrenamiento?, ¿qué ocurre si el sistema recibe una instrucción fuera de su propósito?, ¿quién responde cuando algo sale mal?

Para un área de Personas, estas preguntas no son burocracia. Un currículum, una entrevista, una evaluación, una conversación de compensaciones o una lista de sucesión contienen información que no debería terminar en cualquier cadena de herramientas solo porque el resultado parece útil.

El informe de Anthropic de septiembre de 2026 ofrece una advertencia precisa. En su sección sobre destilación ilícita, describe campañas que habrían usado proxies, cuentas fraudulentas y servicios de enrutamiento para acceder a modelos y recolectar intercambios. Anthropic también reporta que algunas conversaciones reenviadas contenían nombres, datos de contacto, información corporativa y otros datos sensibles. El informe no permite concluir que todos los proveedores, integradores o routers hagan eso. Sí obliga a dejar de asumir que “proveedor de IA” es una sola entidad o una sola ruta de datos.

La pregunta correcta no es “¿usa el modelo de moda?”

La pregunta correcta es: ¿qué sistema completo entra a nuestra operación cuando habilitamos este caso de uso?

Un proveedor puede tener un modelo sólido y, al mismo tiempo, incorporar integraciones, servicios de analítica, almacenamiento, transcripción, soporte o enrutamiento que cambian el riesgo. En casos de alto impacto, también importa si el producto fue diseñado para detenerse y escalar cuando aparece una solicitud fuera de propósito.

Los capítulos de Anthropic sobre usos biológicos y armas convencionales son extremos y no son comparables a un proceso normal de RR.HH. Su enseñanza organizacional sí es aplicable: a medida que una capacidad puede tener consecuencias más graves, los controles de acceso, evaluación y supervisión deben ser más específicos. No basta decir “el modelo tiene políticas”. Hay que saber cómo esas políticas se aplican en el flujo que compraste.

Seis preguntas de diligencia antes del piloto

1. ¿Qué datos entran y qué datos quedan explícitamente fuera?

No aceptes “datos necesarios para mejorar el servicio” como respuesta suficiente. Lista categorías concretas: CV, correo, teléfono, documentos de identidad, notas de entrevista, resultados de evaluación, información médica, remuneraciones. Define cuáles nunca se cargan y cuáles requieren una revisión previa.

2. ¿Por dónde viaja la información?

Pregunta por el proveedor principal, subprocesadores, integraciones, regiones de procesamiento y cualquier capa de enrutamiento. Si la respuesta es difusa, el riesgo no desaparece: solo quedó sin dueño. Un diagrama simple de flujo de datos vale más que diez promesas de “seguridad empresarial”.

3. ¿Se almacenan conversaciones o se usan para entrenamiento?

Pide por separado retención, logs, soporte, analítica y entrenamiento. “No entrenamos el modelo” no responde por sí solo si un tercero conserva prompts, si una sesión queda en un log o si una integración copia contenido a otro sistema. Deja por escrito qué se puede retener, durante cuánto tiempo y cómo se elimina.

4. ¿Quién puede acceder y cómo queda registrado?

Define roles, permisos, autenticación, accesos de soporte y trazabilidad. En Personas, el problema no es solo una filtración externa: también es que un dato sensible circule internamente sin una necesidad legítima. El mínimo es saber quién accedió, cuándo y para qué.

5. ¿Qué hace el sistema cuando no sabe o cuando el caso es sensible?

Un proveedor serio debe explicar límites, no solo capacidades. Pregunta qué ocurre ante instrucciones contradictorias, solicitudes de datos que no correspondan, una decisión que afecte a una persona o una salida con baja confianza. El diseño deseable no es que el sistema improvise mejor: es que sepa detenerse y escalar.

6. ¿Cómo salimos si el proveedor cambia, falla o deja de ser adecuado?

Revisa exportación de datos, eliminación, continuidad, notificación de incidentes y responsables de la relación. La dependencia tecnológica se vuelve un riesgo cuando el equipo descubre demasiado tarde que no puede recuperar su información o reconstruir un proceso fuera de la plataforma.

Personas debe estar en la mesa, pero no estar sola

TI, seguridad, legal, compras y protección de datos ven riesgos distintos. Personas aporta algo que los demás no pueden definir por sí solos: qué información es pertinente para un proceso, qué decisión no debería delegarse y qué daño puede causar una salida equivocada a un candidato o colaborador.

Esa participación evita dos errores opuestos. El primero es bloquear toda herramienta por miedo. El segundo es aprobar una plataforma porque ahorra minutos sin haber definido quién se hará cargo del efecto sobre las personas.

El checklist que propusimos para evaluar asistentes virtuales sigue siendo un buen punto de partida: clasificar el alcance y autonomía del sistema, probar un caso de punta a punta, pedir un mapa de datos, definir humano en el loop y exigir métricas de error y escalamiento. Este artículo agrega una capa: mirar también la cadena de proveedores y la ruta de cada conversación.

Antes de comprar, prueba con un caso sin datos reales

La diligencia no se completa en una reunión comercial. Haz un piloto con datos sintéticos o minimizados y con un caso difícil pero seguro. Prueba qué pasa cuando falta información, cuando alguien pide una excepción y cuando el sistema debería decir “no sé”. Registra la salida, quién la revisó y qué ajuste hizo falta.

Luego recién decide si el caso merece datos reales, qué volumen, qué permisos y qué revisión humana. Esa secuencia protege tanto al negocio como a las personas que entregan su información confiando en que se usará para el propósito declarado.

Cuando una organización busca a quien lidere este tipo de decisiones, no basta con pedir “experiencia en IA”. Conviene evaluar criterio de riesgo, capacidad de traducir entre áreas y disposición a sostener un límite cuando la presión comercial pide velocidad. En roles críticos, headhunting y evaluación psicolaboral pueden aportar evidencia sobre ese juicio, junto con la debida diligencia técnica y legal que el proveedor debe superar.

Fuente y alcance

Este artículo se basa principalmente en los capítulos de destilación ilícita y usos de alto riesgo del informe de Anthropic. Los casos descritos son investigaciones de abuso y no prueban una práctica de toda la industria de IA. Las preguntas propuestas son de gestión y no sustituyen una revisión jurídica, contractual o de ciberseguridad.

Anthropic (2026). Detecting and countering misuse of AI: September 2026, secciones “Conventional weapons”, “Biological misuse” e “Illicit distillation”, pp. 111–154. Informe completo.

Contenido educativo B2B de Obrii Consulting. No constituye asesoría legal, de privacidad, ciberseguridad ni certificación de proveedores.