La IA no tiene que quedar fuera de control para ponerte en riesgo
Hay una frase que resume bien el momento actual: la IA llama la atención, pero el riesgo se acumula en silencio.
Se acumula cuando una aplicación guarda cada prompt que escribes. Cuando un audio falso imita la voz de alguien cercano. Cuando un equipo conecta un agente a sus sistemas sin definir qué puede ejecutar. O cuando una empresa acelera el lanzamiento de un modelo y deja la evaluación de seguridad para después.
Tres textos recientes ayudan a ordenar esta conversación desde ángulos distintos. Fast Company propone cuatro hábitos personales para reducir la exposición cotidiana. Revista Mercado, a partir de una advertencia del Alto Comisionado de las Naciones Unidas para los Derechos Humanos, lleva la discusión a privacidad, servicios esenciales y derechos fundamentales. Y Dario Amodei, CEO de Anthropic, plantea que la frontera tecnológica debe avanzar a un ritmo que permita que la seguridad la alcance.
No dicen exactamente lo mismo ni tienen el mismo nivel de evidencia. El primero es una guía práctica escrita por un CISO; el segundo es una cobertura periodística de una declaración institucional; el tercero es la propuesta de un actor directamente involucrado en el desarrollo de modelos de frontera. Juntos, sin embargo, dejan una pregunta de gestión muy concreta: ¿qué control puedes instalar antes de que el riesgo se convierta en incidente?
El riesgo no empieza con una IA autónoma
La imaginación suele irse al escenario más extremo: una IA que se sale de control y toma decisiones por su cuenta. Ese escenario merece investigación y gobernanza. Pero concentrarse solo en él puede hacernos ignorar los daños más cercanos.
La IA ya puede hacer que un fraude sea más persuasivo, que una campaña de desinformación sea más barata y que un error de clasificación se replique en miles de casos. También puede acelerar una mala decisión: si un sistema recibe datos incompletos, aplica un criterio opaco y nadie revisa el resultado, la automatización no elimina el problema. Lo multiplica.
La advertencia recogida por Revista Mercado apunta precisamente a esa escala. Volker Türk, Alto Comisionado de la ONU para los Derechos Humanos, señaló que el desarrollo acelerado de la IA puede afectar derechos como la privacidad, la salud, la seguridad y el acceso a servicios esenciales. También llamó la atención sobre sistemas agénticos capaces de ejecutar objetivos complejos con menos intervención humana.
Para una empresa, la traducción no es “prohibir la IA”. Es separar cuatro niveles que con frecuencia se mezclan:
| Nivel | Qué hace el sistema | Control mínimo |
|---|---|---|
| Informar | Resume, busca o clasifica información | Fuentes identificables y revisión de errores |
| Recomendar | Sugiere una acción o prioriza casos | Criterios explícitos y posibilidad de disentir |
| Ejecutar | Envía, actualiza o activa un flujo | Permisos acotados, registro y reversibilidad |
| Decidir | Afecta derechos, acceso o trayectoria de una persona | Responsabilidad humana, evidencia y explicación |
No es lo mismo pedirle a un copiloto que redacte una pauta que permitirle descartar candidatos, enviar una oferta o modificar un registro laboral. La diferencia está en el impacto y en la capacidad de corregir el resultado.
Cuatro controles para protegerte hoy
Las cuatro recomendaciones de Kevin Lewis en Fast Company son menos vistosas que una predicción sobre superinteligencia, pero tienen una virtud: se pueden aplicar esta semana.
1. Reduce tu huella digital
Revisa qué aplicaciones tienen acceso a tu ubicación, micrófono, contactos, fotos y archivos. Elimina las que ya no usas y desactiva permisos que no son necesarios. Antes de subir un documento a una herramienta de IA, pregúntate si contiene información personal, financiera, médica o confidencial de tu empresa.
La pregunta no es solo “¿la herramienta es gratis?”. También es: ¿qué ocurre con lo que le entrego? Un prompt puede contener más información de la que parece: nombres, clientes, conflictos internos, datos de candidatos o detalles de una negociación.
2. Aprende a frenar antes de reaccionar
Las imágenes, voces, videos y mensajes generados por IA pueden imitar a personas y organizaciones de confianza. Un mensaje urgente que pide transferir dinero, compartir un código o abrir un archivo merece una segunda verificación por otro canal.
También conviene desconfiar de lo que intenta producir una reacción inmediata —miedo, rabia o entusiasmo—. Una imagen demasiado perfecta no es prueba de que sea falsa, pero sí una buena razón para buscar otra fuente, revisar la fecha y confirmar el contexto.
En el trabajo, esta regla debe estar incorporada al proceso: ningún mensaje sintético debería saltarse la verificación porque “parece escrito por el jefe”.
3. Usa contraseñas únicas y un gestor
La IA no reemplaza los ataques clásicos: los vuelve más rápidos y convincentes. Reutilizar una contraseña permite que una filtración en un servicio termine abriendo la puerta al correo, las redes sociales o la banca.
Un gestor de contraseñas permite crear claves largas y distintas para cada cuenta. La mejora no está en memorizar veinte contraseñas: está en eliminar la reutilización y proteger bien la clave maestra.
4. Activa autenticación multifactor
La autenticación multifactor agrega una barrera incluso si una contraseña se filtra. Para las cuentas más importantes, prioriza una aplicación autenticadora o una llave de seguridad sobre códigos enviados por SMS cuando sea posible.
En una organización, esto debe acompañarse de permisos mínimos, revisión de accesos y un procedimiento para revocar credenciales. La seguridad no se resuelve con una casilla activada una vez: se sostiene con hábitos y controles de proceso.
La empresa necesita un freno, no solo una política
El ensayo We Must Pace the Frontier propone que el aumento de capacidades de los modelos debe acompasarse con el trabajo de seguridad. Amodei no está pidiendo detener todo el progreso: plantea usar el tiempo ganado para mejorar la alineación, la interpretabilidad, las pruebas y la excelencia operativa.
Su propuesta tiene tres capas: evaluadores externos con acceso real para verificar prácticas; coordinación entre empresas y gobiernos democráticos; y coordinación global para acordar límites y pruebas sobre riesgos agudos. Es una discusión de frontera, pero tiene una consecuencia muy local: la confianza no puede depender únicamente de la declaración del proveedor.
Una empresa que adopta IA puede aplicar la misma lógica en pequeño. Antes de conectar un agente a un proceso, escribe una ficha de una página:
- Mandato: qué tarea concreta puede realizar y cuál queda fuera.
- Datos: qué información puede leer, cuál no puede recibir y cuánto tiempo se conserva.
- Acciones: qué puede sugerir, qué puede ejecutar y qué necesita aprobación.
- Escalamiento: qué señales detienen el flujo —dato sensible, evidencia contradictoria, instrucción ambigua o impacto sobre una persona—.
- Responsable: quién puede aprobar, corregir, auditar y responder por el resultado.
Después prueba tres excepciones antes de escalar: una entrada maliciosa, un dato faltante y una recomendación injusta pero aparentemente plausible. Si el equipo no sabe cómo detener el flujo, todavía no tiene un proceso gobernado; tiene una demostración.
Esto es especialmente importante en Personas. La gobernanza de IA en empresas no consiste en poner un comité a revisar cada prompt. Consiste en dejar claro cuándo la IA prepara evidencia y cuándo una persona debe ejercer juicio. En selección, la tecnología puede ordenar antecedentes o proponer preguntas; no debería convertir un ranking opaco en una decisión automática sobre la trayectoria de alguien.
Qué significa protegerse en Obrii
Protegerse de la IA no significa quedarse fuera de la tecnología. Significa construir capacidad para usarla con criterio.
Para una persona, eso comienza con cuatro hábitos: menos exposición, más verificación, contraseñas únicas y multifactor. Para una empresa, agrega tres responsabilidades: definir el alcance, hacer trazable la evidencia y mantener a una persona accountable en las decisiones de alto impacto.
Ese último punto es también un problema de talento. Los cargos que implementan IA necesitan criterio para delimitar problemas, juicio para detectar salidas plausibles pero débiles y disciplina para escalar incidentes. El modelo híbrido de IA y juicio humano no es una fórmula para repartir culpas: es una forma de diseñar mejores decisiones.
La pregunta ejecutiva no es “¿qué herramienta de IA deberíamos comprar?”. Es esta: ¿qué decisión queremos mejorar, qué evidencia necesitamos y qué límite no estamos dispuestos a cruzar?
La IA va a seguir llamando la atención. La ventaja competitiva estará en las organizaciones capaces de convertir esa atención en controles, aprendizaje y responsabilidad.
Fuentes y alcance
Este artículo es una síntesis editorial propia para Obrii Consulting. No reproduce ni sustituye las publicaciones originales, y no constituye asesoría legal, de ciberseguridad ni evaluación técnica de proveedores.
- Kevin Lewis, “4 things you can do to protect yourself from the rising threat of AI”, Fast Company, 12 de septiembre de 2026. La pieza propone reducir la huella digital, reconocer contenido generado por IA, usar un gestor de contraseñas y activar MFA.
- “ONU alerta por los riesgos de la inteligencia artificial: qué podría pasar si la IA queda fuera de control”, Revista Mercado, 14 de septiembre de 2026. Cobertura del pronunciamiento del Alto Comisionado de la ONU para los Derechos Humanos y sus advertencias sobre IA agéntica, derechos y gobernanza.
- Dario Amodei, “We Must Pace the Frontier”, septiembre de 2026. Propuesta de acompasar el desarrollo de capacidades de IA con alineación, evaluación, interpretabilidad, seguridad operativa y coordinación.
Contenido educativo B2B de Obrii Consulting.
© Obrii. Contenido original. Reproducción no autorizada.
Lo que más nos preguntan
Respuestas breves a las dudas que más aparecen sobre este tema.
- ¿La IA ya representa un riesgo para las personas?
- Sí, aunque no haga falta asumir escenarios de ciencia ficción. La exposición de datos, las estafas con contenido sintético, las contraseñas reutilizadas y la autenticación débil ya amplifican riesgos conocidos. La IA vuelve esos ataques más convincentes, baratos y escalables.
- ¿Qué puedo hacer hoy para protegerme de la IA?
- Reduce los permisos y datos que entregas, verifica mensajes e imágenes inesperados, usa un gestor de contraseñas con claves únicas y activa autenticación multifactor en tus cuentas críticas. Son controles simples que también protegen frente a ataques tradicionales.
- ¿Qué debe controlar una empresa antes de usar agentes de IA?
- Debe definir el mandato del agente, los datos que puede tratar, las acciones que puede ejecutar, los eventos que obligan a escalar a una persona y quién responde por el resultado. Después debe probar el flujo, registrar decisiones y evaluar impactos sobre personas y derechos.
- ¿Qué significa ralentizar o acompasar la frontera de la IA?
- No significa detener toda la innovación. En la propuesta de Dario Amodei significa acompasar el aumento de capacidades con más tiempo y recursos para alineación, interpretabilidad, pruebas, seguridad operativa y evaluación independiente.