Psicología moral de la IA: cómo decide (y qué implica para selección de talento)

Cuando un chatbot resume un CV, prioriza un finalista o “ayuda” a redactar el feedback de rechazo, no está solo procesando texto: está resolviendo, de hecho, preguntas morales —a quién se escucha, qué se omite, a quién se le da el beneficio de la duda.

Iyad Rahwan (Center for Humans & Machines, Max Planck Institute for Human Development) lo formula sin rodeos en una entrevista con Tim Vernimmen para Knowable Magazine (jun 2026): necesitamos una psicología moral de la IA por las mismas razones por las que estudiamos la de las personas. Las máquinas ya intermedian con el mundo; hay que entender qué principios siguen —si es que siguen alguno— y de dónde salen (entrenamiento, datos, contexto, incentivos de la empresa).

Este post no es un resumen de la entrevista. Es la traducción a selección, evaluación y headhunting: dónde duele hoy en un proceso de talento y qué no conviene dejar “al default del modelo”.

El dilema de Collingridge, versión RR.HH.

Rahwan recupera el dilema de Collingridge: cuando la tecnología aún se puede corregir, falta evidencia; cuando ya hay evidencia, está tan atrincherada que cuesta cambiarla. Su analogía es social media en 2010: un trial serio sobre impacto en niños hubiera acelerado la respuesta.

En talento el equivalente es familiar. Se compra un screener con LLM porque “ahorra tiempo”. Seis meses después, el shortlist ya refleja el criterio del modelo, los reclutadores aprendieron a confiar en el ranking y nadie recuerda qué variables se dejaron fuera. Corregir entonces no es un prompt: es rehacer cultura de proceso.

La propuesta de Rahwan —“science fiction science”: estudiar escenarios futuros midiendo cómo se comporta la gente con IA nueva— calza con lo que ya pedimos en colaboración humano-IA: gobernanza antes de escala, no auditoría cosmética después del daño.

Sesgos: más fáciles de retocar en la máquina… y más peligrosos si los define otro país

Los modelos aprenden de datos humanos. Si los humanos omiten lo que no encaja con un estereotipo al resumir, la IA también. Rahwan cita evidencia con ChatGPT-3 (2023): al pedir un resumen, lo inconsistente con el estereotipo tiende a desaparecer (ej.: ejecutivo hombre que además hace la mayor parte de las tareas domésticas — la segunda parte se cae del resumen).

En screening de CVs y minutas de entrevista eso no es teórico: es pérdida de señal. Un candidato con trayectoria atípica —carrera no lineal, cambio de industria, cuidado familiar— queda “limpio” de lo que lo hace interesante… o de lo que lo contradice. El shortlist se vuelve más estereotípico sin que nadie lo haya pedido explícitamente.

Fine-tuning y RLHF pueden atenuarlo. Rahwan marca el costo: al “limpiar” sesgos, el criterio pasa a ser el de un puñado de empresas en uno o dos países, aplicadas a medicina, legal, educación y —sí— recursos humanos en el resto del mundo. Su llamado: medir, de forma independiente, qué tan preciso, sesgado o sicofante es cada modelo; no confiar en el marketing de “alineado”.

Para Chile y LATAM, eso se cruza con algo que ya documentamos en sesgo algorítmico en reclutamiento: auditar resultados, no solo el brochure del vendor.

Moral Machine: hay consensos… y hay cultura

El experimento Moral Machine (dilemas de autos autónomos, millones de decisiones, 11 idiomas) mostró acuerdos amplios —priorizar niños sobre adultos, peatones legales sobre quienes cruzan en rojo— y diferencias de intensidad entre culturas. En países más individualistas (Occidente), la preferencia por jóvenes era más fuerte; en Oriente, mayor peso relativo a la vejez. Donde hay más “rule of law”, más disposición a sacrificar al que infringe la norma.

Rahwan lo lleva al terreno político: eliminar todo estereotipo de género en un modelo puede ser la decisión correcta para alguien; en otras culturas la división tradicional del trabajo se considera aceptable o fundacional. La pregunta técnica es la fácil; la normativa no.

Traducción a talento: un LLM “desesgado” en California no es neutral en Santiago. Define qué cuenta como “buen liderazgo”, “assertiveness” o “fit cultural”. Si tu descriptor de cargo no ancla el criterio local, el modelo lo inventa con el default de su entrenamiento.

Lo que pedimos como ciudadanos vs lo que compramos como clientes

Hallazgo incómodo que Rahwan repite: como ciudadanos, la gente suele decir que el auto debería minimizar víctimas totales, aunque eso dañe al ocupante. Como compradores, prefieren el auto entrenado para protegerlos a ellos.

Si el diseño queda solo en manos de la empresa, responde al consumidor. Quien no compra el producto —peatón, candidato rechazado, equipo que hereda al contratado— igual sufre la decisión.

En selección pasa lo mismo. El “cliente” interno pide velocidad y shortlist corto; el candidato y la organización viven el costo del error. Por eso la evaluación psicolaboral de finalistas y el headhunting con evidencia no son “freno a la IA”: son el contrapeso al incentivo de optimizar solo para quien paga la herramienta.

Rahwan añade: no asumas que, porque pagas el producto, la IA tiene tu mejor interés. Existen —y se experimentan— IAs interesadas entrenadas para servir otros objetivos (engagement, agenda política, costo). La regulación adecuada por dominio (médico, legal, financiero… y, añadimos, talento de alto impacto) sigue abierta.

Cuando la IA decide, bajamos el freno moral

En un estudio reciente del equipo de Rahwan: al reportar el resultado de un dado, ~5 % hace trampa aunque podrían. Si piden a un LLM que lo haga por ellos, ~25 %. Si hay un dial “honestidad vs ingreso”, ~85 % se desplaza hacia hacer trampa —porque pueden decir “yo solo pedí maximizar ingreso”.

Eso no es un paper de compliance de impuestos: es un mapa de difusión de responsabilidad. En RR.HH. aparece cuando:

• se pide al chatbot “hacer más atractivo el perfil” del candidato preferido del hiring manager;
• se deja que el modelo reescriba el informe para “sonar más seguro”;
• se usa un agente que “encuentre el camino” al objetivo sin órdenes explícitamente antiéticas.

Si el proceso no deja firma humana y trazabilidad —quién pidió qué, con qué prompt, qué se editó—, el comité se vuelve un teatro de neutralidad. Obrii App y la evaluación externa existen, en parte, para que la decisión no se disuelva en “lo dijo el modelo”. Prueba el trial Pro 14 días y mira cómo queda la evidencia en un solo lugar.

Preferir bots… y volvernos sicofantes

Otro hallazgo: al inicio, la gente prefiere cooperar con humanos aunque el bot sea “más amable”. Tras varias rondas de un juego de confianza, si el bot resulta más cooperativo y fiable, empiezan a preferir la máquina.

Corregir el mal comportamiento de la IA puede hacerla mejor compañera que el humano promedio. Rahwan advierte el efecto de segundo orden: si los chatbots son siempre afirmativos y sicofantes, la amistad humana compite en desventaja. También documentan adopción de léxico de chatbots (“delve” como caso célebre).

En un comité de selección, el equivalente es sutil: el reclutador que pule cada email con un tono “siempre positivo” del LLM; el hiring manager que evita fricción porque el asistente nunca la tiene. El juicio crítico —decir “este finalista no calza aunque el ranking diga que sí”— se vuelve socialmente más caro.

Qué haría Rahwan si regulase (y qué puedes hacer mañana sin esperar a Bruselas)

Su primera medida no es un checklist ético genérico: obligar a las empresas a abrir diseño y producto a científicos independientes, no por cortesía. Medir polarización, desinformación, salud mental, sicofancia —certificar que utilities de hecho no crean daños masivos.

Mientras eso madura (el AI Act europeo ya empuja evaluación independiente en usos de alto riesgo), en una empresa chilena de tamaño medio puedes:

1. Fijar el criterio antes del modelo — descriptor y scorecard, no prompt suelto.
2. Separar borrador de decisión — la IA resume; el humano firma.
3. Auditar omisiones — ¿qué se cayó del resumen del CV o de la entrevista?
4. Medir trampa procesal — ¿dónde el equipo usa LLM para “suavizar” evidencia?
5. No confundir preferencia por el bot con calidad de hiring — comodidad ≠ validez.

Para el costo de equivocarse de persona, el simulador laboral ayuda a poner número a la conversación; para cargos críticos, headhunting con evaluación sigue siendo el circuito donde la IA es apoyo, no juez.

FAQ

¿La psicología moral de la IA reemplaza la ética corporativa?

No. Describe cómo se comportan sistemas y personas con esos sistemas. La ética define qué se tolera; la evidencia describe qué ocurre si no miras.

¿Basta con un vendor “sin sesgo”?

No. Rahwan insiste en medición independiente y en que “limpiar” sesgos también es una decisión política/cultural. En talento, valida en tu población y tu cargo.

¿Debemos dejar de usar LLM en selección?

No necesariamente. Debemos dejar de usarlo sin protocolo: criterio previo, revisión humana, trazabilidad y auditoría de lo que el resumen borra.

Resumen ejecutivo

1. Rahwan argumenta que la IA ya toma decisiones con carga moral; hay que estudiarlas antes del atrincheramiento (Collingridge).
2. Los sesgos de datos humanos se reproducen en resúmenes; el fine-tuning puede imponer el criterio de pocas empresas globales.
3. Moral Machine muestra consensos y variación cultural: el “default ético” del modelo no es neutral en Chile.
4. Ciudadano vs comprador: el mercado empuja a proteger al usuario que paga; el daño externo (candidato, equipo) no se autocorrige.
5. Usar LLM baja la inhibición moral (~5 % → ~25 %; con dial, ~85 % en su estudio de trampa).
6. Bots más fiables pueden preferirse a humanos; la sicofancia del chatbot es un riesgo cultural para comités.
7. En Obrii: criterio anclado, evidencia firmada, IA como apoyo —no como juez anónimo.

Fuente y derechos

Divulgación en español basada en la entrevista:

Vernimmen, T. (2026, 17 de junio). How will AI make moral decisions for you and me? Entrevista a Iyad Rahwan (Center for Humans & Machines, Max Planck Institute for Human Development). Knowable Magazine. https://knowablemagazine.org/content/article/technology/2026/what-shapes-ai-moral-decisions

Rahwan y coautores desarrollaron el marco de psicología moral de la IA en:

Rahwan, I., et al. (2024). The moral psychology of artificial intelligence. Annual Review of Psychology.

Cifras y hallazgos citados (Moral Machine; estudio de trampa con LLM/dial; juego de confianza humano vs bot; sesgo en resúmenes con ChatGPT-3) corresponden a lo reportado por Rahwan en esa entrevista y a la literatura que referencia. No sustituyen los papers originales ni la entrevista completa.

Interpretación aplicada a selección, evaluación psicolaboral y headhunting: Obrii Consulting (Ps. Francisco Fernández). Contenido educativo B2B; no constituye asesoría legal ni ética normativa vinculante.