La IA no dirigirá su empresa por sí sola

10 min de lectura

La fantasía es barata. Limpiar el desastre sale caro.

La adopción es real. La autonomía mágica no.

Empecemos por la parte que sí es cierta.

La IA ya está metida en muchas empresas reales. El 2025 AI Index Report de Stanford HAI dice que el 78 % de las organizaciones reportó usar IA en 2024, frente al 55 % del año anterior. Eso no es comportamiento de nicho. Las herramientas están aquí. Los presupuestos se están moviendo. El personal está experimentando, entienda o no liderazgo la mecánica.

Pero el mismo mercado está lleno de ejecutivos que hablan como si la IA fuera a desarrollar software por sí sola, llevar soporte en piloto automático, procesar decisiones internas y quizá reemplazar de una vez a la molesta parte humana que queda en medio de la empresa.

Ahí es donde el pensamiento se vuelve descuidado.

La 29th Global CEO Survey de PwC sirve aquí porque corta el humo de escenario de conferencia. Se basa en respuestas de 4.454 directores ejecutivos en 95 países y territorios, así que da una señal mejor que otro numerito de panel tecnológico en Estados Unidos. Sí, el 30 % de los CEO reportó mayor ingreso gracias a la IA en los doce meses anteriores. Bien. Pero el 56 % no reportó ni mayores ingresos ni menores costos, y solo el 12 % reportó ambas cosas. Eso no pinta una transformación sin esfuerzo. Pinta experimentación amplia, retorno desigual y muchos ejecutivos comprando herramientas más rápido de lo que construyen disciplina operativa a su alrededor.

En castellano simple: la adopción de IA es real. La magia de la IA no.

Por qué liderazgo sigue creyendo el cuento de hadas

La dirección no técnica suele ver con mucha claridad la peor parte de la vida organizativa: retrasos, reuniones, política, retrabajo, traspasos fallidos y equipos de software explicando una vez más por qué una funcionalidad que parecía simple no era simple. Ese patrón no es exclusivamente estadounidense. Lo encuentra en una empresa del Mittelstand alemán, en un banco en Panamá, en un minorista en Colombia, en una oficina pública en España o en una empresa de rápido crecimiento en Singapur. Cambian los sustantivos. La disfunción no.

Entonces aparece la IA con demos brillantes.

Escriba un prompt. Obtenga un flujo.

Escriba un prompt. Obtenga código.

Escriba un prompt. Obtenga un informe.

Después de diez minutos de eso, la tentación de concluir que los humanos caros, tercos y llenos de opiniones fueron siempre el cuello de botella se vuelve fuerte.

No lo fueron.

El cuello de botella era la complejidad sin gestionar. Los humanos solo eran quienes la estaban cargando.

El desarrollo de software no es teclear. Las operaciones de oficina no son generación de documentos. La entrega no es un montón de tareas esperando ejecución obediente. La parte difícil es decidir qué importa, detectar contradicciones, resolver ambigüedad, manejar excepciones, asignar responsabilidad y absorber la realidad cuando se niega a parecerse al plan.

Esos son problemas de juicio.

La IA puede apoyar el juicio. No lo posee.

Por qué la IA autónoma se rompe al tocar trabajo real

Hay una razón por la que las historias más fuertes de agentes de IA hoy suelen venir de entornos estrechos y muy instrumentados.

Anthropic lo dice con una honestidad poco habitual en Building effective agents: empiece con la solución más simple posible y considere seriamente no construir agentes en absoluto. Su argumento no es antiagente. Es antifantasía. Los workflows son más predecibles para tareas bien definidas. Los agentes tienen sentido cuando de verdad necesita toma de decisiones flexible guiada por modelos y puede tolerar mayor costo y el riesgo de errores acumulativos.

Esa última frase importa: errores acumulativos.

Eso es exactamente lo que los ejecutivos subestiman.

Si un empleado junior hace una suposición equivocada en una reunión, normalmente alguien más la detecta. Si un agente de IA hace una suposición equivocada al principio de una cadena autónoma larga, puede pasar los veinte pasos siguientes construyendo un disparate hermoso con confianza perfecta.

OpenAI dice la parte incómoda sin rodeos en Why language models hallucinate: las alucinaciones siguen siendo un desafío fundamental para los grandes modelos de lenguaje. Los modelos más nuevos las reducen. No las eliminan. El problema no es solo el error factual ocasional. El problema es que el modelo puede producir falsedades plausibles exactamente en el tono en el que a los ejecutivos ocupados más les gusta confiar: limpio, estructurado y calmado.

Ahora meta ese comportamiento dentro de desarrollo de software, operaciones financieras, compras, revisión legal, RR. HH., soporte multilingüe al cliente o informes ejecutivos repartidos entre varias jurisdicciones.

El problema inmediato no es que la IA sea estúpida. El problema inmediato es que suena fluida.

La fluidez crea confianza falsa.

El desarrollo de software es el lugar equivocado para el pensamiento mágico

Aquí es donde mucha estrategia ejecutiva sobre IA se sale de la carretera.

Líderes ven a un agente producir una pantalla, un endpoint de API, una migración o un paquete de pruebas. Ven salida visible y asumen que el trabajo invisible ya es opcional.

No lo es.

Alguien todavía tiene que decidir:

• qué se supone que el sistema haga realmente
• cómo se detecta y se recupera el fallo
• qué pasa bajo concurrencia y caída parcial
• cómo se hacen cumplir los límites de seguridad
• qué se registra, mide y alerta
• cómo se harán cambios futuros sin partir todo por la mitad

Por eso Vibe Coding no es desarrollo de software no es solo una queja sobre mala práctica. Es una advertencia sobre un error de categoría. La gente confunde generación de código con desarrollo de producto. No son lo mismo.

Lo mismo aplica al desarrollo agéntico. Un agente puede ser extremadamente útil dentro de una base de código cuando el trabajo está acotado y el bucle de feedback es duro. Si fallan las pruebas, el código está mal. Si fallan las comprobaciones de despliegue, el cambio no está listo. Si la observabilidad muestra regresiones, se detiene.

Por eso Los tests superan las instrucciones para agentes IA importa. Los entornos verificables hacen que la IA sea mucho más útil porque el sistema puede ser corregido por la realidad y no por el optimismo.

Los ejecutivos que esperan que la IA “simplemente construya el software” suelen saltarse toda esa capa de disciplina. Luego se sorprenden cuando un generador rápido produce deuda rápida.

Las oficinas tampoco funcionan con generación de texto

La versión de oficina de esta fantasía está igual de rota.

Sí, la IA puede redactar memorandos, resumir reuniones, clasificar tickets, preparar análisis preliminares, enrutar solicitudes rutinarias y responder preguntas estándar más rápido que muchos humanos. Bien. Úsela para eso.

Pero dirigir una oficina no es lo mismo que producir texto con forma de oficina.

Una oficina funciona sobre cosas que la IA todavía no domina bien:

• prioridades que chocan entre sí
• excepciones que rompen el mapa del proceso
• riesgo reputacional
• exposición legal y contractual
• contexto político dentro de la empresa
• conocimiento tácito que nadie se molestó en documentar
• responsabilidad cuando algo sale mal

La verdad fea es que muchos líderes no quieren realmente autonomía. Quieren negación plausible con menor nómina.

Ese es un modelo operativo terrible.

Si un sistema de IA rechaza al candidato equivocado, aprueba el pago equivocado, clasifica mal una queja de cliente, resume mal un informe de riesgo o empuja a liderazgo en la dirección incorrecta, la organización no puede encogerse de hombros y culpar a la máquina. La responsabilidad salta de vuelta de inmediato a los humanos que delegaron sin control. Eso sigue siendo cierto tanto si en la puerta dice CEO, managing director, director general, fundador o country head.

Dónde la IA sí se gana el puesto

Bien usada, la IA ya es valiosa.

Acelera primeros borradores. Ayuda a comparar opciones. Reduce trabajo tedioso de búsqueda. Saca patrones de grandes montones de texto. Asiste en cambios exploratorios de código. Acorta el camino entre pregunta y respuesta candidata. En desarrollo de software puede ser excelente para boilerplate, refactors, generación de pruebas, exploración de repositorios y explicación de código legado. En trabajo de oficina puede ayudar con triage, resúmenes, plantillas, recuperación de conocimiento y coordinación repetitiva.

Eso no es poca cosa. Es apalancamiento real.

Pero apalancamiento no es autogobierno.

Las implementaciones más fuertes suelen compartir unas cuantas características aburridas:

• la tarea es lo bastante acotada como para definir el éxito con claridad
• una persona sigue siendo responsable del resultado
• el sistema tiene puntos de control, registros y caminos de reversa
• los errores pueden detectarse antes de que se propaguen
• los expertos del dominio siguen cerca del circuito

Lo aburrido es bueno. Lo aburrido escala. Lo aburrido sobrevive al contacto con auditores, clientes, incidentes de producción, cierre de mes y presión de fin de trimestre.

La magia no.

Qué debería hacer liderazgo en cambio

Si dirige una empresa, el movimiento práctico no es preguntar si la IA puede funcionar por su cuenta. El movimiento práctico es decidir dónde la autonomía es barata, dónde es peligrosa y dónde es una estupidez.

Y sí, esto aplica igual si dirige una empresa cotizada, un fabricante familiar, un banco regional, una institución pública o una firma de software que opera en varios países. Los detalles de gobernanza cambian. La necesidad de juicio no.

Empiece aquí:

1. Ponga la IA en flujos con verificación clara.

Si el resultado puede probarse, comprobarse, conciliarse o revisarse contra un estándar objetivo, bien. Esos son buenos candidatos.

1. Mantenga responsables humanos en decisiones críticas para el negocio.

Si el trabajo cambia exposición al riesgo, confianza del cliente, posición legal, movimiento de dinero, fiabilidad del sistema o dirección organizativa, una persona concreta tiene que asumir la decisión.

1. Exija evidencia, no demos.

Pregunte cómo se detecta el error. Pregunte cómo funciona la reversa. Pregunte quién revisa las excepciones. Pregunte qué métricas prueban que el flujo es mejor y no solo más rápido.

1. No recorte primero a los expertos del dominio.

La gente que entiende el proceso, al cliente, la base de código o los bordes regulatorios es la que hace que la IA sea más segura y rentable. Si los quita demasiado pronto, se queda con la herramienta después de borrar el juicio.

1. Trate la IA como un cambio del modelo operativo, no como una compra de software.

Si no cambian roles, controles, métricas, rutas de escalamiento y responsabilidad, entonces no transformó la organización. Compró una manera más rápida de producir salida sin verificar.

La pregunta seria

La pregunta seria no es si la IA puede actuar de forma autónoma.

Claro que puede, en contextos acotados.

La pregunta seria es si su empresa tiene la disciplina para decidir dónde pertenece esa autonomía.

Ese es trabajo de liderazgo. La máquina no lo hace por usted.

Los ejecutivos que esperan que la IA dirija por sí sola el desarrollo de software o la oficina no están siendo valientes. Están intentando saltarse la parte en la que la gestión se vuelve específica.

Las herramientas son útiles. Los atajos son falsos. Construya alrededor de esa realidad y la IA se convierte en amplificador. Ignórela y la IA se convierte en una forma muy rápida de fabricar confusión.

Fuentes

• Stanford HAI, 2025 AI Index Report
• PwC, 29th Global CEO Survey
• Anthropic, Building effective agents
• OpenAI, Why language models hallucinate