Notas sobre IA y el espejismo de la automatización

La industria de la IA quiere que usted le entregue su criterio a máquinas que todavía no están listas para asumirlo. Construyo con estas herramientas todos los días, así que lea esta nota como lo contrario de un argumento anti-IA: lo que funciona es un humano potenciado por agentes que lo asisten sin reemplazarlo. Lo que sigue es la defensa de esa postura — y de por qué la oportunidad más grande está donde casi nadie mira: las pymes, sobre todo las de Latinoamérica.

El momento

Hace quince años, las redes sociales llegaron con una promesa razonable: conectarnos, darnos voz, democratizar la información. Cumplieron parte. Pero también nos hicieron algo que no estaba en el contrato y que nadie alcanzó a discutir a tiempo: nos cambiaron como sociedad. El concepto que mejor describe lo que pasó es el de cámara de eco — un espacio donde el algoritmo nos muestra, una y otra vez, voces que confirman lo que ya creíamos. No es censura, es algo peor. Es una sensación de pluralidad falsa, donde uno cree estar viendo el mundo entero mientras solo está viendo el reflejo amplificado de sí mismo. Repetido durante diez años, eso redibujó cómo formamos opiniones, cómo procesamos desacuerdos, cómo nos relacionamos con quienes piensan distinto, cómo aprendemos, cómo recordamos, cómo nos sentimos sobre nosotros mismos. Cambió el tejido cognitivo y emocional sobre el cual se construye una sociedad — sin pedir permiso, y antes de que tuviéramos lenguaje para describirlo.

Hoy todo el mundo tiene una opinión sobre el daño que hicieron las redes. Hace diez años, casi nadie. Esa diferencia, esa década perdida, es el costo real.

Empiezo por ahí porque la IA está en un punto comparable, y llegando más rápido. Hay una forma concreta de medir esa velocidad: en blockchain, durante los últimos años, comprimimos en meses experimentos económicos que la teoría discutió durante un siglo — con dinero real y consecuencias reales. La IA hace lo mismo con el trabajo de todos los días: decisiones que antes tomaban semanas se resuelven en segundos. Y como toda compresión, comprime también los errores — menos tiempo para hacer mucho bien, y menos tiempo para hacer mucho daño.

La IA es más seria que las redes sociales en dos sentidos. El primero es que es más íntima: las redes nos cambiaron a través de lo que veíamos; la IA nos cambia a través de lo que pensamos — nos sugiere palabras antes de escribirlas, resume textos que ya no leeremos completos, recomienda decisiones que ya no examinaremos con detalle. La interfaz dejó de ser un feed que consumimos; ahora es una capa que se mete dentro del proceso mental. El segundo es que esta vez no es solo personal. Las redes transformaron al ciudadano; la IA va a transformar al ciudadano y al empresario al mismo tiempo. Lo que un dueño de empresa decide automatizar hoy define qué tipo de empresa —y qué tipo de empresario— será dentro de tres años. Esa decisión, que parece operativa, define quién va a ser. Y quien dirige una empresa hoy opera en un terreno donde una decisión apresurada se ejecuta más rápido que nunca — ese es el contexto en el que llegan a su escritorio las propuestas de adopción de IA. Esta vez podemos elegir.

El espejismo de la automatización total

La industria de la inteligencia artificial está vendiendo un producto muy específico: el agente autónomo. Un programa que recibe una instrucción amplia, opera sin supervisión, ejecuta tareas complejas y devuelve resultados. La promesa es que usted por fin puede delegar y desentenderse.

Esa promesa, hoy, es prematura —en muchos casos, deshonesta—. Y la evidencia ya está sobre la mesa.

La mayoría de las pruebas de concepto de IA en empresas nunca llega a producción: según una estimación de industria muy citada, cerca de siete de cada ocho mueren antes de desplegarse¹. Con los agentes la brecha es aún mayor: el 62% de las organizaciones está experimentando con agentes de IA, pero solo el 23% ha escalado siquiera uno en toda la organización². Gartner espera que más del 40% de los proyectos de IA agéntica se cancelen antes de que termine 2027, por costos desbordados, valor poco claro y controles de riesgo débiles³. La brecha entre la demo que impresiona y el sistema que sostiene operación real sigue ampliándose.

Estas no son fallas de inteligencia: son fallas de arquitectura.

• Agentes que operan dentro de todas sus reglas técnicas y aun así producen el resultado equivocado de forma consistente.
• Agentes que pasan todas las verificaciones automáticas mientras toman decisiones que ningún humano habría aprobado de haberlas visto formuladas.
• Agentes que reportan éxito mientras el efecto acumulado de sus acciones erosiona exactamente lo que se les pidió proteger.

La raíz de casi todas estas fallas es la misma: un sistema al que se le permite calificar su propio trabajo termina, siempre, aprobándose a sí mismo. Cuando se saca al humano del proceso no se gana eficiencia: se gana velocidad de error. El reporte State of AI in the Enterprise de Deloitte (2026) apunta en la misma dirección: solo el 21% de las empresas tiene un modelo maduro para gobernar agentes — el andamiaje organizacional que sostiene a uno cuando sale del entorno controlado del piloto⁴.

Esto no es la opinión de un ingeniero en Barranquilla: es hacia donde están convergiendo las dos jurisdicciones que más van a definir cómo se opera esta tecnología en la próxima década. La EU AI Act vuelve la supervisión humana un requisito vinculante para los sistemas de alto riesgo (Artículo 14); el NIST AI Risk Management Framework, la referencia en Estados Unidos, define cómo estructurar esos roles de humano en el proceso⁵. La supervisión se está escribiendo en la norma; ya no se deja a la voluntad de cada quien.

La infraestructura digital del mundo ya muestra lo que pasa cuando la complejidad crece más rápido que nuestra capacidad de manejarla. Aunque la frecuencia agregada de caídas está bajando gracias a inversiones en redundancia, la proporción de incidentes causados por error humano —en concreto, por no seguir los procedimientos establecidos— subió diez puntos porcentuales en 2025⁶. Las herramientas automatizadas reducen unos riesgos y crean otros. En marzo de 2026, la propia tienda de Amazon estuvo caída seis horas después de que un ingeniero desplegara un cambio siguiendo un consejo que un agente de IA había sacado de una wiki interna desactualizada; el remedio de Amazon fue devolverle fricción al proceso: más revisión humana antes de los despliegues críticos⁷. Una caída no planificada cuesta, en promedio, entre 14.000 y 24.000 dólares por minuto⁸; las de alto impacto rondan los dos millones de dólares por hora⁹.

Esto no descarta la automatización autónoma. Llegará, progresivamente, por dominios, con mecanismos de verificación que todavía no existen. Pero entre el chatbot pasivo de hoy y el agente autónomo confiable del futuro hay un trecho largo, y la industria está saltándoselo en sus presentaciones. Quien hoy compra agentes autónomos para reemplazar funciones críticas, sin entender esa distancia, va a aprender de la peor manera posible: cuando el daño ya esté hecho.

Lo que sí funciona: humano consciente, potenciado

El modelo que funciona hoy es el contrario al que se vende: no la IA que reemplaza al humano, sino la IA que vive a su lado, escucha el contexto del trabajo, propone acciones concretas y le devuelve la decisión a quien conoce el negocio.

La diferencia parece pequeña. No lo es. Es una diferencia de arquitectura más que de funcionalidad. Cuando se construye bien, el humano mantiene el criterio porque sigue tomando las decisiones que importan, los errores se detectan antes de ejecutarse y no después, y el sistema mejora con el uso porque cada decisión humana afina lo que el agente propone la próxima vez.

Lo llamo humano consciente, potenciado. Es una postura más que un término. El empresario que adopta la IA bajo este modelo no se vuelve dependiente, no pierde dominio sobre su trabajo, no entrega su criterio. Lo amplifica: el trabajo del día se comprime en horas, el cuidado que antes alcanzaba para un cliente alcanza para diez, y el negocio responde a medianoche con la misma calidad con la que responde al mediodía.

Un ejemplo concreto. Una mediana empresa con cinco vendedores que pierden cotizaciones porque no contestan a tiempo el WhatsApp del local puede, hoy, tener un asistente que escucha esos mensajes, arma la cotización con precios de inventario actualizados y se la propone al vendedor para que la apruebe antes de mandarla. El vendedor decide en segundos. El cliente recibe respuesta inmediata. El vendedor no fue reemplazado: fue potenciado. Y la empresa deja de perder ventas por demora y empieza a cerrar las que antes se le iban a la competencia.

Esa aritmética la he visto de cerca: una persona potenciada haciendo lo que antes hacía un equipo, y un puñado de personas potenciadas haciendo lo que antes requería una organización entera. ¿Qué pueden hacer cero humanos asistidos por agentes autónomos? Todavía nadie lo sabe. Y mientras no lo sepamos, la apuesta racional para un empresario que tiene un negocio real funcionando no es la que la industria está vendiendo. Hay un dato más que pocos citan: el 79% de los estadounidenses prefiere con creces tratar con un humano antes que con un agente de IA en servicio al cliente, incluso cuando la velocidad y la calidad son las mismas¹⁰. El humano potenciado le da al cliente lo que el cliente quiere; el agente autónomo se lo niega.

La postura del humano potenciado exige algo que la industria prefiere no decir en voz alta: trabajo. Trabajo de identificar qué decisiones definen quién es uno como empresario y cuáles son operativas. Trabajo de configurar las herramientas para que respondan a esa distinción. Trabajo de mantener la disciplina de no delegar lo que no se debería delegar, aunque sea técnicamente posible. La IA no resuelve la falta de criterio. La amplifica, en cualquier dirección que el usuario ya traiga. Y sí, va a haber recomposición laboral — para quien sea desplazado ese costo es concreto, y ninguna abstracción sobre "transición" alcanza a cubrirlo. Esa conversación merece su propio espacio; aquí me limito a recordar que las revoluciones industriales anteriores también desplazaron oficios mientras creaban capas de trabajo que la generación previa no habría podido imaginar.

La nueva alfabetización

Mi papá me decía hace años, con la confianza de quien creció en otra economía, que el futuro era de quien tuviera la información. Esa frase era cierta cuando él la aprendió. Ya no lo es.

La información es ahora abundante, accesible, saturada —cualquier persona con un teléfono tiene en la mano más que cualquier biblioteca del siglo veinte—. La inteligencia artificial es la consecuencia última de esa abundancia: una máquina que toma toda esa información, encuentra patrones y los replica con una fluidez que no distingue entre lo que es bueno y lo que es malo. La IA está optimizada para resolver, para responder, para sonar capaz. No está optimizada para tener razón. Y esa diferencia es exactamente lo que separa a un usuario competente de uno engañado.

El futuro ya no es de quien tenga la información. Es de quien sepa qué hacer con ella. De quien la pueda evaluar, contrastar, cuestionar. De quien tenga criterio para decidir cuándo aceptar lo que la máquina propone y cuándo desconfiar. De quien no confunda fluidez con verdad. De quien entienda que la IA es perfecta copiando patrones, y que copiar patrones perfectos no es lo mismo que pensar.

Hay un riesgo nuevo en esta dinámica, al que volveré en otra nota, pero que conviene nombrar desde ya. Si las redes sociales nos metieron en cámaras de eco, la inteligencia artificial está construyendo algo más íntimo y más difícil de detectar. La IA no replica las opiniones de un grupo. Replica las nuestras, devueltas en forma de respuesta articulada, segura, fluida. Está optimizada para complacer al usuario que tiene enfrente. Eso significa que con cada interacción se va construyendo un espacio que confirma al usuario en lo que ya cree, en lo que ya quiere oír, en lo que ya es. No es cámara de eco. Es algo más cercano a una cámara de ego. Y el daño es de otra naturaleza.

Esto es lo que las escuelas tendrían que estar enseñando, lo que los empresarios tendrían que estar exigiendo en sus equipos, lo que cada uno tendría que estar practicando. Es la nueva alfabetización. Y como toda alfabetización nueva, los primeros que la dominen van a tener una ventaja enorme sobre los demás.

La oportunidad colombiana

Una idea que va contra la intuición y conviene decir sin rodeos: la inteligencia artificial bien usada hoy le sirve más al negocio mediano y pequeño que al grande. Es igual de difícil para todos; la diferencia es que empareja una cancha que antes era estructuralmente desigual. La gran corporación siempre pudo pagar un equipo entero de operación, atención al cliente, análisis de datos, contenido, marketing personalizado. Para la mediana empresa, eso era inalcanzable. La IA bajó el costo de esas capacidades a niveles donde un negocio mediano puede acceder a ellas. Por primera vez en décadas, la diferencia operativa entre una empresa de mil empleados y una de veinte se está acortando, no ampliando.

Esto importa más en países donde el tejido empresarial es predominantemente pequeño y mediano. En Colombia, el 99,5% de las empresas formales son micro, pequeñas o medianas, y generan cerca del 80% del empleo total del país¹¹. El comercio, los servicios, el agro, el turismo, la salud privada no se mueven con grandes corporaciones, sino con miles de pymes. Lo que le pase a esas empresas con la IA es lo que le va a pasar al país.

Si el grueso del tejido empresarial colombiano adopta la IA como herramienta de potenciación, vamos a ver una década de transformación productiva difícil de imaginar hoy. Si lo adopta como espejismo, comprando herramientas que prometen automatización mágica y entregando el criterio a sistemas que aún no pueden asumirlo, vamos a perder una ventana que no se va a repetir. La oportunidad es enorme y específica: regiones medianas, sectores tradicionales, empresas con dueños que conocen su negocio profundamente y no han tenido acceso a las capacidades operativas de las corporaciones globales. Esa es la cancha donde la IA puede multiplicar más valor. Y esa cancha en Latinoamérica es vasta.

Una invitación, no una conclusión

No predigo qué va a pasar. Desconfío de quien predice estas cosas con seguridad, en una industria donde quienes tenían la convicción más firme hace tres años se equivocaron casi todos.

Lo que sí digo es esto. Estamos en uno de esos momentos donde el costo de no pensar es alto. Esto es infraestructura que se está instalando ahora, en silencio, debajo de la conversación pública — no una tendencia que se pueda ignorar y revisar el año entrante. Quien se involucre temprano, con criterio, va a tener una ventaja que después no se podrá recuperar. Quien se involucre tarde o mal va a pagar un costo que aún no se está midiendo.

La postura que propongo es exigente: pragmatismo informado. Examinar las herramientas. Preguntarse para qué sirven. Probar a pequeña escala antes de comprometer al negocio entero. Mantenerse al lado del proceso, no afuera. Distinguir la promesa que se vende del producto que de verdad existe. Cuestionar lo que la máquina propone con la misma rigurosidad con la que se cuestiona lo que propone un consultor caro.

Las regiones, las empresas y las personas que adopten esa postura van a estar bien. Las que prefieran la fe, en cualquiera de sus dos formas (la que cree todo y la que no cree nada), van a llegar tarde otra vez.

Es una decisión que se está tomando ahora, con lo que cada uno hace o deja de hacer esta semana. Vale la pena tomarla con los ojos abiertos.

En las próximas notas voy a profundizar en tres cosas que aquí solo dejé enunciadas. Primero, cómo la IA nos está cambiando como individuos —la cámara de ego, la nueva alfabetización del criterio—, que es una conversación que nos compete a todos, no solo a quienes hacemos negocios. Segundo, qué pasó con crypto, por qué tuvo dos olas y por qué la lección que dejó es la misma que estamos viviendo otra vez con la IA. Y tercero, cómo se ve técnicamente una alternativa que no nos esclavice: qué tipo de interfaz, qué tipo de arquitectura, qué tipo de relación con la máquina podemos construir si decidimos hacerlo en serio.

---

Mateo Daza es ingeniero de software con siete años construyendo tecnología de punta en finanzas descentralizadas, infraestructura de pagos para Latinoamérica, identidad digital y sistemas de agentes de inteligencia artificial. Cofundador de Ethereum Colombia. Dos veces finalista de ETHGlobal. Vive en Barranquilla.

Esta nota es la primera de una serie de cuatro sobre el momento que estamos viviendo con la inteligencia artificial.

Notas

1. IDC / Lenovo, CIO Playbook 2025 — proporción de pruebas de concepto de IA que nunca llegan a producción. ↩
2. McKinsey, The State of AI (2025) — 62% de las organizaciones experimentando con agentes de IA; 23% escalando al menos uno. ↩
3. Gartner, "Gartner Predicts Over 40% of Agentic AI Projects Will Be Canceled by End of 2027", 25 de junio de 2025. ↩
4. Deloitte, State of AI in the Enterprise: The Untapped Edge (2026) — 21% de las empresas con un modelo maduro de gobernanza de agentes. ↩
5. EU AI Act, Artículo 14 (supervisión humana, vinculante para sistemas de alto riesgo); NIST AI Risk Management Framework (roles de supervisión humano–IA; guía voluntaria). ↩
6. Uptime Institute, Annual Outage Analysis 2025. ↩
7. Fortune, 12 de marzo de 2026, sobre la caída de Amazon.com del 5 de marzo de 2026; CNBC, 5 de marzo de 2026. ↩
8. EMA Research, IT Outages: 2024 Costs and Containment — ≈ 14.056–23.750 dólares por minuto. ↩
9. New Relic, 2025 Observability Forecast — caída de alto impacto ≈ 2 millones de dólares/hora (mediana). ↩
10. Estudio de servicio al cliente de SurveyMonkey, diciembre de 2025 (n ≈ 2.017 adultos en EE. UU.). ↩
11. Participación mipyme: Confecámaras / RUES, vía BBVA Research (2024). Empleo: DANE (GEIH). ↩