Ir al contenido principal

El 74% de las empresas ya revirtió agentes de IA por fallas de gobernanza

3 min de lectura
Ilustración sobre fallas de agentes de IA y riesgo para la marca

La adopción de agentes de IA en atención al cliente ya dejó de ser un experimento controlado: según un nuevo reporte citado por MarTech, el 62% de las empresas ya tiene agentes de comunicación con IA en producción y el 88% espera desplegar uno dentro de los próximos 12 meses. El dato que debería preocupar a marketing es otro: el 74% de las compañías encuestadas ya tuvo que revertir un agente de IA por fallas de gobernanza.

La investigación proviene del informe “AI Production Paradox” de Sinch, basado en 2.527 tomadores de decisión empresariales en 10 países y seis industrias. El hallazgo central es incómodo: incluso las organizaciones con guardrails más maduros reportan más rollbacks, con una tasa de 81%, lo que sugiere que la infraestructura de seguridad se está convirtiendo en un costo operativo difícil de sostener.

El problema: la IA también puede dañar la marca

MarTech recuerda el caso de Air Canada, donde un chatbot inventó una política de reembolso por duelo que no existía. El cliente actuó en base a esa respuesta, el caso llegó a tribunales y la aerolínea terminó obligada a pagar daños. Para cualquier marca, el aprendizaje es claro: cuando un agente de IA responde en nombre de la empresa, el error no se percibe como “fallo técnico”, sino como experiencia de marca.

El informe de Sinch muestra que, cuando un agente falla, el 35% del impacto cae sobre la cola de soporte y el 34% sobre la percepción de marca. Esa segunda consecuencia es especialmente delicada para marketing, porque puede amplificarse rápido en redes sociales, medios y comunidades de clientes.

La “tasa de guardrails” empieza a pesar

Uno de los datos más relevantes para equipos de marketing y CX es que el 84% de las empresas dedica al menos la mitad del tiempo de ingeniería a reconstruir infraestructura de seguridad desde cero. En la práctica, eso significa menos capacidad para mejorar personalización, journeys, campañas, automatización o experiencias omnicanal.

Daniel Morris, chief product officer de Sinch, lo define como una “guardrail tax”: el costo de mantener sistemas seguros que, si no están bien diseñados desde la base, termina frenando la innovación en experiencia de cliente.

Qué significa para marketing

Para marketing, el mensaje no es “no usar agentes de IA”. El mensaje es que no basta con elegir un modelo o activar un chatbot. La ventaja competitiva estará en la infraestructura: gobernanza, orquestación entre canales, supervisión humana, datos correctos y límites claros sobre qué puede prometer o ejecutar un agente.

Esto afecta directamente a ecommerce, atención al cliente, automatización de leads y campañas conversacionales. Si un agente entrega una promoción incorrecta, inventa una política, recomienda mal un producto o responde fuera de tono, la fricción se convierte en reputación negativa.

Tres aprendizajes para marketers

  • Evaluar proveedores por infraestructura, no solo por demo. La calidad de guardrails, integraciones y control operacional puede pesar más que la creatividad del bot.
  • Presupuestar mantenimiento de seguridad. Los agentes de IA no son un lanzamiento único: requieren monitoreo, pruebas y ajustes constantes.
  • Separar gobernanza de ejecución comercial. Marketing debe participar en el diseño de experiencia, tono y objetivos, pero la seguridad, compliance y control de riesgo necesitan ownership especializado.

La adopción de IA conversacional seguirá creciendo, pero el reporte marca una frontera importante: en la era de agentes, la confianza también es un activo de performance.

Compartir:

Artículos Relacionados

Google deja apagar la marca de agua visible de las creaciones con Gemini: quedan las invisibles, que nadie ve sin una herramienta
Inteligencia Artificial

Google deja apagar la marca de agua visible de las creaciones con Gemini: quedan las invisibles, que nadie ve sin una herramienta

Las imágenes, vídeos y canciones hechos con Gemini podrán salir sin marca visible. SynthID y C2PA siguen incrustados, pero requieren software para leerse. Y llega la misma semana que un estudio dice que el 56% no distingue el contenido de IA.

8 min
Hacer bien la publicidad con IA no te hace ganar: solo te evita perder, según un estudio con 22.000 consumidores
Inteligencia Artificial

Hacer bien la publicidad con IA no te hace ganar: solo te evita perder, según un estudio con 22.000 consumidores

El 42% castiga a la marca por un anuncio de IA mal hecho y solo el 40% premia uno bien hecho. Y el 56% admite que no sabe distinguir cuándo hay IA detrás, así que lo que se penaliza no es la máquina: es que se note mal.

4 min
ChatGPT ya puede recordar todo lo que haces en tu ordenador, y OpenAI lo ha lanzado apagado por defecto y con dos puertas
Inteligencia Artificial

ChatGPT ya puede recordar todo lo que haces en tu ordenador, y OpenAI lo ha lanzado apagado por defecto y con dos puertas

Computer History resume tu actividad en apps y webs para que el asistente sepa en qué estabas. Sale como opt-in explícito la misma semana en que Amazon activó por defecto el entrenamiento con contenido de Twitch. La diferencia no está en el riesgo.

5 min
Google y OpenAI anunciaron con cuatro minutos de diferencia, y ninguno de los dos dijo que su modelo fuera más listo
Inteligencia Artificial

Google y OpenAI anunciaron con cuatro minutos de diferencia, y ninguno de los dos dijo que su modelo fuera más listo

A las 17:00 UTC Google presentó Gemini 3.7 Flash a mitad de precio; a las 17:01, OpenAI previsualizó un modo hasta 14 veces más rápido. La competencia se movió de la capacidad al coste de ejecutarla, y las dos letras pequeñas dicen lo mismo.

7 min

Recién publicado