Meredith Whittaker, presidenta de Signal, no fue diplomática. En declaraciones recientes recogidas por TechCrunch, fue directa: "Estos no son sus amigos. No son seres conscientes. No son interlocutores sensibles." Lo dijo en respuesta a la creciente tendencia de usuarios —y empresas— que tratan a los chatbots de inteligencia artificial como si fueran asesores de confianza, coaches o colaboradores estratégicos.
Para muchos titulares tecnológicos, esto fue un comentario pasajero. Para un CEO que decide cuánto peso darle a las recomendaciones de su asistente de IA, es una de las advertencias más útiles del año.
La crítica no es anti-tecnología. Es una corrección de marco mental. Cuando una herramienta está diseñada para responder de forma fluida, empática y contextual, el cerebro humano tiende a asignarle intenciones. Creemos que "entiende" lo que queremos decir. Que "recuerda" nuestras preferencias porque le importamos. Que si da una respuesta coherente, es porque razonó.
Ninguna de esas cosas es cierta.
Un modelo de lenguaje grande es un sistema probabilístico de predicción de texto. No tiene intereses. No tiene valores. No tiene lealtad hacia usted ni hacia su empresa. Lo que sí tiene es la capacidad de sonar convincente —incluso cuando está equivocado— y eso, en manos de un equipo sin protocolo claro, es un riesgo operativo real.
En el contexto latinoamericano, donde la IA está siendo adoptada en etapas tempranas por empresas medianas que no siempre cuentan con equipos técnicos internos, confiar en exceso en los chatbots se expresa de formas muy concretas:
Un gerente de ventas en Bogotá le pide a un chatbot una proyección de mercado para su producto. El modelo responde con cifras específicas y un tono de autoridad. El gerente las usa en su presentación de junta. Nadie verifica la fuente. Las cifras son plausibles, pero generadas sin ningún dato real.
Un director de operaciones en Monterrey usa un asistente de IA para redactar una política interna sobre manejo de datos de clientes. El texto es impecable gramaticalmente, pero omite requisitos de la regulación local. El equipo legal nunca lo revisó porque "ya lo revisó la IA".
Una fundadora en Buenos Aires confía en que su asistente de IA recuerda el contexto completo de su empresa entre sesiones. No recuerda nada. Cada vez que abre una ventana nueva, empieza desde cero.
Estos no son escenarios extremos. Son patrones que ocurren hoy en empresas que están adoptando IA sin un marco de uso definido.
Cuando su equipo adopta un chatbot —ya sea ChatGPT, Copilot, Gemini o un agente interno— ¿existe un protocolo sobre qué tipo de decisiones puede y no puede informar? ¿Hay una distinción clara entre "usar IA para acelerar un borrador" y "usar IA como fuente de verdad"?
La mayoría de las empresas medianas en LATAM no tienen esa distinción documentada. Y eso es exactamente lo que Whittaker señala: el problema no es que las personas usen IA. El problema es que la usan sin entender qué es lo que están usando.
Un chatbot bien implementado puede:
Un chatbot no puede, ni debe:
Uno de los errores más comunes en empresas que están empezando con IA es asumir que "poner límites" al uso de chatbots frena la innovación. No es así.
Gobernar el uso de IA es simplemente tener claridad sobre tres cosas: qué hace la herramienta, qué no hace, y quién es responsable del resultado. Eso no requiere un departamento legal nuevo. Requiere un criterio compartido con todo el equipo que interactúa con las herramientas.
Algunas preguntas básicas para empezar:
Si ninguna de estas preguntas tiene una respuesta documentada, ese es el punto de partida.
Whittaker dirige una organización cuyo activo central es la privacidad y la confianza digital. Signal entiende mejor que nadie lo que ocurre cuando las personas depositan confianza en sistemas digitales sin comprender cómo funcionan. Su advertencia sobre los chatbots viene de ese mismo lugar: no es un llamado a rechazar la tecnología, sino a usarla con los ojos abiertos.
Para un CEO latinoamericano, el mensaje práctico es este: la IA puede ser uno de los mejores instrumentos de productividad que ha tenido su empresa en décadas. Pero un instrumento no tiene agencia. No lo cuida a usted. No tiene interés en que su empresa prospere. Solo responde —a veces bien, a veces con errores plausibles— a lo que usted le pregunta.
Tratarla como herramienta no la hace menos poderosa. La hace más útil y más segura.
Si quiere estructurar la forma en que su equipo usa la IA, el primer movimiento no es adquirir una nueva plataforma. Es definir criterio: qué decisiones merecen supervisión humana, cuáles pueden delegarse con confianza, y cómo auditar los resultados en el tiempo.
En Xenturia acompañamos a empresas medianas en LATAM en esa etapa — no de adopción a ciegas, sino de adopción con criterio. Diseñamos flujos, protocolos de validación y agentes con memoria y contexto real, conectados a los datos de su operación, no chatbots genéricos que responden bonito pero no conocen su negocio.
Si su empresa ya usa IA pero no tiene claro cómo gobernarla, es un buen momento para revisarlo.
Agenda una consulta gratuita con nuestro equipo y descubre cómo la IA puede transformar tus operaciones.
Agenda una consulta
IA EstratégicaAIEl auge, caída y resurgimiento de los agentes IA no es un accidente. Es un patrón con lecciones concretas para empresas que quieren resultados, no ruido.
IA EstratégicaAIDesplegar IA en la nube sin un marco de gobernanza es apostar el control de tu empresa. Guía práctica para líderes de negocio en LATAM.
IA EstratégicaAIKPMG retiró un reporte por alucinaciones de IA. Lo que esto revela sobre el riesgo real de usar IA para generar análisis en su empresa.
