Dónde no conviene dejar decidir a una IA en tu operación
La discusión pública sobre IA en empresas gira alrededor de qué tareas puede hacer. Después de ponerla a trabajar en una operación real, mi conclusión es que la pregunta útil es la inversa: dónde no hay que dejarla decidir. Esa frontera es la que separa una automatización que te ahorra trabajo de una que te genera un problema caro y silencioso.
El riesgo no es que se equivoque. Es que no avise.
Un sistema tradicional que falla, falla ruidosamente: tira un error, corta el proceso, alguien se entera. Un modelo de lenguaje casi nunca hace eso. Ante una pregunta que no puede responder bien, produce una respuesta plausible — con el mismo tono seguro que usa cuando acierta.
Esa es la diferencia que importa para quien opera una empresa. No estás incorporando un componente que a veces se rompe: estás incorporando uno que a veces te miente con confianza, y que no tiene forma de avisarte cuál de las dos cosas está haciendo.
Un caso propio, para que no suene abstracto
En mi propio sistema tuve una integración con un servicio externo que arrancaba en "modo simulación" cuando le faltaban las credenciales. La idea original era razonable: que el desarrollo no se frenara por no tener acceso.
El archivo de credenciales nunca llegó al servidor de producción. Entonces el endpoint de sincronización respondía, todos los días, algo así como "Sincronización completa: N productos correctos, 0 fallidos". Sobre productos inventados.
Estuvo roto durante meses. Nadie lo notó — porque el sistema reportaba éxito. Se descubrió recién cuando alguien del área comercial reclamó una funcionalidad que creía que estaba funcionando desde el principio.
Un modo simulación silencioso en producción no es un respaldo: es un error que se oculta a sí mismo.
De ahí saqué una regla que hoy aplico sin excepciones: si un módulo no tiene datos reales, no entrega nada. Falla de forma visible, con el motivo concreto. Nunca devuelve un resultado fabricado, y los contadores de éxito no cuentan operaciones simuladas.
Las tres fronteras
Nada que el cliente pueda tomar como compromiso
El chat que atiende a los visitantes en uno de mis sitios tiene prohibido dar precios, prometer plazos e inventar disponibilidad. Si le preguntan algo que no sabe, lo dice y avisa que lo confirma una persona del equipo.
Parece una limitación y es una decisión comercial. Un chat que improvisa un precio para no quedar mal te deja dos problemas: un cliente que se siente estafado y una venta que no podés sostener. El costo de esa respuesta amable lo pagás después, y lo pagás vos.
Nada irreversible sin confirmación
Cuando el control cruzado de mi sistema compara el ERP con los canales de venta y encuentra una diferencia de talle o de color entre dos registros que parecen el mismo producto, no la resuelve solo: frena y pide confirmación humana.
Podría elegir la opción más probable y acertaría la mayoría de las veces. El problema es la minoría: un error en esa decisión no se ve hasta que el cliente abre la caja, y para entonces se replicó en cientos de registros. La regla general es que la automatización puede proponer, pero no ejecutar, lo que es caro de deshacer.
Nada donde no puedas auditar después
Si no podés reconstruir por qué el sistema hizo lo que hizo, no podés corregirlo: sólo podés volver a pedirlo y esperar. Toda decisión automatizada tiene que dejar rastro de qué datos vio y qué resolvió.
Entonces, ¿dónde sí?
En todo lo que es reversible, verificable y aburrido. Redactar un primer borrador que después alguien revisa. Clasificar y ordenar para que una persona decida más rápido. Conversar con un visitante para juntar información — que es muy distinto de dar información. Vigilar servicios y avisar cuando algo se cae.
El patrón común es que en todos esos casos el costo de un error es bajo y se detecta rápido. Ese es el criterio, y es bastante más útil que cualquier lista de casos de uso.
La pregunta que le haría a quien te venda IA
No "qué puede hacer". Preguntale qué pasa cuando no sabe. Si la respuesta es que igual responde, que se las arregla o que "casi nunca pasa", estás comprando el problema del modo simulación con otro nombre.
La respuesta que querés escuchar es aburrida: que se detiene, que avisa, y que deja registrado qué fue lo que no pudo resolver.