IA en la sombra: reglas para que la IA de tu empresa no decida sola

La herramienta ya puede estar dentro de la operación

Una persona resume documentos, otra prepara respuestas y otra conecta un asistente con un canal de atención. Cada iniciativa puede nacer de una intención útil, pero la organización necesita saber qué información se utiliza y quién responde por el resultado.

Carlos Rojas abordó este tema en su charla «La IA en la sombra» en ECOM Venezuela, celebrado el 26 y 27 de octubre de 2026. El mensaje central, según la información de la marca, es que el uso de IA debe convertirse en una decisión de la empresa, con controles y reglas.

Haz visible el uso antes de escribir una política abstracta

Pregunta qué herramientas se utilizan, para qué tareas y con qué información. Escucha también por qué las personas las eligieron: puede haber una necesidad que los procesos actuales no están resolviendo.

Registra responsables, conexiones y puntos de revisión. Un inventario pequeño pero actualizado permite discutir decisiones concretas. Si nadie reconoce su trabajo en la norma, será más difícil aplicarla de manera consistente.

Este artículo ofrece una guía operativa educativa. No evalúa el cumplimiento normativo de una empresa ni sustituye asesoría especializada para su situación.

Una guía para llevarlo a la práctica

Utiliza esta tabla como punto de partida para conversar con el responsable del proceso. Es una propuesta práctica de este artículo; no constituye una certificación ni una evaluación automática de tu empresa.

Chatbot, asistente y agente: mira los permisos reales

En términos prácticos para esta guía, un chatbot se centra en la conversación; un asistente apoya una tarea; un agente puede encadenar acciones mediante herramientas. Estas etiquetas se superponen y no bastan para conocer el riesgo de un producto.

Lo importante es verificar sus permisos: ¿solo propone texto, consulta información o también envía, modifica y ejecuta acciones? Revisa qué puede hacer realmente y qué requiere autorización humana. Más capacidad de actuación exige límites y seguimiento acordes al proceso.

Ejemplo ilustrativo: preparar un borrador de respuesta no es lo mismo que enviarlo al cliente ni que modificar una condición comercial. Cada paso necesita una responsabilidad definida.

Cuatro reglas mínimas para empezar

Define qué puede responder o ejecutar, qué nunca debe decidir, cuándo debe pasar a una persona y quién revisa los resultados periódicamente. Incluye una forma de detener el uso si aparecen fallos relevantes.

Prueba las reglas con situaciones incompletas, ambiguas y fuera de alcance. Si el sistema no dispone de información suficiente, la salida adecuada puede ser pedir una aclaración o escalar. No debe esconder esa falta de información detrás de una respuesta convincente.

Como referencia externa, el AI Risk Management Framework de NIST es un marco voluntario para incorporar consideraciones de confianza y gestión de riesgos en el diseño, uso y evaluación de sistemas de IA. No constituye una certificación de este blog ni de Grupo IACR.

En PODER 360, Revisar permite ajustar el sistema; la R de Revisión del Framework IACR acompaña esa etapa. La responsabilidad también debe estar presente desde el diagnóstico y el diseño.

Un siguiente paso dentro del ecosistema

El recurso de pago Protege Tu Vida Digital ofrece material educativo relacionado. Para diseñar límites en atención al cliente, continúa con servicio por complejidad. Contenido educativo, no constituye asesoría legal.

Preguntas frecuentes