¿Es seguro dejar que un agente de IA se acerque a los datos de tu negocio?
Esta es la objeción que detiene la mayoría de los pilotos, y merece una respuesta real y no una palmadita. El riesgo es genuino, es concreto, y va sobre todo de permisos y no del modelo.
Preguntas y respuestas
¿Cuál es el riesgo real?
Dos cosas, y son distintas. Una es la exposición: datos que van a un sitio al que no querías. La otra es la acción: el agente haciendo algo irreversible en tu nombre. La segunda es la que arruina una semana, y está controlada por completo por lo que tú permites, no por lo listo que sea el modelo.
¿Cómo limito lo que un agente puede hacer?
No concediendo nada y añadiendo después. Todos los agentes del catálogo declaran abiertamente sus herramientas y su nivel de riesgo, y se ejecutan en solo lectura salvo que digas lo contrario. Solo lectura significa que puede producir el borrador de un correo y no puede enviar ninguno. Empieza ahí y quédate ahí hasta que una tarea concreta necesite de verdad más.
¿Qué pasa con los datos que lee un agente?
Van al proveedor del modelo para producir la respuesta, y la ejecución queda registrada para que puedas auditarla después. Lo que no son es datos de entrenamiento para el modelo de otro. Pregunta esto por escrito a cualquier proveedor, y pregunta en concreto por los plazos de conservación y no por las intenciones.
¿Puedo usar mi propia cuenta de proveedor de modelo?
Sí. Conectar tu propia clave significa que el tráfico va de tu infraestructura a un proveedor con el que ya tienes contrato, bajo unas condiciones que ya aceptaste. Para un negocio regulado ese suele ser el camino más corto a través de compras.
¿Qué debería preguntar a un proveedor antes de conectar nada?
Cuatro preguntas. ¿Qué puede leer exactamente esto? ¿Qué puede cambiar sin mí? ¿Dónde está el registro de lo que hizo? ¿Y quién en tu empresa puede ver mis datos? Un proveedor que responde a eso con concreciones es una propuesta distinta de uno que responde con adjetivos.
¿Sigue haciendo falta que una persona revise el resultado?
Para todo lo que salga de tu empresa o mueva dinero, sí, y diséñalo así a propósito y no como una salvaguarda temporal que piensas retirar. El valor está en redactar y leer, que es la mayor parte del trabajo. El clic final sale barato de conservar.