Est-il prudent de laisser un agent IA approcher les données de votre entreprise ?
C'est l'objection qui arrête la plupart des pilotes, et elle mérite une vraie réponse plutôt qu'une tape rassurante. Le risque est réel, il est concret, et il tient surtout aux autorisations, pas au modèle.
Questions et réponses
Quel est le vrai risque ?
Deux choses, et elles diffèrent. La première est l'exposition : des données qui partent quelque part où vous ne le vouliez pas. La seconde est l'action : l'agent qui fait quelque chose d'irréversible en votre nom. C'est la seconde qui gâche une semaine, et elle dépend entièrement de ce que vous autorisez, pas de l'intelligence du modèle.
Comment limiter ce qu'un agent peut faire ?
En n'accordant rien, puis en ajoutant. Chaque agent du catalogue déclare ouvertement ses outils et son niveau de risque, et s'exécute en lecture seule sauf indication contraire. Lecture seule veut dire qu'il peut rédiger un e-mail et n'en envoyer aucun. Commencez là et restez-y jusqu'à ce qu'une tâche précise ait vraiment besoin de plus.
Qu'advient-il des données qu'un agent lit ?
Elles vont au fournisseur du modèle pour produire la réponse, et l'exécution est journalisée pour que vous puissiez l'auditer ensuite. Ce ne sont pas des données d'entraînement pour le modèle de quelqu'un d'autre. Demandez cela par écrit à tout fournisseur, et posez précisément la question des durées de conservation plutôt que celle des intentions.
Puis-je utiliser mon propre compte chez un fournisseur de modèle ?
Oui. Connecter votre propre clé signifie que le trafic va de votre infrastructure vers un fournisseur avec lequel vous avez déjà un contrat, selon des conditions que vous avez déjà acceptées. Pour une entreprise réglementée, c'est souvent le chemin le plus court à travers les achats.
Que demander à un fournisseur avant de connecter quoi que ce soit ?
Quatre questions. Que peut lire exactement cette chose ? Que peut-elle modifier sans moi ? Où est le journal de ce qu'elle a fait ? Et qui, chez vous, peut voir mes données ? Un fournisseur qui répond par des précisions propose autre chose qu'un fournisseur qui répond par des adjectifs.
Faut-il encore qu'une personne relise le résultat ?
Pour tout ce qui sort de votre entreprise ou déplace de l'argent, oui — et concevez-le ainsi volontairement, pas comme un garde-fou temporaire que vous comptez retirer. La valeur est dans la rédaction et la lecture, qui constituent l'essentiel du travail. Le clic final coûte peu à conserver.