Yapay zekâ ajanlarını iş verilerinizin yanına sokmak güvenli mi?
Çoğu pilot çalışmayı durduran itiraz budur ve güvence değil, gerçek bir cevap hak eder. Risk gerçektir, belirlidir ve büyük ölçüde modelle değil izinlerle ilgilidir.
Sorular ve yanıtlar
Gerçek risk nedir?
İki şey, ve birbirlerinden farklılar. Biri maruz kalma: verinin niyet etmediğiniz bir yere gitmesi. Diğeri eylem: ajanın sizin adınıza geri alınamaz bir şey yapması. Bir haftayı mahveden ikincisidir ve tamamen sizin neye izin verdiğinizle kontrol edilir, modelin ne kadar zeki olduğuyla değil.
Bir ajanın yapabileceklerini nasıl sınırlarım?
Hiçbir şey vermeyip geri ekleyerek. Katalogdaki her ajan araçlarını ve risk düzeyini açıkça beyan eder ve siz aksini söyleyene kadar salt okunur çalışır. Salt okunur, bir e-postanın taslağını üretebilir ama gönderemez demektir. Oradan başlayın ve belirli bir iş gerçekten fazlasına ihtiyaç duyana kadar orada kalın.
Ajanın okuduğu veriye ne olur?
Cevabı üretmek için model sağlayıcısına gider ve çalıştırma kaydedilir, böylece sonradan denetleyebilirsiniz. Olmadığı şey ise başkasının modeli için eğitim verisi olmaktır. Bunu her sağlayıcıya yazılı olarak sorun, ve niyetleri değil saklama sürelerini özellikle sorun.
Kendi model sağlayıcı hesabımı kullanabilir miyim?
Evet. Kendi anahtarınızı bağlamak, trafiğin sizin altyapınızdan, hâlihazırda sözleşmeniz olan bir sağlayıcıya, zaten kabul ettiğiniz şartlar altında gitmesi demektir. Düzenlemeye tabi bir işletme için bu genellikle satın almadan geçen en kısa yoldur.
Bir şey bağlamadan önce sağlayıcıya ne sormalıyım?
Dört soru. Bu tam olarak neyi okuyabiliyor? Bensiz neyi değiştirebiliyor? Ne yaptığının kaydı nerede? Ve şirketinizde kimler verimi görebiliyor? Bunlara ayrıntıyla cevap veren bir sağlayıcı, sıfatlarla cevap verenden bambaşka bir tekliftir.
Çıktıyı yine de bir insanın kontrol etmesi gerekiyor mu?
Şirketinizden çıkan ya da para hareket ettiren her şey için evet — ve bunu, sonradan kaldırmayı planladığınız geçici bir önlem olarak değil, bilerek böyle tasarlayın. Değer taslak yazmakta ve okumakta, yani işin çoğunda. Son tıklamayı elde tutmanın maliyeti ise düşüktür.