هل وكلاء الذكاء الاصطناعي آمنون قرب بيانات عملك؟
هذا هو الاعتراض الذي يوقف أغلب التجارب، ويستحق جوابًا حقيقيًا لا طمأنة. المخاطرة حقيقية، ومحدّدة، وتتعلق بالصلاحيات أكثر مما تتعلق بالنموذج.
أسئلة وأجوبة
ما هي المخاطرة فعليًا؟
أمران، وهما مختلفان. الأول هو الانكشاف: ذهاب بيانات إلى مكان لم تقصده. والثاني هو الفعل: أن يقوم الوكيل بشيء لا رجعة فيه نيابةً عنك. الثاني هو ما يُفسد أسبوعًا كاملاً، وهو خاضع تمامًا لما تسمح به أنت، لا لمدى ذكاء النموذج.
كيف أحدّ مما يستطيع الوكيل فعله؟
بألّا تمنح شيئًا ثم تضيف. كل وكيل في الكتالوج يُعلن أدواته ومستوى مخاطرته صراحةً، ويعمل للقراءة فقط ما لم تقل غير ذلك. والقراءة فقط تعني أنه يستطيع تسويد بريد ولا يستطيع إرساله. ابدأ من هناك وابقَ هناك حتى تحتاج مهمة بعينها إلى أكثر من ذلك حقًا.
ماذا يحدث للبيانات التي يقرأها الوكيل؟
تذهب إلى مزوّد النموذج لإنتاج الإجابة، ويُسجَّل التشغيل حتى تستطيع تدقيقه لاحقًا. وما هي عليه ليس بيانات تدريب لنموذج شخص آخر. اسأل أي مزوّد هذا السؤال كتابةً، واسأل تحديدًا عن مدد الاحتفاظ لا عن النوايا.
هل أستطيع استخدام حساب مزوّد النموذج الخاص بي؟
نعم. ربط مفتاحك الخاص يعني أن حركة البيانات تذهب من بنيتك التحتية إلى مزوّد لديك معه عقد أصلاً، وفق شروط وافقت عليها سلفًا. وبالنسبة لعمل خاضع للتنظيم، هذا عادةً أقصر طريق عبر المشتريات.
ماذا ينبغي أن أسأل المزوّد قبل ربط أي شيء؟
أربعة أسئلة. ما الذي يستطيع هذا قراءته بالضبط؟ وما الذي يستطيع تغييره دوني؟ وأين سجلّ ما فعله؟ ومن في شركتكم يستطيع رؤية بياناتي؟ والمزوّد الذي يجيب عنها بتفاصيل شيء مختلف تمامًا عمّن يجيب بصفات.
هل ما زال على إنسان مراجعة المخرجات؟
لأي شيء يغادر شركتك أو يحرّك مالاً، نعم — وصمّمه هكذا عن قصد لا كضمانة مؤقتة تنوي إزالتها. القيمة في التسويد والقراءة، وهما معظم العمل. أما النقرة الأخيرة فرخيصة الإبقاء.