وكيل ذكاء اصطناعي يرد على البريد الإلكتروني: كيف رسمنا حدود KAI

KAI هو عضو الذكاء الاصطناعي في فريقنا. يظهر باسمه في صفحة الفريق، لأننا لم نرد إخفاء استخدامنا للذكاء الاصطناعي في الخلفية. لكن تسمية الذكاء الاصطناعي هي الجزء السهل. السؤال الحقيقي هو مقدار العمل الذي تتركونه له.

يقرأ KAI اليوم رسائل البريد الإلكتروني الواردة إلى الشركة. يرد بنفسه على الروتيني منها ويحدد مواعيد الاجتماعات. وفي غير الروتيني يكتفي بإعداد مسودة، ويقرر أحد أعضاء الفريق إرسالها أو عدم إرسالها. يشرح هذا المقال أين رسمنا ذلك الخط ولماذا.

الخياران السهلان كلاهما خاطئ

هناك خياران يتبادران إلى الذهن أولًا. الأول أن يرسل الوكيل كل شيء بنفسه. والثاني أن يوافق إنسان على كل رد قبل إرساله.

الأول خطِر بوضوح. قد يختلق النموذج اللغوي سعرًا أو موعد تسليم بلغة واثقة. والطرف الآخر يقرأ ذلك على أنه التزام من الشركة.

والثاني يبدو آمنًا لكنه لا ينجح في الواقع. شرحنا ذلك أيضًا في مقال آخر كتبناه عن حوكمة الذكاء الاصطناعي. في نظام يطلب الموافقة على كل رد، تقترب نسبة الموافقة بعد مدة من مئة في المئة. ويتوقف من يوافق عن قراءة النص. على الورق هناك رقابة بشرية، وفي الواقع النظام هو من يقرر.

على أي أساس رسمنا الخط

حين نعدّ رسالة ما روتينية نطرح سؤالين. هل الجواب معروف مسبقًا؟ وهل يسهل تصحيحه إن كان خاطئًا؟

إذا كان الجواب نعم على السؤالين، فالعمل روتيني. اقتراح موعد لاجتماع، والإبلاغ باستلام مستند، والرد على سؤال عام بالمعلومات الموجودة في الموقع، كلها تدخل في هذه الفئة. إذا اقترح KAI موعدًا خاطئًا، يصححه الطرف الآخر في الرسالة التالية ولا يتضرر أحد.

وإذا كان الجواب لا على أحدهما، فالعمل ليس روتينيًا. كل مراسلة تتضمن السعر أو النطاق أو العقد أو موعد التسليم أو البيانات الشخصية تقع في هذه الفئة. هنا يعدّ KAI مسودة، لكن الرسالة لا تخرج دون قرار من أحد أعضاء الفريق.

فائدة هذا التمييز أنه يبقي الموافقة البشرية قليلة لكن ذات معنى. كل رسالة تُطلب لها الموافقة تستدعي تفكيرًا حقيقيًا. ومن يوافق يعرف أن ما أمامه مهم.

كتابة أن المرسل ذكاء اصطناعي في التوقيع

في توقيع كل رسالة يرسلها KAI إشارة إلى أن الرسالة كتبها نظام ذكاء اصطناعي. نفعل ذلك لسببين.

الأول الصدق. لا ينبغي أن يظن الطرف الآخر أنه يراسل إنسانًا فيثق على هذا الأساس. والثاني التنظيم. لائحة الاتحاد الأوروبي 2024/1689 بشأن الذكاء الاصطناعي تريد أن يعرف الناس أنهم يتفاعلون مع ذكاء اصطناعي. بالنسبة لمحاورينا في أوروبا هذا التزام، وبالنسبة لمن هم في تركيا عادة حسنة.

ما الذي لا يستطيع فعله

لا يملك KAI صلاحية التوقيع في الشركة. لا يستطيع تقديم عرض، ولا إبرام عقد، ولا تفسير التشريعات. وهذه الحدود ليست مكتوبة في قائمة قواعد فقط، بل مرسومة أيضًا في الأدوات التي يستطيع الوكيل استخدامها. حين لا تمنحون الوكيل صلاحية ما، لا تحتاجون أيضًا إلى الثقة بأنه لن يستخدمها.

يصل KAI إلى نموذج لغوي عبر OpenRouter. وهذا يعني أن المراسلات تذهب إلى مزوّد خدمة في الخارج. شرحنا ذلك بشكل منفصل في نص الإعلام الخاص بنا. ونرجو فيه أيضًا عدم إرسال معلومات سرية أو بيانات شخصية ذات طبيعة خاصة أو أسرار تجارية عبر البريد الإلكتروني.

أين يتعثر هذا التصميم

الخط بين الروتيني وغير الروتيني ليس واضحًا دائمًا. «لا أستطيع حضور الاجتماع، هل يناسبكم يوم آخر؟» رسالة روتينية. أما «لا أستطيع حضور الاجتماع لأننا سنعلّق المشروع» فليست كذلك. وكلتاهما تبدأ بالجملة نفسها.

لذلك فالسلوك الافتراضي في حالة الغموض هو إعداد مسودة. لا يعدّ KAI رسالة روتينية إذا لم يكن متأكدًا منها. الخطأ في هذا الاتجاه، أي ترك عمل لإنسان دون داعٍ، أرخص من الخطأ في الاتجاه المعاكس.

ما الذي ننقله إلى مشاريع العملاء

المعيار الذي نستخدمه في عملنا ننقله أيضًا إلى الأنظمة التي نبنيها للعملاء. لا نفتح استقلالية الوكيل ونغلقها بمفتاح واحد. نصنّف الأعمال حسب ما إذا كان الجواب معروفًا مسبقًا، وما إذا كان الخطأ قابلًا للتراجع عنه. وحسب الفئة، إما أن ينجز الوكيل العمل أو يترك مسودة.

هذا المعيار ليس مثاليًا. لكننا نستطيع أن نكتب بوضوح أين يقف، والحد الذي نستطيع كتابته نستطيع تدقيقه.