E-posta yanıtlayan yapay zekâ ajanı: KAI'nin sınırlarını nasıl çizdik

KAI ekibimizin yapay zekâ üyesi. Ekip sayfasında adıyla duruyor, çünkü yapay zekâ kullanımını arka planda saklamak istemedik. Ama bir yapay zekâya isim vermek kolay kısım. Asıl soru, ona ne kadar iş bırakacağınız.

KAI bugün şirkete gelen e-postaları okuyor. Rutin olanları kendisi yanıtlıyor ve toplantı planlıyor. Rutin olmayanlarda yalnızca taslak hazırlıyor, gönderip göndermeme kararını ekipten biri veriyor. Bu yazı, o çizgiyi nereye ve neden çektiğimizi anlatıyor.

İki kolay seçenek de yanlıştı

İlk akla gelen iki seçenek var. Birincisi, ajanın her şeyi kendisinin göndermesi. İkincisi, her cevabın gönderilmeden önce bir insan tarafından onaylanması.

Birincisi açıkça riskli. Bir dil modeli, bir fiyatı ya da teslim tarihini kendinden emin bir dille uydurabilir. Karşı taraf bunu şirketin sözü olarak okur.

İkincisi güvenli görünüyor ama pratikte çalışmıyor. Bunu yapay zekâ yönetişimi üzerine yazdığımız bir başka yazıda da anlatmıştık. Her cevaba onay istenen bir sistemde, onay oranı bir süre sonra yüzde yüze yaklaşıyor. Onaylayan kişi metni okumayı bırakıyor. Kâğıt üzerinde insan denetimi var, gerçekte kararı sistem veriyor.

Çizgiyi neye göre çektik

Bir e-postayı rutin sayarken iki soru sorduk. Cevap önceden biliniyor mu? Yanlış olsa kolayca düzeltilebilir mi?

İkisine de evet diyorsak, iş rutin. Bir toplantı için saat önermek, bir belgenin alındığını bildirmek, sitedeki bilgiyle genel bir soruyu cevaplamak bu sınıfa giriyor. KAI yanlış bir saat önerirse karşı taraf bir sonraki iletide düzeltiyor ve kimse zarar görmüyor.

Birine bile hayır diyorsak, iş rutin değil. Fiyat, kapsam, sözleşme, teslim tarihi ve kişisel veri içeren her yazışma bu sınıfta. Burada KAI taslak hazırlıyor ama ileti ekipten birinin kararı olmadan çıkmıyor.

Bu ayrımın yararı, insan onayını az ama anlamlı tutması. Onay istenen her ileti gerçekten düşünmeyi gerektiriyor. Onaylayan kişi önündekinin önemli olduğunu biliyor.

İmzada yapay zekâ olduğunu yazmak

KAI'nin gönderdiği her e-postanın imzasında, iletinin bir yapay zekâ sistemi tarafından yazıldığı belirtiliyor. Bunu iki sebeple yapıyoruz.

Birincisi dürüstlük. Karşı taraf bir insanla yazıştığını sanıp ona göre güvenmemeli. İkincisi düzenleme. Avrupa Birliği Yapay Zekâ Tüzüğü, insanların bir yapay zekâ ile etkileşimde olduklarını bilmelerini istiyor. Avrupa'daki muhataplarımız için bu bir yükümlülük, Türkiye'dekiler için de iyi bir alışkanlık.

Neyi yapamıyor

KAI'nin şirkette imza yetkisi yok. Teklif veremiyor, sözleşme kuramıyor, mevzuat yorumlayamıyor. Bu sınırlar yalnızca bir kural listesinde değil, ajanın kullanabildiği araçlarda da çizili. Ajana bir yetki vermediğinizde, onu kullanmaması için ona güvenmeniz de gerekmiyor.

KAI bir dil modeline OpenRouter üzerinden erişiyor. Bu, yazışmaların yurt dışındaki bir hizmet sağlayıcısına gittiği anlamına geliyor. Bunu aydınlatma metnimizde ayrıca anlattık. E-postayla gizli bilgi, özel nitelikli kişisel veri ya da ticari sır gönderilmemesini de orada rica ediyoruz.

Bu tasarım nerede zorlanıyor

Rutin ile rutin dışı arasındaki çizgi her zaman net değil. "Toplantıya gelemiyorum, başka bir gün olur mu?" rutin bir ileti. "Toplantıya gelemiyorum çünkü projeyi askıya alıyoruz" ise değil. İkisi aynı cümleyle başlıyor.

Bu yüzden belirsiz durumda varsayılan davranış taslak hazırlamak. KAI emin olmadığı bir iletiyi rutin saymıyor. Yanlış yönde hata yapmak, yani gereksiz yere bir insana iş bırakmak, ters yönde hata yapmaktan ucuz.

Müşteri projelerine ne taşıyoruz

Kendi işimizde kullandığımız ölçüt, müşteriler için kurduğumuz sistemlere de taşınıyor. Bir ajanın otonomisini tek bir anahtarla açıp kapatmıyoruz. İşleri, cevabın önceden bilinip bilinmediğine ve hatanın geri alınabilir olup olmadığına göre sınıflandırıyoruz. Ajan, sınıfına göre ya işi bitiriyor ya taslak bırakıyor.

Bu ölçüt kusursuz değil. Ama nerede durduğunu açıkça yazabiliyoruz ve yazabildiğimiz bir sınırı denetleyebiliyoruz.