Bir yapay zekâdan mesaj taslağı hazırlamasını istemekle, o mesajı benim adıma göndermesini istemek arasında önemli bir fark var. İlkinde ortaya çıkan metni okuyabilir, değiştirebilir veya kullanmayabilirim. İkincisinde ise hazırlanan içerik başka bir insana ulaşır. Artık yalnızca bir öneriyi değil, gerçekleşmiş bir işlemi değerlendiriyorum.
Bu ayrım, dijital yardımcıların geleceği hakkında düşündüğüm birçok sorunun merkezinde bulunuyor. Bizim için daha fazla iş yapabilen sistemler elbette kolaylık sağlayabilir. Ancak bir yardımcı ne zaman yalnızca seçenek sunmalı, ne zaman hazırlık yapmalı ve ne zaman gerçekten harekete geçmeli? Dijital yardımcılarda insan onayı hangi noktalarda korunmalı?
Ben bu soruya bütün işler için geçerli tek bir cevap veremiyorum. Bir dosyayı sınıflandırmak, bir müşteriye teklif göndermek ve önemli bir kaydı silmek aynı ağırlıkta işlemler değil. Yetkiyi yalnızca sistemin becerisine göre değil, yapılacak işin etkisine göre düşünmek gerektiğine inanıyorum.
Bir şeyi yapabilmek, onu yapmaya yetkili olmak değildir
Bir dijital yardımcı bir işlemi teknik olarak gerçekleştirebilir. Gerekli bağlantıları vardır, doğru ekrana ulaşabilir ve ilgili düğmeye basabilir. Fakat erişim imkânı bulunması, kullanıcının o anda bu işlemi istediği anlamına gelmez. Ben burada yetenek ile yetkiyi birbirinden ayırmanın önemli olduğunu düşünüyorum.
Örneğin toplantı saatlerimi görebilen bir sistem, boş bir zaman bulabilir. Bu bilgi üzerinden bir toplantı önerisi hazırlaması faydalı olur. Ancak takvimde boşluk görünmesi, o saatlerin tamamının başkalarıyla paylaşılabileceğini göstermez. Kullanıcı o zamanı çalışmak, dinlenmek veya henüz kaydetmediği başka bir iş için ayırmış olabilir.
Benzer şekilde bir dosyaya erişmek, onu başka bir kişiye göndermek için yeterli sebep olamaz. Yardımcının yapabildiği şeyleri sıralamak kolay. Hangi koşullarda yapabileceğini belirlemek ise daha fazla düşünce gerektiriyor. İyi bir tasarım, “Bu araç bunu yapabilir” cümlesinin yanında “Kimin talimatıyla, hangi kapsamda ve ne zaman yapabilir?” sorularını da cevaplamalı.
Yardımın farklı aşamaları var
Ben dijital yardımın tek bir hareketten oluşmadığını düşünüyorum. Önce bilgi toplanabilir, ardından özet hazırlanabilir, seçenekler değerlendirilebilir ve bir taslak oluşturulabilir. Bunların her biri kullanıcıya zaman kazandırabilir. Son aşama olan uygulama ise ayrıca ele alınmalı. Yardımcıya bütün aşamaları birden bırakmak zorunda değiliz.
Bir müşteri talebini düşünelim. Sistem talebin geçmişini toparlayabilir, ilgili belgeleri gösterebilir ve cevap taslağı hazırlayabilir. Çalışan bu hazırlığı inceleyip son mesajı gönderebilir. Burada iş yükünün önemli bölümü azalmıştır. İnsan son aşamada bulunuyor diye yapay zekânın faydası ortadan kalkmaz.
Bazı durumlarda uygulama da açıkça yetkilendirilebilir. Önceden belirlenmiş bir raporun oluşturulması veya belirli bir klasördeki kopyaların düzenlenmesi buna örnek olabilir. Fakat yetkinin sınırı anlaşılır olmalı. Bir görev için verilen izin, sonraki bütün görevleri kapsayan belirsiz bir serbestliğe dönüşmemeli. Hazırlık ile uygulamayı ayırmak, kullanıcının yardımcıdan daha kontrollü biçimde yararlanmasını sağlar.
Kararın etkisi ve geri dönüş imkânı
Bir işlemin uygun özerklik düzeyini düşünürken önce sonucu aklıma getiriyorum. Yanlış yapılırsa kim etkilenir? Sonuç kolayca geri alınabilir mi? Başka insanlar bunu görecek mi? Kullanıcının parasını, itibarını veya erişim haklarını değiştirir mi? İşin yalnızca kaç saniyede yapıldığı bu soruların cevabını vermiyor.
Bir metnin yerel taslağını düzenlemek çoğu zaman kolayca geri alınabilir. Gönderilmiş bir mesaj ise silinse bile okunmuş olabilir. Yanlış kişiye paylaşılan bir belge, paylaşım kapatıldıktan sonra da karşı tarafta bulunabilir. Bu nedenle ekranda geri alma düğmesi bulunması, bütün sonuçların geri döndürülebildiği anlamına gelmez.
Bence işlem sınırları bu farklara göre belirlenmeli. Kullanıcının açık isteğiyle yapılan düşük etkili işler rahatça ilerleyebilir. Sonucu ağır veya bağlamı belirsiz işlemlerde daha fazla açıklık gerekir. Her işte aynı onay kutusunu göstermek de, bütün işleri onaysız yürütmek de bu farklılıkları gözden kaçırır. Tasarım, işlemin gerçek sonucunu dikkate almalı.
Belirsiz cümleleri gerçek talimat saymak
İnsanlar dijital yardımcılarla konuşurken düşüncelerini de paylaşır. “Bu projeyi durdursak ne olur?” cümlesi bir değerlendirme isteği olabilir. “Şu müşteriye indirim yapabiliriz” ifadesi henüz karar verilmediğini gösterebilir. Bunların doğrudan uygulama emri sayılması, konuşmanın doğal yapısıyla işlemin kesinliği arasında sorun yaratır.
Ben bir yardımcının konuşulan ihtimal ile verilen talimatı ayırt etmesini beklerim. Fakat bunu yalnızca dil modelinin yorumuna bırakmak yeterli görünmüyor. Uygulama tarafında görev türleri, yetki sınırları ve zorunlu bilgiler tanımlanabilir. Bir işlem için gerekli alıcı, tutar veya hedef belirli değilse sistemin ilerlememesi sağlanabilir.
Belirsizlik karşısında soru sormak, her zaman gereksiz bir yavaşlama değildir. Yanlış işlemi düzeltmenin maliyeti, doğru yerde sorulan kısa bir sorudan daha büyük olabilir. Yine de kullanıcı zaten açık bir talimat verdiyse aynı şeyi tekrar tekrar onaylatmak da iyi bir deneyim oluşturmaz. Amaç insanı sürekli durdurmak değil, gerçek belirsizliği uygun noktada gidermek olmalı.
İnsan onayı gerçekten neyi onaylıyor?
Bir ekranda “Onaylıyor musunuz?” sorusunu görmek tek başına yeterli değil. Kullanıcı neyin onaylandığını anlamıyorsa, düğmeye basmak anlamlı bir değerlendirme sayılmaz. Onay isteyen arayüzün yapılacak işlemi açıkça göstermesi gerekir. İşlem konusu, etkilenecek kişiler ve önemli sonuçlar mümkün olduğunca anlaşılır olmalı.
Örneğin bir teklif gönderilecekse, hangi müşteriye hangi sürümün gideceği görünmeli. Bir takvim daveti hazırlanmışsa tarih, saat ve katılımcılar kontrol edilebilmeli. Yardımcı son hazırlığı yaptıktan sonra kullanıcının inceleyebileceği somut bir sonuç sunmalı. “Devam edeyim mi?” sorusundan önce, devam edildiğinde ne olacağı belli olmalı.
Onaydan sonra işlem kapsamının değişmesi de ayrı bir mesele. Kullanıcının gördüğü tutarla gönderilen tutar farklıysa, verilen onay artık aynı işleme ait değildir. Ben onayı yalnızca bir düğme değil, kullanıcı ile sistem arasında belirli bir eylem üzerinde kurulan anlaşma olarak düşünüyorum. Bu anlaşmanın hedefi ve koşulları korunmalı.
Her işi tekrar onaylamak da çözüm değil
Kullanıcı bir dijital yardımcıdan düzenli bir iş yapmasını isteyebilir. Her hafta aynı raporu hazırlamak veya belirli kurallara göre bazı kayıtları düzenlemek gibi. Böyle bir işte her küçük adımın yeniden sorulması, yardımcının sağladığı kolaylığı azaltabilir. Açıkça verilmiş, kapsamı belli bir yetkinin tekrar tekrar tartışılması gerekmez.
Ben burada önceden tanımlanan sınırları önemli buluyorum. İşin amacı, kullanılacak bilgiler, izin verilen eylemler ve durulması gereken koşullar belirlenebilir. Sistem bu çerçevede ilerler. Yeni bir alıcı, farklı bir işlem türü veya beklenmeyen bir etki ortaya çıktığında yeniden değerlendirme gerekebilir.
Böyle bir yaklaşımda kullanıcı bütün ayrıntıları her seferinde yönetmez, fakat kontrolünü de kaybetmez. Yetkiyi değiştirebilir, işi durdurabilir ve sonuçları görebilir. Dijital yardımcının bağımsızlığı sınırsız olmak zorunda değil. İyi tanımlanmış bir çerçeve içinde hareket etmesi, hem işlerin akmasını hem de önemli sınırların korunmasını sağlayabilir.
Sorumluluk görünür kalmalı
Bir işlem yapay zekâ tarafından gerçekleştirildiğinde, “Sistem yaptı” demek bütün soruları cevaplamaz. Hangi talimat kullanıldı? Hangi kayıt temel alındı? İşlem ne zaman gerçekleşti? Hangi yetkiyle yapıldı? Bu bilgiler gerektiğinde incelenebilirse, hatanın kaynağını anlamak ve çalışma biçimini geliştirmek daha kolay olur.
Ben dijital yardımcıların yalnızca başarılı sonuçlarını göstermesini yeterli bulmuyorum. Yapamadıkları işler ve yarıda kalan adımlar da anlaşılır olmalı. Bir mesaj hazırlanmış ama gönderilememişse bunun açıkça belirtilmesi gerekir. Kullanıcı tamamlandığını sandığı bir işi sonradan eksik bulmamalı. Durum bilgisinin doğruluğu, yapılan işin doğruluğu kadar önemli.
Ayrıca hata olduğunda nasıl müdahale edileceği düşünülmeli. Kullanıcı işlemi durdurabilmeli, ilgili kişiye ulaşabilmeli veya gereken düzeltmeyi yapabilmeli. Bütün bu ayrıntılar, yapay zekânın ne kadar akıllı göründüğünden bağımsız olarak güveni etkiler. Ben güvenilir yardımcının hiç hata yapmayan bir sistemden önce, sınırları ve sonuçları incelenebilen bir sistem olması gerektiğini düşünüyorum.
İşleri devrederken düşünme sorumluluğunu korumak
Dijital yardımcıların daha fazla iş yapması bana heyecan verici geliyor. Bilgi toplamak, taslak hazırlamak ve düzenli süreçleri takip etmek için harcanan zaman azalabilir. İnsanlar daha önemli sorulara dikkat ayırabilir. Fakat bunun gerçekleşmesi için görev devrinin nasıl tasarlandığını önemsememiz gerekiyor.
Ben bütün kararları kendim vermek zorunda kalmak istemem. Bunun yanında, hayatımı veya işimi etkileyen kararların nasıl alındığını anlayamaz hâle gelmek de istemem. İyi bir yardımcı bu iki ihtiyacı birlikte ele almalı. Rutin yükleri azaltırken kullanıcının amacı, sınırları ve değişen koşulları görünür kalmalı.
Dijital yardımcılar ne zaman karar vermeli sorusunu bu nedenle bir yetenek yarışından çok, çalışma ilişkisi olarak görüyorum. Ne kadar iş yapabildiği kadar, nerede duracağını bilmesi de önemli. Benim için asıl gelişme, insanın her düğmeye basması veya bütün düğmeleri sisteme bırakması değil. Hangi işin hangi çerçevede devredildiğinin anlaşılır olması ve gerektiğinde yönün değiştirilebilmesi.