Yapay zekaya iş yaptırırken her seferinde örtük bir karar verirsin. Ona ne kadar yetki vereceğine karar verirsin. Bazen sadece fikir alırsın, kararı kendin verirsin. Bazen taslağı ona bırakır, sonucu sen onaylarsın. Bazen baştan sona bir işi ona devreder, çıktıya hiç dokunmazsın.
Ben buna Otonomi Eşiği diyorum. Bu sayfada bu kavramı baştan sona tanımlıyorum, neden bir anahtar değil bir kademe olduğunu, eşiği neye göre koyacağını, ne zaman çizmen gerektiğini ve hangi kavramlarla bağlı olduğunu anlatıyorum.
Otonomi Eşiği nedir
Otonomi Eşiği, yapay zekaya verdiğin yetkinin nerede durduğunu belirleyen çizgidir. Yapay zekaya hiç güç vermemek ile her şeyi ona bırakmak arasında bir aralık vardır ve sen her iş için bu aralıkta bir nokta seçersin. O nokta senin eşiğindir.
Çoğu insan bu çizgiyi farkında olmadan, alışkanlıkla çeker. Bu kavramın amacı, o çizgiyi görünür kılmak ve onu bilinçli koymanı sağlamaktır.
Bir anahtar değil, bir kademe
Otonomi bir açık-kapalı anahtarı değildir. Bir kademe ayarı gibi düşünmek daha doğrudur.
En düşük kademede yapay zeka sadece öneri verir, hiçbir şeyi kendi başına yapmaz, kararı ve uygulamayı sen üstlenirsin. Bir orta kademede, modele bir işi yaptırır ama sonucu uygulamadan önce sen onaylarsın. Daha yüksek bir kademede, belirli işleri baştan sona ona bırakır, sadece sonradan denetlersin. En uçta, sürece hiç karışmazsın.
Otonomi Eşiği, bu kademeler arasında nerede durduğun ve daha da önemlisi nereye kadar çıkmaya izin verdiğindir. Eşik, izin verdiğin en yüksek kademedir; onun ötesine kararı devretmezsin.
Eşiği neye göre koyarsın
Eşiği belirleyen üç şey var.
Birincisi bedel. Kararın yanlış çıkması ne kadar ağır sonuç doğuracaksa, eşik o kadar aşağıda olur, yani o kadar az devredersin. Düşük bedelli işlerde modele daha çok yetki verebilirsin.
İkincisi geri alınabilirlik. Bir karar kolayca geri alınabiliyorsa, daha yüksek otonomiye izin verebilirsin, çünkü hata düzeltilebilir. Geri alınamaz bir karar söz konusuysa, eşiği aşağıda tutarsın.
Üçüncüsü etik sınırların. Bazı kararları, bedel düşük ve geri alınabilir olsa bile, bir başkasının yerine bir makinenin vermesini doğru bulmayabilirsin. Bu kişisel ve ahlaki bir çizgidir ve teknik bir hesaba indirgenmez.
Saha örneği
Diyelim ki yapay zekayı yazışmalarında kullanıyorsun. Sıradan bir teşekkür mesajını baştan sona ona yazdırıp göndermekte sakınca görmezsin; bedel düşük, geri alınabilir, etik bir yük yok. Eşik burada yüksek.
Ama önemli bir ilişkiyi etkileyecek hassas bir mesajda eşiği indirirsin. Modele taslak yazdırırsın, sonra her cümlesini kendin tartar, gerekirse baştan yazarsın. Aynı araç, aynı kişi, ama iki farklı eşik. Çünkü iki işin bedeli ve geri alınabilirliği farklı. Otonomi Eşiğini bilinçli kullanmak tam da budur; her işe aynı yetkiyi vermemek.
Eşiği ne zaman ve kim belirler
Eşiğin en sağlıklı hali, kararı vermeden önce belirlenmiş olanıdır.
Eşiği işin ortasında, sonuç gelmişken belirlemeye çalışırsan geç kalırsın; çıktı zaten önünde durur ve onu kabul etmeye eğilim duyarsın. Bunun yerine, bir işe başlamadan önce kendine bu işte modele nereye kadar yetki vereceğini sor. Çizgiyi önceden çek.
Bu çizgiyi çeken her zaman insandır ve öyle kalmalıdır. Otonomi Eşiğini yapay zekaya belirletmek, eşiğin kendisini devretmek olur ki bu kavramın reddettiği şey tam olarak budur. Ne kadar devredeceğine kararı, devredilemez biçimde sen verirsin.
Eşiğini nasıl bilinçli çizersin
Üç soru yeter.
Bu yanlış giderse ne olur. Cevap ağırsa eşiği indir, hafifse yükseltebilirsin.
Bunu geri alabilir miyim. Geri alınamayan kararlarda otonomiyi düşük tut, geri alınabilenlerde modele daha fazla alan bırakabilirsin.
Bu kararın benim elimde olması benim için önemli mi. Bazı kararların sorumluluğunu, kolay olsa bile, bir makineye bırakmak istemeyebilirsin. Bu cevabı teknik değil, kişisel verirsin.
Bağlı kavramlar: Karar Veren İnsan ve Kontrollü Güven
Otonomi Eşiği iki kavramla yakından bağlıdır.
Karar Veren İnsan, insanın devredilemez işlevinin karar vermek olduğunu söyler. Otonomi Eşiği ise bu ilkeyi pratiğe indirir; kararın hangi kısmının ve ne kadarının modele bırakılabileceğini, sınırın tam olarak nerede olduğunu tanımlar. Karar Veren İnsan ilkeyi koyar, Otonomi Eşiği o ilkenin sınırını çizer.
Kontrollü Güven ise bir çıktıya ne kadar güveneceğinle ilgilenir, Otonomi Eşiği ise kararın ne kadarını en baştan modele bırakacağınla. Biri çıktıya verilen güveni ayarlar, diğeri kararın devredilen payını belirler. İkisi birlikte, hem güveni hem yetkiyi insanın kontrolünde tutar.
Sık karıştırılan
Tam otomasyonla aynı şey mi? Hayır, tam otomasyon eşiğin en uç noktasıdır, kavramın kendisi değil. Otonomi Eşiği bir spektrumdur ve tam otomasyon o spektrumun yalnızca bir ucudur. Kavramın asıl meselesi, o uca kadar çıkıp çıkmamaya bilinçli karar vermendir.
Karar Veren İnsan ile aynı mı? Aynı değil, biri diğerinin sınırını çizer. Karar Veren İnsan, kararın insanda kalması gerektiğini söyleyen ilkedir. Otonomi Eşiği, o ilkenin pratikte nereye kadar geçerli olduğunu, hangi kararların ne ölçüde devredilebileceğini gösteren çizgidir.
Kontrollü Güven'le aynı mı? Hayır, farklı şeyleri ölçerler. Kontrollü Güven gelmiş bir çıktıya ne kadar güveneceğindir. Otonomi Eşiği ise henüz karar verilmeden, sürecin ne kadarını modele bırakacağındır. Biri sonucu değerlendirir, diğeri yetkiyi baştan paylaştırır.