Yapay zeka sana bir cevap verir. İki kolay yol vardır. Birincisi, mantıklı göründüğü için olduğu gibi kabul etmek. İkincisi, makineye güvenilmez diyip tümden reddetmek. İkisi de kolaydır, çünkü ikisi de düşünmeden yapılır.
Üçüncü bir yol var ve ben buna Kontrollü Güven diyorum. Bu sayfada bu kavramı baştan sona tanımlıyorum, iki uçtan nasıl ayrıldığını, kontrolü neye göre ayarlayacağını, nasıl uygulanacağını ve hangi kavramlarla bağlı olduğunu anlatıyorum.
Kontrollü Güven nedir
Kontrollü Güven, bir çıktıya onu ne kadar kontrol ettiysen o kadar güvenmektir. Teyit ettiğin kısma güvenir, etmediğin kısma güvenmezsin. Güven burada peşinen verilen bir his değil, kontrol ettikçe kazanılan bir karardır.
İngilizcede buna calibrated trust deniyor, yani ayarlanmış güven. Anahtar kelime ayarlanmış. Güveni açık ya da kapalı bir düğme gibi değil, kontrol miktarına göre kıvamı değişen bir ayar gibi düşün.
Körü körüne güven ile toptan reddetme arasında
Kontrollü Güven iki uç arasında durur ve asıl değeri buradadır.
Bir uçta aşırı güven var. Çıktı düzgün göründüğü için kontrol etmeden kabul edersin. Bu seni modelin hatalarına açık bırakır, çünkü yapay zeka en olası cevabı üretir, her zaman doğru olanı değil. Diğer uçta toptan reddetme var. Makineye hiç güvenmez, her şeyi sıfırdan kendin yaparsın. Bu da yapay zekanın bütün faydasını çöpe atar.
Kontrollü Güven ikisinin ortasıdır, ama gevşek bir orta değil. Her çıktı için ne kadar kontrol gerektiğine bilinçli karar verirsin. Bu yüzden ne saf bir iyimserlik ne de toptan bir kötümserliktir; duruma göre ayarlanan bir denge.
Kontrol miktarını neye göre ayarlarsın
Her çıktıyı aynı titizlikle kontrol etmek ne mümkün ne de gerekli. Ayarı belirleyen şey, o çıktının bedelidir.
Yüksek bedelli çıktıları satır satır kontrol et. Bir kararın, bir sayının, bir iddianın yanlış olması ciddi sonuç doğuracaksa, oraya en yüksek güveni ancak tam teyitten sonra ver. Düşük bedelli çıktılarda daha az kontrol yeter. Bir taslağın tonu, bir fikrin ilk hali yanlış olsa bile kolayca düzeltilebiliyorsa, oraya daha gevşek bir kontrol uygundur.
Ölçüt nettir. Bu çıktı yanlış olsa bana neye mal olur. Bedel yüksekse kontrol yüksek, bedel düşükse kontrol düşük. Kontrollü Güven, bu ayarı her seferinde bilinçli yapmaktır.
Saha örneği
Diyelim ki modelden bir konuda özet ve birkaç sayı istedin. Özet akıcı, sayılar da ikna edici duruyor. Aşırı güvenle olduğu gibi kullanırsan, sayılardan biri uydurma çıkarsa onu sen yaymış olursun, çünkü yapay zeka eksik bilgide en olası görüneni üretir ve bu her zaman doğru değildir.
Kontrollü Güven burada şunu yapar. Akıcı özete makul bir güven verirsin, çünkü yanlışsa bedeli düşüktür ve zaten okuyup göreceksin. Ama sayılara, kaynağını kendin teyit etmeden güvenmezsin, çünkü yanlış bir sayının bedeli yüksektir. Aynı çıktının iki parçasına iki farklı güven verirsin. İşte ayarlama budur.
Aşırı güven ve aşırı şüphe, iki yönlü tehlike
Kontrollü Güven yalnızca fazla güvenmeye değil, fazla şüpheye karşı da bir denge kurar.
Fazla güvenin bedelini herkes tahmin eder; kontrol etmediğin bir hatayı sahiplenirsin. Ama fazla şüphenin de bir bedeli vardır. Her çıktıyı baştan sona, defalarca kontrol edersen, yapay zekadan beklediğin hız ve fayda yok olur; modeli hiç kullanmamış gibi çalışırsın. Doğru kalibrasyon, gereksiz yere fazla kontrol etmemeyi de içerir.
Bu yüzden Kontrollü Güven bir korku tepkisi değildir. Amaç güvensizlik değil, güveni hak edildiği yere ve hak edildiği ölçüde vermektir.
Kontrolü pratikte nasıl uygularsın
Üç basit alışkanlık yeter.
Önce bedeli sor. Bir çıktıyı kullanmadan önce, yanlış olsa neye mal olacağını kendine sor. Cevap, ne kadar kontrol edeceğini belirler.
Güveni parçalara böl. Bir çıktının tamamına tek bir güven verme. Akıcı kısma ayrı, kritik sayıya ya da iddiaya ayrı güven ver. Güven bütün değil, parçalı bir karardır.
Teyit edemediğine güvenme. Bir bilgiyi kaynağından doğrulayamıyorsan, ona güveniyormuş gibi davranma. Kontrol edilmemiş bir çıktı, henüz güvenilir değildir; sadece henüz yanlışlanmamıştır.
Bağlı kavramlar: Şüphe Disiplini ve Denetim Birikmesi
Kontrollü Güven, iki kavramın tam ortasında durur.
Şüphe Disiplini geniş ve şemsiye bir tavırdır; yapay zeka ile ilişkinin tamamına yayılan sistemli şüphe. Kontrollü Güven, bu tavrın tek bir çıktıya inen dar ve pratik uygulamasıdır. Şüphe Disiplini neden şüphe duyman gerektiğini söyler, Kontrollü Güven o şüpheyi belirli bir çıktıda nasıl işleteceğini gösterir.
Denetim Birikmesi ise Kontrollü Güven'in ölçek altında çöktüğü andır. Model senden hızlı üretip kontrol edilecek iş biriktikçe, her çıktıyı hak ettiği ölçüde kontrol edemez hale gelirsin ve kontrol etmediğin şeye güvenmeye başlarsın. Kontrollü Güven doğru tavrı verir, Denetim Birikmesi o tavrı sürdürmeyi zorlaştıran baskıyı adlandırır.
Sık karıştırılan
Şüphe Disiplini ile aynı şey mi? Aynı ailedendir ama ölçekleri farklı. Şüphe Disiplini geneldir, ilişkinin tamamına yayılan bir duruştur. Kontrollü Güven özeldir, tek bir çıktıya uygulanan pratik bir karardır. Biri tavır, diğeri o tavrın o anki uygulaması.
Düşünsel Teslimiyet'in tersi mi? Evet, denilebilir. Düşünsel Teslimiyet, kontrolü hiç yapmadan yargıyı da ekleyerek devretmektir. Kontrollü Güven ise yargını devrede tutarak, güveni kontrol ettiğin ölçüde vermektir. Biri yargıyı bırakır, diğeri yargıyı güvenin ölçütü yapar.
Sadece güvenmemek mi? Hayır. Toptan güvenmemek de bir kalibrasyon hatasıdır, çünkü yapay zekanın faydasını yok eder. Kontrollü Güven güvenmemek değil, güveni doğru yere ve doğru ölçüde vermektir. Hedef şüphe değil, isabetli güvendir.