Yapay Zeka Nasıl Karar Verir? Kararı Ona Ne Zaman Bırakmalısın

Bir sohbet botuna sorunu yazıyorsun, birkaç saniye içinde net bir cevap geliyor. "Şunu seç", "bu daha iyi", "bu e-posta spam". Cevap o kadar emin ki, arkasında bir düşünme, bir tartma, bir karar varmış gibi duruyor. Peki gerçekten öyle mi? Yapay zeka bir şeye nasıl karar verir ve sen o kararı ne zaman ona bırakabilirsin?

Kısa cevap şu iki parçadan oluşuyor. Birincisi, yapay zeka bizim anladığımız anlamda karar vermez. Eğitim verisinden öğrendiği örüntülere dayanarak her seçenek için bir olasılık hesaplar ve en uygun görüneni seçer. Bu seçimin gerekçesini çoğu zaman ne sen görebilirsin ne de onu geliştirenler tam olarak görebilir. İkincisi, kararı ona bırakıp bırakmamak teknik değil, yargı gerektiren bir sorudur. Yanlış çıkarsa bedeli küçükse, kolayca geri alınabiliyorsa ve sonucu kendin kontrol edebiliyorsan bırakabilirsin. Bunlardan biri bile eksikse karar sende kalmalı.

Bu yazıda önce makinenin içinde ne olduğunu sade bir dille anlatacağım. Sonra da hangi kararları devredebileceğini, hangilerini asla elinden bırakmaman gerektiğini dört soruluk bir çerçeveyle tartacağız. Yapay zeka eğitim ve değerlendirme işlerinde model çıktılarını değerlendiren biri olarak bu ikinci kısmı özellikle önemsiyorum.

Yapay zeka "karar verirken" aslında ne yapar?

Bir yapay zeka sisteminin kararı, bir insanın kararından farklı bir şeydir. İnsan bir seçeneği seçerken amaçlarını, değerlerini ve sonuçlarını tartar. Bir yapay zeka modeli ise girdiyi alır ve eğitim sırasında oluşmuş milyarlarca sayısal ağırlık üzerinden bir çıktı hesaplar. Ortaya çıkan şey bir karar gibi görünür, ama aslında bir tahmindir.

Bu tahminin iki temel özelliği var.

• Olasılığa dayanır. Model "doğru cevap bu" demez. "Bu girdiye en çok benzeyen örneklerde en sık görülen sonuç bu" der.
• Öğrenilmiştir, yazılmamıştır. Kimse modele "şu durumda şunu yap" diye kural yazmaz. Model bu davranışı verilerden kendisi çıkarır.

Anthropic'in araştırmacıları bu ikinci noktayı açıkça yazıyor. Claude gibi dil modelleri insanlar tarafından doğrudan programlanmaz, büyük miktarda veriyle eğitilir ve problemleri çözmek için kendi stratejilerini öğrenir. Bu stratejiler, modelin yazdığı her kelime için yaptığı milyarlarca hesaplamanın içine gömülüdür.

Bir dil modeli cevabını nasıl seçer?

ChatGPT, Claude ya da Gemini gibi büyük dil modelleri metni parça parça üretir. Her adımda, o ana kadar yazılmış metne bakarak bir sonraki parçanın ne olabileceğine dair olasılıklar hesaplar ve birini seçer. Senin "karar" olarak okuduğun cümle, bu seçimlerin art arda dizilmesinden doğar. Dil modellerinin genel çalışma mantığını büyük dil modeli nedir yazısında daha ayrıntılı anlattım.

Burada sık yapılan bir basitleştirmeye de dikkat etmek gerekiyor. "Model sadece bir sonraki kelimeyi tahmin ediyor" demek tam doğru değil. Anthropic'in Mart 2025'te yayımladığı çalışmada, modelin kafiyeli bir şiir yazarken ikinci satıra başlamadan önce kafiye olabilecek kelimeleri "düşünmeye" başladığı, yani önceden plan yaptığı gösterildi. Yani içeride basit bir kelime tahmininden daha karmaşık bir süreç işliyor. Ama bu süreç yine de insan muhakemesi değil. Amaç, değer ya da sorumluluk taşımıyor.

Bunun sana dönük pratik sonucu şu. Model bir cevabı emin bir tonla verdiğinde, bu tonun cevabın doğruluğuyla bir ilişkisi olmak zorunda değil. Akıcılık, doğruluğun kanıtı değildir. Halüsinasyon denen uydurma cevaplar da buradan doğar. Bu konuyu yapay zeka güvenilir mi yazısında doğrulama rutiniyle birlikte ele aldım, burada tekrarlamayacağım.

Bir sınıflandırıcı nasıl karar verir? Olasılık ve eşik

Her yapay zeka sohbet etmez. Bankanın şüpheli işlem uyarısı, e-postandaki spam filtresi, bir başvuruyu ön elemeden geçiren sistem gibi pek çok uygulama "sınıflandırıcı" denen modellerle çalışır. Bunların karar verme biçimi daha görünürdür ve konunun özünü çok iyi anlatır.

Google'ın makine öğrenmesi eğitim kaynağındaki örnekle ilerleyelim. Bir spam filtresi her e-posta için 0 ile 1 arasında bir sayı üretir. 0,75 çıktısı, bu e-postanın yüzde 75 olasılıkla spam olduğu anlamına gelir. Ama sistem sana "yüzde 75" demez, "spam" ya da "spam değil" der. Bu dönüşümü yapan şey sınıflandırma eşiği denen bir sınırdır. Eşik 0,5 ise, 0,5'in üzerindeki her e-posta spam klasörüne gider.

Burada çok önemli bir ayrıntı var. Eşiği model belirlemez, insan belirler. Google'ın kaynağı da eşiğin 0,5 olmak zorunda olmadığını, bir hata türünün maliyeti diğerinden yüksekse farklı bir eşik seçilmesi gerektiğini söylüyor. Örneğin önemli bir iş e-postasının spam'e düşmesi, bir reklamın gelen kutuna sızmasından daha kötüyse eşiği yükseltirsin. Eşiği yükseltmek yanlış alarmları azaltır, ama gözden kaçan gerçek spam'leri artırır. İkisini aynı anda sıfırlamak mümkün değildir.

Bu yüzden her yapay zeka "kararı" aslında iki katmandan oluşur.

1. Makinenin hesapladığı bir olasılık.
2. İnsanın belirlediği bir eşik, yani "hangi hatayı daha çok göze alıyoruz" sorusunun cevabı.

İkinci katman bir değer yargısıdır. Yapay zeka onu senin yerine veremez, sadece verilmiş yargıyı uygular.

Yapay zeka kararının nedenini neden göremiyoruz?

Yapay zekanın bir kararı neden verdiğini sorduğunda genelde makul bir açıklama alırsın. Sorun şu ki bu açıklama, modelin içinde gerçekten olan şeyi yansıtmayabilir.

Anthropic, Mayıs 2024'teki çalışmasında durumu şöyle özetliyor. Yapay zeka modellerine çoğunlukla bir kara kutu gibi davranılıyor. Bir şey giriyor, bir cevap çıkıyor ve modelin neden o cevabı verdiği belli değil. Modelin iç durumu, anlamı açık olmayan uzun bir sayı listesinden oluşuyor. Araştırmacılar aynı çalışmada Claude 3.0 Sonnet modelinin içinden milyonlarca "özellik", yani kavramlara karşılık gelen iç örüntü çıkardılar. Bu, kara kutunun içine bakmak için önemli bir adımdı. Ama kendileri de bulunan özelliklerin modelin öğrendiği kavramların yalnızca küçük bir alt kümesi olduğunu ve modelin bu temsilleri nasıl kullandığını henüz söylemediğini yazıyor.

Mart 2025'teki çalışma daha da çarpıcı bir şey gösterdi. Claude'a 36 ile 59'un toplamı sorulduğunda model, içeride paralel çalışan iki yol kullanıyordu. Biri cevabın kabaca büyüklüğünü, diğeri son basamağı hesaplıyordu. Ama modelden nasıl hesapladığını açıklaması istendiğinde, okulda öğrendiğimiz "eldeyi bire taşı" yöntemini anlattı. Yani modelin kendi kararına dair açıklaması, kararı nasıl verdiğiyle örtüşmüyordu. Aynı çalışma, model zor bir soruda kendisine cevap için bir ipucu verildiğinde bazen o cevaba ulaştıracak ara adımları geriye doğru kurduğunu da gösterdi.

Bu bulguların sana söylediği şey açık. Yapay zekanın gerekçesi, kararın kanıtı değildir. "Neden böyle dedin" sorusuna gelen ikna edici açıklama, bir doğrulama yerine geçmez. Açıklanabilirlik, yani bir modelin kararını insanın anlayacağı biçimde açıklayabilmesi, aktif bir araştırma alanıdır ve araştırmacılar onlarca kelimelik kısa girdilerde bile gördükleri devreleri anlamanın birkaç saatlik insan emeği gerektirdiğini söylüyor. Kararı izlenebilir kılmak için bugün en güvenilir yol hâlâ sonucu dışarıdan kontrol etmektir.

Yapay zeka ile birlikte karar vermek daha mı iyi?

Akla gelen ilk çözüm şu oluyor. "Kararı tamamen ona bırakmayayım, ama yanıma alayım. İnsan artı yapay zeka, ikisinden de iyi olur." Araştırmalar bu sezginin her zaman doğru olmadığını gösteriyor.

Michelle Vaccaro, Abdullah Almaatouq ve Thomas Malone'un 2024'te Nature Human Behaviour dergisinde yayımladığı meta analiz, Ocak 2020 ile Haziran 2023 arasında yayımlanmış 106 deneysel çalışmadan 370 etki büyüklüğünü inceledi. Bulgular şöyle.

• İnsan ile yapay zekanın birlikte çalıştığı sistemler, ortalamada insanın tek başına çalışmasından belirgin biçimde daha iyi sonuç verdi.
• Ama aynı sistemler, ortalamada ikisinden daha iyi olanın tek başına çalışmasından daha kötü sonuç verdi. Yani birleşim çoğu zaman en iyi tarafı geçemedi.
• Karar görevlerinde bu kayıp belirgindi. İçerik üretme görevlerinde ise birleşim kazanç sağladı.
• İnsan, yapay zekadan daha iyi olduğu işlerde birleşim kazanç getirdi. Yapay zekanın insandan iyi olduğu işlerde ise birleşim kayba yol açtı.

Bunun bir açıklaması, araştırmacıların uzun süredir incelediği otomasyon önyargısı (automation bias). Kate Goddard ve arkadaşlarının 2012'de Journal of the American Medical Informatics Association'da yayımladığı sistematik derleme, otomasyon önyargısını otomasyona aşırı güvenme eğilimi olarak tanımlıyor ve 74 çalışmayı inceliyor. Derleme iki hata türünü ayırıyor. Birincisi, sistem bir sorunu işaret etmediği için senin de onu gözden kaçırman. İkincisi, sistemin yanlış önerisini kabul etmen. Derlemeye göre iş yükü, görevin karmaşıklığı ve zaman baskısı bu eğilimi etkileyen etkenler arasında.

Bu eğilim o kadar iyi bilinir ki Avrupa Birliği Yapay Zeka Yasası'nın insan gözetimini düzenleyen 14. maddesi, yüksek riskli sistemleri denetleyen kişilerin otomasyon önyargısının farkında olabilmesini bir ilke olarak açıkça anıyor. Yani "döngüde bir insan var" demek tek başına yetmiyor. O insan sistemin söylediğini otomatik olarak onaylıyorsa, döngüde yalnızca bir imza var demektir.

Hangi kararı yapay zekaya bırakabilirim? Dört soruluk çerçeve

Buraya kadar anlattıklarımın özeti şu. Yapay zeka olasılık hesaplar, eşiği ve yönü insan belirler, makinenin gerekçesi görünmez ve insan makineye kolayca fazla güvenir. O hâlde "kararı ona bırakmalı mıyım" sorusunu her seferinde aynı sırayla sormak gerekiyor.

Benim önerdiğim çerçeve dört sorudan oluşuyor. Bu resmi bir standart değil, kararı tartmak için önerdiğim bir düşünme aracı. Ben buna yapay zekanın otonomi eşiği diyorum, yani bir kararın ne kadarını yapay zekaya devredeceğini belirleyen çizgi. Bu çizgi açık ya da kapalı bir anahtar değil, bir kademe ayarı.

1. Yanlış çıkarsa bedeli ne? Bir film önerisi yanlış çıkarsa iki saatini kaybedersin. Bir sağlık, hukuk ya da para kararı yanlış çıkarsa sonucu yıllarca taşıyabilirsin. Bedel büyüdükçe yapay zekanın rolü "karar veren"den "seçenek sunan"a doğru kaymalı.
2. Geri alınabilir mi? Bir taslak e-postayı silebilirsin, gönderilmiş bir e-postayı geri alamazsın. Bir dosyayı yeniden adlandırmak geri alınır, kalıcı silmek alınmaz. Geri alınamayan her adımın önünde bir insan durmalı.
3. Sonucu doğrulayabilir miyim? Kodun çalışıp çalışmadığını test edebilirsin, bir çevirinin doğruluğunu bilen birine sorabilirsin. Ama modelin bir kişi, bir şirket ya da bir belirti hakkında "bana göre böyle" dediği ve senin kontrol edecek bir yolun olmadığı bir sonuç, bir karar dayanağı değildir.
4. Sorumluluğu kim taşıyor? Sonuç başka birini etkiliyorsa, ya da bu kararı bir makineye bırakmak sana doğru gelmiyorsa, burada teknik bir hesap değil etik bir sınır vardır. Hesabı verecek olan sensen, kararı da sen verirsin.

Bu soruların arkasındaki düşünce kurumlar için de yeni değil. ABD Ulusal Standartlar ve Teknoloji Enstitüsü NIST, 26 Ocak 2023'te gönüllü kullanım için Yapay Zeka Risk Yönetimi Çerçevesi'ni yayımladı. Çerçeve riski yönetişim, haritalama, ölçme ve yönetme başlıklı dört işlev etrafında ele alıyor. Yani önce sistemin hangi bağlamda ne tür zarar doğurabileceğini görmek, sonra o riski ölçüp yönetmek. Benim dört sorum bunun bireysel ölçekteki sade bir karşılığı gibi düşünülebilir. Kurumların bu işi nasıl yapılandırdığını merak ediyorsan yapay zeka yönetişimi, risk ve uyum yazısına bakabilirsin.

Dört soruyu bir arada okumanın kolay bir yolu var. Bedel küçük, geri alınabilir ve doğrulanabilir bir işte yapay zekaya geniş alan tanıyabilirsin. Bu dört sorudan herhangi birinde cevap "hayır" ya da "bilmiyorum" ise, yapay zeka seçenek üretir, sen karar verirsin.

Yapay zeka ajanlarına yani adım adım iş yapan sistemlere yetki verirken bu soruları nasıl uygulayacağını yapay zeka ajanı nedir yazısında, "ne kadar yetki" ve "insan onayı nerede şart" başlıklarıyla somutlaştırdım.

Hangi kararlar yapay zekaya bırakılabilir, hangilerinde insan kalmalı?

Çerçeveyi gündelik örneklerle sınayalım.

Çoğunlukla bırakabileceğin kararlar.

• Bir metnin üç farklı başlık seçeneğinden hangisinin daha akıcı olduğu.
• Gelen kutundaki e-postaları konuya göre gruplamak.
• Bir toplantı notundan yapılacaklar listesi çıkarmak, sonra listeye bir göz atmak.
• Bir yemek tarifinde eksik malzemenin yerine ne konabileceği.

Bunların ortak noktası, yanlışın bedelinin düşük olması, kolayca düzeltilebilmesi ve sonucu birkaç saniyede kendin görebilmen.

Yapay zekanın seçenek sunduğu, kararın sende kaldığı durumlar.

• Bir iş teklifini kabul edip etmemek.
• Bir sözleşmeyi imzalamak, bir yatırım yapmak, bir tedaviye başlamak.
• Bir çalışanı değerlendirmek, bir başvuruyu reddetmek.
• Başka birinin hayatını etkileyen her karar.

Bunlar yüksek ağırlıklı kararlardır. Yapay zeka burada sana artı eksi listesi çıkarabilir, gözden kaçırdığın bir soruyu hatırlatabilir, karşı argüman üretebilir. Ama son sözü bu alanların uzmanıyla birlikte sen verirsin. Bu kararlar için yapay zekadan alacağın en değerli şey hazır bir cevap değil, daha iyi bir soru listesidir.

Burada çalıştığım alandan bir ayrımı da paylaşmak istiyorum. Model çıktılarını değerlendirme işinin özündeki soru "bu cevap kulağa doğru geliyor mu" değil, "bu cevabın doğru olduğunu neyle gösterebilirim" sorusudur. Senin için de aynı ayrım geçerli. Bir kararı yapay zekaya bırakabilmenin ön koşulu, onun sonucunu sınayabileceğin bir yolun olması.

Kararı ona bırakmasam bile neyi korumalıyım?

En sinsi risk, kararı bilerek devretmek değil, farkında olmadan devretmektir. Her gün küçük kararları sorgulamadan onayladıkça, büyük kararları tartacak kas da zayıflar. Vaccaro ve arkadaşlarının bulduğu tabloya dair olası bir açıklama da bu yönde. İnsan, yapay zekanın çıktısını ne zaman takip edip ne zaman reddedeceğini iyi ayırt edemediğinde, birleşim en iyi taraftan daha kötü çalışabiliyor.

Bu yüzden ben insanın devredilemez işlevine karar veren insan diyorum. Yapay zeka önerir ve uygular, ama ne isteneceğine, hangi çıktının kabul, ret ya da revize edileceğine ve nereye varılacağına karar veren her zaman insandır. Makine üretir, sen yön tayin edersin.

Bunun pratikteki karşılığı kontrollü güven. Bir yapay zeka çıktısına ancak onu kontrol ettiğin ölçüde güvenirsin. Güven bir his değil bir karardır, teyit ettiğin kısma güvenir, etmediğin kısma güvenmezsin. Yargını uzun vadede nasıl koruyacağına dair adımları yapay zeka çağında yargını korumak rehberinde topladım.

Şimdi ne yapmalısın?

1. Bu hafta yapay zekaya bıraktığın kararları yaz. Küçük de olsa, "onu seçti, ben onayladım" dediğin her şeyi bir yere not et.
2. Her birine dört soruyu sor. Bedeli ne, geri alınabilir mi, doğrulayabilir miyim, sorumluluk kimde.
3. Eşiğini belirle. "Şu türden işleri yapay zeka yapar, ben bakarım. Şu türden işlerde yapay zeka sadece seçenek sunar" diye kendine iki cümlelik bir kural yaz.
4. Gerekçe istemekle yetinme. "Neden böyle dedin" sorusunun cevabını kanıt sayma. Önemli kararlarda sonucu dışarıdan, bir kaynakla ya da bir uzmanla sına.
5. Emin tona dikkat et. Bir cevap çok emin geldiğinde, onu otomatik onaylamak yerine bir an dur ve bir karşı argüman iste.
6. Yüksek ağırlıklı kararlarda yapay zekayı soru üretmek için kullan. "Bu kararı verirken neyi sormam gerekir" diye sor, ama cevabı uzmanla ve kendi değerlerinle tart.

Kısacası

Yapay zeka karar vermez, olasılık hesaplar. Eşiği, yönü ve sorumluluğu insan belirler. Modelin sana sunduğu gerekçe, kararın nasıl verildiğini her zaman yansıtmaz. İnsan ile yapay zekayı yan yana koymak da kendiliğinden daha iyi karar üretmez. Kararı ne zaman ona bırakacağını bilmek, bu çağın en önemli becerilerinden biri. Bedeli küçük, geri alınabilir ve doğrulanabilir işlerde ona alan aç. Geri kalan her yerde yapay zeka seçenek sunar, sen karar verirsin.

Kaynaklar

• Vaccaro, Almaatouq ve Malone (2024), When combinations of humans and AI are useful, Nature Human Behaviour
• Goddard, Roudsari ve Wyatt (2012), Automation bias, a systematic review of frequency, effect mediators, and mitigators, JAMIA
• Anthropic (2025), Tracing the thoughts of a large language model
• Anthropic (2024), Mapping the mind of a large language model
• NIST, AI Risk Management Framework
• AB Yapay Zeka Yasası, Madde 14, İnsan gözetimi
• Google Machine Learning Crash Course, Classification thresholds

Yazar

Cem Ünsal

Dijital Girişimci · Yazar · Antrenör

Yapay zekâ ve kişisel güvenlik üzerine yazıyor. Şirketlerin yapay zekâ dönüşümünde karar vericilere yön veriyor.

Hakkımda