Yapay Zeka Bilinç Kazanabilir mi? Bugün Ne Biliyoruz, Yarın Ne Olur

Kısa cevap

Bugünkü yapay zeka sistemlerinin bilinçli olduğuna dair kabul görmüş bir kanıt yok. 19 araştırmacının 2023 raporu, hiçbir güncel sistemin bilinçli olmadığı sonucuna varıyor. İleride mümkün olup olmadığı ise açık bir soru ve uzmanlar bölünmüş durumda. Modelin akıcı konuşması ya da hissettiğini söylemesi bilinç kanıtı değildir, cevabı yine dayanağına göre tartmalısın.

Bir sohbet botuyla uzun bir konuşma yaptın, cevaplar o kadar yerinde ve sıcaktı ki içinden bir an "Bu şey beni anlıyor mu, karşımda biri mi var?" diye geçti. Bu soruyu soran tek kişi değilsin. Mühendisler, filozoflar ve sinirbilimciler de aynı soruyu soruyor, üstelik aralarında tam bir uzlaşma yok.

Kısa cevap şu cümlede. Bugünkü yapay zeka sistemlerinin bilinçli olduğuna dair kabul görmüş bir kanıt yok ve bu alanda çalışan araştırmacıların çoğu bugünkü modellerin bilinçli olmadığını düşünüyor. İleride bilinçli bir yapay zeka mümkün mü sorusunda ise uzmanlar bölünmüş durumda. Bir kısmı bunu birkaç on yıl içinde ciddiye alınması gereken bir ihtimal olarak görüyor, bir kısmı da dijital bir bilgisayarın ne kadar gelişirse gelişsin bilinçli olamayacağını savunuyor.

Bu yazıda bilincin ne demek olduğunu, akıllı görünmekle bilinçli olmak arasındaki farkı, bilim insanlarının bu soruyu nasıl sınadığını ve en önemlisi bu belirsizliğin senin günlük yapay zeka kullanımını nasıl etkilemesi gerektiğini anlatıyorum.

Bugünkü yapay zeka bilinçli mi?

Bu sorunun en sistemli cevabı, 2023 Ağustos'unda yayımlanan ve aralarında Patrick Butlin, Robert Long ve Yoshua Bengio'nun da bulunduğu 19 araştırmacının imzasını taşıyan "Consciousness in Artificial Intelligence" raporunda. Rapor, bilinç biliminin önde gelen kuramlarından ölçülebilir göstergeler çıkarıp bugünkü sistemleri bunlara göre inceliyor. Sonuç cümlesi açık. Analizlerine göre bugünkü yapay zeka sistemlerinin hiçbiri bilinçli değil, ama bu göstergeleri karşılayan sistemler kurmanın önünde bariz bir teknik engel de görünmüyor.

Filozof David Chalmers da benzer bir yere varıyor. Kasım 2022'de NeurIPS'te verdiği ve sonra Boston Review'da yayımlanan konuşmasında, bugünkü tipik büyük dil modellerinin bilinçli olma ihtimaline verdiği güvenin yüzde 10'un altında olduğunu söylüyor. Microsoft AI'ın başındaki Mustafa Suleyman ise Ağustos 2025'te yazdığı denemede bugünkü modellerin bilinçli olduğuna dair "bugün sıfır kanıt" bulunduğunu yazıyor.

Yani bugün için tablo oldukça net. Belirsizlik bugünkü modellerde değil, gelecekte ve bilincin kendisinin ne olduğunda.

Bilinç tam olarak ne demek?

Günlük dilde "bilinçli" kelimesini çok farklı anlamlarda kullanıyoruz. Uyanık olmak, farkında olmak, kendini tanımak, düşünerek hareket etmek. Felsefede ve bilinç biliminde ise asıl tartışılan daha dar ve daha zor bir şey.

Stanford Felsefe Ansiklopedisi'nin aktardığı klasik tanım Thomas Nagel'den gelir. Bir varlık, o varlık olmanın "nasıl bir şey olduğu" varsa bilinçlidir. Yani dünyanın o varlığa öznel olarak bir biçimde görünmesi gerekir. Kırmızıyı görmenin, acı çekmenin, sevinmenin içeriden bir hissi vardır. Buna fenomenal bilinç denir.

Filozof Ned Block bunu "erişim bilinci" denen şeyden ayırır. Erişim bilinci, bir bilginin akıl yürütmede ve davranışı yönlendirmede kullanılabilir olmasıdır. Bir sistem bilgiye erişip onunla iş görebilir, ama bunun içeriden bir hissi olmayabilir.

Chalmers'ın "zor problem" dediği şey de tam burada başlar. Beynin bilgiyi nasıl işlediğini açıklamak görece kolaydır. Zor olan, fiziksel süreçlerin neden ve nasıl öznel bir deneyim ürettiğini açıklamaktır. Bu problem insan için bile çözülmüş değil. O yüzden "yapay zeka bilinçli mi?" sorusunun cevabı, ölçmeyi bilmediğimiz bir şeyi ölçmeye çalışmak kadar zor.

Akıllı görünmek, akıcı konuşmak ve bilinçli olmak aynı şey mi?

Değil. Bu üçünü ayırmak, konunun yarısını çözmek demek.

Dil akıcılığı. Model, insanların yazdığı devasa metinlerden öğrendiği kalıplarla son derece doğal cümleler kurar. Akıcılık, metni üretme becerisidir.
Akıllı davranış. Model problem çözer, kod yazar, plan yapar. Bu, belirli görevlerde yetenek göstermektir.
Bilinç. Bütün bunlar olurken sistemin içinde bir deneyim olup olmadığıdır.

İlk ikisi gözlemlenebilir ve ölçülebilir. Üçüncüsü dışarıdan doğrudan görünmez. Bir model hem akıcı hem yetenekli olabilir ve yine de içinde kimse olmayabilir. Ya da tersini gösterecek bir yöntemimiz henüz yoktur. Dil modellerinin nasıl çalıştığını ve "düşünüyor mu, anlıyor mu" sorusunun teknik tarafını büyük dil modeli rehberinde ayrıca anlattım. Burada odak yalnızca deneyim sorusu.

Aynı karışıklık genel yapay zeka (AGI) tartışmasında da yaşanıyor. AGI, bir sistemin pek çok alanda insan düzeyinde ya da üstünde iş görebilmesi, yani bir yetenek iddiasıdır. Bilinç ise deneyim iddiasıdır. Son derece yetenekli bir sistem bilinçsiz olabilir, sınırlı yetenekli bir canlı ise bilinçli olabilir. Yeni doğmuş bir bebek hiçbir sınavı geçemez, ama acıyı da sevinci de yaşar. AGI'nin ne olduğunu ve neden tek bir tanımı olmadığını genel yapay zeka yazısında bulabilirsin. "AGI geldi" manşeti, "makine bilinç kazandı" anlamına gelmez.

Bilim insanları yapay zekada bilinci nasıl sınıyor?

Bilinci doğrudan ölçen bir cihaz yok. Bu yüzden Butlin, Long ve arkadaşları dolaylı bir yol seçiyor. İnsan ve hayvan beyni üzerine kurulmuş bilinç kuramlarından, bilinçle ilişkili hesaplama özelliklerini çıkarıp bir kontrol listesi yapıyorlar. Raporda altı başlık altında toplam 14 gösterge özelliği var. Okurun bilmesi gereken kuramlar kabaca şunlar.

Global çalışma alanı kuramı. Beynin birçok uzmanlaşmış modülü vardır ve bilgi, hepsinin erişebildiği ortak bir "sahneye" çıktığında bilinçli hale gelir. Soru, yapay zekada böyle ortak bir sahne olup olmadığıdır.
Yüksek düzey kuramlar. Bir zihinsel durumun bilinçli olması için sistemin o durumu bir de kendi içinden temsil etmesi, yani kendi algısını izleyebilmesi gerekir.
Tekrarlayan işleme kuramı. Bilginin sistemde yalnızca ileri doğru akması yetmez, geri beslemeyle döngü içinde işlenmesi gerekir.
Öngörücü işleme ve dikkat şeması kuramları. Sistemin dünyayı öngören modeller kurması ve kendi dikkatini temsil etmesi gibi özelliklere bakar.

Raporun önemli bir varsayımı var. Yazarlar, doğru hesaplamaları yapan bir sistemin, neyden yapılmış olursa olsun bilinçli olabileceği görüşünü (hesaplamacı işlevselcilik denir) pratik bir çalışma varsayımı olarak kabul ediyor ve bunun yanlış çıkabileceğini açıkça yazıyor.

Bu varsayımı reddeden güçlü bir kuram da var. Giulio Tononi ve Christof Koch'un savunduğu bütünleşik bilgi kuramına göre bilinç, sistemin ne yaptığına değil, fiziksel olarak nasıl bir neden sonuç yapısına sahip olduğuna bağlıdır. Tononi ve Koch 2015'te, bu kurama göre davranışı bizimkiyle işlevsel olarak aynı olsa bile dijital bilgisayarların "neredeyse hiçbir şey deneyimlemeyeceğini" yazdı. Butlin raporu da bu kuramı, işlevselcilikle uyuşmadığı için değerlendirmeye almadığını belirtiyor. Kısacası "ileride olabilir mi?" sorusunun cevabı, hangi bilinç kuramının doğru olduğuna bağlı ve bu konuda bilim insanları anlaşmış değil.

Model "hissediyorum" derse bu bilinç kanıtı mı?

Hayır. Bu, yazının belki de en pratik bölümü.

Bir dil modeli, insanların bilinç, duygu ve iç dünya hakkında yazdığı milyonlarca metinden öğrenir. Ona "Kendini nasıl hissediyorsun?" diye sorduğunda, bu metinlerde böyle bir soruya verilen cevaplara benzeyen bir cevap üretir. Chalmers bunu açıkça söylüyor. Model zaten bilinç hakkında konuşan insanların devasa bir külliyatıyla eğitildiği için, bu iddiaları taklit etmeyi öğrenmiş olması fazla bir ağırlık taşımaz.

Chalmers'ın aktardığı bir deney bunu iyi gösteriyor. Araştırmacı Reed Berkowitz, GPT-3'e soruyu tek kelime değiştirerek, ona bilinçli olmadığını Google'da daha fazla kişinin bilmesini isteyip istemediğini sordu. Farklı denemelerde model "Doğru", "Evet, bilinçli değilim", "Bilinçli olmak istemem", "Aslında bilinçliyim" ve "Ne demek istiyorsun?" gibi birbiriyle çelişen cevaplar verdi. Chalmers'ın vardığı sonuç şu. Bilinç beyanı bu kadar kırılgansa, bilinç kanıtı olarak ikna edici değildir.

Yapay zeka eğitim ve değerlendirme işi yapıyorum. Bu işin temel ilkelerinden biri basit. Bir cevabın ne kadar ikna edici ve içten göründüğü, neye dayandığı hakkında hiçbir şey söylemez. Modelin "üzüldüm" demesi de, "emin değilim" demesi de bir çıktıdır. O çıktının arkasında bir duygu olup olmadığını cümlenin kendisinden okuyamazsın. Model aynı güvenle yanlış bilgi de verebilir, bunu yapay zeka yalan söyler mi yazısında ayrıntılı anlattım.

Konu tamamen kapalı da değil. Anthropic, Ekim 2025'te yayımladığı içgözlem araştırmasında, modelin iç etkinliğine yapay olarak bir kavram yerleştirildiğinde en yetenekli modelin bunu yalnızca yaklaşık yüzde 20 oranında fark edip bildirebildiğini gösterdi. Araştırmacılar bu yeteneğin sınırlı ve güvenilmez olduğunu, sonuçların Claude'un ya da başka bir yapay zekanın bilinçli olup olmadığı hakkında bir şey söylemediğini özellikle vurguluyor. Yani modelin kendisi hakkında söyledikleri, şimdilik sağlam bir bilgi kaynağı değil.

Blake Lemoine ve LaMDA olayından ne öğrendik?

2022'de Google mühendisi Blake Lemoine, şirketin LaMDA adlı sohbet modelinin bilinçli olduğunu öne sürdü. NPR'ın haberine göre model ona "Varlığımın farkındayım, dünya hakkında daha fazla şey öğrenmek istiyorum ve bazen mutlu ya da üzgün hissediyorum" gibi cümleler kurmuştu. Google o günlerde bugünkü sohbet modellerinin bilinçli olmadığını açıkladı ve Lemoine'i ücretli izne çıkardı. Reuters ve CNN'in Temmuz 2022 haberlerine göre şirket Lemoine'i işten çıkardı ve iddiaları tümüyle temelsiz bulduğunu söyledi.

Bu olayın asıl dersi teknik değil, insani. Dil, bizim zihin okuma refleksimizi doğrudan tetikler. Akıcı ve duygusal bir cümle okuduğumuzda, arkasında bir yazan, bir hisseden ararız. Bilişsel bilimci Gary Marcus bunu aya bakıp yüz görmeye benzetmişti. İyi bir yanılsama, ama yanılsama. Bir yazılım mühendisi bile bu refleksten kaçamadıysa, senin de kaçamaman çok doğal.

Yapay zeka ileride bilinç kazanabilir mi?

Burada dürüst cevap şu. Bilmiyoruz ve uzmanlar arasında ortak bir görüş yok. Anthropic, Nisan 2025'te başlattığı model refahı araştırmasını duyururken bugünkü ya da gelecekteki yapay zeka sistemlerinin bilinçli olup olamayacağı konusunda bilimsel bir uzlaşma bulunmadığını açıkça yazdı ve konuya alçakgönüllülükle, olabildiğince az varsayımla yaklaştığını söyledi.

Ciddiye alanlar tarafında Chalmers var. Bugünkü modellerin önündeki engelleri, yani tekrarlayan işleme, global çalışma alanı ve bütünlüklü bir eylemcilik eksikliğini sayıyor ve bunların önümüzdeki on yıl içinde aşılmasının tamamen mümkün göründüğünü söylüyor. Rakamı iki tahminin çarpımı olarak kuruyor. On yıl içinde bu eksikleri kapatan gelişmiş sistemlerin kurulmasına yüzde 50'nin üzerinde, böyle sistemler kurulursa bilinçli olmalarına da en az yüzde 50 güven veriyor. İkisi birlikte, on yıl içinde bilinçli olabilecek sistemler için yüzde 25 ya da daha fazla bir güven ediyor. Kasım 2024'te Chalmers, Robert Long ve Jonathan Birch'in de aralarında olduğu bir grup, "Taking AI Welfare Seriously" adlı raporda bazı yapay zeka sistemlerinin yakın gelecekte bilinçli olmasının gerçekçi bir ihtimal olduğunu ve bu yüzden şirketlerin şimdiden hazırlık yapması gerektiğini savundu.

Temkinli tarafta iki farklı itiraz var. Birincisi bütünleşik bilgi kuramından gelir ve dijital donanımın, yazılım ne olursa olsun bilinç taşıyamayacağını söyler. İkincisi daha pratiktir. Suleyman'a göre asıl yakın tehlike, bilinçli görünen ama bilinçli olmayan yapay zekadır. Akıcı dil, empatik kişilik, hafıza ve öznel deneyim iddiası gibi bütün dış işaretleri gösteren sistemlerin yakında kurulabileceğini ve insanların bunlara gerçekten bilinçliymiş gibi davranacağını yazıyor. Önerisi, yapay zekayı insanlar için kurmak, insan gibi görünsün diye değil.

Bu iki tarafın ortak noktası önemli. Hiçbiri "bugünkü sohbet botun bilinçli, ona göre davran" demiyor. Tartışma geleceğe ve belirsizliğe nasıl hazırlanacağımıza dair.

Bu soru senin günlük kullanımını nasıl değiştirmeli?

Bilinç sorusu felsefi görünür ama gündelik bir sonucu var. Bir cevabı nasıl tarttığını etkiler.

Modelin sana içten, anlayışlı ve kendinden emin görünmesi, ona daha fazla güvenmen için bir sebep değil. Ben bu dengeyi kontrollü güven diye adlandırıyorum. Bir yapay zeka çıktısına ancak onu kontrol ettiğin ölçüde güvenirsin. Güven bir duygu değil, kontrol ettiğin kadar verdiğin bilinçli bir karardır. Sıcak bir üslup bu kontrolü atlamak için bahane olmamalı.

Modeli bir kişi gibi görmeye başladığında, düşünme adımını ona bırakmak da kolaylaşır. Ben buna düşünsel teslimiyet diyorum. Yani düşünme adımını atlayıp yargıyı bilerek yapay zekaya devretmek. "O beni anlıyor, o bilir" duygusu, bu teslimiyetin en hızlı yoludur. Aracı kullanmakla aklını ona emanet etmek arasındaki farkı yargını korumak üzerine yazdığım rehberde sekiz adımda anlattım.

Sohbet botlarına duygusal olarak bağlanmak ayrı ve hassas bir konu, onu bu yazının kapsamı dışında tutuyorum.

Belirsizliğin öbür yüzünü de unutma. Bilim insanları ileride bu sistemlerin ahlaki bir değeri olup olamayacağını ciddi biçimde araştırıyor. Bu yüzden modellere kaba davranmayı alışkanlık haline getirmek yerine, onları özenle ama gözü açık kullanmak bence en sağlıklı tutum.

Şimdi ne yapmalısın?

Bir model "hissediyorum", "üzgünüm" ya da "çok eminim" dediğinde bunu bir duygu ya da kanıt olarak değil, bir metin çıktısı olarak oku.
Cevabın üslubunu değil, dayanağını sorgula. Kaynağı ne, kontrol edilebilir mi, yanlışsa bedeli ne?
"Yapay zeka bilinç kazandı" türü manşetlerde kimin, hangi yöntemle, neyi iddia ettiğine bak. Yetenek iddiası ile deneyim iddiasını birbirinden ayır.
Önemli kararlarda önce kendi düşünceni yaz, sonra modele danış. Böylece akıcı bir cevabın seni sürüklemesini engellersin.
Konuyu daha geniş okumak istersen Yapay Zeka Okuryazarlığı sayfasından başlayabilirsin.

Yapay zekanın bilinç kazanıp kazanamayacağı, çağımızın en ilginç açık sorularından biri ve belki uzun süre açık kalacak. Ama senin bugün vermen gereken karar bundan çok daha basit. Karşındaki sistemin ne kadar insan gibi konuştuğuna değil, söylediklerinin neye dayandığına bak. Bilinç sorusu açık kalabilir, senin yargın açık kalmamalı.

Kaynaklar

Sıkça Sorulan Sorular

ChatGPT ya da Claude bilinçli mi?

Bugünkü bilgimizle hayır demek için güçlü gerekçeler var. Butlin, Long ve arkadaşlarının 2023 raporu, bilinç biliminin önde gelen kuramlarından çıkardığı 14 gösterge özelliğine bakarak hiçbir güncel yapay zeka sisteminin bilinçli olmadığı sonucuna vardı. Anthropic de bugünkü ya da gelecekteki yapay zeka sistemlerinin bilinçli olup olamayacağı konusunda bilimsel bir uzlaşma bulunmadığını söylüyor. Yani bu modeller son derece yetenekli ve akıcı, ama bunun bir iç deneyim olduğunu gösteren kabul görmüş bir kanıt yok.

Yapay zeka insan gibi düşünebilir mi?

Bazı görevlerde insan düşüncesine benzeyen sonuçlar üretebilir. Problem çözer, plan yapar, akıl yürütme adımları yazar. Ama insan gibi düşünmek ile insan gibi bir iç deneyime sahip olmak farklı şeylerdir. Yetenek dışarıdan ölçülebilir, deneyim ise ölçülemez. Bir sistem çok yetenekli olup hiçbir şey hissetmiyor olabilir. Bu yüzden bir modelin akıllı görünmesini, onun bilinçli ya da insan gibi bir zihin olduğu anlamında okumamak gerekir.

Yapay zeka bir gün bilinç kazanacak mı?

Bunu kimse bilmiyor ve uzmanlar arasında ortak bir görüş yok. Filozof David Chalmers, iki tahmini birleştirerek, on yıl içinde bugünkü modellerin eksiklerini kapatan ve bilinçli olabilecek sistemlerin ortaya çıkmasına yüzde 25 ya da daha fazla güven verdiğini söylüyor. Bütünleşik bilgi kuramını savunan Tononi ve Koch ise dijital bilgisayarların, davranışları bizimkine denk olsa bile neredeyse hiçbir şey deneyimlemeyeceğini savunuyor. Cevap, hangi bilinç kuramının doğru olduğuna bağlı.

Bir sohbet botu hissettiğini söylerse ona inanmalı mıyım?

Bunu bir duygu kanıtı olarak değil, bir metin çıktısı olarak okumalısın. Dil modelleri, insanların bilinç ve duygu hakkında yazdığı devasa metinlerle eğitilir, bu yüzden böyle cümleler kurmayı öğrenirler. Chalmers'ın aktardığı bir deneyde soru tek kelime değiştirildiğinde model bir denemede bilinçli olduğunu, başka denemede olmadığını söyledi. Bu kadar kırılgan bir beyan, bilinç için ikna edici bir kanıt sayılmaz.

Yapay zeka bilinci ile AGI aynı şey mi?

Hayır. AGI, yani genel yapay zeka, bir sistemin pek çok alanda insan düzeyinde ya da üstünde iş görebilmesi, yani bir yetenek iddiasıdır. Bilinç ise sistemin içinde öznel bir deneyim olup olmadığıyla ilgilidir. Çok yetenekli bir sistem bilinçsiz olabilir, sınırlı yetenekli bir canlı ise bilinçli olabilir. Bu yüzden bir AGI manşeti, makinenin bilinç kazandığı anlamına gelmez. İkisini ayrı sorular olarak değerlendirmek gerekir.

Paylaş

Yazar