Telefon çalar. Karşıdaki ses oğlunun sesi. Kaza yaptığını, acil paraya ihtiyacı olduğunu söylüyor. Ses titriyor, nefes alışı bile tanıdık. Bir anne o an neyi sorgulasın? Yıllardır tanıdığı, kulağıyla duyduğu sesi mi?
Birkaç yıl öncesine kadar bu sorunun cevabı basitti. Duyduğun sese, gördüğün görüntüye güvenirdin. Bugün artık o kadar basit değil. Ben bu kırılmaya Hakikatin Aşınması diyorum. Bu sayfada kavramı tanımlıyorum, neden iki yönlü işlediğini, bir toplum için neden bu kadar ağır bir tehdit olduğunu, nasıl fark edileceğini ve ondan nasıl korunulacağını anlatıyorum.
Hakikatin Aşınması nedir
Hakikatin Aşınması, yapay zekanın ses, görüntü, video ve metni gerçeğinden ayırt edilemeyecek biçimde üretebilmesi sonucunda, gördüğümüze ve duyduğumuza dayanan ortak gerçeklik zemininin yavaş yavaş çözülmesidir. Tek bir sahte video ya da tek bir dolandırıcılık değil, bunların toplamında ortaya çıkan daha derin bir sonuçtur. Gördüm demek artık inandım demek olmaktan çıkar.
Aşınma kelimesini bilinçli seçtim. Bir kaya bir günde yıkılmaz, su damla damla onu oyar. Hakikat de böyle kaybedilir. Bir sabah uyanıp gerçeğin yok olduğunu görmeyiz. Her sahte içerik, "acaba" dediğimiz her an, doğrulayamadığımız her kayıt o zemini biraz daha inceltir.
İki yönlü aşınma
Kavramın en önemli ve en az konuşulan tarafı şu. Aşınma tek yönde işlemez.
Birinci yönde sahte olan gerçek kılığına girer. Hiç söylenmemiş bir sözün videosu, hiç yaşanmamış bir anın fotoğrafı, birkaç saniyelik bir kayıttan taklit edilmiş bir ses. Bunun için artık büyük bir laboratuvar gerekmiyor, sıradan bir telefon ve yaygın bir uygulama yetiyor.
İkinci yönde gerçek olan sahte diye reddedilir. Gerçek bir kayıt ortaya çıktığında, sorumlu kişi rahatça "bunu yapay zeka üretti" deyip sıyrılabilir. Hukuk literatüründe buna yalancının kazancı (liar's dividend) deniyor. Sahtenin mümkün olduğu bir dünyada gerçeği inkâr etmek de kolaylaşır.
İkisi birlikte hakikati iki taraftan kuşatır. Yalan hakikat kılığına girer, hakikat de yalan diye çöpe atılır. Hakikatin Aşınması tam olarak bu çift yönlü kuşatmanın adıdır.
Neden tehlikeli
Bir toplumu ayakta tutan şey, üzerinde anlaştığı ortak bir gerçeklik zeminidir. Neyin olup neyin olmadığı konusunda asgari bir mutabakat. İnsanlar farklı düşünebilir, farklı sonuçlara varabilir, ama en azından aynı olaylar üzerine tartışırlar.
Bu zemin çökünce tartışma bile mümkün olmaz. Herkes kendi gerçeğini seçer, karşı taraftaki her kanıtı sahte sayar. Böyle bir toplum ortak bir karar alamaz, kolayca bölünür, yönlendirilir ve aldatılır. Güç de tam bu bulanıklıktan beslenir. Herkesin her şeyden şüphe ettiği bir ortamda, en gürültülü ve arkasında en çok imkân olan ses öne çıkar.
Bu yüzden Hakikatin Aşınması'nı uzak bir gelecek meselesi olarak görmüyorum. Robot ordularını, büyük senaryoları beklemeye gerek yok. Bu kriz çoktan başladı ve en küçük ölçekte, bir telefon aramasında bile kapımızda.
Saha örneği
Sayfanın başındaki telefona dönelim. Dolandırıcının elinde, çocuğun sosyal medyada paylaştığı birkaç saniyelik bir video var. Bu, sesi taklit etmeye yetiyor. Anne sesi tanıyor, çünkü duyduğu gerçekten o sesin kopyası. Kandırılan kulağı değil, kulağına duyduğu güven.
Aynı hikâyenin öbür yüzü de var. Bir gün gerçek bir yardım çağrısı gelir ve daha önce bir kez kandırılmış olan anne bu kez telefonu kapatır. Çünkü artık hiçbir sese güvenmiyor. İşte aşınma budur. Önce sahteye inanırsın, sonra gerçeğe de inanmaz olursun.
Hakikatin Aşınması'nı nasıl fark edersin
Aşınma bir olay değil bir süreç olduğu için, onu kendi hayatındaki izlerinden tanırsın. Üç işaret var.
Birincisi, bir içerik karşısında ilk tepkin artık "ne oldu" değil "bu gerçek mi" sorusuysa. Bu soru sağlıklıdır, ama her içerikte sorduğunu fark ediyorsan zemin senin için de incelmiş demektir.
İkincisi, bir içeriğin doğruluğuna değil, işine gelip gelmediğine göre inanıyorsan. Hoşuna giden sahteye inanmak ve hoşuna gitmeyen gerçeği yapay zeka üretimi saymak, aşınmanın en sessiz biçimidir.
Üçüncüsü, bir içerik ne kadar duygusal ve acilse o kadar hızlı karar veriyorsan. Sahte içerik neredeyse her zaman aciliyetle gelir, çünkü aciliyet düşünmeyi keser.
Hakikatin Aşınması'na karşı nasıl korunursun
Çözüm her şeye inanmak değil, her şeyden şüphe etmek de değil. İkisi de aşınmanın işine yarar. Çözüm, doğrulamayı bir alışkanlığa çevirmek.
Yavaşla. Seni acele ettiren, korkutan ya da öfkelendiren her içerikte bir adım geri çekil. Sahtenin en güçlü silahı hızdır.
İkinci bir kanaldan doğrula. Tanıdık bir sesle gelen acil bir para talebinde telefonu kapat ve kişiyi bildiğin numaradan sen ara. Ailenle önceden belirlediğiniz ve başka kimsenin bilmediği bir parola, bu tür dolandırıcılığa karşı en basit ve en etkili önlemdir.
Kaynağa git. Bir görüntü ya da iddia seni sarstığında, onu kimin, nerede, ilk kez ne zaman yayımladığına bak. Kaynağı olmayan içerik, ne kadar gerçek görünürse görünsün, kanıt değildir.
Gerçeği de hemen reddetme. "Yapay zeka üretmiştir" demek de bir iddiadır ve o da kanıt ister. Hakikati korumak, sadece sahteye kanmamak değil, gerçeği de kolayca çöpe atmamaktır.
Bağlı kavramlar
Hakikatin Aşınması'na karşı bireysel duruşun adı Şüphe Disiplini. Burada kastedilen her şeyi reddeden bir şüphecilik değil, disiplinli ve sistemli bir sorgulama tavrıdır. Aşınma zemini inceltir, Şüphe Disiplini o zeminde ayakta durmanı sağlar.
Kavramı ilk kez Yapay Zeka Bizi Yok Eder mi? rehberinde, yapay zekanın bugünden gelen tehlikeleri arasında ele aldım. Rehber, aşınmanın ardından gelen daha derin kayba, düşünme ve karar verme melekesinin araca devredilmesine de uzanıyor.
Sık karıştırılan
Dezenformasyonla aynı şey mi? Hayır. Dezenformasyon, bilerek yayılan yanlış bilgidir ve tek tek içeriklerle ilgilidir. Hakikatin Aşınması ise bu içeriklerin toplamında ortaya çıkan sonuçtur, yani gerçeği ayırt etme zemininin kendisinin çözülmesidir. Dezenformasyon bir mermiyse, aşınma o mermilerin açtığı yaradır.
Deepfake ile aynı şey mi? Hayır. Deepfake bir araçtır, yapay zekayla üretilmiş sahte ses, görüntü ya da videodur. Hakikatin Aşınması o aracın topluma bıraktığı izdir. Hiç deepfake görmemiş biri bile, var olduklarını bildiği için gördüğü gerçek bir videodan şüphe edebilir. Aşınma tam da budur.
Truth decay kavramıyla ilişkisi ne? Dünyada benzer bir tartışma İngilizcede truth decay adıyla yürüyor. RAND Corporation'ın 2018'de ortaya koyduğu bu çerçeve, olgular üzerindeki anlaşmazlığın artmasını, görüş ile olgu arasındaki çizginin bulanıklaşmasını ve bir zamanlar güvenilen kaynaklara duyulan güvenin azalmasını anlatır. Hakikatin Aşınması bu tartışmanın akrabasıdır ama odağı farklıdır. Ben kavramı, yapay zekanın gerçeği üretebilir hale gelmesine ve bunun sahteyi gerçek, gerçeği sahte gösteren çift yönlü etkisine odaklıyorum. Burada aşınmanın kaynağı kurumlar ya da medya değil, her cebe girmiş bir üretim gücüdür.