Genel yapay zeka modelleri hukuki araştırmada neden hallüsinasyon riski taşır? Avukatlar için özel hukuk AI ile fark ne?
Kurucu ve CEO, Miron Group LLC
2025 yılında ABD'de bir avukat, ChatGPT'nin oluşturduğu hukuki dilekçede yer alan sahte mahkeme kararlarını doğrulamadan mahkemeye sundu. Sonuç: disiplin cezası ve mesleki itibar kaybı. Bu vaka, hukuki pratikte genel yapay zeka araçlarına körü körüne güvenmenin tehlikelerini gözler önüne seriyor.
Türkiye'de de avukatlar giderek artan oranda ChatGPT, Claude veya Gemini gibi genel modelleri hukuki araştırma için kullanıyor. Ancak bu modeller, hukuki bağlamda ciddi sınırlılıklar taşıyor.
Genel dil modelleri eğitim sürecinde gördükleri metinlerden örüntüler öğrenir. Bir Yargıtay kararı sorulduğunda, model gerçek bir karar araştırmak yerine "böyle bir karar nasıl görünürdü" sorusunu yanıtlar. Sonuç gerçekçi görünür ama gerçek değildir.
Araştırmalar genel AI modellerinin hukuki konularda özellikle doğrulanabilir kaynak üretiminde hata yapabildiğini gösteriyor. Hukuka özel modeller bu oranı %17-33'e düşürebiliyor. Bu fark, pratikte bir davanın kazanılması veya kaybedilmesi anlamına gelebilir.
ChatGPT'nin bilgi kesim tarihi vardır; güncel mevzuat değişikliklerini, son Yargıtay içtihadını veya yeni düzenlemeleri bilmez. Oysa hukuk sürekli değişen bir alandır. 2024'te çıkan bir yönetmelik değişikliğini bilmeyen bir yapay zeka, eski bilgiyle yanıt üretir ve bu yanıt tehlikeli derecede yanlış olabilir.
Hukukta iddia ispat gerektirir. Bir argümanın hangi karara, hangi kanun maddesine veya hangi doktrinel görüşe dayandığını göstermek zorundasınız. Genel yapay zeka modelleri kaynak gösteremez; veya gösterdiklerinde bu kaynaklar çoğunlukla gerçek değildir.
Hukuka özel yapay zeka platformları farklı bir mimari kullanır: RAG (Retrieval-Augmented Generation). Bu yaklaşımda:
Bu süreç, hallüsinasyon riskini dramatik biçimde azaltır çünkü model "icat etmek" yerine gerçek belgelerden okuyarak yanıt verir.
ChatGPT için uygun kullanımlar:
Hukuka özel AI için uygun kullanımlar:
Pazarlama iddiası ile gerçek performans arasındaki farkı anlamanın tek yolu kendi testinizi yapmaktır. Yarım saat süren, herkesin uygulayabileceği bir yöntem:
1. Cevabını bildiğiniz soruyla başlayın. Kendi dosyanızdan, sonucunu ve emsalini bildiğiniz bir hukuki soru seçin. Aracın verdiği cevabı bildiğinizle karşılaştırın. Bilmediğiniz bir soruyla test yapmak, sonucu değerlendirmenizi imkânsız kılar.
2. Künyeleri tek tek doğrulayın. Cevapta geçen her daire, esas ve karar numarasını resmî kaynakta arayın. Aradığınız şey iki katmanlıdır: karar gerçekten var mı, ve varsa içeriği cevapta anlatıldığı gibi mi? İkinci kontrol daha önemlidir — gerçek bir karar numarasının yanlış bir ilkeyle eşleştirilmesi, olmayan bir karar uydurmaktan daha zor yakalanır.
3. Var olmayan bir şey sorun. Uydurma bir kanun maddesi ya da olmayan bir kavram hakkında soru sorun. İyi bir araç "böyle bir düzenleme bulamadım" der. Kötü bir araç sorunuzu doğru varsayıp üzerine açıklama üretir. Bu tek test, aracın uydurma eğilimi hakkında çoğu şeyi söyler.
4. Güncelliği sınayın. Yakın dönemde değişmiş bir düzenleme hakkında soru sorun. Araç eski hâli mi anlatıyor, değişikliği biliyor mu, yoksa bilmediğini söylüyor mu?
5. Aynı soruyu iki kez sorun. Cevaplar arasında ciddi tutarsızlık varsa, araç muhakeme değil metin üretiyor demektir.
6. Olumsuz cevabı test edin. İçtihadı bulunmayan bir konu sorun. "Bu konuda karar bulunmuyor" diyen bir araç, olmayan karar üretenden daha değerlidir.
Kaynak gösteren, gerçek belgelerden okuyarak yanıt üreten sistemler uydurma riskini önemli ölçüde düşürür. Ancak "sıfır risk" iddiası doğru olmaz ve bu iddiaya güvenmek doğrulama alışkanlığını zayıflattığı için başlı başına bir risktir.
Kaynaklı bir sistemde de şu hatalar mümkündür:
Yanlış karar getirilmesi. Getirilen karar gerçektir ama sorulan olaya uygun değildir. Semantik yakınlık, hukuki benzerlik demek değildir.
Doğru karardan yanlış çıkarım. Karar gerçek, künye doğru, ama kararın söylediğinden farklı bir sonuç aktarılmıştır. Özellikle bozma kararlarında bu risk yüksektir — bozma sebebi, kararın benimsediği ilke gibi aktarılabilir.
Eksik kapsam. Veri tabanında bulunmayan bir kararı hiçbir sistem getiremez. "Bu konuda içtihat yok" cevabı, aramanın değil verinin sınırı olabilir.
Güncellik boşluğu. Verinin en yeni kaydından sonra oluşan içtihat sistemde bulunmaz.
Bu yüzden doğru çerçeve şudur: kaynak gösteren araçlar doğrulamayı ortadan kaldırmaz, kolaylaştırır. Sıfırdan arama yapmak yerine gösterilen künyeyi kontrol edersiniz. Doğrulama adımının kendisi devredilemez.
Hangi araç kullanılırsa kullanılsın, dilekçeye giren atıfın sorumluluğu imzayı atan avukattadır. Var olmayan bir karara atıf yapıldığında bunun aracın hatası olduğunu söylemek, ne müvekkile karşı ne meslek hukuku bakımından bir savunma oluşturur.
Bu, araç kullanmamak için bir gerekçe değil, araç seçimini ciddiye almak için bir gerekçedir. Ölçüt nettir: cevaptaki künye modelin ürettiği metinden mi geliyor, yoksa gösterilen bir kaynak belgeden mi? İkincisi doğrulanabilir, birincisi değildir.
ChatGPT güçlü bir araçtır ama hukuki araştırmada göreve uygun araç değildir. Belirleyici olan beş nokta: genel amaçlı modeli biçim ve dil işlerinde, kaynaklı sistemleri araştırmada kullanmak; her aracı cevabını bildiğiniz sorularla kendiniz test etmek; olmayan bir şeyi sorup uydurma eğilimini ölçmek; kaynaklı sistemlerin de riski azalttığını ama sıfırlamadığını kabul etmek; ve doğrulama adımını hiçbir koşulda devretmemek.
Miron AI, yanıtlarını Yargıtay, Danıştay ve Anayasa Mahkemesi kararlarına dayandırır ve daire ile esas/karar numarasını getirdiği kaynak belgeden gösterir. Bu, uydurma riskini genel amaçlı modellere kıyasla belirgin biçimde düşürür; ancak yukarıdaki doğrulama adımının yerini almaz — testlerinizi bizim üzerinde de yapın.
Bu içerik genel bilgilendirme amaçlıdır; hukuki görüş veya somut olaya özgü danışmanlık değildir.
Bu site işlevsel zorunlu çerezler kullanmaktadır. Analitik ve pazarlama çerezleri için onayınız gereklidir. Ayrıntılar için Çerez Politikası'nı inceleyebilirsiniz.