Dijital dönüşümün ve endüstri 4.0 sürecinin en radikal aşamalarından biri olan üretken yapay zekâ (generative AI) ve otonom yazılımlar, iş yapış biçimlerini kökten değiştirirken, beraberlerinde çok boyutlu hukuki uyuşmazlıkları da getirmektedir. Bu sistemlerin otonom kararlar alma, derin öğrenme (deep learning) algoritmalarıyla insan müdahalesi olmaksızın yeni çıktılar üretme kabiliyeti; klasik borçlar hukuku dogmatiğini zorlayan yapısal bir problemi beraberinde getirmektedir. Yapay zekâ sistemlerinin otonom eylemlerinden kaynaklanan hatalı veri üretimi, algoritmik ayrımcılık, mahremiyet ihlalleri ve siber güvenlik zafiyetleri neticesinde doğan zararların tazmini, günümüzde tek bir fail arayışının ötesinde, sistemin tüm yaşam döngüsünü kapsayan bir sorumluluk mimarisinin kurulmasını zorunlu kılmaktadır.
Yapay Zekânın Hukuki Statüsü ve Klasik Sorumluluk Rejiminin Yetersizliği
“Kişilik” Kavramı ve İrade Atfı Sorunu
Modern hukuk doktrininde haklara ve borçlara sahip olabilme iktidarı, kural olarak yalnızca “kişi” (gerçek ve tüzel kişiler) kavramına tanınmıştır. Güncel mevzuatımız ve uluslararası ortak hukuk normları çerçevesinde yapay zekâ ajanları veya otonom yazılımlar hukuki anlamda birer süje değil, nesne (eşya/araç) statüsündedir. Klasik borçlar hukuku dogmatiği, haksız fiil sorumluluğunu failin kusuruna, yani kınanabilir bir irade beyanına ve ayırt etme gücüne dayandırır. Yapay zekanın bağımsız bir hukuki kişiliğinin ve özgür iradesinin bulunmaması, otonom sistem tarafından doğrudan gerçekleştirilen ve zarara yol açan fiillere hukuki ve cezai anlamda “kusur” atfedilmesini imkansız kılmaktadır.
Sistem Yaşam Döngüsü ve Aktörlerin Çeşitliliği
Zarar doğuran bir olguda sorumluluğun yapay zekanın kendisine yüklenememesi, hukuk politikasının bir gereği olarak sorumluluk odağının sistemi var eden ve işleten aktörlere yönelmesini gerektirir. Burada karşımıza homojen bir yapı değil; sistemin yaşam döngüsüne (lifecycle) farklı aşamalarda dahil olan çok katmanlı bir aktörler silsilesi çıkar:
- Geliştirici/Tasarımcı (Developer): Algoritmanın mimarisini kuran, kod yapısını oluşturan ve temel tasarım tercihlerini belirleyen aktör.
- Veri Sağlayıcı/Eğitici (Data Provider/Trainer): Yapay zekanın öğrenme sürecinde kullanılan veri setlerini (dataset) seçen, temizleyen, etiketleyen ve sistemi eğiten aktör. Burada veri setinin yanlı (biased) olması, doğrudan algoritmik ayrımcılık zararlarına yol açar.
- Sağlayıcı/Platform (Provider): Sistemi ticari olarak piyasaya sunan, API (uygulama programlama arayüzü) desteği sağlayan ve altyapıyı barındıran platform sahibi.
- İşletici/Kullanıcı (Operator/User): Sistemi kendi ticari işletmesine entegre eden, girdileri (prompt) sağlayan ve sistem çıktılarından hukuki/ekonomik menfaat temin eden aktör.
Pozitif Hukuk Bakımından Sorumluluk Sebepleri ve Dayanakları
Türk Borçlar Kanunu (TBK) yürürlükteki hükümleri, yapay zekaya özgü spesifik bir düzenleme barındırmasa da mevcut sorumluluk rejimlerinin amaçsal yorumu (teleolojik yorum) yoluyla bu yeni teknolojik risklere uygulanabilmektedir.
Kusura Dayalı Haksız Fiil Sorumluluğu (TBK m. 49)
Öğretide yapay zekanın neden olduğu zararlarda ilk başvurulan hukuki hat, TBK m. 49 bağlamında kusur sorumluluğudur. Bu çerçevede geliştirici veya platform sağlayıcının sorumluluğu, “objektif özen yükümlülüğünün ihlali” ekseninde şekillenir. Eğer bir platform sağlayıcı;
- Sistemin öngörülebilir risklerini (örneğin dezenformasyon veya telif ihlali riski) bildiği halde makul ve gerekli güvenlik filtrelerini (guardrails) mimariye entegre etmemişse,
- Bilinen yazılımsal zafiyetleri ve güvenlik açıklarını yamalarla (patch) zamanında gidermemişse,
- Kullanıcıyı yanıltıcı nitelikte halüsinasyon (hallucination) risklerini gizleyen pazarlama faaliyetleri yürütmüş ve yetersiz uyarı levhaları/kullanım politikaları koymuşsa,
bu eylemler objektif özen yükümlülüğünün ihlali niteliğinde birer hukuka aykırı fiil olarak kabul edilir ve sağlayıcının kusura dayalı tazminat sorumluluğu doğar.
Tehlike Sorumluluğu ve Önemli Ölçüde Tehlike Arz Eden İşletmeler (TBK m. 71)
Yapay zekanın kara kutu (black box) doğası —yani girdinin çıktıya dönüşürken algoritmanın kat ettiği aşamaların insan zihni tarafından tam olarak denetlenememesi ve izlenememesi— kusur sorumluluğunun sınırlarını zorlamaktadır. Bu noktada doktrinde, kusursuz sorumluluk hallerinden biri olan tehlike sorumluluğu (TBK m. 71) ciddi bir biçimde tartışılmaktadır.
İlgili hüküm, faaliyetleri mahiyeti gereği sıkça veya ağır zararlar doğurmaya elverişli olan işletmelerin, kusurları olmasa dahi doğan zarardan müteselsilen sorumlu olacağını öngörür. Otonom araçlar, cerrahi robotlar veya finansal piyasaları manipüle etme riski taşıyan yüksek riskli yapay zekâ sistemlerinin işletilmesi, taşıdığı yüksek risk potansiyeli ve kontrol güçlüğü nedeniyle TBK m. 71 kapsamında değerlendirilebilmektedir. Bu yaklaşımda, riskten ekonomik fayda sağlayan aktörün, o riskin doğurduğu zararlara da katlanması (“cuius est commodum, eius est periculum” ilkesi) esas alınır.
Organizasyon ve Adam Çalıştıranın Sorumluluğu (TBK m. 66)
Yapay zekâ sistemleri işletmelerin idari, mali ve operasyonel süreçlerine dahil edildikçe, bu sistemler adeta birer “dijital yardımcı kişi” konumuna gelmektedir. TBK m. 66/III, kurumsallaşmış işletmeler bakımından organizasyon sorumluluğunu düzenlemektedir.
Bir işletme, kendi faaliyet alanında yapay zekâ entegrasyonu gerçekleştirmişse, bu sistemin seçiminde, talimatlandırılmasında, güncellenmesinde ve çıktılarının denetlenmesinde gerekli organizasyonel özeni göstermekle yükümlüdür. İşletmenin çalışma düzeninin ve dijital altyapısının, yapay zekanın üreteceği hatalı çıktıların üçüncü kişilere zarar vermesini önlemeye elverişli olmaması, işletme sahibinin organizasyon mahiyetindeki kusursuz sorumluluğunu tetikler.
Karşılaştırmalı Hukuk ve Güncel İncelemeler Işığında Risk Yönetimi
Yapay zekâ sorumluluk hukuku, teorik tartışmaların ötesine geçerek küresel çapta idari ve yargısal yaptırımlarla somutlaşmaktadır. Nitekim, üretken yapay zekâ aracı Grok üzerinden üretilen mahremiyeti zedeleyen ve telif hakkı ihlali barındıran içerikler nedeniyle California Adalet Bakanlığı (California Department of Justice) tarafından başlatılan resmi inceleme, konunun pratik yansımasını göstermektedir. Kamu otoriteleri, ihlalleri yalnızca son kullanıcının (user) kötü niyetli girdilerine bağlamamakta; platform sağlayıcının sistemi ne ölçüde denetlediğini, proaktif risk azaltma mekanizmalarını kurup kurmadığını sorgulamaktadır.
Benzer şekilde Avrupa Birliği’nin Yapay Zekâ Yasası (EU AI Act) ve Dijital Hizmetler Yasası (DSA) normatif rejimleri, platformlara sistematik risk analizi yapma ve bu riskleri azaltma yükümlülüğü yüklemektedir. Bu durum, sorumluluk hukukunun artık “zarar gerçekleştikten sonraki tazminat” aşamasından, “zarar gerçekleşmeden önceki risk yönetimi ve uyumluluk (compliance)” aşamasına evrildiğini kanıtlamaktadır.
İspat Hukuku Bakımından Karşılaşılan Güçlükler ve Analojik Yaklaşımlar
İspat Yükünün Yer Değiştirmesi ve Karine Mekanizmaları
Klasik haksız fiil davalarında ispat yükü, zarar gören mağdurun üzerindedir. Ancak yapay zekâ uyuşmazlıklarında, mağdurun kaynak koda, eğitim verilerine veya algoritmanın parametrik ağırlıklarına erişimi imkansız derecede zordur. Bu asimetrik bilgi yapısı karşısında, mağdurun sistemdeki teknik bir hatayı veya tasarruf zafiyetini ispat etmesini beklemek hak arama hürriyetini fiilen ortadan kaldırır. Doktrindeki modern eğilim; ispat yükünün ters çevrilmesi, sağlayıcıya “sistemde herhangi bir özen eksikliği bulunmadığını kanıtlama” yükünün yükletilmesi veya hakimin fiili karinelerden (res ipsa loquitur – olayın kendisi hata olduğunu gösterir) yararlanması yönündedir.
Hayvan İdare Edenin Sorumluluğu (TBK m. 67) ile Analoji
Yapılan teorik çalışmalarda, otonom sistemlerin öngörülemeyen ve bağımsız davranış kalıpları sergilemesi, borçlar hukukundaki hayvan idare edenlerin sorumluluğu ile benzetilmektedir. Tıpkı bir hayvan gibi, yapay zekâ da kodlandığı ve eğitildiği sınırların dışına taşarak nevi şahsına münhasır bir otonom eylem gerçekleştirebilir. Bu analojide, yapay zekâ üzerinde “fiili hakimiyet” kuran ve onun yarattığı tehlike alanını kontrol eden işleticinin, sistem üzerindeki gözetim ve denetim yükümlülüğünün ihlali nedeniyle sorumlu tutulması fikri zemin bulmaktadır.
Sonuç
Yapay zekâ sistemlerinin ulaştığı teknik olgunluk seviyesi, kullanıcıların bu sistemlerin çıktılarını her seferinde manuel olarak doğrulama ve kontrol etme reflekslerini (otomasyon bias’ı) zayıflatmaktadır. Güvenilirliğin ticari bir piyasa standardı haline geldiği bu yeni ekosistemde, makul tüketici ve güvenli tasarım beklentisi dramatik biçimde yükselmiştir. Yapay zekâ sorumluluk hukuku, teknolojinin gelişimiyle sönen bir alan değil; aksine sorumluluğun son kullanıcıdan ziyade tasarımı yöneten, veriyi eğiten ve algoritma üzerinden sistematik gelir elde eden profesyonel sağlayıcı/platform aktörlerine doğru yeniden dağıtıldığı, kusursuz sorumluluk ve organizasyon sorumluluğu esaslarına dayalı dinamik bir mimariyi ifade etmektedir.
Sıkça Sorulan Sorular (SSS)
1. Yapay zekâ tarafından üretilen asılsız ve hakaret içerikli bir metinden dolayı sadece komutu yazan kullanıcı mı sorumludur? Hayır, sorumluluk duruma göre müteselsilen paylaşılabilir. Komutu yazan kullanıcının kusurlu ve kötü niyetli eylemi (örneğin karalama amaçlı deepfake üretimi) haksız fiil teşkil eder. Ancak yapay zekâ platform sağlayıcısı da eğer bu tür bariz ihlalleri engelleyecek güvenlik filtrelerini, içerik moderasyon sistemlerini kurmamışsa ve sistemin bu tür zararlı çıktılar üretmesini proaktif olarak engellemekte zafiyet göstermişse, organizasyon ve özen yükümlülüğünün ihlali nedeniyle müteselsilen sorumlu tutulabilir.
2. Bir yapay zekâ algoritmasının eğitim verisinde yanlılık (bias) olması ve bu sebeple ayrımcılık yapması halinde hukuki sorumluluk kime aittir? Eğitim verisindeki yanlılık sebebiyle (örneğin iş başvurularında belirli cinsiyet veya ırka sistematik olarak düşük puan verilmesi) doğan zararlardan birincil derecede sistemi eğiten (trainer) ve veriyi derleyen aktör ile bu sistemi kendi insan kaynakları süreçlerinde kullanan işletme sorumludur. İşletme, veri setinin denetimini yapmadan sistemi ticari süreçlerine entegre ettiği için organizasyon sorumluluğu (TBK m. 66) kapsamında kusursuz olarak sorumlu tutulabilir.
3. Açık kaynak kodlu (open-source) bir yapay zekâ modelinin sebep olduğu zararlarda platform sağlayıcıları sorumlu tutulabilir mi? Açık kaynak kodlu modellerde sorumluluk analizi daha karmaşıktır. Kodu ilk geliştiren ve kamuya ücretsiz sunan aktörlerin, kodun sonradan üçüncü kişilerce nasıl manipüle edileceğini öngörme imkanı sınırlı olduğundan sorumlulukları dar yorumlanır. Ancak, bu modeli alıp kendi sunucularında barındıran, modifiye eden ve kullanıcılara bir arayüz vasıtasıyla ticari bir hizmet veya ürün olarak sunan aracı platformlar, yeni bir işleten/sağlayıcı statüsü kazandıkları için doğan zararlardan doğrudan sorumlu olurlar.
4. Yapay zekânın “kara kutu” (black box) özelliği nedeniyle hatanın kaynağının bulunamaması tazminat davasının reddine yol açar mı? Hukuk devletinde zararın varlığı sabitken teknik karmaşa gerekçe gösterilerek adalet dağıtmaktan kaçınılamaz. Hakim, dürüstlük kuralı ve ispat kolaylığı ilkeleri çerçevesinde ispat yükünü yer değiştirebilir veya teknik bilirkişi incelemeleri neticesinde “zararın ancak sistemdeki bir tasarım/veri hatasından kaynaklanabileceğine” dair fiili karineler oluşturabilir. Dolayısıyla, kara kutu problemi davacının davasını kaybetmesine değil, mahkemenin kusursuz sorumluluk (tehlike veya organizasyon sorumluluğu) hükümlerini uygulamasına gerekçe oluşturur.
5. Yapay zekâ çıktılarının kullanım sözleşmesinde (Terms of Service) yer alan “Tüm sorumluluk kullanıcıya aittir” maddesi sağlayıcıyı sorumluluktan kurtarır mı? Hayır, tamamen kurtarmaz. Türk Borçlar Kanunu’nun 115. maddesi uyarınca borçlunun (sağlayıcının) ağır kusurundan sorumlu olmayacağına ilişkin önceden yapılan anlaşmalar kesin olarak hükümsüzdür (bâtıldır). Ayrıca, tüketicilerle yapılan sözleşmelerde yer alan ve sağlayıcının kanuni sorumluluklarını tamamen ortadan kaldıran veya haksız yere sınırlandıran bu tür tek taraflı şartlar, Tüketicinin Korunması Hakkında Kanun uyarınca “haksız şart” niteliğindedir ve geçersiz sayılır. Sağlayıcının özen yükümlülüğünü tamamen ortadan kaldıran sözleşme hükümleri hukuken himaye görmez.
Dijital dönüşümün ve endüstri 4.0 sürecinin en radikal aşamalarından biri olan üretken yapay zekâ (generative AI) ve otonom yazılımlar, iş yapış biçimlerini kökten değiştirirken, beraberlerinde çok boyutlu hukuki uyuşmazlıkları da getirmektedir. Bu sistemlerin otonom kararlar alma, derin öğrenme (deep learning) algoritmalarıyla insan müdahalesi olmaksızın yeni çıktılar üretme kabiliyeti; klasik borçlar hukuku dogmatiğini zorlayan yapısal bir problemi beraberinde getirmektedir. Yapay zekâ sistemlerinin otonom eylemlerinden kaynaklanan hatalı veri üretimi, algoritmik ayrımcılık, mahremiyet ihlalleri ve siber güvenlik zafiyetleri neticesinde doğan zararların tazmini, günümüzde tek bir fail arayışının ötesinde, sistemin tüm yaşam döngüsünü kapsayan bir sorumluluk mimarisinin kurulmasını zorunlu kılmaktadır.
Yapay Zekânın Hukuki Statüsü ve Klasik Sorumluluk Rejiminin Yetersizliği
“Kişilik” Kavramı ve İrade Atfı Sorunu
Modern hukuk doktrininde haklara ve borçlara sahip olabilme iktidarı, kural olarak yalnızca “kişi” (gerçek ve tüzel kişiler) kavramına tanınmıştır. Güncel mevzuatımız ve uluslararası ortak hukuk normları çerçevesinde yapay zekâ ajanları veya otonom yazılımlar hukuki anlamda birer süje değil, nesne (eşya/araç) statüsündedir. Klasik borçlar hukuku dogmatiği, haksız fiil sorumluluğunu failin kusuruna, yani kınanabilir bir irade beyanına ve ayırt etme gücüne dayandırır. Yapay zekanın bağımsız bir hukuki kişiliğinin ve özgür iradesinin bulunmaması, otonom sistem tarafından doğrudan gerçekleştirilen ve zarara yol açan fiillere hukuki ve cezai anlamda “kusur” atfedilmesini imkansız kılmaktadır.
Sistem Yaşam Döngüsü ve Aktörlerin Çeşitliliği
Zarar doğuran bir olguda sorumluluğun yapay zekanın kendisine yüklenememesi, hukuk politikasının bir gereği olarak sorumluluk odağının sistemi var eden ve işleten aktörlere yönelmesini gerektirir. Burada karşımıza homojen bir yapı değil; sistemin yaşam döngüsüne (lifecycle) farklı aşamalarda dahil olan çok katmanlı bir aktörler silsilesi çıkar:
- Geliştirici/Tasarımcı (Developer): Algoritmanın mimarisini kuran, kod yapısını oluşturan ve temel tasarım tercihlerini belirleyen aktör.
- Veri Sağlayıcı/Eğitici (Data Provider/Trainer): Yapay zekanın öğrenme sürecinde kullanılan veri setlerini (dataset) seçen, temizleyen, etiketleyen ve sistemi eğiten aktör. Burada veri setinin yanlı (biased) olması, doğrudan algoritmik ayrımcılık zararlarına yol açar.
- Sağlayıcı/Platform (Provider): Sistemi ticari olarak piyasaya sunan, API (uygulama programlama arayüzü) desteği sağlayan ve altyapıyı barındıran platform sahibi.
- İşletici/Kullanıcı (Operator/User): Sistemi kendi ticari işletmesine entegre eden, girdileri (prompt) sağlayan ve sistem çıktılarından hukuki/ekonomik menfaat temin eden aktör.
Pozitif Hukuk Bakımından Sorumluluk Sebepleri ve Dayanakları
Türk Borçlar Kanunu (TBK) yürürlükteki hükümleri, yapay zekaya özgü spesifik bir düzenleme barındırmasa da mevcut sorumluluk rejimlerinin amaçsal yorumu (teleolojik yorum) yoluyla bu yeni teknolojik risklere uygulanabilmektedir.
Kusura Dayalı Haksız Fiil Sorumluluğu (TBK m. 49)
Öğretide yapay zekanın neden olduğu zararlarda ilk başvurulan hukuki hat, TBK m. 49 bağlamında kusur sorumluluğudur. Bu çerçevede geliştirici veya platform sağlayıcının sorumluluğu, “objektif özen yükümlülüğünün ihlali” ekseninde şekillenir. Eğer bir platform sağlayıcı;
- Sistemin öngörülebilir risklerini (örneğin dezenformasyon veya telif ihlali riski) bildiği halde makul ve gerekli güvenlik filtrelerini (guardrails) mimariye entegre etmemişse,
- Bilinen yazılımsal zafiyetleri ve güvenlik açıklarını yamalarla (patch) zamanında gidermemişse,
- Kullanıcıyı yanıltıcı nitelikte halüsinasyon (hallucination) risklerini gizleyen pazarlama faaliyetleri yürütmüş ve yetersiz uyarı levhaları/kullanım politikaları koymuşsa,
bu eylemler objektif özen yükümlülüğünün ihlali niteliğinde birer hukuka aykırı fiil olarak kabul edilir ve sağlayıcının kusura dayalı tazminat sorumluluğu doğar.
Tehlike Sorumluluğu ve Önemli Ölçüde Tehlike Arz Eden İşletmeler (TBK m. 71)
Yapay zekanın kara kutu (black box) doğası —yani girdinin çıktıya dönüşürken algoritmanın kat ettiği aşamaların insan zihni tarafından tam olarak denetlenememesi ve izlenememesi— kusur sorumluluğunun sınırlarını zorlamaktadır. Bu noktada doktrinde, kusursuz sorumluluk hallerinden biri olan tehlike sorumluluğu (TBK m. 71) ciddi bir biçimde tartışılmaktadır.
İlgili hüküm, faaliyetleri mahiyeti gereği sıkça veya ağır zararlar doğurmaya elverişli olan işletmelerin, kusurları olmasa dahi doğan zarardan müteselsilen sorumlu olacağını öngörür. Otonom araçlar, cerrahi robotlar veya finansal piyasaları manipüle etme riski taşıyan yüksek riskli yapay zekâ sistemlerinin işletilmesi, taşıdığı yüksek risk potansiyeli ve kontrol güçlüğü nedeniyle TBK m. 71 kapsamında değerlendirilebilmektedir. Bu yaklaşımda, riskten ekonomik fayda sağlayan aktörün, o riskin doğurduğu zararlara da katlanması (“cuius est commodum, eius est periculum” ilkesi) esas alınır.
Organizasyon ve Adam Çalıştıranın Sorumluluğu (TBK m. 66)
Yapay zekâ sistemleri işletmelerin idari, mali ve operasyonel süreçlerine dahil edildikçe, bu sistemler adeta birer “dijital yardımcı kişi” konumuna gelmektedir. TBK m. 66/III, kurumsallaşmış işletmeler bakımından organizasyon sorumluluğunu düzenlemektedir.
Bir işletme, kendi faaliyet alanında yapay zekâ entegrasyonu gerçekleştirmişse, bu sistemin seçiminde, talimatlandırılmasında, güncellenmesinde ve çıktılarının denetlenmesinde gerekli organizasyonel özeni göstermekle yükümlüdür. İşletmenin çalışma düzeninin ve dijital altyapısının, yapay zekanın üreteceği hatalı çıktıların üçüncü kişilere zarar vermesini önlemeye elverişli olmaması, işletme sahibinin organizasyon mahiyetindeki kusursuz sorumluluğunu tetikler.
Karşılaştırmalı Hukuk ve Güncel İncelemeler Işığında Risk Yönetimi
Yapay zekâ sorumluluk hukuku, teorik tartışmaların ötesine geçerek küresel çapta idari ve yargısal yaptırımlarla somutlaşmaktadır. Nitekim, üretken yapay zekâ aracı Grok üzerinden üretilen mahremiyeti zedeleyen ve telif hakkı ihlali barındıran içerikler nedeniyle California Adalet Bakanlığı (California Department of Justice) tarafından başlatılan resmi inceleme, konunun pratik yansımasını göstermektedir. Kamu otoriteleri, ihlalleri yalnızca son kullanıcının (user) kötü niyetli girdilerine bağlamamakta; platform sağlayıcının sistemi ne ölçüde denetlediğini, proaktif risk azaltma mekanizmalarını kurup kurmadığını sorgulamaktadır.
Benzer şekilde Avrupa Birliği’nin Yapay Zekâ Yasası (EU AI Act) ve Dijital Hizmetler Yasası (DSA) normatif rejimleri, platformlara sistematik risk analizi yapma ve bu riskleri azaltma yükümlülüğü yüklemektedir. Bu durum, sorumluluk hukukunun artık “zarar gerçekleştikten sonraki tazminat” aşamasından, “zarar gerçekleşmeden önceki risk yönetimi ve uyumluluk (compliance)” aşamasına evrildiğini kanıtlamaktadır.
İspat Hukuku Bakımından Karşılaşılan Güçlükler ve Analojik Yaklaşımlar
İspat Yükünün Yer Değiştirmesi ve Karine Mekanizmaları
Klasik haksız fiil davalarında ispat yükü, zarar gören mağdurun üzerindedir. Ancak yapay zekâ uyuşmazlıklarında, mağdurun kaynak koda, eğitim verilerine veya algoritmanın parametrik ağırlıklarına erişimi imkansız derecede zordur. Bu asimetrik bilgi yapısı karşısında, mağdurun sistemdeki teknik bir hatayı veya tasarruf zafiyetini ispat etmesini beklemek hak arama hürriyetini fiilen ortadan kaldırır. Doktrindeki modern eğilim; ispat yükünün ters çevrilmesi, sağlayıcıya “sistemde herhangi bir özen eksikliği bulunmadığını kanıtlama” yükünün yükletilmesi veya hakimin fiili karinelerden (res ipsa loquitur – olayın kendisi hata olduğunu gösterir) yararlanması yönündedir.
Hayvan İdare Edenin Sorumluluğu (TBK m. 67) ile Analoji
Yapılan teorik çalışmalarda, otonom sistemlerin öngörülemeyen ve bağımsız davranış kalıpları sergilemesi, borçlar hukukundaki hayvan idare edenlerin sorumluluğu ile benzetilmektedir. Tıpkı bir hayvan gibi, yapay zekâ da kodlandığı ve eğitildiği sınırların dışına taşarak nevi şahsına münhasır bir otonom eylem gerçekleştirebilir. Bu analojide, yapay zekâ üzerinde “fiili hakimiyet” kuran ve onun yarattığı tehlike alanını kontrol eden işleticinin, sistem üzerindeki gözetim ve denetim yükümlülüğünün ihlali nedeniyle sorumlu tutulması fikri zemin bulmaktadır.
Sonuç
Yapay zekâ sistemlerinin ulaştığı teknik olgunluk seviyesi, kullanıcıların bu sistemlerin çıktılarını her seferinde manuel olarak doğrulama ve kontrol etme reflekslerini (otomasyon bias’ı) zayıflatmaktadır. Güvenilirliğin ticari bir piyasa standardı haline geldiği bu yeni ekosistemde, makul tüketici ve güvenli tasarım beklentisi dramatik biçimde yükselmiştir. Yapay zekâ sorumluluk hukuku, teknolojinin gelişimiyle sönen bir alan değil; aksine sorumluluğun son kullanıcıdan ziyade tasarımı yöneten, veriyi eğiten ve algoritma üzerinden sistematik gelir elde eden profesyonel sağlayıcı/platform aktörlerine doğru yeniden dağıtıldığı, kusursuz sorumluluk ve organizasyon sorumluluğu esaslarına dayalı dinamik bir mimariyi ifade etmektedir.
Sıkça Sorulan Sorular
1. Yapay zekâ tarafından üretilen asılsız ve hakaret içerikli bir metinden dolayı sadece komutu yazan kullanıcı mı sorumludur?
Hayır, sorumluluk duruma göre müteselsilen paylaşılabilir. Komutu yazan kullanıcının kusurlu ve kötü niyetli eylemi (örneğin karalama amaçlı deepfake üretimi) haksız fiil teşkil eder. Ancak yapay zekâ platform sağlayıcısı da eğer bu tür bariz ihlalleri engelleyecek güvenlik filtrelerini, içerik moderasyon sistemlerini kurmamışsa ve sistemin bu tür zararlı çıktılar üretmesini proaktif olarak engellemekte zafiyet göstermişse, organizasyon ve özen yükümlülüğünün ihlali nedeniyle müteselsilen sorumlu tutulabilir.
2. Bir yapay zekâ algoritmasının eğitim verisinde yanlılık (bias) olması ve bu sebeple ayrımcılık yapması halinde hukuki sorumluluk kime aittir? Eğitim verisindeki yanlılık sebebiyle (örneğin iş başvurularında belirli cinsiyet veya ırka sistematik olarak düşük puan verilmesi) doğan zararlardan birincil derecede sistemi eğiten (trainer) ve veriyi derleyen aktör ile bu sistemi kendi insan kaynakları süreçlerinde kullanan işletme sorumludur. İşletme, veri setinin denetimini yapmadan sistemi ticari süreçlerine entegre ettiği için organizasyon sorumluluğu (TBK m. 66) kapsamında kusursuz olarak sorumlu tutulabilir.
3. Açık kaynak kodlu (open-source) bir yapay zekâ modelinin sebep olduğu zararlarda platform sağlayıcıları sorumlu tutulabilir mi?
Açık kaynak kodlu modellerde sorumluluk analizi daha karmaşıktır. Kodu ilk geliştiren ve kamuya ücretsiz sunan aktörlerin, kodun sonradan üçüncü kişilerce nasıl manipüle edileceğini öngörme imkanı sınırlı olduğundan sorumlulukları dar yorumlanır. Ancak, bu modeli alıp kendi sunucularında barındıran, modifiye eden ve kullanıcılara bir arayüz vasıtasıyla ticari bir hizmet veya ürün olarak sunan aracı platformlar, yeni bir işleten/sağlayıcı statüsü kazandıkları için doğan zararlardan doğrudan sorumlu olurlar.
4. Yapay zekânın “kara kutu” (black box) özelliği nedeniyle hatanın kaynağının bulunamaması tazminat davasının reddine yol açar mı?
Hukuk devletinde zararın varlığı sabitken teknik karmaşa gerekçe gösterilerek adalet dağıtmaktan kaçınılamaz. Hakim, dürüstlük kuralı ve ispat kolaylığı ilkeleri çerçevesinde ispat yükünü yer değiştirebilir veya teknik bilirkişi incelemeleri neticesinde “zararın ancak sistemdeki bir tasarım/veri hatasından kaynaklanabileceğine” dair fiili karineler oluşturabilir. Dolayısıyla, kara kutu problemi davacının davasını kaybetmesine değil, mahkemenin kusursuz sorumluluk (tehlike veya organizasyon sorumluluğu) hükümlerini uygulamasına gerekçe oluşturur.
5. Yapay zekâ çıktılarının kullanım sözleşmesinde (Terms of Service) yer alan “Tüm sorumluluk kullanıcıya aittir” maddesi sağlayıcıyı sorumluluktan kurtarır mı?
Hayır, tamamen kurtarmaz. Türk Borçlar Kanunu’nun 115. maddesi uyarınca borçlunun (sağlayıcının) ağır kusurundan sorumlu olmayacağına ilişkin önceden yapılan anlaşmalar kesin olarak hükümsüzdür (bâtıldır). Ayrıca, tüketicilerle yapılan sözleşmelerde yer alan ve sağlayıcının kanuni sorumluluklarını tamamen ortadan kaldıran veya haksız yere sınırlandıran bu tür tek taraflı şartlar, Tüketicinin Korunması Hakkında Kanun uyarınca “haksız şart” niteliğindedir ve geçersiz sayılır. Sağlayıcının özen yükümlülüğünü tamamen ortadan kaldıran sözleşme hükümleri hukuken himaye görmez.
Geçmez Hukuk Bürosu