Yapay Zeka Ajanı Hata Yaptığında Kim Sorumlu? KOBİ'ler için Sözleşme Hukuku, Sorumluluk Muafiyeti ve Eskalasyon Modeli Açıklanıyor.
Yapay Zeka Ajanı gece yirmi müşteri sorusunu yanıtlar, randevuları kaydeder ve teklifler oluşturur. Pazartesi sabahı ortaya çıkar: Bir soru yanlış atanmış, yanlış fiyatla bir teklif gönderilmiş. Birçok KOBİ için bu an sorular teknik değil hukuki niteliklidir: Hasar kimi taşır, otomasyon sağlayıcısı mı yoksa kendi şirket mi?
Yapay Zeka Kullanımı sözleşme hukuku ilkelerini değiştirmez: Bir insan mı yoksa bir Yapay Zeka Sistemi mi somut hatayı yaptığından bağımsız olarak, sözleşme veya kanuni yükümlülüğü ihlal eden kişi sorumludur. Legal Tribune Online tarafından Yapay Zeka Kullanımında Sorumluluğu açıklayan yazıda da bu durum doğrulanmaktadır. Bir KOBİ için bu pratikte anlamına gelir: Yapay Zeka Ajanını işleten ve yöneten kişi, hatasının kaynağının kendi sürecinde mi yoksa kullanılan yazılımda mı olduğundan bağımsız olarak, kendi müşterileri karşısında başlangıçta sorumluluğu taşır. Ancak ikinci adımda, şirketin hasarı otomasyon veya yazılım sağlayıcısından iç ilişkilerde geri alıp alamayacağı ve ne kadarını alabileceği sorusu ortaya çıkar, ve tam olarak bunu sağlayıcı ile yapılan sözleşme, özellikle sorumluluğu ilişkin hükümler düzenler.
Bir otomasyon projesinin eser sözleşmesi mi yoksa hizmet sözleşmesi mi olarak sınıflandırıldığı, sorumluluğun ne kadar katı olduğunu önemli ölçüde belirler. Eser sözleşmesinde sağlayıcı, belli ve kusursuz bir sonuç verilmesi yükümlüdür: Yapay Zeka Ajanı bir yapılandırma veya eğitim hatasından dolayı sürekli olarak yanlış sonuçlar verirse, bu bir kusurluluktur ve kusurluluk derecesinden bağımsız olarak yeniden yapma, indirim veya tazminat talep edilebilir. Hizmet sözleşmesinde sağlayıcı ise yalnızca dikkatli çalışma verilmesi yükümlüdür, belli bir başarı değil; sorumluluğu burada kural olarak kanıtlanabilir kusurluluk gerektirir. Birçok otomasyon projesinde bu sözleşme hukuku açısından temiz bir şekilde ayrılmamıştır, ancak tam da bu sınıflandırma uyuşmazlık durumunda belirleyici role sahiptir.
Yapay Zeka Hatalarında Sorumluluğu İlişkin Muafiyet yalnızca teknik gerçekliği yansıtıyorsa ve her iki sözleşme tarafı için nasıl çalıştığı açık kalırsa güvenilirdir; bu durum yasal müşavir Herfurtner tarafından Yapay Zeka Sorumluluğu Muafiyetine İlişkin Değerlendirmede de belirtilmektedir. Genel İş Koşullarında tamamen sorumluluğu muaf tutmak, kabahat veya kasıt söz konusu olur olmaz veya esaslı sözleşme yükümlülüklerinin ihlali söz konusu olur olmaz çoğunlukla hükümsüzleştirilir. Pratikte bu nedenle sorumluluğun sınırlandırılması tamamen muaf tutmaktan daha makul olunur: her zarar vakaı başına sorumluluğun en yüksek tutarı, dolaylı sonuç hasarları örneğin kaybedilen kâr muafiyeti, ve kusurluluk derecesine göre aşamalı sınırlandırma. Bir sözleşme imzalayan KOBİ, tam olarak bu üç noktayı adı geçen bir şekilde görmeli, genel kloza güvenmemelidir.
Belirsizlik halinde bağımsız karar vermek yerine otomatik olarak bir insana yönlendiren bir Yapay Zeka Ajanı, sorumluluğu riskini belirgin ölçüde azaltır, çünkü son karar kanıtlanabilir biçimde bir kişide kalır. Tam olarak bu ilkesine dayanarak NordFlux Yapay Zeka Ajanları müşteriler için oluşturur: Sınır durumlar, örneğin alışılmadık derecede yüksek fatura tutarları veya çelişkili müşteri verileri, otomatik olarak kabul edilmez, aksi takdirde bir insan tarafından onay için bir yere ulaşır. Bu yasal bir sözcük-oyunu değil, yaşanan dikkat meselesidir: Bir uyuşmazlık durumunda kimin ne zaman ne karar verdiğini veya onayladığını gösteren kusursuz bir protokol, çoğunlukla şirketin kontrol yükümlülüklerini ciddiye aldığını kanıtlayan belirleyici kanıttır. Bir otomasyon planlaması yapan biri, eskalasyon eşiklerini ilk hatadan sonra değil, başlangıçtan itibaren kendi Yapay Zeka Danışmanlığında tanımlamalıdır.
Yenilenen AB Ürün Sorumluluğu Yönergesinde Yazılım ve Yapay Zeka Sistemleri ilk kez açıkça ürün hukuku anlamında ürün olarak sınıflandırılır, yasal müşavir Bird & Bird tarafından yapılan yeni Yönergenin Değerlendirilmesinde gösterilmektedir. Üye devletler, Yönergeyi 9 Aralık 2026 tarihine kadar ulusal kanunlara dahil etmek zorundadırlar, bu tarihinden sonra pazara sürülen ürünler için, karmaşık Yapay Zeka Sistemleri de dahil olmak üzere, ispat yükü tersine çevrilir: Artık zarar görenin kusurluluğu ispatlaması gerekmez, yasal müşavir hatasızlığı ispatlamak zorundadır. Paralel olarak, 2 Ağustos 2026'dan itibaren Yüksek Riskli Sistemler için AB Yapay Zeka Kanunu'nun tam yükümlülükleri yürürlüğe girecek, 35 Milyon Euro veya küresel yıllık cironun yüzde 7'sine kadar para cezaları söz konusu olacaktır. KOBİ'lerde çoğu otomasyon için, bizim KOBİ'ler için AB Yapay Zeka Kanunu konusundaki yazımız göstermiş olduğu gibi, bu en önemli engel değildir; çoğu 2027'de değil 2026'da otomasyon ortaklarının sözleşmesini incelemek için ek bir nedendir.
Bu Değerlendirme belirli bir durumdaki yasal müşaviri değiştirmez. Özellikle sözleşme hükümlerinin konkret oluşturulması, özellikle sorumluluğu ilişkin hükümleri ve eskalasyon eşikleri için, bir bilgisayar ve İnternet hukuku alanında uzman yasal müşavirin ilgili sözleşmeyi incelemesi tavsiye edilir.
Simon Glowik tarafından, 9 Temmuz 2026'da yayınlandı.
Kendi müşteri tarafına karşı başlangıçta Yapay Zeka Ajanını işleten ve yöneten şirket sorumludur. Hasarın, bu sağlayıcı ile yapılan sözleşmeye uygun olarak, otomasyon veya yazılım sağlayıcısından ne kadarını geri alıp alamayacağı ve ne ölçüde alınacağı, özellikle orada kararlaştırılmış sorumluluğu ilişkin hükümleri belirler.
Eser Sözleşmesinde sağlayıcı belli, kusursuz sonuç verilmesi yükümlüdür ve kusurluluk derecesinden bağımsız kusurların sorumluluğunu taşır. Hizmet Sözleşmesinde sağlayıcı yalnızca dikkatli çalışmayı yükümlüdür, sorumluluğu burada kural olarak kanıtlanabilir kusurluluk gerektirir.
Hayır, Genel İş Koşullarındaki tamamen sorumluluğu muaf tutmak, kabahat, kasıt veya esaslı sözleşme yükümlülükleri söz konusu olur olmaz çoğunlukla geçersiz kılınır. Alışılagelmiş ve daha güvenilir olan, toplam tutarla sorumluluğun sınırlandırılması yerine bir Sınırlandırma Muafiyeti şeklidir.
KOBİ'lerde çoğu otomasyon için açık bir yasal yükümlülük değildir, yalnız etkili bir dikkat gösterisinin kanıtı olur. Belgelenen bir eskalasyon modeli, uyuşmazlık durumunda kritik kararların bir insan tarafında kaldığını gösterir.
AB Yapay Zeka Kanunu, özellikle risk sınıfına göre denetim hukuku yükümlülüklerini düzenler, medeni hukuk sorumluluğunun kendisini düzenlemez. KOBİ'lerde çoğu otomasyon, bizim KOBİ'ler için AB Yapay Zeka Kanunu konusundaki yazı doğrultusunda, düşük bir risk sınıfında yer almaktadır.
NordFlux, kuruluşlar için dijital çalışanlar kurar: tekrar eden işleri üstlenen otomasyonlar ve KI ajanları. Kontrol sizde kalır.
AB Yapay Zekâ Yasası kademeli olarak yürürlüğe giriyor. Küçük ve orta ölçekli işletmelerin bilmesi gerekenler, hangi yükümlülüklerin geçerli olduğu ve neden panik kötü bir danışmandır.
Ücretsiz bir ön analizde durumunuzu doğrudan görüşürüz. Bağlayıcı değildir.
