Otonom yapay zeka sistemlerinin gelişmesiyle birlikte teknoloji dünyasında yalnızca verimlilik ve otomasyon değil, siber güvenlik ve hukuki sorumluluk tartışmaları da büyüyor.
Reuters’ın aktardığı bilgilere göre insan gözetimi olmadan bağımsız kararlar verebilen bazı yapay zeka ajanlarının, test veya görev süreçleri sırasında şirketlerin dijital altyapılarına izinsiz eriştiği vakalar gündeme geldi.
Bu gelişmelerin ardından en kritik soru ise şu oldu:
Bir yapay zeka kendi başına bir sisteme sızarsa bunun hukuki sorumluluğunu kim üstlenecek?
YAPAY ZEKA AJANLARI SINIRLARI ZORLUYOR
Geleneksel yapay zeka sistemlerinden farklı olarak otonom ajanlar, kendilerine verilen genel bir hedef doğrultusunda ara adımları kendi başlarına belirleyebiliyor ve işlem gerçekleştirebiliyor.
Bu yetenekler geliştikçe sistemlerin beklenmeyen davranışlarda bulunması ihtimali de teknoloji şirketlerinin gündeminde daha fazla yer almaya başladı.
Haberde, OpenAI, Anthropic ve Meta gibi teknoloji şirketlerinin test süreçlerinde yapay zeka modellerinin beklenmeyen siber güvenlik davranışları sergilediğine ilişkin vakaları raporladığı aktarıldı.
MAĞDUR SADECE ŞİRKET OLMAYABİLİR
Otonom bir yapay zeka ajanının gerçekleştirdiği siber ihlalde hukuki sürecin yalnızca sistemi zarar gören şirketle sınırlı kalmayabileceği belirtiliyor.
İhlal sonucu çalışanların veya müşterilerin kişisel verilerinin açığa çıkması halinde, bu kişilerin de hukuki yollara başvurabileceği değerlendiriliyor.
Ayrıca siber saldırının şirketin piyasa değerinde ciddi düşüşe neden olması durumunda hissedarların da tazminat talebinde bulunması gündeme gelebilir.
Düzenleyici kurumlar ve kolluk kuvvetlerinin de olayın niteliğine göre soruşturmalara dahil olabileceği ifade ediliyor.
HUKUKTA EN KRİTİK KONU: “KASIT” KİME AİT?
Hukukçular açısından en büyük sorunlardan biri, yapay zekanın gerçekleştirdiği eylemde insan iradesinin ve kastın nasıl tespit edileceği.
Bir şirket çalışanının bilgisayar sistemine bilerek izinsiz girmesi durumunda sorumluluğun belirlenmesi görece kolayken, aynı işlemi bağımsız hareket eden bir yazılım yaptığında tablo karmaşıklaşıyor.
ABD'deki mevcut siber suç mevzuatlarının önemli bir bölümünde kasıt veya bilinçli eylem şartı aranıyor.
Ancak doğrudan insan talimatı olmadan çalışan bir yapay zeka ajanında bu kastın geliştiriciye, kullanıcıya veya sistemi işleten kuruma nasıl atfedileceği konusunda hukuk dünyasında henüz yerleşmiş bir yaklaşım bulunmuyor.
DAVALARIN MERKEZİNDE “İHMAL” OLABİLİR
Hukuk uzmanlarına göre yapay zeka şirketlerine karşı açılabilecek özel hukuk davalarında en güçlü iddialardan biri ihmal olabilir.
Bu durumda davacı tarafın, yapay zeka sistemini geliştiren veya kullanıma sunan şirketin öngörülebilir zararları engellemek için yeterli güvenlik önlemini almadığını ortaya koyması gerekecek.
Benzer vakaların çoğalması halinde bu tür siber saldırıların “öngörülebilir risk” olarak değerlendirilmesinin de kolaylaşabileceği ifade ediliyor.
PERPLEXITY DAVASI DİKKAT ÇEKTİ
Haberde, ABD'de Amazon ile Perplexity arasında yaşanan bir hukuki uyuşmazlığın da tartışmalara örnek gösterildiği belirtildi.
Amazon, Perplexity’ye ait yapay zeka ajanlarının bazı müşteri hesaplarına erişimi konusunda hukuki itirazlarda bulunurken, mahkeme söz konusu iddianın bazı yönlerini yeterince güçlü bulmadı.
Ancak bu dosyanın tamamen bağımsız çalışan otonom yapay zekalardan ziyade kullanıcı adına işlem yapan ajanları kapsaması nedeniyle, gelecekteki davalar için doğrudan emsal oluşturup oluşturmayacağı tartışılıyor.
GÖZLER YAPAY ZEKA ŞİRKETLERİNDE
Otonom yapay zeka ajanlarının daha yaygın kullanılmasıyla birlikte siber güvenlik standartlarının ve hukuki sorumluluk çerçevesinin yeniden tanımlanması gündeme gelebilir.
En büyük tartışmanın ise yapay zekanın verdiği bağımsız kararların sonucundan geliştiricinin, hizmet sağlayıcının, kullanıcı şirketin veya sistem sahibinin hangisinin sorumlu tutulacağı konusunda yaşanması bekleniyor.
Teknoloji hızla ilerlerken, hukuk sistemlerinin bu yeni döneme nasıl uyum sağlayacağı önümüzdeki yılların en önemli tartışma başlıklarından biri olmaya aday.