Yapay zekadaki hızlı gelişim, teknoloji dünyasında yalnızca yeni fırsatları değil, kontrol, güvenlik ve varoluşsal risk tartışmalarını da büyütüyor.
Dünyanın önde gelen yapay zeka şirketlerinde çalışan veya daha önce görev yapmış bazı araştırmacılar, giderek daha yetenekli hale gelen sistemlerin yeterli güvenlik önlemleri oluşturulmadan geliştirilmesinin ciddi sonuçlar doğurabileceğini savunuyor.
Palisade Research tarafından yapılan ve Reuters ile paylaşılan video mülakatlarda konuşan araştırmacılar, özellikle kendi kendini geliştirebilen yapay zeka sistemlerinin kontrol altında tutulmasına ilişkin kaygılarını dile getirdi.
“GÜVENLİKTEN ÇOK YENİ MODEL GELİŞTİRENLER ÖDÜLLENDİRİLİYOR”
Araştırmacıların dikkat çektiği konulardan biri de teknoloji şirketlerindeki teşvik sistemi oldu.
Bazı çalışanlar, şirket içinde güvenlik ve ihtiyat çağrısı yapan ekiplerden çok daha güçlü ve yetenekli modeller geliştiren çalışanların öne çıkarıldığını öne sürdü.
“Frominside.ai” adı verilen girişim ise yapay zeka şirketlerinde çalışan uzmanların güvenlik konusundaki endişelerini doğrudan kamuoyuna aktarmayı amaçlıyor.
OpenAI ve Google DeepMind geçmişi bulunan araştırmacı Geoffrey Irving, yapay zekanın oluşturduğu risklerin giderek arttığını savunarak sektörde çalışan kişilerin bu kaygıları açık şekilde dile getirmesi gerektiğini söyledi.
YÜZDE 10'LUK RİSK TAHMİNİ DİKKAT ÇEKTİ
Google DeepMind araştırmacısı Neel Nanda, yapay zekanın insanlığın yok oluşuna yol açma ihtimalini kendi değerlendirmesine göre en az yüzde 10 olarak gördüğünü açıkladı.
Nanda söz konusu oranı son derece yüksek olarak değerlendirirken, bu rakamın bilimsel olarak kabul edilmiş ortak bir olasılık değil, araştırmacının kişisel risk tahmini olduğu belirtiliyor.
OpenAI araştırmacısı Juan Felipe Ceron Uribe de sektörün çok hızlı ilerlediğini ve geliştirilen sistemlerin sonuçlarının öngörülmesinin giderek zorlaştığını savundu.
KENDİ KENDİNİ GELİŞTİREN YAPAY ZEKA ENDİŞESİ
Uzmanların üzerinde en fazla durduğu başlıklardan biri, yapay zeka sistemlerinin insan müdahalesine ihtiyaç duymadan sürekli öğrenmesi ve yeni yetenekler kazanması anlamına gelen döngüsel öz gelişim ihtimali.
Araştırmacılar, böyle bir seviyeye ulaşılması halinde mevcut denetim mekanizmalarının yetersiz kalabileceğini öne sürüyor.
Eski OpenAI araştırmacısı Rosie Campbell ise yapay zeka şirketleri içindeki organizasyonel değişikliklerin uzun vadeli güvenlik politikalarının uygulanmasını zorlaştırabileceğini ifade etti.
TEKNOLOJİ YARIŞI GÜVENLİK TARTIŞMASINI BÜYÜTÜYOR
Yapay zeka alanındaki rekabet yalnızca şirketler arasında değil, ülkeler arasında da giderek güçleniyor.
ABD ile Çin arasındaki teknoloji yarışı, şirketlerin daha gelişmiş modeller üretme baskısını artırırken, bazı sektör temsilcileri güvenlik önlemlerinin teknolojik ilerlemenin gerisinde kalabileceği görüşünde.
Anthropic CEO'su Dario Amodei ve OpenAI CEO'su Sam Altman da gelişmiş yapay zeka sistemlerinin oluşturabileceği risklere ilişkin çeşitli açıklamalarda bulunmuştu.
Buna rağmen büyük teknoloji şirketleri yeni modeller geliştirmeyi ve kullanıma sunmayı sürdürüyor.
AVRUPA'DAN DAHA İYİMSER YAKLAŞIM
Yapay zekaya ilişkin güvenlik tartışmalarının karşısında teknolojinin sunduğu fırsatlara odaklanılması gerektiğini savunan isimler de bulunuyor.
Almanya merkezli Black Forest Labs CEO'su Robin Rombach, Avrupa'nın yapay zekaya yalnızca risk ve korku üzerinden yaklaşmasının yanlış olacağını savundu.
Rombach'a göre Avrupa, ABD ve Çin ile rekabet edebilmek için daha fazla yatırım yapmalı ve teknoloji geliştirme konusunda daha hızlı hareket etmeli.
Brüksel merkezli CERRE uzmanı Zach Meyers ise Avrupa'daki temel sorunlardan birinin teknoloji şirketlerinin ihtiyaç duyduğu risk sermayesine yeterince ulaşamaması olduğunu belirtti.
YAPAY ZEKADA TARTIŞMANIN MERKEZİNDE “KONTROL” VAR
Sektördeki görüş ayrılığı giderek belirginleşiyor.
Bir grup araştırmacı yapay zekanın kontrol dışına çıkabileceği ihtimaline karşı daha sıkı güvenlik standartları ve uluslararası düzenleme isterken, diğer kesim aşırı ihtiyatın teknolojik gelişimi yavaşlatabileceğini savunuyor.
Tartışmanın merkezinde ise aynı soru bulunuyor: Yapay zeka sistemlerinin yetenekleri insan denetimini aşacak seviyeye gelirse kontrol nasıl sağlanacak?
