ChatGPT kullanıcıları için yeni dönem başlıyor
OpenAI, yapay zeka tabanlı sohbet platformu ChatGPT için dikkat çeken yeni bir özelliği devreye almaya hazırlanıyor. “Güvenilir Kişi” adı verilen sistem sayesinde kullanıcılar, olası kriz veya kendine zarar verme riski taşıyan durumlarda önceden belirledikleri bir yakınının haberdar edilmesini sağlayabilecek.
Yeni özellikle birlikte yapay zekanın yalnızca bilgi veren bir araç olmaktan çıkarak, bireylerin günlük yaşamlarında daha aktif rol oynayan bir sisteme dönüştüğü yorumları yapılıyor. Özellikle genç kullanıcıların ChatGPT’yi yalnızca soru-cevap uygulaması olarak değil, hayatlarını organize eden dijital bir yardımcı gibi kullandığı ifade ediliyor.
Güvenilir kişi sistemi nasıl çalışacak?
Yeni sistemde kullanıcılar, uygulamanın ayarlar bölümünden bir yetişkini “Güvenilir Kişi” olarak tanımlayabilecek. Belirlenen kişinin daveti kabul etmesiyle birlikte süreç aktif hale gelecek.
Sistem, kullanıcının konuşmalarında ciddi bir psikolojik risk veya kendine zarar verme ihtimali tespit ettiğinde ilk olarak kullanıcıyı uyaracak. Ardından durumun kritik seviyede olduğunun değerlendirilmesi halinde belirlenen güvenilir kişiye bildirim gönderilebilecek.
Gönderilecek bildirimlerin; e-posta, kısa mesaj veya uygulama içi uyarı şeklinde olabileceği belirtiliyor. Ancak OpenAI, bu bildirimlerde sohbet içeriklerinin veya konuşma geçmişinin paylaşılmayacağını özellikle vurguluyor.
OpenAI insan inceleme ekibi oluşturdu
Şirket tarafından yapılan açıklamalara göre süreç tamamen otomatik işlemeyecek. Olası risk durumlarında devreye özel eğitim almış insan inceleme ekipleri girecek.
Bu ekipler, yapay zekanın tespit ettiği riskleri değerlendirerek gerçekten müdahale gerekip gerekmediğine karar verecek. Böylece yanlış alarm ihtimalinin azaltılması hedefleniyor.
OpenAI, sistemin geliştirilme aşamasında ruh sağlığı uzmanları, kriz yönetimi ekipleri ve intiharı önleme alanında çalışan çok sayıda uzmandan destek alındığını açıkladı. Şirketin paylaştığı bilgilere göre projeye 60’tan fazla ülkeden yüzlerce uzman katkı sundu.
Sam Altman’dan dikkat çeken açıklama
OpenAI CEO’su Sam Altman, özellikle genç kullanıcıların ChatGPT ile kurduğu ilişkinin giderek farklı bir boyuta taşındığını söyledi.
Altman, birçok kullanıcının yapay zekayı yalnızca teknik bir araç olarak görmediğini, günlük kararlarında ve kişisel süreçlerinde aktif şekilde kullandığını ifade etti. Bu durumun yapay zekanın toplum üzerindeki etkisini yeniden tartışmaya açtığı belirtiliyor.
Gizlilik tartışmaları yeniden gündemde
Yeni özellikle birlikte dijital gizlilik ve kullanıcı takibi konuları yeniden tartışılmaya başlandı. Bazı uzmanlar, yapay zekanın kullanıcı davranışlarını analiz ederek risk değerlendirmesi yapmasının etik açıdan soru işaretleri doğurabileceğini savunuyor.
Ruh sağlığı alanında çalışan bazı isimler ise sürekli izlenme hissinin bireyler üzerinde baskı oluşturabileceğini belirtiyor. Uzmanlara göre bazı kullanıcılar, sistem tarafından riskli olarak algılanmamak için yaşadıkları sorunları gizleme eğilimine girebilir.
Öte yandan OpenAI, sistemin kullanıcı güvenliği amacıyla geliştirildiğini ve kişisel verilerin korunmasına öncelik verileceğini ifade ediyor.
Kullanıcılar sistemi kapatabilecek
Şirketin verdiği bilgilere göre kullanıcılar istedikleri zaman tanımladıkları güvenilir kişiyi değiştirebilecek veya sistemi tamamen devre dışı bırakabilecek.
Bu adımın, kullanıcı kontrolünü korumak adına önemli olduğu değerlendirilirken; teknoloji dünyasında yapay zekanın psikolojik destek süreçlerindeki rolüyle ilgili tartışmaların önümüzdeki dönemde daha da büyümesi bekleniyor.
