Yapay Zekanın Öğrendiklerini Doğrulayan Yazılım Geliştirildi
Dünya çapında üretken yapay zeka sistemlerine olan ilginin artmasıyla birlikte, İngiltere’deki Surrey Üniversitesi’nden araştırmacılar, yapay zekanın eğitildiği veri tabanından ne kadar ve ne türde bilgi topladığını doğrulayabilen bir yazılım tasarladılar. Bu yazılım, güvenlik protokollerinin arasında bir katman olarak kullanılarak yapay zekanın hassas verilere erişip erişmediğinin anlaşılmasını sağlayacak. Başka bir açıdan söz konusu yazılımın bir süzgeç görevi göreceğini de söyleyebiliriz. Yakın zamanda ChatGPT’nin veri gizliliğini ihlal ettiği gerekçesiyle İtalya’da yasaklanması sonrası böyle bir yeniliğe kesinlikle ihtiyaç vardı.
Bu yeni sistem ayrıca yapay zekanın programlama kusurlarından yararlanma durumunu da ortaya çıkarabiliyor. Çalışmayla ilgili yayınlanan makalede bahsettiğimiz avantaj şu şekilde açıklanmış: “Örneğin, yapay zekanın herhangi bir açıktan faydalanarak çevrimiçi bir oyunda sürekli kazanmanın yolunu öğrenip öğrenmediğini yazılımımız sayesinde şeffaf bir şekilde görebiliyoruz.”
Surrey Üniversitesi’nde araştırma görevlisi olan ve bu ödüllü çalışmanın mimari konumundaki Dr. Fortunat Rajaona’nın konuyla ilgili yaptığı açıklamada şu sözlere yer verdi: “Birçok kullanım şeklinde, yapay zeka sistemleri birbirleriyle ya da insanlarla şimdiden etkileşime giriyor. Doğrulama yazılımımız tam bu noktada yapay zekaların etkileşimlerden önce ya da sonra öğrendiği bilgileri ve en önemlisi gizliliği ihlal edecek çok fazla bilgiye sahip olma durumlarını veri biçiminde sunabiliyor. Yeni edindiğimiz bu doğrulama becerisi sayesinde, tüm kuruluşlara yapay zeka sistemlerinin gizliliği konusunda bir güven vadedebiliriz.”
ChatGPT ve Midjourney gibi üretken yapay zekalar kullanıcıların hayatına girdiğinden beri çeşitli tartışmaları da berberinde getirdi. Elde edilen çıktıların aitliği ve kullanıcı verilerinin gizliliği konusunda yasal düzenlemeler yeni yapılmaya başlandığından bir karışıklık yaşansa da bu tarz çalışmalar sayesinde yapay zeka, insan hayatına daha hızlı adapte olacağa benziyor. Düşüncelerinizi yorumlarda paylaşmayı unutmayın.
