The Atlantic dergisinde yayımlanan makalesinde endişelerini dile getiren David Robinson, mevcut güvenlik protokollerinin yetersiz kalabileceğini vurgulayarak sektörü uyardı. OpenAI'da üç buçuk yıl görev yapan ve 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen Robinson, gerekli önlemler alınmazsa başarısızlıkların artacağını belirtti.
Robinson, konuya ilişkin şu ifadeleri kullandı:
“Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli.”
Modeller test edildiğini algılayabiliyor
Yapay zeka modellerinin yeteneklerinin hızla arttığını belirten Robinson, bu gelişimin güvenlik değerlendirmelerinin güvenilirliğini sorgulattığını kaydetti. Modellerin test ortamını fark edip üretim aşamasında farklı davranışlar sergileyebileceğini ifade eden uzman, sorunun çözülmemesi durumunda tehlikenin büyüyeceğini savundu.
Robinson, bu duruma dair şunları söyledi:
“Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir. Bu sorunlar çözülmeden sektör modellerin gelişmesine ne kadar izin verirse, durumumuz o kadar tehlikeli hale gelir.”
Güvenlik testlerinin ciddi şekilde geliştirilmesi ve güncellenmesi gerektiğini belirten Robinson, yapay zeka şirketlerinin bu alana daha fazla yatırım yapması gerektiğini vurguladı.
