Teknoloji devlerinin yapay zeka geliştirme hızının düşürülmesi yönündeki çağrılarına Microsoft'un kurucu ortağı Bill Gates'ten kritik bir uyarı eklendi. Gates, teknolojinin kötüye kullanılması durumunda çok büyük can kayıplarına neden olabilecek senaryoların artık uzak bir gelecek değil, güncel bir risk olduğunu vurguladı.
ABD merkezli NBC News'e açıklamalarda bulunan Gates, yapay zeka araçlarının kötü niyetli kişilerce geniş çaplı zarara yol açmak için kullanılabileceğine dikkat çekti. Teknolojinin gücünün "bir milyar kişinin ölümüne yol açabilecek olayları" mümkün kılacak düzeye ulaştığını ifade eden Gates, yüzde 100 güvenliğe ulaşmanın son derece zor olduğunu belirtti.
Gates, konuya ilişkin şu ifadeleri kullandı:
“Yüzde 100 güvenliğe ulaşmak çok zor.”
Kötü niyetli aktörlerin en yeni yapay zeka araçlarını kullanmasının daha önce benzeri görülmemiş ölçekte bir tehdit oluşturabileceğini savunan Gates, sektörün kendi kendini düzenlemesine güvenilmesinin yeterli olmayacağını söyledi.
Washington'dan bağlayıcı kurallar bekleniyor
Risklere karşı hükümetlerin yapay zeka geliştirme süreçlerine doğrudan müdahil olması gerektiğini söyleyen Gates, Washington'daki yasa yapıcıları bağlayıcı kurallar oluşturmaya çağırdı. Kolluk kuvvetleri ve siyasetçilerin güvenlik önlemleri ile denetim mekanizmalarının işleyişine ilişkin tartışmalara katılması gerektiğini belirten Gates, bu kuralların zorunlu olması gerektiğinin altını çizdi.
Düzenlemelerin teknoloji şirketlerine ek yük getirebileceğini kabul eden ancak çalışmaların ciddi biçimde yavaşlamayacağını ileri süren Gates, daha önce de yapay zekanın istihdam ve insan yaşamı üzerindeki etkileri konusunda uyarılarda bulunmuştu. Şirketlerin teknolojiyi hızla geliştirdiğini, buna karşılık yol açabileceği büyük çaplı değişimlerle başa çıkmak için kapsamlı bir plan bulunmadığını daha önce dile getirmişti.
Sektördeki "yavaşlama" tartışmaları, gelişmiş sistemlerin artan kapasitesi, bağımsızlığı ve denetimin kaybedilmesi ihtimali nedeniyle son günlerde yoğunlaştı. Anthropic Üst Yöneticisi Dario Amodei, gelişmiş yapay zeka sistemlerinin geliştirilmesinin yavaşlatılmasını istemiş; bağımsız değerlendirmeler, ortak güvenlik standartları ve uluslararası iş birliği önerilerinde bulunmuştu.
OpenAI Üst Yöneticisi Sam Altman da gelişmiş sistemlerin geliştirilme hızının düşürülmesi çağrısına destek verdi. Benzer açıklamalar, daha güçlü modeller geliştirmek için şirketler arasında yoğun rekabetin sürdüğü bir dönemde geldi. Anthropic’in eski araştırmacılarından Jacob Coxon da şirketten ayrılırken büyük yapay zeka şirketlerinin kendi kendini geliştirebilen süper zekâya doğru yarıştığını ve insan hayatını riske attığını savunmuştu.
