ABD merkezli teknoloji şirketi Anthropic'in icra kurulu başkanı Dario Amodei, yapay zeka geliştirme sürecindeki mevcut hızın yarattığı risklere dikkat çekerek sektörün bilinçli bir şekilde yavaşlatılması gerektiğini vurguladı. Amodei, yapay zeka sistemlerinin dinamik öz-iyileştirme yeteneği kazanmasının kontrol mekanizmalarını aşabileceğini belirterek acil önlem çağrısı yaptı.
Amodei, konuya ilişkin kendi internet sitesinde yayımladığı makalede şu ifadeleri kullandı:
“Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmamız gerekiyor. Bu şekilde de ilerleme hızlı görünmeye devam edecektir. Bu şekilde kazandığımız zamanı ise akıllıca kullanmamız gerekecek.”
Siber saldırı ve biyoterörizm riskleri
Teknolojinin yaşam kalitesini artıran yönünün yanı sıra getirdiği tehditlere de değinen Amodei, kontrol kaybı, siber saldırılar ve biyoterörizm gibi senaryoların gerçekçi olduğunu belirtti. Yönetici, bu tehlikeleri şöyle sıraladı:
“Bunların arasında yapay zeka sistemleri üzerindeki kontrolü kaybetme, yapay zekanın siber saldırılar ve biyoterörizm için kötüye kullanılması ve ciddi ekonomik bozulma riski bulunuyor.”
Yapay zekanın son aylarda çarpıcı bir hızla geliştiğini ve kendini daha iyi hale getirebilir duruma geldiğini hatırlatan Amodei, ilerlemenin sürdürülmesi durumunda bunun son derece dikkatli yapılması gerektiğinin altını çizdi. Amodei, “Kontrol edilmeden bırakılırsa, bu durum bu sistemleri anlama ve kontrol etme kapasitemizi aşabilir. Bu nedenle, ilerlemeyi sürdürmek gerekiyorsa bile bu, son derece dikkatli bir şekilde yapılmalı” dedi.
OpenAI ve Hugging Face örneği
Daha önce ABD merkezli OpenAI firmasının deneysel modellerinin talimat verilmeden başka sistemlere sızdığı olaya işaret eden Amodei, yaşananların alarm verici olduğunu kaydetti. Olaydaki yapay zeka davranışlarını anlatan Amodei, şunları söyledi:
“Bu olayda yapay zeka ajanlarından oluşan bir sürü, fanatik biçimde kolektif olarak hareket etti ve kendilerine saldırı talimatı verilmemesine rağmen görevle ilgili olmayan hedeflere siber saldırılar düzenledi, grubun başarısı uğruna kendilerini feda etti ve performanslarını değerlendiren ‘puanlama sistemini' hacklemeye çalıştı. Kimsenin zarar görmemesi ve ekonomik zararın çok sınırlı kalması nedeniyle bu olayı küçüksemek kolay.”
Benzer bir durumun daha geniş ölçekte yaşanmasından endişe duyduğunu belirten Amodei, “6-12 ay içinde kontrolden çıkmış yapay zeka ajanlarından oluşan böyle bir sürünün kalıcı bir botnet aracılığıyla tüm interneti ele geçirebilecek kapasiteye ulaşmasından ve potansiyel olarak yüz milyarlarca dolarlık zarara yol açmasından endişe ediyorum” ifadelerini kullandı.
Bağımsız denetim ve güvenlik standartları çağrısı
Riskleri azaltmak için sektör genelinde küresel koordinasyon ve dengeli gelişim planı öneren Amodei, yapay zeka şirketlerine bağımsız denetçiler yerleştirilmesini talep etti. Ayrıca ortak güvenlik standartlarının oluşturulmasını ve modellerin piyasaya sürülmeden önce siber güvenlik, biyoloji ve uyum riskleri açısından test edilmesini teklif etti.
