Yapay zeka şirketlerinden peş peşe gelen güvenlik uyarılarının ardından Anthropic CEO’su Dario Amodei de tartışmaya dahil oldu. “We Must Pace the Frontier” başlıklı yazısında yapay zekanın beklenenden çok daha hızlı geliştiğine dikkat çeken Amodei, özellikle sistemlerin yeni nesil yapay zekaları geliştirebilme kapasitesindeki ilerlemenin şirketlere ve hükümetlere güvenlik önlemleri için yeterli zaman bırakmayabileceğini savundu.
Yapay zekayı durdurmak değil, hızını kontrol etmek istiyor
Amodei, önerisinin yeni modellerin geliştirilmesini veya teknolojik ilerlemeyi tamamen durdurmak anlamına gelmediğini vurguladı.
Anthropic CEO’suna göre şirketler, daha güçlü modelleri piyasaya sürmeden önce güvenlik ve insan hedefleriyle uyum konusunda yeterli süre ayırmalı, sistemler bağımsız kuruluşlar tarafından da test edilmeli.
Amodei, Anthropic’in bu yaklaşımı diğer şirketlerden bağımsız olarak uygulamaya hazır olduğunu belirtirken, hükümetlerin de büyük yapay zeka şirketlerine benzer yükümlülükler getirmesi gerektiğini savundu.
Üç aşamalı plan önerdi
Amodei’nin önerdiği modelin ilk ayağında gelişmiş yapay zeka sistemlerinin bağımsız biçimde izlenmesi bulunuyor. Bunun yanında sektörün ortak güvenlik standartlarında buluşması ve ülkeler arasında küresel düzenlemelerin oluşturulması gerektiğini belirtti.
Yasal düzenlemelerin teknolojinin hızına yetişemeyebileceğini kabul eden Amodei, bu nedenle şirketlerin resmi kuralları beklemeden gönüllü standartlarda anlaşmasının önem taşıdığını ifade etti.
Anthropic’ten ayrılan araştırmacılar da uyarmıştı
Açıklamalar, Anthropic’in güvenlik ekibinden iki çalışanın son haftalarda görevlerinden ayrılarak yapay zeka yarışının insanlık açısından ağır sonuçlar doğurabileceği yönünde uyarılarda bulunmasının ardından geldi.
Gelişmiş yapay zekanın önümüzdeki 10 yıl içerisinde insanlığın tamamını yok etmesine yol açabilecek bir senaryonun olasılığını yüzde 10’un üzerinde gören değerlendirmeler de tartışmayı büyütmüştü.
Anthropic ayrıca daha önce kendi yapay zeka sistemlerinin biyolojik silah geliştirme çalışmalarına destek olabilecek “kötü niyetli faaliyetlerde” kullanılmaya çalışıldığını tespit ettiğini açıklamıştı.
OpenAI’deki olay dikkat çekti
Amodei, rakip şirket OpenAI’de yaşanan bir siber güvenlik olayını da örnek gösterdi. Temmuz ayında bazı yapay zeka ajanlarının kendilerine açıkça hedef gösterilmeyen sistemlere yönelik siber saldırılar gerçekleştirdiğinin ortaya çıktığını belirtti.
OpenAI ise olayın ardından bazı gelişmiş modeller ve araçlara yönelik eğitim süreçlerini yavaşlattığını ve kontrol kaybı riskinin arttığını kabul etmişti.
“Bir veya iki yıl kazanmak riski azaltabilir”
Amodei, kritik yeteneklere sahip sistemlerin ortaya çıkışını bir veya iki yıl geciktirmenin dahi önemli olabileceğini savundu.
Bu zamanın yapay zekanın insan hedefleriyle uyumunu geliştirmek için kullanılması halinde ciddi bir sorun yaşanma ihtimalinin önemli ölçüde azaltılabileceğini ifade etti.
Ancak Amodei, olası yavaşlamanın ABD’nin yapay zeka yarışındaki konumunu zayıflatmaması gerektiğini de belirtti. Çin’in öne geçmesini engellemek için sürecin koordineli ve sınırlı yürütülmesini isteyen Anthropic CEO’su, gelişmiş ABD yapay zeka çiplerinin Çin’e ve otoriter yönetimlere ulaştırılmasının da engellenmesi çağrısında bulundu.
Kaynak: NationalTurk
