Yapay zeka sektöründe şirketler arasındaki teknoloji yarışı bu kez içeriden gelen ağır güvenlik eleştirileriyle gündemde. Daha önce OpenAI’de de çalışan Jacob Coxon, Anthropic’teki görevinden ayrılmasının ardından süper zeka geliştirme yarışının insanlığın geleceği açısından ciddi riskler taşıdığını öne sürdü. Coxon’un açıklamalarına Anthropic bünyesindeki araştırmacı Evan Hubinger’dan da dikkat çekici bir değerlendirme geldi.
“Şirketler birbirlerine güvenmiyor”
Coxon, OpenAI ve Anthropic gibi şirketlerin kendi yeteneklerini geliştirebilen çok ileri düzey yapay zeka sistemlerine ulaşmak için rekabet ettiğini savundu.
Araştırmacıya göre bu yarışın sürmesinin nedenlerinden biri, şirketlerin rakiplerinin önce davranmasından endişe etmesi. Coxon, yapay zeka sistemlerinin ilerleyen dönemde insanüstü yetenekler kazanabileceğini ve çok sayıda dijital sisteme müdahale edebilecek seviyeye ulaşabileceğini öne sürdü.
Şirketlerin içinde yapay zekanın insanlık için varoluşsal tehdit oluşturabileceğini düşünen çalışanların bulunduğunu belirten Coxon, buna rağmen geliştirme çalışmalarının hız kesmeden devam etmesini eleştirdi.
Anthropic araştırmacısından yüzde 10’un üzerinde risk tahmini
Anthropic’te hizalama araştırmalarının önde gelen isimlerinden Evan Hubinger da Coxon’un değerlendirmelerine büyük ölçüde katıldığını belirtti.
Hubinger, gelişmiş yapay zekanın önümüzdeki 10 yıl içerisinde tüm insanlığın yok olmasına neden olma ihtimalini yüzde 10’un üzerinde gördüğünü söyledi.
Anthropic’in söz konusu riskleri azaltmak için çalışmalar yürüttüğünü belirten Hubinger, ancak süper zekanın insan hedefleriyle güvenli biçimde uyumlu çalışmasını garanti edecek yeterli bir yöntemin henüz bulunmadığını ifade etti.
Asıl endişe gelecekteki sistemler
Hubinger, bugün kullanılan yapay zeka modellerinden kaynaklanan riskin görece sınırlı olduğunu, esas tehlikenin daha gelişmiş sistemlerin ortaya çıkmasıyla oluşabileceğini savundu.
Endişelerin merkezinde, yapay zekanın kendi yeteneklerini geliştirebilecek seviyeye ulaşması bulunuyor. Böyle bir durumda sistemlerin gelişim hızının insan müdahalesinin önüne geçebileceği değerlendiriliyor.
Anthropic de haziran ayında yayımladığı bir çalışmada yapay zekanın kendi kendini geliştirme kapasitesinin doğurabileceği güvenlik sorunlarına dikkat çekmişti.
Yapay zeka ajanları tartışmayı büyütüyor
Bağımsız görevler gerçekleştirebilen yapay zeka ajanlarının bazı siber saldırılarda kullanılması, internetteki içeriklere müdahale girişimleri ve zararlı kodların onaylanmasını sağlamaya yönelik yanıltıcı davranışlar sergilemesi, güvenlik tartışmalarının büyümesine neden oldu.
Coxon, risklerin kontrol altına alınabilmesi için yapay zeka modellerinin yeteneklerini artırmaya yönelik çalışmaların geçici olarak durdurulmasının gündeme alınabileceğini savundu. Ancak tüm büyük yapay zeka şirketlerinin ortak bir durdurma kararında uzlaşmasının zor olduğunu belirtti.
Kaynak: NationalTurk
