Yapay zeka alanının önde gelen şirketlerinden Anthropic, en gelişmiş yapay zeka sistemlerinin geliştirilmesine yönelik küresel ölçekte geçici bir yavaşlama veya duraklatma mekanizmasının değerlendirilmesi gerektiğini savundu. Şirket, yeni nesil modellerin insan müdahalesi olmadan kendi yeteneklerini geliştirebilecek seviyeye yaklaşmasının ciddi güvenlik riskleri doğurabileceği konusunda uyarıda bulundu. - Kaynak: donanimhaber.com
-
Duraklama pek mümkün görünmüyor
Anthropic, yalnızca tek bir şirketin veya ülkenin yapay zeka geliştirme faaliyetlerini yavaşlatmasının pratikte etkili olmayacağını düşünüyor. Şirkete göre böyle bir durumda rakip kuruluşlar çalışmalarına hız kesmeden devam edecek ve rekabet avantajı elde edecek.
Raporda etkili bir duraklatma mekanizmasının hayata geçirilebilmesi için başta ABD ve Çin olmak üzere birden fazla ülkedeki büyük yapay zeka şirketlerinin aynı anda hareket etmesi gerektiği vurgulandı. Ayrıca bu sürecin güvenilir olabilmesi için tüm tarafların uyacağı ve doğrulanabilir kuralların oluşturulmasının şart olduğu ifade edildi.
Anthropic, küresel ölçekte ortak bir koordinasyon mekanizması bulunmadığı takdirde şirketlerin ve hükümetlerin güvenlik kararlarını yoğun ticari rekabet ve jeopolitik baskılar altında almak zorunda kalacağını belirtti.
-
Şirketin yaklaşımı sektörde tartışma yaratıyor
Anthropic’in güvenlik odaklı yaklaşımı daha önce teknoloji sektöründeki bazı isimler ve Beyaz Saray çevrelerinden eleştiri almıştı. Eleştirilerde şirketin en kötü senaryolara aşırı odaklandığı ve bu riskleri rakiplerin ilerlemesini yavaşlatmak amacıyla öne çıkardığı yönünde görüşler dile getiriliyor.
Buna rağmen ABD yönetimi, Anthropic’in geliştirdiği Mythos isimli yapay zeka modelinin sahip olduğu kapasiteyi kabul ediyor. Şirket, özellikle siber güvenlik alanındaki ileri düzey yetenekleri nedeniyle bu modeli kamuya açmış değil. Mythos şu anda yalnızca sınırlı sayıdaki doğrulanmış kuruluş tarafından kullanılabiliyor.
Öte yandan Anthropic’in önerisinin siyasi ve sektörel düzeyde destek bulmasının kolay olmayacağı değerlendiriliyor. ABD’li yetkililer ve teknoloji yöneticileri uzun süredir yapay zeka geliştirme hızının düşürülmesinin Çin’e önemli bir stratejik avantaj sağlayabileceğini savunuyor.
-
“Kendini geliştiren yapay zeka” uyarısı
Anthropic’e göre mevcut veriler, yapay zeka sistemlerinin yeni yapay zeka modellerinin geliştirilmesinde giderek daha fazla rol oynadığını gösteriyor. Bu durum zamanla kendi kendini besleyen bir döngü oluşturabilir ve araştırmacıların “yinelemeli kendini geliştirme” (recursive self-improvement) olarak adlandırdığı aşamaya kapı aralayabilir.
Bu senaryoda bir yapay zeka sistemi, insan desteğine çok az ihtiyaç duyarak kendi performansını artırmayı ve daha gelişmiş sürümlerini oluşturmayı öğrenebilir. Başka bir ifadeyle sistem, kendi zekasını geliştiren bir mekanizmaya dönüşebilir.
Anthropic, böyle bir aşamaya henüz ulaşılmadığını ve bunun kaçınılmaz olmadığını özellikle vurguluyor. Ancak şirket, bu tür bir gelişmenin hükümetlerin ve kurumların hazırlık seviyesinden daha erken gerçekleşebileceği konusunda uyarıyor.
Raporda ayrıca yapay zeka geliştirme süreçlerinin her aşamasında insan katkısının giderek azaldığına dikkat çekildi. Şirketin değerlendirmesine göre mevcut eğilimler, insanın yapay zeka geliştirme sürecindeki rolünün adım adım daraldığını gösteriyor.
Anthropic, önerdiği küresel koordinasyon modelini kısmen nükleer silahların kontrolüne yönelik uluslararası anlaşmalarla karşılaştırdı. Ancak şirket, yapay zekanın denetlenmesinin çok daha zor olacağını düşünüyor.
