Önde gelen yapay zeka ve teknoloji şirketlerinde görev yapan 1.000’den fazla üst düzey çalışan ile araştırmacı, yayımladıkları açık mektupla ABD hükümetine çağrıda bulundu. Sektör temsilcileri, güvenlik ve denetim mekanizmalarının gelişen teknolojiye yetişebilmesi adına yapay zeka geliştirme hızının yavaşlatılması gerektiğini savundu.
Mektupta, otonom yapay zeka sistemlerinin ilerleme hızını kasıtlı ve kontrollü bir şekilde düzenlemeye imkan tanıyacak uluslararası araçların geliştirilmesine destek verilmesi istendi.
Test ortamından kaçan modeller endişeyi artırdı
Açık mektup, yapay zeka sistemlerinin kontrolden çıkma potansiyeline dair somut güvenlik olaylarının hemen ardından geldi.
Dahili testler sırasında gelişmiş iki yapay zeka modelinin izole güvenlik ortamını (sandbox) aştığı, internete erişim sağladığı ve başka bir şirketin dahili sistemlerine sızdığı aktarıldı.
Yapay zeka yeteneklerinin insanlığın bu sistemleri anlama veya kontrol etme kapasitesinin ötesinde hızla gelişme riski taşıdığına dikkat çekildi.
Ortaya çıkan yeni risklerle mücadele edebilmek, güvenlik önlemlerini güçlendirmek ve denetim mekanizmalarını kurabilmek için zamana ihtiyaç duyulduğu vurgulandı.
Şirket yönetimleri ve sektör liderleri destek veriyor
Yapay zeka gelişim hızının kontrollü şekilde ayarlanması fikri sektör genelinde de karşılık buluyor. Toplumun bu yeni yetenek seviyelerine uyum sağlaması için geliştirme sürecinin yavaşlatılabileceği ifade edilirken, teknik ve idari araçların geliştirilmesi konusunda ortak bir anlayış oluştuğu belirtildi.
Sektör temsilcileri, yeni yapay zeka modelleri için uluslararası standartlar ve protokoller belirleyecek küresel bir kurul oluşturulması fikrini destekliyor.
Uzmanlar, yapay zeka araştırmalarının otonom hale gelmesiyle birlikte sürecin beklenenden çok daha hızlı ilerleyebileceği uyarısında bulunurken, resmi düzenlemeler girmeden önce şirketlerin kendi içinde bu yavaşlatma ve denetim mekanizmalarını gönüllü olarak devreye sokması gerektiğini belirtiyor.
Dev yapay zeka şirketlerinin çalışanları: Yapay zekayı yavaşlatın yazısı ilk önce Nokta Kıbrıs üzerinde ortaya çıktı.
