ChatGPT’nin piyasaya sürülmesinden ve ardından yapay zeka devriminin başlamasından bu yana, sektör uzmanları ve hükümetler, yapay zeka sistemlerinin raydan çıkmasını önlemek için daha güçlü güvenlik önlemleri için bir araya geliyor. Şimdi, son haberlerde, bir grup etkili yapay zeka uzmanı ve sektör lideri bir uyarı, yapay zekanın küresel ölçekte oluşturduğu varoluşsal riskin acilen ele alınması gerektiğini vurguluyor.
“Yapay zekanın neden olduğu yok olma riskini azaltmak, salgın hastalıklar ve benzeri toplumsal ölçekteki diğer risklerin yanı sıra küresel bir öncelik olmalıdır. nükleer savaş”ifadesini okuyor.
San Francisco merkezli kâr amacı gütmeyen bir kuruluş olan AI Safety Center tarafından yayınlandı. potansiyel olarak insanlık için bir tehdit oluşturabilecek yeterli güvenlik önlemlerinin uygulanması. Sonuç olarak bildiri, Google DeepMind CEO’su Demis Hassabis, OpenAI CEO’su Sam Altman ve her ikisi de prestijli Turing Ödülü’nü alan Geoffrey Hinton ve Yoshua Bengio gibi yapay zeka araştırmacıları da dahil olmak üzere önde gelen isimlerden geniş çapta destek ve imza aldı. 2018’de bu alana yaptıkları çığır açan katkılardan dolayı ödül. >
Ayrıca, Yapay Zeka Güvenliği Merkezi’nin yönetici direktörü Dan Hendrycks, bir bildirinin, beyanın riskleri azaltmak için özel müdahaleler önererek olası anlaşmazlıkları ve sulandırmaları önlemeyi amaçladığını belirtin.
Tehdidi anlama
Mevcut AI sistemleri insanlık için önemli tehditler oluşturmasa da, AI güvenlik tartışması, öncelikle AI sistemlerinin güvenli çalışma seviyelerini hızla aştığı ve otonom olarak gelişmeye başladığı varsayımsal senaryolar etrafında döner. Uzmanlar, bu AI sistemleri belirli bir gelişmişlik düzeyine ulaştığında operasyonlarını kontrol etmenin neredeyse imkansız hale geleceğine inanıyor. Bu nedenle, yapay zeka devrimine öncülük eden Google ve OpenAI gibi şirketlerin tehdidi kabul etmesi çok önemli.
Sonuç olarak, hükümet bile yapay zeka gelişimini kontrol etmenin ve düzenlemenin yollarını arıyor. Başkan Joe Biden, yapay zekanın hastalık ve iklim değişikliği gibi küresel sorunları çözmedeki muazzam potansiyelini kabul etse de toplum, ekonomi ve ulusal güvenlik için oluşturduğu potansiyel risklerin ele alınması gerektiğini de vurguladı.
