Uzmanlar uyarıyor: Yapay zeka insanlığın yok olmasına neden olabilir
Yapay zeka, insanlığın yok olmasına yol açabilir, yapay zeka araştırma laboratuvarlarının yöneticileri de dahil olmak üzere uzmanları uyarıyor OpenAI и Google DerinMind. Açıklamaya destek veren diğer uzmanların listesi, internet sitesinde yayınlandı. 'Yapay Zeka Güvenliği Merkezi" (Yapay Zeka Güvenliği Merkezi), yazıyor BBC.
Yani, içinde ifade Sektörün önde gelen isimleri tarafından desteklenen, yapay zekanın neden olduğu insan neslinin tükenme riskinin azaltılmasının, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal risklerin yanı sıra küresel bir öncelik olması gerektiğini belirtiyor.
gibi sektör liderleri Open AI'dan Sam Altman, Google DeepMind'dan Demis Hassabis и Anthropic'ten Dario Amodei yapay zekanın gelecekteki devriminin nükleer savaş tehdidi kadar ciddiye alınması gerektiği konusunda uyarıda bulunuyor.
Ancak birçoğu bu ifadeye katılmıyor ve onlar için korkular abartılıyor.
Profesör LeCun, kim çalışıyor "Meta" birlikte Geoffrey Hinton и Joshua Bengio ve yapay zekanın "babalarından" biri, bu kıyamet uyarılarının abartılı olduğuna inanıyor.
Diğer birçok uzman da benzer şekilde, yapay zekanın insanlığı yok edeceğine dair korkuların gerçekçi olmadığına ve sistemlerde zaten düzenli bir sorun olan önyargı gibi sorunlardan dikkati dağıttığına inanıyor.
Arvind Narayanan, bir bilgisayar bilimcisi Princeton Üniversitesi, önceden söylenmiş BBC bu tür felaket senaryolarının bilimkurgu filmlerine benzediğini söylüyor.
Yapay zekanın oluşturduğu iddia edilen "varoluşsal" tehdide ilişkin medyada yer alan haberler, Mart 2023'ten bu yana arttı. Tesla, Ilon Maskesi, yeni nesil yapay zeka teknolojisinin geliştirilmesine son verilmesi çağrısında bulunan açık bir mektuba imza attı.
Mektup, "eninde sonunda bizi alt edebilecek ve yerimizi alabilecek insan olmayan zihinler geliştirip geliştirmememiz" gerektiğini soruyor.