Yapay Zeka İnsanlığı Aslında Nasıl Yok Eder?

Geçenlerde Anthropic'ten Evan Hubinger, kişisel olarak yapay zekanın önümüzdeki on yılda insanlığın yok oluşuna yol açma olasılığının %10'u aştığına inandığını söyledi. Bu tartışma bende daha basit bir soru doğurdu:

Yapay zeka insanlığı gerçekten yok edecekse, bunu tam olarak nasıl yapacak?

Bugün görülebilen gerçekçi yollara bakınca, kabaca ancak iki kategori düşünebiliyorum.

Birinci kategori aslında yapay zekanın insanlığı yok etmeye karar vermesi değil — insanların yapay zekayı kullanarak daha önce yapamadıkları kötü şeyleri yapması.

Örneğin bir terör örgütünün son derece güçlü bir yapay zekayı kullanarak biyolojik silah tasarlaması ya da geçmişte sadece ulus devlet düzeyindeki ekiplerin sahip olduğu siber saldırı ve silah geliştirme yeteneklerini edinmesi.

Bu tür bir riske tamamen inanıyorum ve muhtemelen sözde "yapay zekanın kendi kendine uyanmasından" daha gerçekçi.

Çünkü burada gerçekten olan şey, yapay zekanın tehlikeli yeteneklerin eşiğini büyük ölçüde düşürmesi. Eskiden bir laboratuvar, bir grup doktoralı ve büyük kaynaklar gerektiren şeyler, gelecekte birkaç kişi artı yapay zeka ile yapılabilir hale gelebilir.

Biosecurity, Cybersecurity ve silahlarla ilgili AI Safety'nin bu kadar önemli olmasının nedeni de bu.

Ama burada insanlığı gerçekten yok etmek isteyen yine de insan.

İkinci yol, gerçek anlamıyla şu:

Yapay zekanın kendisinin insanlığa karşı harekete geçmeye karar vermesi.

Ama bu noktada hep bir sorum oluyor:

Bunu neyle icra edecek?

Bir Superintelligence bir veri merkezinde var olsa bile, onu gerçek dünyaya bağlayan bir Physical Interface'e yine de ihtiyacı var.

Kod yazabilir, yazılımı kontrol edebilir, ağlara saldırabilir. Ama amaç tüm insan toplumu için fiziksel anlamda varoluşsal bir kriz yaratmaksa, sonunda yine de enerjiyi, ekipmanı, ulaşımı, fabrikaları, silahları veya gerçek dünyadaki diğer kaynakları kontrol etmesi gerekir.

Bugün böyle bir taşıyıcıya en yakın şey belki de otonom otomobil.

Aşırı bir düşünce deneyi yapalım:

Varsayalım dünyadaki tüm arabalar otonom, hepsi ağa bağlı ve bir Superintelligence aniden tüm araçları aynı anda kontrol edebiliyor.

Bu elbette muazzam bir felaket yaratır.

Ama gerçekten insanlığı yok edebilir mi?

Hâlâ çok şüpheciyim.

Arabalar sadece arabalara uygun ortamlarda hareket edebilir. Kapı açamaz, merdiven çıkamaz, kendini tamir edemez, keyfi makineleri çalıştıramaz ve insanların çalıştığı fiziksel alanların büyük çoğunluğuna giremez.

Bu sorunun niteliksel olarak değiştiğini asıl hissettiren şey, başka bir teknoloji eşiği:

Genel amaçlı insansı robotlar (General-purpose humanoid robots).

Varsayalım bir gün dünya çapında yüz milyonlarca, hatta milyarlarca genel amaçlı robot var.

Fabrikalara, depolara, evlere ve hastanelere girebiliyorlar, insanların kullandığı aletleri kullanabiliyorlar, makineleri çalıştırabiliyorlar ve başka makineler üretip tamir edebiliyorlar.

Aynı zamanda hepsi ağa bağlı ve süper zeki bir sistem tarafından kontrol edilebiliyor.

İşte o zaman AI existential risk'i ciddiyetle yeniden değerlendiririm.

Çünkü o zaman ilk kez şu ortaya çıkabilir:

Superintelligence + General Physical Agency + Massive Scale.

Yapay zeka yalnızca Intelligence'a değil, gerçek dünyada yaygın olarak var olan Hands and Feet'e de sahip olur.

Ama o güne hâlâ çok uzak olduğumuzu düşünüyorum.

Burada elbette önemli bir sınır durumu var: yapay zeka robotlara bel bağlamadan, sadece yazılımla muazzam yıkım gücüne sahip fiziksel sistemleri doğrudan kontrol edebilir mi?

En bariz örnek nükleer silahlar.

Ama bu tam da neden insan toplumunun kendisinin devasa bir Safety Buffer olduğuna inandığımı gösteriyor.

Nükleer silahlar, tasarımının ilk gününden itibaren "admin şifresini alan fırlatabilir" denilen sıradan bir IT System olmadı.

Onlarca yıllık nükleer caydırıcılık, insanlığa böyle bir sistemin yanlış kullanımının ne anlama geleceğini çok net öğretti; bu yüzden etrafına yetkilendirme, izolasyon, çok kişili onay ve Human-in-the-loop inşa edildi.

Bugün yapay zeka ve nükleer silahlar hakkındaki tartışmalar hâlâ genel olarak bir ilkeye bağlı:

Makineler, nükleer silah kullanımına dair nihai kararı vermede insanların yerini almamalı.

Bu mekanizmalar elbette mutlak güvenli değil ve yapay zekanın erken uyarı ve karar destek sistemlerine girmesi kendi başına yeni yanlış değerlendirme riskleri de yaratabilir.

Ama bu, gerçek dünyanın bir Superintelligence'ın Root Access elde ettikten sonra istediği gibi kontrol edebileceği devasa bir bilgisayar olmadığını gösteriyor.

Gerçek toplumun birçok katmanı var.

Hükümetler.

Düzenlemeler.

Bankalar.

Ordu.

Şirketler.

Doktorlar.

Mühendisler.

Fiziksel izolasyon.

Yetkilendirme sistemleri.

Hatta çok sıradan bir mekanik anahtar bile.

Bunlar normalde "verim kaybı" gibi görünür, ama dijital dünyadan fiziksel dünyaya geçmeye çalışan bir yapay zeka karşısında aynı zamanda art arda firebreak'lerdir.

Yani yapay zekanın insanlığı yok etmesi hakkındaki mevcut görüşüm aslında çok basit.

Bad humans empowered by AI — bunun gerçek bir risk olduğunu düşünüyorum ve şimdiden ciddiyetle önlem almalıyız.

AI itself taking physical control of civilization — bunun için hâlâ ikna edici bir kısa vadeli yol olmadığını düşünüyorum. Ta ki genel amaçlı robotlar gelecekte gerçekten kitlesel olarak topluma girene, ya da biz kritik fiziksel altyapının nihai kontrolünü yapay zekaya teslim edecek kadar aptal olana kadar.

Elbette bu yargı gelecekte tamamen değişebilir.

On yıl sonra sokaklarda, fabrikalarda ve evlerde her yerde genel amaçlı robotlar varsa, belki bir Founder Diary daha yazıp şöyle derim:

I was wrong. Now we need to worry.

Ama en azından bugün, dikkatimi diğer tarafa vermeyi tercih ediyorum.

On yıl önce Geoffrey Hinton ünlü bir tahminde bulunmuştu: beş-on yıl içinde Deep Learning, Radiologist'lerden daha iyi olacak demişti ve birçok kişi bunu Radiologist mesleğinin büyük darbe alacağı şeklinde anlamıştı.

On yıl sonraki bugün, yapay zeka tıbbi görüntülemede gerçekten büyük ilerleme kaydetti ama Radiologist'ler ortadan kalkmadı. Tam tersine, yapay zeka ne kadar iş yapabildiklerini, kaç hastalığı tespit edebildiklerini ve eskiden maliyeti çok yüksek olduğu için sunulamayan hangi hizmetlerin artık mümkün olduğunu değiştiriyor.

Bugün yapay zekada beni daha çok ilgilendiren de bu.

Safety'yi görmezden gelmek değil.

Güvenlik sınırlarını ciddiyetle inşa ederken, bu teknolojiyi neden geliştirdiğimizi unutmamak.

Hâlâ tedavi edilmesi gereken çok sayıda hastalık, cevaplanmamış çok sayıda bilimsel soru, hâlâ son derece verimsiz şekilde çalışan çok sayıda küçük işletme ve yeterince iyi eğitim, sağlık ve profesyonel hizmetlere erişemeyen milyarlarca insan var.

En azından bugünkü aşamada, benim gördüğüm yapay zeka hâlâ fiziksel dünyayı ele geçirmeye hazırlanan bir türden çok, henüz tam olarak kullanılmamış bir üretkenlik aracına benziyor.

We should take AI safety seriously.

But we should also keep building.

There are still far more problems for AI to solve than for AI to create.