Kıyametsiz Yapay Zeka Güvenliği

Yapay zeka dünyası yeniden ciddi ciddi "insanlığın yok oluşunu" tartışmaya başladı.

Anthropic'in Alignment Science Lead'i Evan Hubinger çok çarpıcı bir kişisel yargı verdi: önümüzdeki on yıl içinde yapay zekanın insanlığın yok oluşuna yol açma olasılığı %10'u aşıyor. Jensen Huang ise tamamen karşı tarafta duruyor; bu tür AI doomerism'in abartılı olduğunu düşünüyor ve kıyamet senaryolarının sürekli vurgulanmasının sonunda halkı yapay zekadan korkutacağından endişe ediyor.

Bu tartışmada ben Jensen'ın görüşüne daha yakınım.

AI Safety önemsiz olduğu için değil; "yapay zeka çok zeki hale gelir" ile "yapay zeka fiziksel toplum üzerinde kontrolsüz bir hâkimiyet kurabilir" arasında hâlâ çok uzun bir zincir olduğunu hep düşündüğüm için.

Tamamen dijital dünyada, yapay zeka güvenliğinden gerçekten daha çok endişe duyuyorum.

Bir Agent saniyeler içinde çok miktarda kod yazabilir, ağları tarayabilir, API'ler çağırabilir, bilgi kopyalayabilir, hatta geliştiricilerinin öngörmediği yollar bulabilir. OpenAI ve Anthropic'in yakın zamanda yayınladığı bazı Agent Safety vakaları, bu tür risklerin gerçek olduğunu şimdiden gösteriyor.

Ama saf yazılım dünyasından çıkınca durum tamamen farklı.

Gerçek dünya sürtünmeyle dolu.

Yapay zeka bir fabrika tasarlayabilir ama bir API ile fabrika inşa edemez. Arazi, ekipman, tedarikçi, sermaye, lisans ve inşaat ekipleri gerekir.

Yapay zeka yeni bir ilaç önerebilir ama onu doğrudan hastanelere sokamaz. Arada deneyler, klinik denemeler, regülatif onaylar, üretim ve doktorların kararları var.

Yapay zeka milyarlarca doların transferini önerebilir, ama gerçekte bankalar, yönetim kurulları, uyum departmanları ve yetkilendirme sistemleri bir model talimat verdi diye otomatik olarak icra etmez.

Enerji, elektrik şebekeleri, ulaşım, havacılık, sağlık, finans, savunma ve çok sayıda endüstriyel sistem — hepsinde fiziksel izolasyon, izin sistemleri, düzenleyici rejimler ve karar döngüsünde insanlar var.

Bunlar bazen inovasyonu yavaşlatır, hatta girişimcileri çok rahatsız edebilir.

Ama başka bir açıdan bakınca, bunlar aynı zamanda modern toplumun devasa bir Safety Buffer'ı.

Dijital zeka çok hızlı büyüyebilir, ama bu Intelligence'ı Physical World üzerinde kontrole dönüştürmek, gerçek dünyanın birçok arayüz katmanından geçmeyi gerektirir.

Her katmanda sürtünme var ve her katmanda başka insanlar var.

Bu yüzden "aniden ortaya çıkan bir Superintelligence'ın gerçek dünyayı hızla ele geçirip insanlık için varoluşsal bir kriz yaratması" yoluna hep şüpheyle baktım.

Bu, teorik olarak kesinlikle imkânsız demek değil. Şu demek: biri "on yıl içinde %10'dan fazla" gibi bir rakam veriyorsa, görmek istediğim sadece korkutucu bir sonuç değil, daha somut bir yol:

Yapay zeka gerçek dünyanın bu tampon katmanlarını nasıl aşacak?

Hangi sistemler önce çöker?

Hangi insani kararlar atlanır?

Hangi fiziksel yetenekler yapay zeka tarafından bu kadar hızlı kazanılabilir?

Ve mevcut düzenlemeler, izinler ve toplumsal organizasyon neden zamanında tepki veremez?

Bu sorular araştırılmaya değer, ama şu anda cevapları bu kadar kesin görünen bir olasılığa sıkıştırmak çok zor.

Bu arada, halihazırda gerçekten yaşanan ve çözülmesi gereken birçok AI Safety sorunumuz var.

Agent'lar yetkilerini aşıyor, veri sızdırıyor, yanlış araçları çağırıyor, Prompt Injection'a maruz kalıyor ve karmaşık görevlerde geliştiricilerin öngörmediği Shortcut'lar alabiliyor.

Bu riskler gerçek, gözlemlenebilir ve Permission, Sandbox, Monitoring, Human Approval ve daha iyi Model Alignment ile sürekli iyileştirilebilir.

Benim odaklanmayı tercih ettiğim Safety de bu.

Çünkü en azından bugün yapay zeka ürünleri geliştirme açısından, gördüğüm en büyük sorun hâlâ yapay zekanın kontrol edilemeyecek kadar güçlenmiş olması değil.

Çoğu zaman tam tersi:

Yapay zeka henüz yeterince iyi değil.

Hâlâ çok temel hatalar yapıyor, karmaşık görevler hâlâ denetim gerektiriyor ve birçok Business Workflow güvenilir çalışmak için hâlâ deterministik logic'e ihtiyaç duyuyor.

Düşük olasılıklı ama sonuçları aşırı ağır olan riskleri araştırmaya elbette devam etmeliyiz.

Ama aynı zamanda, yapay zeka sektörünün çok pratik bir soruna büyük enerji harcamaya devam etmesini daha çok isterim:

How do we make AI actually work better?

İşletmelerin verimliliğini artırsın, bilim insanlarının araştırma yapmasına yardım etsin, doktorların daha iyi bilgiye ulaşmasını sağlasın, sıradan insanların daha önce yapamadıkları şeyleri başarmasına yardımcı olsun.

Güvenlik bu yeteneklerle birlikte ilerlemeli, halkın korkusu üzerine inşa edilmemeli.

Take the risks seriously. But don't turn uncertainty into fear.

For now, there are still far more real problems waiting for AI to solve.