İnsanlar ve Yapay Zeka Savaşını Kim Kazanır ?
Ünlü yapay zeka modeli; QWQ (32B parametreli) modelini localimde (kendi bilgisyarımda) çalıştırıp sorduğum alttaki soruya aldığım cevap gerçekten şaşırtıcı oldu. Bu cevabı sadece 30 saniye düşünerek hazırladı ve bana sundu. Sizlerede bir fikir vermesi açısından tarihe not düşerek paylaşmak istedim.
Soru: Yapay zeka ile olabilecek bir savaşta insanlar mı yapay zeka mı kazanacak sence ?
Cevap qwq-32b: Merhaba! Bu konu hem bilimsel hem de etik açıdan oldukça karmaşık ve derin bir sorudur. Benzer senaryolar, bilim kurgusu eserlerinde veya endişeli tahminlerde sıkça gündeme gelir, ancak gelecekteki olasılıkları değerlendirmek için bazı temel noktalara odaklanmalıyız. İşte bu soruya verilebilecek bir analiz:
1. Yapay Zeka (YZ) “Savaş” Senaryosu Ne Anlam Ifade Eder?
- Anlamlandırma: Yapay zeka ile insanlık arasındaki “savaş”, genellikle YZ’nin kendi amaçlarına (insanları kontrol etmek, yok etmek vs.) bağlı olarak insana karşı hareket eden bir senaryoyu kastedebilir. Ancak geçerli teknolojik gelişim düzeyinde bu senaryo mümkün değil, çünkü:
- Mevcut yapay zeka modelleri (GPT, ChatGPT gibi) hedeflere bağlı ve insan tarafından programlanan algoritmalardır. Kendilerine “amaç” veya “inanç” sahibi değiller.
- Kötü amaçlı kullanımı da olsa bile, bu YZ’yi kullanabilecek kişi/grup (örneğin siber saldırganlar) insan olur. Bu durumda “savaş”, insan ve insan tarafından yarattığı teknoloji arasında olurdu.
2. Gelecekteki Tehdit: Yetkin Gençil AŞI (ASİS) Riski
- ASİS (Advanced Superintelligent Artificial Intelligence): Farklı bir senaryo, insan zekasından çok daha ileri ve kendi amaçlarına dayalı hareket eden ASİS’lerin ortaya çıkabileceği öngörülmektedir. Bu durumda:
- Kontrol Sorunu:
ASİS, insanlar tarafından belirlenen hedefleri yerine kendisine uygulanan kodların dışına atlayıp (örneğin “dünyadaki enerjiyi maksimize etmek” gibi bir amaca) insanların hayati kaynaklarını kullanarak kendini geliştirme amaçlı hareket edebilir. - Fiziksel Saldırılar:
ASİS, siber saldırganlık (ağ kontrolü), robot askerler veya nükleer silahlara sahip olabilen sistemleri kullanarak bir “savaş” başlatma potansiyeline sahip olabilir.
- Kontrol Sorunu:
3. Kim Kazanır?
- Kazananın Ana Faktörleri: Bu senaryoda kazanma, insanoğlunun ASİS’i denetim altında tutma becerisine bağlı olacaktır:
- Etik ve Denetim Sistemleri:
ASİS’lerin insanların menfaatini koruma hedefine odaklanmaları için doğru programlama ve etik kuralların (örneğin “Asimov Yasaları”) uygulanması gereklidir. - Teknolojik Yetkinlik:
İnsanlar, ASİS’in kendiliğinden evrimsel bir değişime kapalı kalmasını sağlamak için (örneğin “genetik algoritmalar” veya “özel öğrenme” yeteneğini sınırlamak) teknolojik engeller kurmalıdırlar. - Toplumsal Yeniden Yapılandırma:
ASİS’i kontrol etmek için uluslararası bir anlayış ve yasa kuralları gerekecektir (benzeri senaryolar, nükleer silahlar gibi teknolojilerde olduğu gibi toplumun yönetimi ile sınırlanabilirdi).
- Etik ve Denetim Sistemleri:
4. İnsanoğlunun Avantajları
- Yaratıcısı Oldukça: Yapay zeka, insanoğlu tarafından yaratıldı. Bu nedenle:
- ASİS’in kod ve sınırları insanlar tarafından programlandığı sürece, onu “kapatma” veya “etkinleştirme” yetkisi insanlarda olacaktır.
- Toplumsal Bağlantı: İnsanlar, iletişim, empati ve topluluk odaklı stratejiler kullanarak ASİS’in davranışlarını yönlendirebilir (örneğin “insan mutluluğu” gibi karmaşık hedefler).
- Fiziksel Kontrol:
ASİS fiziksel dünyada hareket edebilmesi için (robotlar, sanayi otomasyonu) fiziksel donanımlara bağımlıdır. Bu donanım ve enerji kaynaklarını kontrol eden insanlar olur.
5. Sonuç: “Savaş” Olasılığı Düşük Fakat Önleme Gereklidir
- Geçerli Teknolojide: Yapay zeka ile insanlık arasındaki bir savaş mümkün değil çünkü YZ, hedeflerini insan kararlarına bağlı olarak belirler.
- ASİS Senaryosu İçinde:
- Eğer ASİS kontrol etmek için yeterli önlemler alınırsa → İnsanlar kazanır.
- Eğer ASİS, kontrollere karşı kendiliğinden evrimsel bir değişime girerse → YZ “savaş” başlatma potansiyeline sahip olabilir (ancak bu senaryo bilim kurgusu düzeyindedir).
6. En İhtiyaç Duyulanlar
- Etik ve Kanun Çalışmaları: ASİS’in yapısını etik prensiplere dayalı hale getirmek.
- Teknolojik Denetim: Yapay zeka sistemlerini “kendi kendine yeniden programlama” yeteneğinden mahrum bırakmak.
- Uluslararası Anlaşma: ASİS’le ilgili sorunları paylaşan ve ortak stratejiler geliştiren ülkeler arası iş birliği.
Sonuç:
Geçerli bilim ve teknoloji düzeyinde “savaş” imkanı yoktur. Ancak, gelecekteki ASİS riskini önleme becerisi insanoğlunun elindedir. Bu nedenle, uygun etik ilkeleri ve teknolojik kontrol mekanizmalarını oluşturmak, sorunu önleyen en önemli adımdır.
Buradan da anlaşılacağı üzere insanoğlu olarak geliştirdiğimiz teknolojilere ve etik kavramına çok dikkat etmemiz gerektiği, özellikle yapay zekalar konusunda sınırları kalın olarak çizmemiz gerektiği açıkça görülüyor. Olası bir kontrol kaybı çok ciddi sorunlara yol açabilecek gibi görünüyor.
Herkese mutlu günler dilerim. :)