Yazdıklarınıza, söylediklerinize veya taleplerinize göre size çıktılar verir. üretken yapay zeka aniden hayatımıza girdi. Gördüklerimiz karşısında anında büyülendik ve kısa sürede alıştık. Artık Webtekno’da bile bazı içeriklerin görsellerini tamamen yapay zeka ile üretiyoruz, bunu söyleme gereği bile duymuyoruz.
İşte asıl tehlike burada başlıyor. ChatGPT ve Midjourney gibi araçlar korkunç amaçlarla kullanılmaması için sınırlandırılmış olsa da kötü niyetli olarak birebir teknolojik yollar takip edilerek geliştirilen yapay zekalar da mevcuttur. Şöyle düşünün: Daha 2 yıl önce insanların fotoğraflarını çıplak yapan taşınabilir uygulamalar gündemdeydi. Doğal olarak bu, bu işin toplumsal sorunlar boyutudur. Ve savaşlarda silahlara ve kötü niyetlere gelince sular iyice bulanır.
Elbette telaş bunlarla sınırlı değil. Örneğin Boston Dynamics robotları silahsız üretilse de, satın alıp üzerine kendi silah sistemlerini kuranlar, hatta sıfırdan silahlı robotlar üretenler de var:
Peki yakın gelecekte bu robotlar biri “O kişiyi öldürün” dediğinde gidip onları öldürecek mi?
Yapay zekanın bunları yapabilmek için robotik bir vücuda ihtiyacı yok… Nükleer savaşlar, salgın hastalıklar gibi vahim sonuçları olacak mı, hatta insanlığın varlığını tehdit edecek mi?
Bu ihtimaller karşısında hep yüreğimize su serptik ve “Çoooooooooooooook uzun var!” dedik. dedik. Ancak görüyoruz ki şu ana kadar ürettiklerimizi kullanarak kendi kendine öğrenen bir yazılım, şimdilik pek insansı olmayan muadilleriyle hepimizi şaşırtabiliyor. Bunu yapabilirse, hiçbir etik maliyeti olmayan bir robot onu öldürür. senin emrini takip etmeyecekKim garanti edebilir?
Hiroşima’ya atılan atom bombası bugün atılacaksa artık bir uçağa, o uçağı çalıştıracak bir pilota ve en önemlisi o bombayı atan düğmeye basan bir insana ihtiyacımız yok. Hiçbir etik maliyeti olmayan bir yapay zeka hepsine yeter!
Elbette bu soruların cevabını bilmiyoruz. Ama bizim bilmememiz sizin için bir şey ifade etmiyorsa şunu söyleyelim: Yapay zekanın babası bile bu soruların cevabını bilmiyor…
Yoshua Bengio’yu ilk kez görmüş olabilirsiniz. Ama bugün “üretken yapay zeka” dediğimiz, bugüne kadar üretilmiş metinleri ve görselleri tarayıp öğrenebilen ve size özgün cevaplar vermeye çalışan sistemlerin babasıdır. Bengio’nun 90’lar ve 2000’lerin başındaki çalışmaları, ChatGPTVe yolculuk ortasıaraçların temelini oluşturur.
Elbette Bengio kadar etkili ve başarılı onlarca bilim insanı ve mühendis var ama onun görüşleri de yapay zekanın geleceğine ışık tutuyor.
“İnsanlığın güvenliğini nasıl garanti edeceğimizi bilmiyoruz!”
Kişisel sitesi Bengio’da yayınladığı blog yazısında yapay zekanın gelişmesiyle birlikte yaşanabilecek olası sorunlara değinerek; Bir noktada konuyu güvenliğe taşıyor:
“Bir AI aracını nasıl kontrol edilebilir hale getireceğimizi ve böylece insanlığın güvenliğini nasıl garanti edeceğimizi henüz bilmiyoruz! Yine de biz – ben dahil – bu tür sistemleri kurma yolundayız.”
“Büyük ölçüde yıkıcı olabilecek bir şeye katkıda bulunmuş olabileceğimiz fikriyle yüzleşmek acı verici.”
Yapay zeka sistemlerini geliştiren ve hâlihazırda kullanan herkesin farkında olmak istemediği bu durumun tehlikelerine ve psikolojisine değinen Yoshuo, şöyle konuştu: “Bu tür düşünceleri sindirmek zordur. Zor çünkü bu düşünceleri takip eden mantıksal sonuçları kabul etmek; kendi rolümüzü, işimizin değerini, kendi değer anlayışımızı sorgulamak demektir.”diyor ve ekliyor:
“Çoğumuz kendimizi temelde iyi ve erdemli bir amacı olan, üyesi olduğumuz topluluğa veya topluma yararlı bir şeye katkıda bulunan biri olarak görmek isteriz. Olumlu bir imaja sahip olmak işimiz hakkında iyi hissetmemizi sağlar ve ilerlememiz için bize motivasyon ve enerji verir. Büyük ölçüde yıkıcı olabilecek bir şeye katkıda bulunmuş olabileceğimiz fikriyle yüzleşmek acı verici.”
“İnsan doğası, bizi bu tür olasılıkların tüm dehşetiyle yüzleşmek yerine daha güven verici tartışmalarda teselli aramaya yönlendirecektir. Yapay zekanın faydalarını tartışmak, yapay zekanın nükleer savaş ve salgın hastalıklarla aynı düzeyde korkunç sonuçlara ve hatta varoluşsal riske sahip olduğu gerçeğini telafi etmeye yeterli değil.”
