Yapay zeka kontrolden çıkarak bizi yok edebilir mi?

yapay zeka bizi yok edebilir mi?

Popular Science’ta yayınlanan bir makalede Skype kurucu ortağı Jaan Tallinn, süper akıllı yapay zekanın kontrol altına alınma çabalarını inceliyor.

Uzun bir fizik geçmişine sahip olan bilgisayar programcısı Tallinn, Skype’ı 2003 yılında kurdu. Tallinn, Amerikalı yapay zeka araştırmacısı ve yazarı Eliezer Yudkowsky’nin makalelerini okumasıyla yapay zekanın yetenekleri üzerine düşünmeye başladı.

İlk elektronik bilgisayarların ortaya çıkmasından sadece 10 yıl sonra, 1956 yılında üretilen “yapay zeka” terimi ilk duyulduğundan beri heyecan verici oldu. Bilim insanları, satranç oyunları, yerlerin temizlenmesi veya insan sesinin tanınması gibi alanlarda yapay zeka geliştirmeye başladı. Başlangıçta dar sayılabilecek alanlarda kullanılan yapay zeka, geliştirildikçe hayatın başka alanlarında da kendini gösterdi.

Yudkowsky’nin makalelerini okuyan Tallinn, insan varlığını tehdit edebilecek veya evrim basamaklarında yerimizi alabilecek bir yapay zekanın oluşabileceği konusunda diğer teorisyenler ve bilgisayar bilimcileriyle görüşmeye başladı.  

Dost yapay zeka

Bu görüşmelerde ilk olarak, “dost bir yapay zeka olabilir mi?” sorusu ortaya çıktı. Bu “dost” kavramı yapay zekanın sizinle havadan sudan sohbet ettiği anlamına gelmiyor, onun insan dürtü ve değerlerine sahip olduğunu anlatıyor. Yani “dost yapay zeka” ileride hedeflerine ulaşmak için insan ırkını yok etmeyecek bir sistem anlamına geliyor.

İnsanlığı hayatta kalmasına yönelik varoluşçu riskler içinde iklim değişikliği, nükleer savaş ve biyo-silahlar yer alıyor. İklim değişikliği gibi daha geniş çapta kabul gören tehditlere dair endişeler insanları daha kolay içine çekebiliyor. Bazı araştırmacılar süper akıllı yapay zekayı kısıtlama konusunda endişelenmenin henüz erken olduğunu düşünüyor. Diğerleri ise yakın zamanda bu sorunları ele almazsak algoritmalardaki yanlış bir verinin yol açacağı tehlikelerle karşı karşıya kalacağımızı söylüyor.

Yapay zeka basit bir şekilde anlatılmak gerekirse, gorillerle insanoğlunun ilişkisi gibidir. Ancak bu konuda yapılan tartışmalarda ana soru, yapay zekanın gücü devralmak için bir vücuda ihtiyaç duyacak olması. Fiziksel bir bedeni olmadan fiziksel kontrolü elde edemeyen yapay zeka, şimdilik bize karşı güçsüz.

Programcılar yapay zeka çalışmalarında bazı hedefler ve bu hedeflerin gerçekleşme şekliyle ilgili bir dizi kural belirler. Ancak tesadüfi bir hata iyi amaçlarla programlanan bir yapay zekanın kötü sonuçlara yol açmasına neden olabilir. Örneğin, çok distopik bir hayalde, yapay zeka, insan vücudundaki atomları kendisi için hammadde olarak kullanmaya karar verebilir.

Skype CEO’su Jaan Tallinn

Tallinn ise yapay zeka güvenliğine yönelik herhangi bir yaklaşımın doğru şekilde yapılmasının zor olacağını savunuyor. “Yapay zeka yeterince akıllıysa, kısıtlamaları yaratıcılarından daha iyi anlar.” diyerek, süper akıllı bir sistemi yöneteceğimizi sanmak 5 yaşındaki çocukların yetişkinleri kontrol edeceğini sanması gibi olacağını söylüyor.

Yapay zeka kontrolü için bazı araştırmacılar ona kapatma tuşu koymayı bazıları ise insani değerlere uymayı öğretmeye çalışıyor.

Yapay zekayı kapatmak

Oxford Üniversitesi İnsanlığın Geleceği Enstitüsü’ndeki matematikçi ve filozof Stuart Armstrong, dünyada tam zamanlı yapay zeka güvenliğine odaklanan az sayıda araştırmacıdan biri. Armstrong araştırmalarında, kapatma düğmesinin yapay zekanın kontrolü için uygun olacağına inanıyor. Ancak böyle bir kapatma tuşu tasarlamak düşünülenden daha zor. Yapay zeka, düğmenin varlığını merak ederek neden kendini kapatmak için böyle bir tuşun var olduğunu sorgulayabilir. Bu sebeple stratejinin başarılı olması için yapay zeka düğmeye ilgi duymamalı.

Yapay zekayı insani değerlere uydurmaya çalışan diğer araştırmacılarsa, makinenin bazı değişmez insani kuralları ayırt etmeyi öğrenmesini umuyor. Her ne kadar insanlar karar değiştiren ve yalan söylemeye meyilli canlılar olsa da yapay zeka insanların mantıksal olmayan yönlerini de öğrenmeli ve takdir etmeli. Ortak yönlerimiz olmayan bir robot yaratmak korkunç bir hata olabilir.

Yapay zeka tartışmalarının başka bir yönünü de etik kurallar oluşturuyor. Onun bize hükmetmesini istemiyorsak, biz mi ona hükmetmek istiyoruz? Başka bir deyişle, yapay zekanın hakları var mı? Zekanın bilince eşit olduğunu varsayan bazı bilim insanları ise bunu gereksiz antropomorfize etme olarak tanımlıyor.

Tallinn bu konuda, “Bilinç konusunda endişelenmek güzel olurdu. Ancak henüz teknik güvenlik sorunlarını çözmeden bilinç konusunda endişelenme lüksümüz yok.” diyor.

Merve Şimşek
Merve Şimşek, 1996 yılı Muğla doğumludur. Yıldız Teknik Üniversitesi’ndeki mimarlık eğitimini 2019 yılında tamamladı. Eğitimi sırasında mimari ofislerde gerçekleştirdiği staj çalışmalarına ek olarak Natura ve YAPI dergilerinin editör ekibinde yer aldı. Halen Natura Dergi’nin editörlüğünü yürütüyor. Mimari, sanat, edebiyata ek olarak teknoloji ve bilim konularına ilgi duyuyor. İngilizce ve İspanyolca biliyor.