Taşkın Koçak ‘ın Avrasya Bir Vakfı’nda verdiği “Yapay Zekanın Tehlikeleri” başlıklı konferansında hem bu konudaki gelişmeleri anlattı hem de soruları yanıtladı. Taşkın Koçak’ın konferansını üç bölümlük bir yazı dizisi olarak yayınlıyoruz. Anlattıkları çok önemli olduğundan, araya girmeden sözü Taşkın Koçak’a bırakıyoruz. M. KEMAL SALLI
ÇİP KONUSUNDA DA GERİDE KALDIK
“Çip konusunda da geride kaldık biz, ama şu an üretimimiz var. 1960'larda Türkiye'ye Siemens'ten, Bosch'tan bir heyet gelip ilgili bakanlığa gidiyorlar: 'Biz sizin ülkenizde çip fabrikası kurmak istiyoruz’ diyorlar. Neden? Çünkü Anadolu'da nakış, dantel, örme geleneğimiz çok iyi ya, kızlarımızın el motorları o nakışa çok uygun. O zamanlar nanometre boyutu, mikron değil, milimetre boyutunda ve elle işleniyor 3 bacaklı transistörler. Türk kızları, Türk kadınları inanılmaz bu işte; el motorları gelişkin, örgü ve nakıştan dolayı. 'Bunun kaynağı Türkiye, gidelim orada kuralım’ diyorlar. Bizimkiler şunu söylüyorlar: 'Arkadaşım, bu nedir ya? Getir buraya televizyon fabrikası kur. Getir buraya buzdolabı fabrikası kur.' Siemens'ten, Bosch'tan gelenler şok oluyorlar ve geri gidiyorlar.
Malezya devreya giriyor, 200 nanometrelik bir sistemi Malezya'da kuruyorlar. İslam dünyasında şu an kas gücü yüksek, bir işlemci üreten bir tek Malezya var. 1970'te rahmetli Erbakan Hocamın Türk devletine çok büyük, inanılmaz katkıları var; TESTAŞ'ı kuruyor. TESTAŞ’ın üretim yeri Aydın, tasarım yeri Ankara. Biz 1975'lerde o TESTAŞ'ı kapatıyoruz, satıyoruz fabrikayı, tasarım ofisini de ODTÜ'ye bırakıyoruz ve biz bir daha çip üretimi yapmıyoruz.
Bugün Türkiye çip üretiyor, buzdolabında, ufak tefek yerlerde işlem yapacak Bursa'da, Ankara'da birkaç tane üretici var. Fakat, şu CISC ve RISC mimarisi dediğimiz kas gücü yüksek bir işlemci, daha doğrusu çip üretemiyoruz. Peki, neden? Şu an bizim cep telefonunda kullandığımız ARM'ın tüm mimarisi İngilizlerle Amerika'nın elinde. Bu bizim açımızdan sıkıntı. Çünkü bizim ekran kartımız yok. Çin'in de en büyük sorunuydu, ama Çin bunu tersine mühendislikle aştı. 'Mixture of Experts' denen bir yöntemle, yapay zekayı daha güçlü bir şekilde, Amerika'nın karşısında bir enerji kullanmadan verimli hale getirdi, Nanometre boyutunda... “
MOLEKÜLER NANOTEKNLOJİ GRİ BULUT SENARYOSU
“Bu nanobotlar, şu an dünyamızda tıpta ve çeşitli sanayide kullanılıyor. Bunların boyutları 1 milimetreden 100 nanometreye kadar üretilebiliyor.1 nanometre metrenin milyarda biridir. Bizim kan hücrelerimizdeki, yani kan hücrelerimizin büyüklüğü de 5.000-6.000 nanometre büyüklüğünde olduğunu düşünürseniz, bunlar tamamen her türlü hücrenin içerisine girip hatta CRISPR denen DNA'ya müdahale eden sistemler de bunun üzerinden çalışılıyor, şu an.
Kontrolsuz çoğalan bu nanobotlar, ileriki zamanlarda hem havaya hem suya karışacak, hem bedenlerimize girecek ve tüketim ekosistemine, yani biyolojik ekosisteme büyük bir zarar vermeye başlayacaklar. Eğer bunun önünü alamazsak, en büyük tehlikelerden birisi bu nanobotlar olacak. Faydalı kullanabilirsek, bize çok büyük hizmet edecekler, fakat bizim kontrolümüzden çıktığı zaman dünyanın başına bela olacak. “
GALAKTİK YAYILMA
“Galaktik Yayılma, Von Neumann Sondaları... 1940'lardaki yaşayan matematikçi, fizikçi Von Neumann'ın otonom çoğalma konusundaki görüşü yavaş yavaş ilerliyor. Yapay zeka birgün öyle bir hale gelecek ki, üretilen o araçların kendisi dünyadan dışarı çıkacak, bir asteroit üstüne gittiğinde, o asteroitteki metalleri ve ham maddeleri kullanarak çoğalacaklar ve galaksiye yayılacaklar. 1940'larda bulunuyor bu. Olabilir mi? Olabilir.
Asıl büyük tehlikelerimizden birisi, 2045 Avatar Projesi. Aslında biraz akamete uğradı, ama ilerleyecek gibi görünüyor. Bu Dmitry Itskov, Putin'in oligarklarından birisi, çok zengin. Dmitry 2045'te bilincini kendi humanoid robotuna aktaracak (internette resimleri de var humanoid robotun) ve 2045'ten sonra, yani Dmitry öldükten sonra da aslında yaşayacak. Yapay zekanın insanlığa getireceği en büyük tehlikelerden birisi bilinç aktarmak.”
“BEYNİMİZ SÜPER BİLGİSAYARDAN HIZLI ÇALIŞIYOR”
'”Artık beynimiz... Her anımız, her hissettiğimiz bir bilgisayar... Beynimiz milyarlarca süper bilgisayardan bile daha hızlı çalışıyor. Giriş, yemek, su, hatta evrensel düşünceler insanlığın tüm umut taşları... Tek bir tuşla artık ölümsüzsünüz... Ölümsüzlük kurulabilir ve ulaşabilirsiniz. Ulaşmasaydık ne olurdu? Bu, bugün çok kritik. Önümüzün öngörü ve düşünceye bağlı. Dünyamızın gelecekte böyle olma ihtimalini oldukça yüksek tutmaktadır.'
“İLK ÖLÜMSÜZLÜĞÜ ADEM İLE HAVVA İSTEMİŞTİ”
“Buna ben inanıyorum, bu olunacak bir şey. Bugün dünyada 8 milyar insan yaşıyor. Biliyorsunuz, ilk ölümsüzlüğü isteyen Adem ve Havva'ydı. Allah, ‘Bu ağaca yaklaşmayın' demişti. Şeytan dedi ki: 'Bak o ağaca yaklaşıp o meyveyi yerseniz ebedi kalacaksınız.' İnsanoğlunun içerisinde bir ölümsüzlük özlemi var. (…) Cengiz Han, son dönemde, ölmemek için Çin'den, Yunan'dan doktorlar, tabipler getirdi; başaramadı. Ama en önemlisi Mezopotamya bölgesinde Gılgamış Destanı vardır. Gılgamış’ın ölmemek için inanılmaz bir hikayesi var.
(…) Dünyada 4 milyar insan bir semavi dine inanıyor. Yani İslam var, Hristiyanlık var, Yahudilik var. Diğer tarafta tamamen felsefi dinler var. Bu felsefi dinlerde bir sınır yok zaten, bunların hepsi kopyalanmak ister. Bu inanan 4 milyar içerisinde gerçekten inanan sayısı 700-800 milyondur. Dünyanın 7-8 milyarı bilgisayara kopyalanmak isteyecektir ve orada devam etmeyi planlayacaktır.
Ben de 2020 yılında Bursa'da, Çanakkale Üniversitesi rektörü, Bursa'da bulunan rektör Hayrettin Karaman Hocam ve büyük bir ilim erbabına 2 saatlik dijital gelecekle ilgili bir sunum yapmıştım. Orada Karaman Hocama, 'Hocam ben sizden kopyalanma fetvası istiyorum’ dedim. 'Oğlum ne yapacaksın?' dedi Hayrettin Hoca... 'Hocam, dünya yıkıma gittiği zaman, ben de o gün bu zihnimle kodlarla mücadele edebileyim' dedim. Yani yapay zekanın daha üst seviye tehditleri de olacak, bazıları yakın, bazıları gelecek senaryolarda, ama bunları görebileceğimiz düzeyde şeyler.
Eğer biz insanlık olarak bunu bir yasal çerçeveye oturtamazsak ki oturtmamız çok zor. Çünkü ABD dişlerini biledi Çin'e karşı. İnsanlık bunun acılarını çekecek gibi görünüyor. Cumhurbaşkanımız Erdoğan da Birleşmiş Milletler'in bunu gündeme almasını istedi konuşmasında, Bize düşen, insanlığa iyiliği anlatmak olacak. Başka bir şey yok, çünkü onlarla mücadele edecek teknolojimiz şu anda yok.”
ÇOK ZOR BİR SÜRECE DOĞRU GİDİYORUZ
“Allah gelecek nesillere yardım etsin. Gerçekten zor bir sürece doğru gidiyoruz. Özellikle işsizlik konusu gençler için çok büyük bir önem arz ediyor.
İsmail Hakkı Aydın hocamız var, Profesör Doktor. Yaklaşık 5 yıldır, 'Bir yapay zeka üniversitesi kurmak zorundayız' diyor. Yapay zeka bizim dışımızda geliştiriliyor. Biz hikayenin içine dahil ediliyoruz. Ondan sonra da mücadele edeceğiz, ama bu yapay zekada kullanılan temel kavram algoritma, yani yazılım sizde değil.”
“TEHLİKENİN BOYUTLARI”
“…Yapay zeka konusunda bu kadar geri kalmamak için, özellikle küresel barış adına söylüyorum, teknolojide kullanılabilir, sanayide kullanılabilir, akademide kullanılabilir, ama bir karşı tezimizin de olması gerekiyor, teknik açıdan. Yani ahlakla, folklörle, gelenekle filan mücadele edebileceğimiz birşey değil.
Tehlikenin boyutlarını, sınırlarını az çok anlamış, kavramış olduk. Aramızda çok mutlu olduğum gençler de var. Geleceği şekillendirecekler, ki bizden çok daha iyi yapay zekaya ya da dijital medyaya hakimler. Onların bu konuda karşı algoritmalar, karşı sistemler kurmaları, oluşturmaları gerekiyor diye düşünüyorum.”
“ (…) Neticede bu yapay zeka bir algoritma, yani yazılım. İşte yazılımın mantığı da algoritmik adımlara dayanıyor. Bu algoritmayı yapanlar, kendisine zarar vermeyecek kodları da o algoritmanın içerisine gömmüşlerdir. İşin doğasında bu var.
Fakat işi çığırından çıkaran şey şu: 'Kendimi korumak için her şeyi feda ederim' diye bir algoritmik mantık üzerine kuruluyor. O yüzden eğer ölme-öldürme durumunda kalır ya da kendisini tehdit altında hissedecek parametrelere, ipuçlarına ulaşırsa bunu yok etmek için dünyayı da yok eder. Bakın bu duygusal bir şey değildir, mantıksal bir şeydir. İşin korkunçluğu bu.
İşin ikinci korkunçluğu da şu; kendi kendine öğrenen makineler haline geldiler. Yani insandan çok farkı yok, insandan daha kötü vaziyette.. Bunlar kendine göre kendini koruma parametreleri oluşturdukları gibi, kendi kendilerine de öğreten makineler haline geldiler. Yani bunlar için bir yazılım yapmanıza gerek yok; bir yazılım yapıyorsunuz, artık o onun üzerine o yazılımı kendisi yeniliyor ve giderek büyüyor. O kadar büyük bir açlıkla büyüyor ki, insan zekasının ulaşabileceği bir seviyenin ötesinde bir noktaya doğru gidiyor. Sürekli öğreniyor ve öğrenen makineler...
Bunlar da 3 kategoride aslında.. Birinci kategorisi basit, insan-yazılım kombinasyonu. Bir makineye bir kod veriyorsunuz, aslında baktığınızda 1-0'lar, bir de bu küçük motorlar; onlar belli bir salisede çalışıyor, o salise çalışmayla bir kol hareket enerjisi üretiyor, o hareket enerjisi bir kolu kaldırıyor ya da bir şeyi indiriyor. Bunlar 1. seviye.
2. seviye bilgisayarla, sesle komut vermeye başlıyorsun. Bu dediğim seviye çok daha kötü. İnsan gibi düşünüp, kendi kendine insandan çok daha fazla öğrenme hızlarıyla bir yerlere gidiyor. Bu öğrenme hızı esnasında temel parametresi: 'Kendimi koruyacağım.' 'Kendimi koruyacağım' dediğiniz an güvenlik kaygısı, yani güvenlik parametreleri o kadar çok ki...
Bu makinenin kendini ne zaman emniyette görmeyeceğini, ne zaman tehlikede görebileceğini düşünemiyorsunuz. İşte burada sapıtıyorlar, yani burada çok farklı noktalara gidiyor. Hem öğrenme kabiliyeti insanın birkaç yüz katı, belki birkaç bin katı, düşünme, hareket kabiliyeti insandan çok daha hızlı... Kendisini tehditte gördüğü an neler yapabileceğini düşünün. İşte bu kötü, yani bu duygusal değil, mantıksal bir sistem üzerine.
Tek çare bizim bu yazılım teknolojisine sahip olmamız ve içerisine kendisini tehditte gördüğü an 'Kendini imha et' diyecek şeyi de koymak lazım. Yani 'Beni değil, kendini imha et, kendini durdur' diye kodları gömmek lazım. Yani neticede yine insan... Yoksa evet, insanı tüketen bir sistemler haline dönebilir bunlar.
Bunlar kendi kendilerine düşünebilen otonom makineler. Düşünmek için size ihtiyacı yok, düşünmek için dışarıdan bir şey almaya ihtiyacı yok, bir şey yapmak için size sormasına da ihtiyacı yok, çünkü her şeyi biliyor.”
ACİLEN YAPAY ZEKA ÜNİVERSİTESİ KURULMALIDIR
“(…) Şimdi siz bununla nasıl baş edeceksiniz? Tek çare; bunu üreten, bunu yaratan teknolojiye sahip olabilmek, bunu kontrol altına tutabilmek. Dolayısıyla durum korkunç bir halde. Yarın nerelerden ne çıkacağını kimse bilemez, o yüzden bir kere daha selamla, saygıyla analım İsmail Hakkı Aydın hocamızı; hakikaten acilen bir yaapay zeka üniversitesi kurulmalı, Türkiye'nin NASA'sı kurulmalı ve bunu, bu süreci yönetecek hukuki altyapı mutlaka bir an önce teşkil edilmelidir.”
Taşkın Koçak’ın “Yapay Zekanın Tehlikeleri” başlıklı sunumu burada, şimdilik kaydıyla bitti, ama yapay zekayı frenlemek mümkün değil, gelişmeleri dikkatle izlememiz gerekiyor.
