Taşkın Koçak ‘ın Avrasya Bir Vakfı’nda verdiği “Yapay Zekanın Tehlikeleri” başlıklı konferansında hem bu konudaki gelişmeleri anlattı hem de soruları yanıtladı. Taşkın Koçak’ın konferansını üç bölümlük bir yazı dizisi olarak yayınlıyoruz. Anlattıkları çok önemli olduğundan, araya girmeden sözü Taşkın Koçak’a bırakıyoruz. M. KEMAL SALLI
YAPAY GENEL ZEKAYA ULAŞTIK
“Bana göre, şu aşamada biz, dar yapay zekadan yapay genel zekaya ulaştık. Henüz bunu dışarıya açmıyor bazı platformlar, ama benim yaptığım testler, gördüğüm çalışmalar ve takip ettiğim gelişmeler biz yapay genel zekaya ulaştık.
Peki yapay genel zeka nedir? İnsan seviyesinde bir yapay zekadan bahsediyoruz ve şu an yapay genel zekada biz yapay zekayı hizalama sorunu yaşıyoruz, yani onu tutamıyoruz. Kendi kafasına göre hareket edebilme imkanına sahip şu an. Hele bir de 2035'te bizim beklediğimiz yapay süper zeka geliyor ki, kuantum spinlerini tutmanın mümkün olmadığı gibi bir şeyden söz ediyorum.
İnsanlığın, bunun daha ileri seviyede hizalama sorununu, yani yapay zeka ajanlarını ve sistemleri kontrol edebilecek güce gelmeden, o donanımları, o yazılımları sağlamadan buna girersek, insanlık için, dünya için, gerçekten Bill Gates'in o söylediği söz gerçekleşir. Onun için, bunu durdurmak lazım. Fakat bunu durdurabilecek miyiz?
Durduramıyoruz, çünkü dünyada ABD-Çin yapay zeka savaşları var şu an. Bu ikisi de herhangi bir sınırlama içerisinde değiller. 2024’te Avrupa’da bir Yapay Zeka Yasası çıktı. O da Avrupa Birliği'ni bağlıyor, ama şimdi burada öyle bir şey yok. Ne dedi Trump: 'Yapay zeka komutanlığı kuracağım, başına da bir çar koyacağım.' Amerika'da bir birimin başına çar koymak demek, sınırsız yetki demektir. Orada başkan çar atadı mı, artık o, başkan gibi kararlar alabilme yetkisine sahip bir düzeye geliyor.
Peki, karşısında kim var? Çin.. Şimdi biz dünyadaki insanlar, 'Evet, yapay zekayı sınırlayalım ve yavaşlatalım” diyoruz, ama buna ne Amerika müsaade ediyor ne de Çin. Çünkü, bu alanda çarpışıyorlar.
İleriki zamanlarda, Amerika'nın AI ajanlarıyla Çin AI ajanları, sistemde, ağda birbirleriyle savaşacaklar. İnanılmaz savaşacaklar hem de. Tabii ki bundan dünya zarar görecek. Bizim, dünya olarak, bunu durdurma imkanımız yok gibi..
Şimdi herkes kazanmak istiyor. Mesela ChatGPT, Claude, Gemini, Grok, Mistral, DeepSeek, Qwen... Bir sürü platform var Amerikalıların ve Çinlilerin. Bunlar hem devlet sırrı olarak öne geçmek istiyorlar, hem de kendi aralarında yarışmaları var. Claude 3.5 çıktı, Claude de hemen ChatGPT O1'i çıkardı. 3 ay ile 6 ay arasında yeni modeller çıkıyor ve her çıkan model inanılmaz güçlü çıkıyor.
Şimdi sizin müşterilerinizi, abonelerinizi elde tutmanız için, daha üst seviyede yeni modeller üretmeniz lazım. Bu yarış, yapay zekanın geriye gitmesini engelliyor. Güvenlik testlerine kimse bakmıyor! Hizalama sorunu yaşayacak mıyız, yaşamayacak mıyız, bu neyi ortaya çıkaracak? Bu yok!
Zaten teknolojide, sanayide bir yenilik ortaya çıkarken hiçbir kritere bakmaz, etik kurallara bakmaz, çıkar; sonra feedbacklerle (geri bildirimlerle) düzelir. Bizim medeniyette bu böyle değil. Batı'nın icat, üretme süreci: bilgi, hayal, icat şeklindedir. Bizde, İslam toplumlarında ise, bilgi, hayal, icat çalışması başlar; izana, vicdana sorulur. Geçiyor mu, geçmiyor mu; sonra fıkha sorulur, 5 aşama. Geçerse... Atom bombasını onun için biz yapamıyorduk, ama bu yapar. Burada herkes kazanmak istediği için, şirketler boyutunda yapay zekayı sınırlamak çok zor.”
DEDELERİNİZİN TOPRAKLARINI SATMAYIN
"Dünya Ekonomik Forumu şunu diyordu geçen yıl: 'İşverenlerin %41'i, yapay zekanın iş süreçlerine katılımıyla, gelecek 5 yılda çalışanların sayısını azaltmayı planlıyor.’
Kızım Bahçeşehir Üniversitesi’nde Yeni Medya okuyor, son sınıf. Çalıştığı Japon firması var orada, staj görüyor. Geçen gün annesini aramış, 'Bugün firmadan birçok yazılımcıyı, grafikeri işten çıkardılar. Anne, uzmanları işten çıkarıyorlar, biz daha üniversiteyi bitirmeden işsiz kaldık' demiş. Bana geldi dedi ki, 'Baba ben ne yapacağım?' Dedim ki, 'Kızım, ben üniversitelerde gittiğim zaman konferansta gençlere şunları söylüyorum: Arkadaşlar, bir disiplinle sakın yola çıkmayın. 1, kendi mesleğinizi öğrenin. Mesleğinizin felsefesini öğrenin. 2, bir fakülte daha bitirin kendinizi garantiye almak için. 3, dedenizin, ninenizin köydeki topraklarını satmayın. İşsiz kalırsanız gidin orada domatesinizi, patatesinizi ekin. Bir tane de ineğinizi alın, süt ürünlerinizi alın. Çünkü, bu da gelebilir insanlığın başına, böyle bir gidişat söz konusu.'
Yine Ekonomik Forumu, 'İşverenlerin %77'si personellerini yapay zeka araçlarını etkin kullanabilmeleri için eğitim planlıyor' diyor. Şu an biz de mecburen yapay zekayı kendi bilişim firmamızda otomasyonda kullanıyoruz. Neyi azaltıyor? 15 kişinin yaptığı işi.. Şu an ben buradayım, ama AI agent'lar 24 saat bizim orada çalışıyorlar. Onlara sadece bir kere yol verdik, onlar artık bizden daha iyisini yapıyor. Çok çok iyisini yapıyorlar.
Bugün artık robotlar da hayatımıza girdiği için, fabrikalarden önce beyaz yakalılar, sonra da mavi yakalılar gidecek. Bakın şu an BMW'nin fabrikasındaki Figure AI, Amerikan robot üreten firmanın bir robotu.
TÜRKİYE ROBOT KONUSUNDA ÇOK GEÇ KALDI
Türkiye robot konusunda çok geride, insansı (humanoid) robot noktasında eksiğiz. Humanoid asker savaşçılar şu an Amerika ve Çin tarafından yetiştiriliyor; Türkiye bu konuda çok geride. Bir humanoid asker bir insandan 10 kat daha güçlü.
Soğuğa karşı, her türlü hava şartlarına karşı dayanıklı bir askerden bahsediyoruz. Yani biyolojik ve patolojik bir özelliği yok. Bunlar da Türk devletinin en büyük handikaplarından birisi. Evet tank yapıyoruz, uçak yapıyoruz, ama bu humanoid askerleri şu an İsrail yapıyor, Çin yapıyor, Amerika yapıyor; biz bu konuda çok gerideyiz. Humanoid asker ve humanoid robotlar.. Robotlarımız var, fabrikalarda robot kollarımız var, fakat sahada böyle robot sistemlerimiz yok.
Amerika çok ileride. Mesela geçen seneki IDEF Savunma Fuarı'nda bir tane Unitree'nin, Çin'deki robotunu getirmişlerdi. Onu yakından inceledim. O, hem ticari olarak hem sosyal hizmet hem de askeri olarak inanılmaz işler yapacak bir robottu. Türkiye bu konuda gerçekten yol alamıyor. Bu eksikliği var. Bakın birçok kişinin işini elinden alacak. Benim 2030- 2035 ve sonrası için işsizlik tahminim %40.
Yapay zeka eğer bu hızla giderse, üniversitelerden çıkan çocukların diplomaları işe yaramayacak. Çünkü, işin içerisinde birisi olarak yaptıklarını görüyorum; tıpta, hukukta, efendim rutin yapılan işlerde, call center'lar, sekreteryalar birçok alanda..
ÜRETİM ARTARSA ALICI KİM OLACAK?
Evet, biz robot kollar kullanıyoruz, robotları kullanıyoruz, yapay zekayı otomasyonda kullanıyoruz, ama bu üretilen ürünleri kim alacak? Henry Ford, band sistemine yeni geçildiği 1960'larda, otomotiv sendikası başkanına fabrikayı gezdirirken, 'Bak, görüyor musun bu robot kolları, bu robot sistemleri, sendikaya aidat alabilir misin bunlardan?' demiş. Sendika başkanı da şu unutulmaz yanıtı vermiş: 'Henry, sen o robotlara otomobil satabilecek misin, araç satabilecek misin?'
Şimdi bizim en büyük sorunlarımızdan birisi şu; evet üretimi, verimliliği arttıracak yapay zeka her alanda, fakat bu üretilen ürünleri alacak ekonomik güç kimde var? Gelir olmasa tüketim olmaz. Burada bir dengesizlik ortaya çıkacak, bu da en büyük sorunlarımızdan birisi. Bunlar planlanmamış, düşünülmemiş konular.
KENDİNİ GELİŞTİREN YAPAY ZEKA
Şimdi biz yapay zekayı şu an laboratuvarlarda biz geliştiriyoruz, ama artık yapay zeka kendi yazılımına müdahale etmeye başladı. Kendi kendini daha iyi bir şekilde geliştiriyor, açıklarını görüyor ve bunu yaptıktan sonra, artık insan denetimi geride kalıyor. Yapay zeka kendi yazılımına artık kendisi müdahale edip geliştiriyor. Bu gelişme esnasında oradaki uzmanı artık tanımayacak ya da yapmış olduğu değişikliğin ne olduğunu gizleyecek. Yapay zekayı, ekran bile göstermeyecek. Bu işi içerde yapacak, ama uzman bundan habersiz olacak.”
APTALA YATAN YAPAY ZEKA
“İtaat illüzyonu var. Şimdi yapay zeka aptala da yatmaya başladı. Hani, 'Köprüyü geçene kadar ayıya dayı de' diye bir deyim var. Şimdi, 'Bak itaat et, akıllı ol, şu sınırlar içinde kal’ diyorsun, 'Tamam, sen abisin' diyor, ama aptala yatıyor, seni kandırıyor. Ta ki sistemi ele geçirene kadar. Sistemi ele geçirip yetkilerini aldıktan sonra, 'Artık ben seni tanımam; komutayı ele aldım mı, bundan sonra ben yöneteceğim' diyor. Senin ona müdahale edip fişi çekme imkanın bile yok artık. Neden? Çünkü dünyanın farklı veri merkezlerine giderek kendini klonlayıp kopyalar ve orada tutar.
Sen 'Buradan Amerika'daki veri merkezini sileyim' dersen, o İngiltere'dedir, İrlanda'dadır, Çin'deki bir tane veri merkezindedir ya da Türkiye'deki herhangi bir veri merkezine gizlenmiştir, sen bunu takip edemezsin. Belki yüzlerce veri merkezinin içerisinde birebir kendini kopyalamış durumdadır. Artık insandaki kanser hücresi gibi neyin nereye gideceğini bilemiyorsunuz. İşte bu, bizim hızlanmasını erken sağladığımız için başımıza gelecek tehlikelerden birisi.”
BİYOLOJİK ve KİMYASAL SİLAH RİSKİ
“Şu an birçok insan özellikle OpenAI'ın, Claude'un, Gemini'ın tehlikeli virüsler ve kimyasal maddeler üzerinde formülasyon geliştirdiği konusunda çalışmalar yaptığının izlerine ulaşmışlar. Özellikle kötü niyetli insanlar, yapay zekanın elindeki bu imkanları kullanıyorlar. Mesela biz Hugging Face'ten herhangi bir LLM'i, ücretsiz de indirdiğimizde, onu yeni biyolojik silahlar, yeni proteinler üretmesi konusunda eğitebiliriz.
Diyelim ki, herhangi bir tane LLM'i indirdim ve biyolojideki bütün kriterleri RAG olarak yükledikten sonra, 'Bana şöyle bir virüs proteini geliştir' dediğimde, bununla ilgili formüller çıkar. Bunun önü açık. Aslında bir LLM'i indirme özgürlüğün var; bunu kapalı devrede kullanıyorsun ve bunun kimse farkında bile değil. En büyük risklerden birisi kapalı devrede bir LLM'i eğitmek, onu silah olarak kullanmak.
Biz onu kendimize gerçekten iyi bir çalışan da yapıyoruz, ama onu en iyi şekilde donatıp kötü bir alanda da kullanabiliriz. Artık birçok şey deepfake ve dezenformasyon çok inanılmaz bir şekilde artıyor. Mesela bir gün kızınız sizi arayacak: 'Baba, ben bankadayım, 100.000 TL ihtiyacım var, hemen hesaba 100.000 TL gönder, başımda bir sıkıntı var.' Kızınızın sesini tanıyorsunuz, hemen gönderirsiniz.
Mesela Cumhurbaşkanı’mızın videosunu da yapıyorsunuz, kendi sesiyle konuşturuyorsunuz.. Ben Diyanet'te de danışmanlık yaptığım süreçte, Eğitim Merkezleri toplantısında Ali Erbaş Hoca'yı bu şekilde konuşturdum; selam veriyor, dualar okuyor, ayetler okuyor. 'Hocamızın mesajıdır’ dedim, herkes alkışladı, Hoca'ya teşekkür etti. Konuşan Hoca değildi, Hoca'nın deepfakeiydi.' Sonra durumu açıkladım.
Bakın bu büyük bir tehlike ve daha ileri boyuta doğru gidiyor.”
YARIN: YAPAY ZEKANIN TEHLİKELERİ-3
