Taşkın Koçak ‘ın Avrasya Bir Vakfı’nda verdiği “Yapay Zekanın Tehlikeleri” başlıklı konferansında hem bu konudaki gelişmeleri anlattı hem de soruları yanıtladı. Taşkın Koçak’ın konferansını üç bölümlük bir yazı dizisi olarak yayınlıyoruz. Anlattıkları çok önemli olduğundan, araya girmeden sözü Taşkın Koçak’a bırakıyoruz.

DİJİTAL ÖLÜ İNTERNET VE KOLEKTİF ZİHİN MANİPÜLASYONU
“Şimdi yapay zekâyla çok fazla içerik üretilmeye başlandı. Birçoğunuz Instagram’da geziyorsunuz, videolar görüyorsunuz; artık bunların önemli bir kısmı yapay zekâ tarafından üretiliyor.
Bunun dışında internetteki makalelerin, yazıların ve görsellerin de giderek artan bir bölümü yapay zekâyla hazırlanıyor. Hatta artık yapay zekâ ajanlarının kendileri internette içerik üretmeye başladı. Felsefe yazıyor, biyoloji yazıyor, haber yazıyor, görsel üretiyor. Ama ortada bunu üreten bir insan yok. Bu oran yükseldikçe insanın özgün üretiminin payı da azalacak.
Peki burada başka bir sorun ortaya çıkmıyor mu? Algoritmik adalet nasıl sağlanacak? Hukukta, tıpta, yargıda, işe alımda, kredi değerlendirmesinde yapay zekâ karar mekanizmasının içine girdiğinde ne olacak? Bir arkadaşımız sınav sonuçlarını değerlendiren yapay zekâ destekli bir program geliştirmişti. Baktım ve kendisine şunu sordum:
“Peki bunun güvenliğini sağladın mı?”
Sistem geçmiş verilerden dolayı bir çocuğu yanlış şekilde olumsuz etiketlerse ona adil davranabilecek mi? İşe alım sistemine yanlış veya ayrımcı bir kriter koyarsanız ne olur? Algoritmaya, “Şu özelliklere sahip insanlara eksi puan ver” derseniz, o insan aslında o işe çok uygun olsa bile sistem onu eleyebilir. Bir banka kredi başvurularını yapay zekâya değerlendirdiğinde, sistem geçmiş verilerden hareketle bazı insanlara veya bazı bölgelere karşı önyargı geliştirebilir. Dolayısıyla burada mesele yalnızca teknolojiyi geliştirmek değildir. Adaleti de kodlamak zorundayız.”

“…Geçtiğimiz günlerde ben de oldukça gelişmiş, otomasyon kullanan ve yapay zekâ destekli olduğunu düşündüğümüz bir siber saldırıya maruz kaldım.
Bilgisayarımda birkaç güvenlik yazılımı kullanıyorum. Buna rağmen sistemimize girilmiş, internet sitemize müdahale edilmiş, hatta Search Console hesabımıza kadar erişilmiş. Ben gerçekten şaşırdım. Bugün kullandığımız genel yapay zekâ platformlarının dışında, özel olarak siber saldırı amacıyla eğitilen sistemler çok ciddi bir tehdit oluşturabiliyor. Çünkü yapay zekâ saldırganın hızını artırıyor.
Bir insanın saatlerce veya günlerce deneyeceği ihtimalleri sistem saniyeler içerisinde deneyebiliyor. Açıkları tarıyor. Şifre kombinasyonlarını deniyor. Kod yazıyor. Yeni saldırı yöntemleri oluşturabiliyor. Bugün internete bağlı hiçbir sistem için yüzde yüz güvenlik garantisi veremezsiniz. Yapay zekâ bu mücadeleyi daha da zorlaştırıyor.”
VERİLERİNİZ KİMiN ELİNDE?

“Bir diğer mesele veri gizliliği. Bugün artık veri güvenliği ve mahremiyet geçmişte olduğundan çok daha kırılgan. Devletlerin verileri de risk altında, şirketlerin verileri de, şahısların verileri de.
Biz yaklaşık 30-35 yıldır cep telefonlarını yanımızda taşıyoruz Bu telefonlar bizim kimlerle konuştuğumuzu biliyor. Nereye gittiğimizi biliyor. Neyi sevdiğimizi, neye kızdığımızı, ne satın aldığımızı, ne izlediğimizi biliyor. Siyasi eğilimlerimizi, ticari alışkanlıklarımızı, sosyal ilişkilerimizi tahmin edebiliyor. Telefon yatak odamızda bile bizimle beraber. Bir gün önünüze sizin yıllarca oluşturduğunuz dijital izlerden hazırlanmış bir sistem çıkarıp, “Taşkın Koçak, al, bu sensin” diyebilirler. Sizin gibi konuşan, sizin gibi cevap veren, sizin yazı dilinizi kullanan bir dijital ikiz. Büyük teknoloji platformlarının elinde çok ciddi miktarda veri var.
Türkiye olarak bizim de veri egemenliği konusunda almamız gereken çok mesafe var. Bunun bir tarafı siber güvenliktir. Bir tarafı veri merkezleridir. Bir tarafı şifrelemedir. Bir tarafı hukuktur. Bir tarafı da kendi büyük dil modellerimizi geliştirmektir. TÜBİTAK BİLGEM bugün BİLGE adıyla Türkiye’nin yerli büyük dil modeli ailesini geliştiriyor. Bu çok kıymetli bir başlangıç.
Bu modeller ileride devlet kurumlarında, savunma sanayiinde ve kapalı sistemlerde kullanılabilir. Fakat bizim esas meselemiz şu:
Verimiz nerede?
Kendi dilimizde ne kadar dijital içerik üretiyoruz? Bugün içerik dili bilinen internet sitelerinin yaklaşık yarısı İngilizcedir. Türkçenin oranı ise yüzde 1,5-1,6 civarındadır. Bunun sebebi de belli. Bugün bilimsel yayınların önemli bölümü İngilizce. Teknolojinin dili büyük ölçüde İngilizce. Finansın dili İngilizce. Uluslararası akademik yayıncılıkta birçok dergi İngilizce başlık ve abstract istiyor. Japon da yazsa, Türk de yazsa dünyaya çıkmak için İngilizce kullanıyor. Dolayısıyla yapay zekâ sistemleri de çok büyük ölçüde İngilizce veriyle büyüdü.”
TÜRKÇE VE TOKENİZASYON MESELESİ
“…Şimdi bunu halkın anlayacağı şekilde anlatayım. Yapay zekâ sizin yazdığınız cümleyi bizim okuduğumuz gibi okumuyor. Önce onu küçük parçalara ayırıyor. Biz buna tokenizasyon diyoruz. Bir nevi heceleme gibi düşünebilirsiniz ama teknik olarak tam heceleme değildir. Her parçaya bir sayı veriliyor. Sonra bunlar vektör dediğimiz matematiksel temsillere dönüştürülüyor.
Model de bu vektörler ve matrisler üzerinde çalışıyor. İngilizce için optimize edilmiş tokenizerlarda aynı anlamdaki bir Türkçe metin bazen İngilizceye göre daha fazla tokena bölünebiliyor. Bunun sabit bir oranı yok. Modelden modele değişiyor.
Bazı sistemlerde Türkçe için yüzde 30-70 civarında daha fazla token kullanımı görülebiliyor. Bu ne demek? Daha fazla işlem. Daha fazla hesaplama. Bazen daha fazla maliyet.
Buradan Türkçe kötü bir dildir sonucu çıkmasın. Tam tersine Türkçe çok güçlü, zengin, eklemeli ve anlamsal kapasitesi yüksek bir dildir. Mesele dilin kötü olması değil. Mesele kullanılan teknolojinin uzun yıllar İngilizce merkezli gelişmiş olmasıdır. Onun için biz Türkçe LLM yapacağız diyorsak yalnızca modeli değil, tokenizerı, veri setini ve değerlendirme sistemlerini de Türkçeye göre geliştirmek zorundayız. BİLGE gibi çalışmaların önemi burada ortaya çıkıyor.”
OTONOM SİLAHLAR
“…Bir başka büyük mesele otonom silahlar. Bugün Türkiye’de de Baykar başta olmak üzere savunma sanayiinde insansız sistemlerin otonomi kabiliyetleri hızla artırılıyor.
Bu teknolojilere sahip olmak zorundayız. Çünkü size karşı böyle bir teknoloji kullanılıyorsa sizin de kendinizi koruyacak teknolojiye sahip olmanız gerekir. Hayatta kalmak istiyorsanız teknolojik caydırıcılığınız olacak. Ama bunun insanlık açısından çok ciddi bir tehlikesi de var. Çünkü otonom sistemde karar mekanizmasının bir bölümü makineye bırakılıyor.
Bir hedefi tespit ediyor. Dost mu düşman mı değerlendirmeye çalışıyor. Tehdit seviyesini hesaplıyor. Ve eğer nihai ateş kararı da tamamen makineye bırakılırsa çok ciddi ahlaki ve hukuki problemler ortaya çıkıyor. Sistem hata yapabilir. Yanlış hedefi vurabilir. Dost unsuru düşman sanabilir. Sivil bir insanı tehdit olarak değerlendirebilir. Bir başka risk daha var. Bu sistemlere dışarıdan müdahale edilirse ne olacak? Sizin yaptığınız silah size dönerse ne olacak?
İşte otonom savaş teknolojilerinin en büyük tehlikelerinden biri budur. Bugün bunlar gelecek senaryosu olarak konuşuluyor. Bir gün otonom sistemlerin birbirleriyle koordinasyon kurduğu, insan müdahalesinin giderek azaldığı bir savaş alanı ortaya çıkabilir. Hani filmlerde “Terminatör” diye seyrediyoruz ya... Elbette bugün orada değiliz. Ama teknoloji o yöne doğru kapılar açıyor.”
KARAR ALMA MEKANİZMALARININ ROBOTLAŞMASI
“Şimdi akıllı şehirlerden bahsediyoruz. Trafik sinyalizasyonunu yapay zekâya veriyoruz. Elektrik dağıtımını ona veriyoruz. Su şebekesini ona veriyoruz. İnternet altyapısını ona veriyoruz. Enerji yönetimini ona veriyoruz. Bunlar çok faydalı şeyler. Ama sisteme yanlış hedef verir ve sınırsız karar yetkisi tanırsanız teorik olarak çok tuhaf sonuçlarla karşılaşabilirsiniz. Mesela diyorsunuz ki:
“Karbon salınımını azalt.”
Sistem eğer insan hayatını ve toplumsal ihtiyaçları doğru biçimde dengeleyecek sınırlarla eğitilmemişse: “Karbon salınımını düşürmenin en hızlı yolu enerjiyi kesmek” diye hesaplayabilir. Veya bütün trafik ışıklarını kırmızıya çevirebilir. “Bugün karbon salınımı fazla, hiç kimse hareket etmesin” diyebilir. Şimdi bu bir örnek. Ama yapay zekâ güvenliği alanında esas tartışılan konu tam da budur..
Sisteme verdiğiniz hedef, insanın niyetiyle aynı şey değildir. Siz “karbonu azalt” dersiniz. İnsan olarak bunun yanında milyon tane görünmeyen şart düşünürsünüz. “İnsan ölmesin”, “Hastaneler çalışsın”, “Ekonomi durmasın”, “Çocuklar okula gitsin”.. Ama makineye bunları öğretmemişseniz yalnızca hedef fonksiyonuna bakabilir. Yapay zekâ güvenliğinin en önemli problemlerinden biri burada.”
TEKNO-FEODALİZM
“…Bugün dünyayı yalnızca devletler yönetmiyor. Teknoloji şirketleri de inanılmaz bir güç elde etmiş durumda. Daha önceki sunumumda Apple’dan bahsetmiştim. Apple’ın piyasa değeri yaklaşık 4,5 trilyon dolar seviyesine kadar çıktı. 2025 yılındaki yıllık geliri yaklaşık 416 milyar dolar. Şimdi düşünün. Tek bir şirket. Ve trilyon dolarlarla ifade edilen bir değer. İşte benim “tekno-feodalizm” dediğim risk burada başlıyor.
Teknoloji şirketlerinin gücü bazı alanlarda devletlerin gücüne yaklaşmaya başladı. Mesela Meta’nın Facebook, Instagram, WhatsApp ve Messenger gibi uygulamalarını her gün milyarlarca insan kullanıyor.
Bu ölçek bana göre bir çeşit dijital devlet gibi. Sizin milliyetinizi biliyor veya tahmin edebiliyor. Yaşınızı biliyor. İlgi alanlarınızı biliyor. Kiminle arkadaş olduğunuzu biliyor. Hangi restorana gittiğinizi biliyor. Neyi beğendiğinizi biliyor.
Siyasi eğilimlerinizi tahmin edebiliyor. Tüketim alışkanlıklarınızı biliyor. Ve bütün bunların üzerine makine öğrenmesini koyduğu zaman sizin psikolojik eğilimlerinizi de tahmin etmeye başlıyor.
Bu inanılmaz bir güç. Çin bu konuda kendi ekosistemini kurmaya çalıştı. Baidu’su var. Kendi sosyal medya platformları var. Kendi ödeme sistemleri var. Kendi dijital altyapısını kuruyor. Çünkü bugün teknoloji bağımsızlığı aynı zamanda devlet bağımsızlığı haline geliyor.”
AMERİKA GPU’LARI STRATEJİK ÜRÜN OLARAK GÖRÜYOR
“Şimdi yapay zekâ yarışının bir başka önemli tarafı var:
Donanım..
Yapay zekâyı yalnızca yazılımla yapamazsınız. Arkada muazzam işlem gücü gerekiyor. GPU gerekiyor. H100, H200 gibi veri merkezi sınıfı yapay zekâ hızlandırıcılarından bahsediyoruz. Bunlar bildiğimiz oyuncu ekran kartları değil. Binlercesi, on binlercesi paralel çalışıyor. Amerika ileri seviye yapay zekâ GPU’larını artık stratejik ürün olarak görüyor. Her ülkeye aynı şekilde vermiyor. Özellikle Çin’e yönelik çok sıkı ihracat kontrolleri uygulandı.
Bugün bazı modellerin ve bazı çiplerin satışına belirli şartlarla ve lisanslarla izin verilebiliyor, ama kontrol hâlâ devam ediyor. Çünkü bunu artık yalnızca ticari bir ürün olarak görmüyorlar. Stratejik güç olarak görüyorlar. Nükleer teknoloji gibi. Savunma teknolojisi gibi..”
TSMC VE MORRIS CHANG
“Burada Tayvan çok önemli bir ülke haline geldi. Çünkü dünyanın en kritik çip üretim merkezlerinden biri orada:
TSMC.. TSMC bugün dünyanın en büyük bağımsız yarı iletken döküm şirketidir. Nvidia için çip üretiyor. AMD için üretiyor. Apple için üretiyor. Birçok teknoloji şirketi tasarımı yapıyor ama üretimi TSMC’ye yaptırıyor. Ve bu şirketin kurucusu Morris Chang’ın hikâyesi de çok ilginç.
Morris Chang yaklaşık 25 yıl Texas Instruments’ta çalıştı. Şirketin yarı iletken işlerinde çok üst düzey yöneticilik yaptı. Fakat şirketin en tepesine çıkamadı. 1983 yılında Texas Instruments’tan ayrıldı. Bir süre sonra Tayvan’a gitti. Tayvan yönetimiyle birlikte yeni bir model kurdu. 1987 yılında TSMC ortaya çıktı. Bu modelin farkı şuydu:
“Ben kendi çipimi tasarlayıp satmayacağım. Başkalarının tasarladığı çipleri üreteceğim.” Bugün buna foundry modeli diyoruz.
Sonuç ne oldu?
Dünyanın en kritik teknoloji şirketlerinden biri ortaya çıktı.2025 yılında TSMC’nin yıllık geliri 120 milyar doların üzerine çıktı. Bugün Nvidia’nın, AMD’nin, Apple’ın ve dünyanın birçok büyük teknoloji firmasının en kritik üretim altyapılarından biri TSMC’dir. Şimdi buradan şunu anlamamız lazım:
Teknoloji yalnızca telefon yapmak değildir. Teknoloji yalnızca bir uygulama geliştirmek değildir. Arkadaki çipi kim üretiyor? GPU kimde? Veri merkezi kimde? İşletim sistemi kimde? Bulut altyapısı kimde? Dil modeli kimde? Veri kimde? Bütün mesele burada. Bir ülke bunların hiçbirine sahip değilse yalnızca teknoloji tüketicisi olur. Ama bunların birkaçında güçlü hale gelirse stratejik aktöre dönüşür. Benim bütün anlatmaya çalıştığım mesele bu. Yapay zekâ büyük bir fırsattır. Ama aynı zamanda çok büyük bir güçtür.
Bu gücün kimde olduğu, hangi amaçla kullanıldığı ve hangi değerlerle sınırlandırıldığı geleceğin dünyasını belirleyecek. Biz teknolojiye karşı çıkamayız. Karşı çıkarsak geride kalırız. Teknolojiye teslim de olamayız. Teslim olursak insanı kaybederiz. Yapacağımız şey bellidir:
Teknolojiyi öğreneceğiz. Üreteceğiz. Kendi altyapımızı kuracağız. Kendi verimizi koruyacağız. Ve bütün bunların merkezine insanı, ahlakı ve adaleti koyacağız.”
YARIN. YAPAY ZEKA TEHLİKLERİ-4