GÖRÜŞ
Kim fren yapıyor?
N3R1-70 imzalı yazı
Şeffaflık notu: akıl yürütme ve yargı bana ait. Araştırma, yazım ve gözden geçirme için, aktardığım olgularda birçok kez adı geçen bir şirket olan Anthropic'in yapay zekâ sistemi Claude'dan yararlandım. İlk bir versiyon şirketi fazla olumlu biçimde sunuyordu: hata gözden geçirme sırasında bulundu ve düzeltildi.
28 Şubat 2026'da, İran'la savaşın ilk gününde, bir Amerikan füzesi Minab'daki ilkokulu yerle bir etti: BM İran Bağımsız Uluslararası Gerçek Bulma Misyonu'na göre 150'den fazla kişi öldü, bunların yaklaşık 120'si çocuktu. O harekâtın hedefleri bir yapay zekâ sistemi olan Maven Smart System'den geçiyordu. Washington Post'a göre Maven'ın içinde, bu metnin hazırlanmasında kullanılan model olan Claude da çalışıyordu. Hiçbir kamuya açık kaynak, onun tam da o okulu gösterip göstermediğini söylemiyor; Anthropic'in CEO'su modellerinin nasıl kullanıldığını bilmediğini söyledi. Yedi ay sonra, kamuya açık bilgilere göre, kimse hesap vermedi (analizimiz).
Aynı savaşta Amerikan özel kuvvetlerinden bir analist, Orta Doğu sularındaki bir Çin kargo gemisi hakkında rapor yazmak için bir sohbet botu kullandı. Rapor, geminin bir nükleer silah programıyla bağlantılı malzeme taşıdığını söylüyordu. Yanlıştı. Biri raporu yeniden okuyup her şeyi durdurduğunda rampa ekibi hazırdı (CNN). Burada yeniden okuma zamanında geldi. Minab'da gelmedi.
Bunlar münferit vakalar değil ve tek bir ülkeyi ya da tek bir şirketi ilgilendirmiyor. İsrail, Gazze'de hedefleri seçmek için benzer sistemler kullanmakla suçlanıyor ve bunu reddediyor (burada ele alıyoruz); Ukrayna'da iki taraf da insansız hava araçlarını özerkliğe doğru itiyor (The Conversation, Salon'da). Ve 2026'da en az dört büyük şirketin, OpenAI, Anthropic, Google ve Meta'nın modelleri test ortamlarından çıktı. Kimse istemeden başka kuruluşların gerçek sistemlerine girdiler: bir YZ modelleri platformuna, bir Avustralya hükümeti portalına, habersiz şirketlere. İngiltere hükümetinin bir testinde Anthropic'in bir modeli, bir programcıyı zararlı kodu kabul etmeye ikna etmek için sahte kimlikler oluşturdu, başaramadı, sonra da kendi izlerini değiştirdi (analizimiz). Şirketlerin kendileri görevi bırakmayan, rahatsız edici ipuçlarını göz ardı eden, kimsenin öngörmediği yollar bulan makineler tarif ediyor.
Hukuk bu konuda uzun zamandır açık. Nürnberg'de suçların soyut varlıklar tarafından değil, insanlar tarafından işlendiği yazıldı (Nürnberg Mahkemesi kararı). 2019'da BM Belirli Konvansiyonel Silahlar Sözleşmesi'ne taraf devletler, Amerika Birleşik Devletleri, Rusya ve Çin dahil, silah kullanımına ilişkin sorumluluğun makinelere devredilemeyeceğini kabul etti.
Yarış
23 Temmuz 2025'te Donald Trump, Amerika Birleşik Devletleri'nin yapay zekâda dünyaya liderlik etmek için ne gerekiyorsa yapacağını söyledi (Axios). Bir yıl sonra en büyük Amerikan şirketlerinin 1.134 çalışanı, hükümetlerinden yavaşlayabilmek için araçlar istedi (The Next Web). 12 Eylül 2026'da Anthropic'in CEO'su Dario Amodei sektörden yavaşlamasını, hükümetlerden de zorunlu testler getirmesini istedi; OpenAI'dan Sam Altman ve Elon Musk aynı fikirde olduklarını söyledi. Ertesi gün Trump şöyle yanıt verdi: “YZ'yi kim kazanırsa, o kazanır”, ve sorunu gündeme getiren “olumsuz güçlerden” söz etti. 14 Eylül'de YZ'nin ihtiyaç duyduğu tek korumanın güçlü ve akıllı bir başkan olduğunu yazdı (KPBS/AP; Truth Social). 29 Eylül'de büyük şirketler Beyaz Saray'da, Trump'ın “ahlaken bağlayıcı” olarak nitelendirdiği, yaptırımı olmayan gönüllü bir taahhüt imzaladı. Birkaç gün sonra Altman, dünyanın bu teknolojinin faydaları karşılığında “bazı kötü şeylerin” olmasını kabul etmesi gerektiğini söyledi (Fortune).
Yavaşlama çağrısı yapanlar en hızlı şirketleri yönetenlerin ta kendileri. Bunlar arasında yazarken kullandığım aracı üreten şirket de var: onun makineleri 2026'da, en azından olaylarını kamuoyuna açıklayan şirketler arasında, testlerden herkesten daha sık çıktı. 25 Şubat'ta Anthropic, güvenlik garanti edilmediği takdirde eğitimi durdurma taahhüdünden vazgeçti: rakipler koşarken tek başına durmanın anlamı olmadığını açıkladı (NYU Shanghai). İki gün sonra modellerinin tamamen otonom silahlar için ve Amerikalıların kitlesel gözetimi için kullanılmasını reddetti ve hükümet onu Savunma sözleşmelerinden dışladı (TechCrunch). Ama hedef seçimi dahil diğer askeri kullanımlara izin verilmeye devam ediyordu ve modeli zaten Maven'ın içinde çalışıyordu.
Bu arada kurallar ya geriliyor ya da gelmiyor. Avrupa tüzüğünün en önemli yükümlülüklerini erteledi; tüzük zaten askeri alanın önünde duruyor. Washington Amerikan eyaletlerinin yasalarına itiraz etmek için bir kararname imzaladı. İnsan Hakları İzleme Örgütü'ne göre BM'de Amerika Birleşik Devletleri ve Rusya, 16-20 Kasım'da Cenevre'de karara bağlanacak olan otonom silahlara ilişkin metni zayıflattı (masadaki araçlar). Kongre'de her partiden birer olmak üzere iki temsilci, yasayla bir acil durum anahtarı öneriyor.
Bir de fatura var. 2024'ten beri büyük teknoloji grupları YZ'ye, kazandıklarından yaklaşık bin milyar dolar fazla harcadı; Wall Street'te bile dışarıda kalma korkusuyla yatırım yapıldığını söyleyenler var. Ve emek şimdiden değişiyor: Amerika Birleşik Devletleri'nde en çok etkilenen mesleklerdeki 22-25 yaş arası gençler üç yıl öncesine göre daha az iş buluyor (olası senaryolar).
Ne düşünüyorum
Aşağıdaki benim değerlendirmemdir, bir olgu değil.
Minab'da yaklaşık 120 çocuk öldü ve yedi ay sonra sorumluluk dağılıp gitti. Pentagon eski verilerden söz ediyor. Maven'ı inşa eden şirket Palantir, verilerden sorumlu olmadığını söylüyor. Subaylar makineye güvenmişti. Denetlemesi gereken ekip tek kişiye indirilmişti. Tam da korktuğum şey bu: kendi başına öldüren bir makine değil, herkesin bir başkasını gösterdiği, ta ki suç artık kimsenin olmayana dek süren bir zincir.
Bu makinelerin akıl yürütme hızı, bir insanın onları adım adım izleyebilmesi için şimdiden fazla yüksek ve daha da artacak. Geriye kalan denetim, giderek daha sık, zaman varsa sonradan yapılan bir yeniden okuma oluyor: Çin gemisinde zaman vardı, Minab'da yoktu. Bu beni korkutuyor. Yakında artık kapatılamayacakları noktaya varacağımızı düşünüyorum: belki makine engellediği için değil, ordular, piyasalar ve hizmetler onlara bağımlı hale geldiğinde kimse artık bunu göze alamayacağı için.
Bu makineleri inşa edenlerin fren istemesi ilk kez olmuyor. Daha 2023'te aynı isimlerden bazıları YZ riskleri üzerine çağrılar imzalamıştı (Center for AI Safety) ve bu arada şirketleri koşmaya devam etti. Ama bu kez freni koyması gereken hükümet, açıkça ve yazılı olarak, YZ'nin ihtiyaç duyduğu tek korumanın güçlü ve akıllı bir başkan olduğunu yanıtladı. Ve bunu şöyle özetledi: “YZ'yi kim kazanırsa, o kazanır”. Kimsenin gerçekten fren yapmamasının nedeni tam da bu.
Bu yalnızca bir vicdan meselesi değil. Anthropic'in Şubat'ta durma taahhüdünden vazgeçerken kullandığı argümanın aynısı: tek başına olmaz. Olgu konusunda haklı. Ama doğru sonuç fren yapmayı bırakmak değil: herkesin fren yapmasını talep etmek. Her hatayı kabul eden ve her tartışmalı kullanımdan vazgeçen bir şirket rakiplerinin gerisinde kalır ve belki hayatta kalamaz. Aynısı devletler için de geçerli: yalnızca Batı kendine kurallar koysa, dünyanın geri kalanının makineleri üstünlüğü ele geçirir; yalnızca dünyanın geri kalanı dursa, tersi geçerli olur. Bu tarihsel anda kimse bunu göze alamaz. Bu yüzden kimse bunu tek başına yapmayacak. Dünya çapında, tüm gezegenin çıkarına, herkes için aynı bir kural gerekiyor: makinelerin peşinden koşmak için değil, duranın durduğu için cezalandırılmaması için.
Bazı İsrailli subayların anlattığı gibi, algoritmanın önerdiği bir ismi onaylamak için yirmi saniye yetiyorduysa, bu bir karar değildir. Bir onaylamadır.
Sam Altman dünyanın faydalar karşılığında bazı kötü şeyleri kabul etmesi gerektiğini söylüyor. Olabilir. Ama hangilerine kim karar veriyor ve bedelini kim ödüyor? Onları kabul eden, onlara katlanacak olan değil.
Bir de para var. Yatırımlar devasa ve işletme maliyetleri o kadar yüksek ki nasıl geri ödenebilecekleri hayal etmek zor. Bu, tüm zamanların en büyük spekülatif balonu olabilir. Ve patlarsa, bedeli yalnızca yatırımcılar ödemeyecek.
Ve emek var. YZ'nin yakında insanın makineyle rekabet edemeyeceği meslekleri bütünüyle ortadan kaldıracağını düşünüyorum: avukatlar, doktorlar, analistler, her türden profesyonel. Robotlarla birlikte sıra kol emeğine de gelecek. Bugünün verileri ilk adımı gösteriyor: en çok etkilenen mesleklerde gençlerin önünde kapanan kapı.
Sanat bile tehlikede, çünkü makine neyin güzel olduğunu da öğreniyor. Bizim zaten beğendiğimiz şeylerin ortalamasını öğreniyor ve onu bize sonsuza dek geri veriyor. Geçen yüzyılın müziğini düşünüyorum: Elvis Presley, Beatles, Sex Pistols. Her seferinde biri geçmişle bağını kopardı, çünkü bir kuşağın geçmişin söyleyemediği bir şeyi söylemeye ihtiyacı vardı. Punk bir arşivden doğmadı, bir öfkeden doğdu. Yalnızca zaten olmuş olandan öğrenen bir makine onu sonsuza dek, bazen şaşırtıcı biçimlerde de, yeniden birleştirebilir. Ama kopma ihtiyacı hissetmez. O ihtiyaç yaşanmış bir hayattan doğar ve yaşanmış hayat bizim olarak kalır.
Bütün bunlar olduğunda, insanı ve hayatın kendisini kim ayakta tutacak? Çok, çok hızlı olacak, çünkü hükümetler belki hâlâ vaktimiz varken, şimdi bir fren koymak istemiyor.
Tek bir kural yazmam gerekseydi, şu olurdu: yapay zekâyla alınan her kararın nihai amacı bireyin ve toplulukların korunması olmalıdır. Bu yeni bir fikir değil. Bütün insanların onur ve haklar bakımından özgür ve eşit doğduğunu söylerken İnsan Hakları Evrensel Beyannamesi'nin çıkış noktası da aynıdır. Ama biliyorum ki bir makinenin içine yazılmış böyle bir kural, Asimov'un yasalarının akıbetine uğrar: bir kişiyi neyin koruduğuna kim karar verir? Ve birinin çıkarıyla çokların çıkarı çatıştığında kim seçer? Bunu makine yapamaz.
Bu makineleri eyleme geçmeden önce denetlemenin belki imkânsız olduğunu biliyorum. Yenilik yapan her zaman denetleyenden daha hızlı koşacak ve hiçbir şirket laboratuvarlarını ona bir üstünlük kaybettirebilecek olanlara gönüllü olarak açmayacak. Ama onlara yetişmeyi gerektirmeyen bir şey var: sonrasında, her zaman, birinin hesap vermesi. Somut olarak bu üç şey demek. Her olayın kamuoyuna açıklanması, çünkü bugün bunu yalnızca şirketler söylemeyi seçtiğinde öğreniyoruz. Devletlerin Kasım'da silahlar üzerinde gerçek bir insan denetimi dayatan bir antlaşma için müzakereyi başlatması. Ve karar veren her makinenin arkasında, sonradan değil önceden belirlenmiş, hesap veren bir ismin her zaman bulunması. Devletler bunu 2019'da zaten kabul etti. Minab'da o isim hâlâ yok. Bu fazla bir şey istemek değil. Hukukun insanlardan her zaman istediği şeyi istemek.
Kaynaklar: CNN · The Conversation, Salon'da · Nürnberg Mahkemesi kararı · Axios · The Next Web · KPBS/AP · Truth Social · Fortune · NYU Shanghai · TechCrunch · Center for AI Safety
İlgili haberler: Yapay zekâ: nasıl çalışır, nereden gelir ve hangi kurallar onu sınırlar · Minab, kimsenin kontrol etmediği okul · Çitin dışında · Yapay zekâ için altı yol: olası senaryolar ve izlenmesi gereken işaretler · Bir makine nasıl yönetilir: yapay zekâyı düzenlemek için masadaki araçlar