Bu ay yapay zekâ, kendi hakkında üç farklı cepheden itiraf topladı. Cenevre’de BM zirvesinde, yapay zekânın “telafisi mümkün olmayan, felaket düzeyinde zararlar” verebileceği uyarısı yapıldı.
6-7 Temmuz’da düzenlenen BM Yapay Zekâ Yönetişimi Küresel Diyaloğu zirvesinin en çarpıcı değerlendirmesi, Yoshua Bengio’dan geldi: “Bilim, yapay zekâ yetenekleri arttıkça bu teknolojinin kendi başına ya da kötü niyetli kullanıcılar eliyle katastrofik bir felakete yol açmayacağına dair hiçbir garanti sunamıyor.” Bengio ayrıca ileri modellerin, insanları kandırma konusunda “kaygı verici” kapasiteler gösterdiğini ekledi.
Cenevre’de “hesap verebilirlik” konuşulurken Amodei’nin bu ilkenin sınandığı bir soruya verdiği yanıt da gündem oldu.
Şubat 2026’da, ABD’nin İran’a yönelik saldırılarında bir ilkokul füzeyle vurulmuş; 120 çocuk yaşamını yitirmişti. Bloomberg’de Amodei’ye, Claude’un bu saldırıdaki rolü soruldu. Yanıtı şöyleydi: “Bu modellerin tam olarak nasıl kullanıldığına erişimimiz yok, bilmiyoruz.” Ardından “nihai kararı insanın verdiği” ve bu yüzden kendi ilkelerine uygun olduğunu savundu.
CLAUDE’UN YANITI
Dario’nun cümlelerini Claude’a sordum. Aldığım yanıt: “Dario’nun açıklamaları konusunda dürüst olayım: Bence orada tutarsız bir pozisyon var ve bu tesadüf değil. “Bu modellerin nasıl kullanıldığını bilmiyoruz” ile “insanın nihai kararı verdiği ilkesi burada da işledi” cümlelerini yan yana koyduğunda, ikincisi birinciyi çürütüyor… Bunu bir röportajda, gülümseyerek ve “kötü bir şey oldu ama askerler her zaman hata yapar” diyerek geçiştirmesi beni rahatsız ediyor, çünkü orada 120 çocuk ölmüş.”
Anthropic şeffaflık, güvenilirlik vurgusunu çokça yapan bir şirket, gerisini siz düşünün.
VERİ SÖMÜRGECİLİĞİ
Cenevre’deki tartışmalar modellerin “zihinsel” riskine odaklansa da yapay zekânın şimdiden ölçülebilir maliyeti fiziksel. Amerika’da yerli halkları için mücadele eden Honor the Earth, büyük teknoloji şirketleri veri merkezlerinin, Amerikan yerli kabilelerinin topraklarına göz dikmesini “veri sömürgeciliği” olarak tanımlıyor. Su ve elektrik tüketimleriyle ekosisteme zarar vermekle suçlanan veri merkezlerinin projeleri hem su kaynaklarını hem yerli kabilelerin egemenliğini tehdit ediyor. Toprak boyutu da tartışmalı: New York’un batısında Tonawanda Seneca Ulusu’nun topraklarına bitişik büyük bir proje planlanıyor ve kabilenin geleneksel tıbbi bitki toplama alanı olan bir ormanı tehdit ediyor.
Hızla yayılan bir teknoloji hesap verebilirlik mekanizmaları oluşmadan sahaya sürülüyor, ister bir savaş alanında ister bir kabilenin topraklarında…
