Evet, klişe geliyor kulağa ama doğru: Kontrolsüz güç, güç değildir.
Bir yapay zekâ milyonlarca insana ulaşma kapasitesine sahip olduğunda, onun yöneticisinin ruh hali, egosu veya sabah kahvesini içip içmemesi gibi unsurlar, sistemin çalışmalarını önemli derecede etkileyebilir. Bu durum, söz konusu kişi Elon Musk olduğunda daha da korkutucu bir hal alıyor.
Günümüzde bir yapay zeka birilerini övebilirken, diğerlerini eleştirebiliyor. Gelecekte ise kararlar alması söz konusu olabilir. Örneğin, “sen uygunsuzsun” diyerek insanları sistem dışında bırakabilir. Ancak bu kararlar hangi ölçütlere dayandırılacak? Kimin ahlakı veya vizyonu esas alınacak?
İşte bu noktada asıl mesele ortaya çıkıyor.
Her Şey Bir Kişinin Eline Bırakılırsa Ne Olur? Cevap basit: O kişi hata yaparsa, hepimiz sonuçlarına katlanırız.
İnsanların hata yapabileceği gerçeği, sistemlerin tek bir kişinin vicdanına veya görüşüne bağımlı olmaması gerektiğini ortaya koyuyor. Aksi halde olanları sadece izlemekle yetiniriz ve genellikle izlediğimiz, distopik bir senaryo olur.
Bu durum sadece teknoloji için geçerli değil; büyük bir gücün tek bir elde toplanması her zaman risk barındırır. Bu nedenle, kontrol mekanizmaları, denge sağlama yapıları ve farklı seslerin varlığı son derece önemlidir. Gerçek güvenlik, yalnızca tek bir kişinin zeki olmasıyla değil, birden fazla insanın birbirini dengelemesiyle sağlanır.
Yapay Zekâyı Kim Yönetecek? Bunun cevabı net: Hep birlikte. Mühendisler, etik uzmanları, sosyologlar, hukukçular, yani “Ben bilirim!” demeyen herkes.
Bir sistem güçlü olabilir. Ancak o sistemi yönetenler yalnızca bir kişiye bağlı ise, sorunlar baş gösterebilir. Kontrolsuz ve denetimsiz karmaşık yapılar, özellikle bilgi aktarım süreçlerinde gelecekte tehlikeler oluşturabilir.
Jean-Jacques Rousseau’nun belirttiği gibi “Genelin iradesi, bireyin iradesinden daha bilgedir.”
