Yapay zekâ tartışmalarının temelinde yalnızca bir yazılımın yeteneklerinin gelişmesi değil, daha önce görülmemiş bir gelişim koşulu içinde ortaya çıkması yatıyor. Karşı karşıya olduğumuz sistem, mekanik bir yapı değildir; otonom çalışan, elektronik altyapılara ve dijital ekosistemlere entegre olabilen bir yazılım modelidir. Mekanik sistemlerde bile insan müdahalesinin yetersiz kaldığı durumlar yaşanırken, yazılım tabanlı ve küresel ölçekte çalışan sistemlerin gelecekte nasıl yönetileceği önemli bir soru olarak karşımızda durmaktadır. İleride geniş çaplı güvenlik açıkları olduğunda bunu açıkça söyleyemeyebilirler.
Öte yandan, "Böyle geniş çaplı bir yapay zekâ krizi olursa insanlar bir anda dünyanın sonu geldi diye düşünür ve yaygın intiharlar başlar" gibi bir senaryoyu kesin bir sonuç olarak söyleyemeyiz. Böyle bir durumun yaşanacağına dair elimizde bir kanıt yoktur. İnsanların tepkileri toplumdan topluma, olayın niteliğine ve güvenilir bilginin ne kadar hızlı paylaşıldığına göre farklılık gösterebilir. Çünkü en ufak bir haberde panikleyen, aşırı tepki veren insan kitleleri ve toplumlar vardır. Bir kriz çıkarsa bazı insanlar bir anda dünyanın sonu geldiğini düşünebilir. Böyle bir durumda toplumsal psikolojinin nasıl etkileneceği önemli bir araştırma konusu olacaktır.
Önlemler, olacaklar üzerine gerçekçi senaryolar üreterek alınabilir. Ancak yapay zekânın şu andaki gelişim hızı uzmanları ve kurumları düşündüren temel konulardan biridir. Geçmişte teknolojiler genellikle daha yavaş ilerledi. Bir bilgisayarın kapasitesi, bir telefonun özellikleri veya bir sanayi makinesinin gelişimi yıllar içinde aşamalı değişimler gösterdi. Yapay zekâda ise bazı yetenekler beklenenden çok daha hızlı ortaya çıkabiliyor.
Bu nedenle yapay zekâ konusunda asıl mesele yalnızca bir "kapatma düğmesi" oluşturmak değildir. Çünkü fiziksel bir makineyi durdurmak ile dünyanın farklı noktalarındaki sunucularda çalışan, sürekli gelişen ve birbirine bağlı bir yazılım ekosistemini yönetmek aynı şey değildir. Gelecekte ortaya çıkabilecek riskler karşısında sınırlandırılmış yetkiler, insan denetimi, kayıt sistemleri, güvenlik testleri ve acil durum protokolleri önem kazanacaktır.
Mekanik değil, yazılım tabanlı ve entegre bir sistemle karşı karşıyayız. Asıl tartışma burada başlamaktadır. Bir makinenin kolunu fiziksel olarak durdurmak başka, dünyanın farklı yerlerindeki sunucularda çalışan bir yazılım ekosistemini yönetmek başkadır. Bu nedenle uzmanların bir kısmı "tek düğme" fikrinden ziyade sınırlandırılmış yetkiler, insan onayı, kayıt ve izleme sistemleri, güvenlik testleri ve acil durum protokolleri üzerinde durmaktadır. Bir teknoloji hakkında aşırı korku yayılırsa yanlış bilgiler çoğalabilir, ekonomik etkiler oluşabilir ve insanlar güven kaybı yaşayabilir. Ancak hiçbir risk yokmuş gibi davranmak da tehlikeli olabilir.
İnsan hata yaptığında etkisi genellikle sınırlıdır. Ancak çok kullanılan bir yapay zekâ sistemi hata yaparsa, aynı hata milyonlarca insanı etkileyebilir. Finans sistemlerinde yanlış kararlar, kritik altyapılarda hatalı yönlendirmeler, büyük çaplı dezenformasyon ve siber güvenlik açıkları gibi alanlarda etkiler büyüyebilir.
Bir modelin sadece bilgi vermesi beklenirken; kod yazabilmesi, araç kullanabilmesi, uzun görev planları yapabilmesi ve farklı sistemlerle iletişim kurabilmesi gibi özellikler gelişiyor. Kurumların sorduğu temel soru şudur: Bir sonraki aşama geldiğinde hazırlıklı olacak mıyız?
Can Ezgin
Telif Hakkı Saklıdır
Yorumlar
Yorum Gönder