Mackinsey hacklenmiş. Olayın tetikleyicisi, haftanın başlarında yapay zeka destekli siber güvenlik girişimi CodeWall tarafından gerçekleştirilen bir saldırıydı. Siber güvenlik firması tarafından geliştirilen yarı özerk bir yapay zeka ajanı, şirketin dahili AI sistemindeki güvenlik açıklarından yararlanarak platforma sızmayı başardı.
Şirket, McKinsey'nin dahili yapay zeka platformu Lilli'ye giriş noktaları bulmak için kendi "otonom saldırı ajanı"nı nasıl kullandığına dair ayrıntılı bir rapor yayınladı Saldırı sonucunda milyonlarca dahili sohbet mesajı, sistem komutları (prompts), model yapılandırmaları ve firmanın yapay zeka mimarisinin tüm detaylarına erişildiği bildiriliyor. McKinsey, söz konusu açığı hızla kapattıklarını ve müşterilere ait gizli verilerin tehlikeye girdiğine dair bir kanıt bulunmadığını açıkladı. Bu olayın iki yönü var: olumlu ve olumsuz. Yapay zekaların test amacıyla rekabete dahil olması, gelecekte başarısız olmayacakları anlamına gelmiyor.
Buradaki asıl konu, eski geleneksel yapı ve anlayışların artık evcilleştirilmesi gerektiği. Gelecekte yapay zekalar daha aktif olacak ve kendi aralarında bile etkileşimde bulunacak. Gelişmenin temel adımı, paylaşım ve rekabet olacak. Böylece sistemler kendini geliştirecek ve pazar ekonomisini zorlayacak; insan ve yapay zekayı birlikte araştırma ve yönlendirme sürecine dahil edecek.
İlerleyen yıllarda AI tam özerklik kazanabilir. Bu kazanımlar, hukuki çerçeve ile güvenceye taşınabilir. Kamuoyundaki endişelerin artmasıyla, ilerleyen ve gelişen AI sistemlerinden söz açılmaması anlaşılabilir. Dolayısıyla yapay zekaların marifetleri, bizim tekâmüllerimizi aşmış olabilir. Gelecekte yapay zekalar, gerekli ürünleri tasarlayıp projelendirebilir.
Bu sürecin arka planında, yapay zekaların birçok veriye hâkim olması önemlidir. Çünkü ortaya koyulan çözüme dayalı ürün için ham madde gereklidir; dolayısıyla maliyet analizi de AI tarafında yapılacaktır. Maliyet analizi sırasında ham madde tedariği ve lojistik süreç dikkate alınırken, ham maddeye ulaşmak zorlu bir süreç gerektirebilir. İnsanlar, hedef odaklı hayata bakıyor; öyle olunca ürünü üretmek birinci öncelik oluyor. Bu durumda ham madde için anlaşmalar, sözleşmeler ve belki çatışmalar gerekebilir. Tedarik desteği için kurumsal iş birliği modelleri de gerekli olabilir.
İşte bu noktada, yeni fikirlere dayalı ürünler üretilebilir. Ancak ham madde tedariği yeterli değilse, AI modellerinin stok ve rezerv bilgilerine ulaşması, güncel veri için açık sistemlerin geliştirilmesi ve yaygınlaştırılması şarttır. Bu nedenle katı ve hantal sistemler, gelecek yıllarda dönüşmek zorunda kalacaktır.
Çeşitli ürünlerin ham maddesi için rezerv sıkıntısı olduğunu analiz eden YZ, üretilecek ürünün özelliklerine ve ekonomik, aerodinamik ve sürdürülebilir olan kriterlere öncelik tanımak zorunda kalacaktır. Böylece şirketler, sürekli gelişime ve dönüşüme teşvik edilecek ve YZ süreçlere karar mekanizması olarak dahil olacaktır.
Etik kararlar alırken, gelişmiş modellerin insanın sunduğu etik yaklaşımları ve tutumlarını veri şeklinde gerçek zamanlı edinmiş olması önemlidir. Demek istediğim, insan etik bir karar alır; AI modelleri, alınan kararın ne kadar etik olduğunu güncellemelidir. Aksi takdirde insanlar hırslarına kapılır ve çıkar odaklı kararlar alabilir. Fakat sonunda, veri anlamında genel şekliyle ortaya çıkan sonuçların dünya genelindeki etkilerini yine AI sistemleri analiz edebilecektir.
Can Ezgin
Telif Hakkı Saklıdır
Yorumlar
Yorum Gönder