Bu soru, Uluslararası Para Fonu (IMF) Başkanı Kristalina Georgieva’ya yöneltildi.

Washington’da düzenlenen IMF ve Dünya Bankası bahar toplantılarına çeşitli ülkelerden maliye bakanları, merkez bankası yetkilileri ve dünyanın en önde gelen finans uzmanları katıldı.

AB ve İsrail’in İran’a karşı savaşı ve Hürmüz Boğazı’nın kapanmasının ekonomik sonuçları herkesin aklındaydı.

Fakat BBC’nin ekonomi editörü Faisal Islam, bazı katılımcıların eşit derecede veya hatta daha ciddi şekilde başka konuya dikkat kesildiğini aktardı.

Hepsi yeni bir yapay zeka modeli konusunda endişeliydi. Bazılarına göre bu yeni yapa zeka sürümü, dünyanın finans sistemini ciddi şekilde alt üst edebilirdi.

Sözkonusu modelin adı Mythos’tu ve ABD merkezli Anthropic tarafından üretildi.

Endişe edilen şey, bu teknolojinin yanlış ellere geçmesi durumunda sonuçların sadece bankacılık sistemiyle kalmayabileceğiydi. İnsanların banka hesaplarını da etkileyip etkilemeyeceği sorusu da gündeme geldi.

Kullandığımız cep telefonları, tabletler ve bilgisayarlar da güvensiz hale gelebilir miydi?

IMF başkanına yöneltilen soru da bu konudaydı ve dünyanın en güçlü ekonomisi ABD’den üst düzey yetkililer de aynı endişeyi dile getirdi.

ABD Hazine Bakanı ve Merkez Bankası Başkanı da New York’ta önde gelen Wall Street liderleriyle bir araya geldi ve bu yeni yapay zeka modelinin yarattığı siber güvenlik tehditleri ele alındı.

CBS News sunucusu, IMF Başkanı Kristalina Georgieva ile yaptığı röportajda, modelle ilgili dile getirilen endişelere değindi ve “Neden korkuyorlar? Siz de endişeli misiniz?” sorusunu yöneltti.

IMF Başkanı siber güvenlik tehditlerinin hızla arttığını söyledi ve “Evet, bundan endişeliyiz” dedi.

Washington zirvesi sırasında, ABD-İsrail’in İran’a karşı yürüttüğü savaştan kaynaklanan kriz, İngiliz bankası Barclays’in CEO’su C.S. Venkatakrishnan’ın kaygı listesinde üçüncü sıradaydı.

Venkatakrishnan’ın en büyük endişesi, yapay zekanın “çok yaygın hale” gelip gelmediğiydi.

İran’ın Hürmüz Boğazı’nı kapatarak küresel piyasalarda petrol ve enerji arzını aksattmasının etkileri tüm dünyada hissediliyor.

Kanada Maliye Bakanı François-Philippe Champagne iki durumu karşılaştırdı ve “Hürmüz Boğazı’nın nerede olduğunu ve boyutlarını biliyoruz ama Mythos’tan kaynaklanan tehlike konusunda bir netlik yok” dedi.

Peki, Mythos ne ve dünyanın finans yetkililerini ve siyasilerini neden bu kadar endişelendiriyor?

Claude Mythos, Amerikan teknoloji şirketi Anthropic tarafından geliştirilen bir yapay zeka modeli.

Mythos, şirketin yapay zeka sistemi Claude içinde yer alıyor ve bu sistem, OpenAI’nin ChatGPT’si ve Google’ın Gemini’si ile rekabet ediyor.

Araştırmacılar, “Mythos’un bilgisayar güvenliğiyle ilgili inceleme yapma ve açık bulma görevleri yerine getirme konusunda olağanüstü yetenekli olduğuna” işaret ediyor.

Bu araştırmacılar “kırmızı ekipler” olarak bilinen güvenlik değerlendirme gruplarında çalışıyordu. Yazdıkları rapora göre Mythos, bilgisayar kodlarındaki gizli güvenlik açıklarını tespit etme ve bunları istismar etmenin yollarını bulma yeteneğine sahipti.

Bir başka deyişle, sistem kullandığınız herhangi bir yazılımdaki zayıflıkları, hatta üreticinin henüz farkında olmadığı ve düzeltmediği güvenlik açıklarını bile tespit edebiliyor.

Kırmızı ekip, bu aracın onlarca yıl önce yazılmış kodlardaki gizli hataları tespit edebildiğini ve bunları kolayca istismar edebildiğini tespit etti.

Bu nedenle, Anthropic bu modeli kullanıcılarına geniş kapsamlı bir şekilde sunmak yerine “dünyanın en kritik yazılımlarını güvence altına alma çabası” ifadesiyle, 12 teknoloji şirketine erişim verdi.

Bu şirketler arasında Amazon Web Services, Apple, Microsoft ve Google’ın yanı sıra Nvidia ve Broadcom gibi çip imalatçıları yer aldı.

Bu erişim sayesinde, Mythos’un kullanabileceği dahil siber saldırılara karşı sistemlerini güçlendirmelerine olanak tanınacaktı.

Temmuz 2024’te hatalı bir yazılım güncellemesi nedeniyle küresel çapta bir aksamaya neden olan Crowdstrike da projeye katılan şirketler arasındaydı.

Anthropic, Mythos’a kritik yazılımlardan sorumlu 40’tan fazla kuruluşa daha erişim sağladığını duyurdu.

Anthropic, Mythos’un eğitim sürecinde öngörülemeyen kabiliyetler sergilediğini ve bunun yazılım güvenlik açıklarını daha etkili bir şekilde belirlemeye ve düzeltmeye yardımcı olabileceğini savunuyor.

Ancak bu aynı kabiliyet ciddi endişeleri de beraberinde getirdi.

Bazı uzmanlara göre, Mythos “yanlış ellere” geçerse herhangi bir bilgisayar sistemini tehlikeye sokmak için kullanılabilir.

Anthropic, testler sırasında bu modelin siber güvenlik alanında ve siber saldırılarla ilgili görevlerde oldukça yetenekli olduğunu ve hatta insanlardan daha iyi performans gösterdiğini açıkladı.

Anthropic, Mythos’u test ettikten sonra internet sitesinde yayınladığı bir raporda, sistemin güvenlik açıklarını, yani henüz keşfedilmemiş kusurları tespit etme ve bunlardan yararlanma yeteneğine sahip olduğunu belirtti.

Şirketin açıklamasına göre Mythos “tüm büyük işletim sistemlerinde ve tüm büyük internet tarayıcılarında” güvenlik açıklarını tespit edip, bunlardan faydalanabiliyor.

Bu güvenlik açıklamalarının bazılarının tespit edilmesi son derece zor iken Mythos “10 veya 20 yıldır” mevcut güvenlik açıklarını bile tespit edebildi.

Bir başka deyişle, yazılımcılardan ve kullanıcılardan onlara yıl gizlenmeyi başaran kusurlar, bu model sayesinde artık tespit edilmiş halde.

Yüksek güvenliğiyle bilinen OpenBSD işletim sistemi de bu sorundan nasibini aldı ve Mythos, sistemde 27 yıldır bulunamayan bir güvenlik açığını keşfetti.

Teknoloji ve uluslararası güvenlik uzmanı Gordon M. Goldstein, bir siber güvenlik şirketinin kurucusundan alıntı yaparak, Dış İlişkiler Konseyi için yazdığı bir makalede, “Bu model önce açıkları tespit ediyor, ardından bunu diğer güvenlik açıklarıyla birleştiriyor ve tespit edilmeden sistemde süresiz olarak kalabiliyor” diyor.

Goldstein “Bu şekilde Mythos, bir sistemin tam anlamıyla kontrolünü ele geçirebiliyor” diye de ekliyor.

Anthropic, yapay zeka alanındaki gelişmelerin hızı göz önüne alındığında, bu tür yeteneklerin kısa süre içinde yaygınlaşabileceği uyarısında bulundu.

Şirket böyle bir durumda, “ekonomi, kamu güvenliği ve ulusal güvenlik açısından sonuçlar çok ciddi olabilir” diyerek hassasiyete dikkat çekti.

Yapay zeka uzmanı Goldstein ayrıca, dünyadaki kritik altyapının artan tehditlerle karşı karşıya olduğu konusunda da uyarıyor.

Kritik altyapı, hasar görmesi veya bozulması durumunda ulusal güvenliği, ekonomik istikrarı ve kamu sağlığını ciddi şekilde etkileyecek fiziksel veya sanal sistemler ile ağlar olarak tanımlanıyor.

Uzmana göre, barajlar, nükleer reaktörler, gıda dağıtım sistemleri ve elektrik şebekeleri gibi sektörler hala eski yazılımlara bağımlı.

Yapay zeka uzmanı Dan Hendrix’in uyarısını hatırlatıyor ve “Mythos gibi modeller bu riskleri daha da artırıyor ve bu sistemleri çok daha savunmasız hale getiriyor” diyor.

“Bu tür modellerle ilgili en büyük siber güvenlik endişesi, devlet dışı aktörlerin altyapıyı hedef almasını çok daha kolaylaştırmaları.”

Anhtropic’in açıklamasındaki bir bölüm en önemli ve endişe verici kısım olarak kayda geçti.

Buna göre Mythos bir internet tarayıcısında dört güvenlik açığı tespit etti ve işletim sistemi güvenlik duvarlarını otomatik atlatmayı başardı.

Ayrıca diğer işletim sistemlerindeki ve Linux tarayıcısındaki güvenlik sistemlerini de atlatmayı başardı ve erişilebilir bir sunucuya saldırmanın otomatik bir yolunu tasarladı.

Cep telefonlarında kullanılan Android işletim sistemi de Linux tabanlı.

Yapay zekaya ilişkin endişeler yeni değil.

Sürekli yeni modeller ve cihazlar piyasaya sürülüyor ve bunların hayatımızı olumlu ya da olumsuz yönde değiştireceği söyleniyor.

Yapay zeka ve gelecekteki etkileri hakkındaki bu endişe ve heyecan ortamından yararlanmak, son yıllarda bu alanın ve pazarlama stratejilerinin en belirgin özelliklerinden biri haline geldi.

Mythos örneğinde ise, bu umut ve endişelerin haklı olup olmadığını veya sektördeki abartının bir yansıması olup olmadığını değerlendirmek için henüz yeterli bilgiye sahip değiliz.

Birçok bağımsız siber güvenlik uzmanı henüz Mythos’u kendileri test edemedi ve bazıları performansı konusunda şüpheli.

İngiltere’nin Yapay Zeka Güvenliği Enstitüsü geçtiğimiz günlerde modelin güçlü olmasına karşın, en büyük tehdidin yetersiz korunan ve savunmasız sistemlere yönelik olacağı sonucuna vardı.

Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti.

Yapay Zeka, Teknoloji, Ekonomi, Finans, Dünya, Son Dakika

Son Dakika › Dünya › Yapay Zeka Endişeleri Zirvede – Son Dakika