Anthropic’in kurucu ortaklarından Jack Clark, yapay zekanın (AI) artık insan katkısı olmadan gelişebilecek bir noktaya yaklaştığı konusunda uyardı ve bunu yavaşlatma çağrısında bulundu.

Clark, BBC Newsnight programına yaptığı açıklamada “Ayağınızı gazdan çekip frene basabilme seçeneğiniz olmasını istersiniz” dedi ve ekledi:

“Şu anda yapay zeka sektörünün bir gaz pedalı var, ancak fren pedalı yok.”

Clark, insanların hükümet politikaları aracılığıyla, giderek daha güçlü hale gelecek ve toplum üzerinde daha geniş etkiler yaratacak yapay zeka sistemleri üzerinde kontrolü koruması gerektiğini vurguladı:

“Dünya olarak biraz düşünmemiz ve bu sistemlere güvenmemizi sağlayacak yeni düzenlemeler geliştirmemiz gerekiyor.”

Anthropic’in popüler sohbet robotu Claude, kodunun %80’ini sistemin kendi yazdığı bir yapı üzerinde çalışıyor.

Clark, iki yıl içinde bunun %100’e ulaşmasının mümkün olduğunu ve bunun “çok büyük sonuçlar doğuracağını” söyledi.

Clark, yapay zeka araştırma ve geliştirme için bir “fren pedalı”nın nasıl oluşturulabileceğini detaylı olarak açıklamadı ancak geçen yüzyıldaki petrol patlamasıyla bağlantı kurarak şunları belirtti:

“Toplumun tepkisi, petrolün dünyaya sağlayabileceği faydalar konusunda insanlara güven verecek makul politika ve düzenleyici bir çerçeve oluşturmak oldu.

“Böylece şirketleri yöneten kişilerin karakteri konusunda endişelenmek zorunda kalınmadı. Varacağımız yer açıkça burası.”

Buna karşın Anthropic, bu hafta ABD Başkanı Donald Trump’ın çıkardığı ve yapay zeka şirketlerine müdahaleleri nispeten kısıtlı tutan başkanlık kararnamesini memnuniyetle karşıladı.

Söz konusu kararnamede, yapay zeka şirketlerinin hükümet tarafından güvenlik testlerine tabi tutulması zorunlu kılınmadı. Bu halen gönüllü bir uygulama.

Anthropic, OpenAI ve Google dahil olmak üzere teknolojide ilerleme peşinde olan büyük yapay zeka şirketleri de kendi araştırmalarını durduracaklarını açıklamadı.

Anthropic, beş yıl önceki kuruluşundan bu yana o kadar hızlı büyüdü ki halka arz için hazırlık yapıyor.

Şirketin, yeni yapay zeka firmaları arasında halka açılan ilk şirketlerden biri olması bekleniyor.

Bu gerçekleşirse tarihin en değerli halka arzlarından biri olacak.

Özel yatırımcılar Anthropic’in değerini yaklaşık 1 trilyon dolar olarak tahmin ediyor.

Clark ayrıca, Anthropic’in yapay zeka teknolojisinin artan kapasitesi hakkında kamuoyuna açık şekilde konuşmasının amacının, ücretli müşteriler nezdinde itibarını artırmak olmadığını söyledi.

Amacının yalnızca bu şirketlerin içinde, bu sıra dışı teknolojiyle ilgili neler düşünüldüğünü dünyaya anlatmak olduğunu ifade etti.

Anthropic CEO’su Dario Amodei, şirketin kuruluşundan bu yana yapay zekadan kaynaklanabilecek potansiyel riskler konusunda açık sözlü davranıyor.

Şirket, yapay zeka araçlarının Amerikalıların kitlesel olarak izlenmesi ve otonom savaşta kullanılabileceğine dair endişeler nedeniyle ABD Savunma Bakanlığı ile kamuoyuna yansıyan bir anlaşmazlığa da girdi.

Clark, Newsnight’a “Toplum olarak yapay zekanın sürekli ilerlemesinin ne anlama geldiği konusunda ciddi bir tartışma yapmazsak çocuklarım için endişe ederim. Potansiyel olarak büyük faydalar var. Aynı zamanda riskler de var” dedi.

Ayrıca risklerden birinin ekonomik düzende yaşanabilecek bir sarsıntı olduğunu belirtti.

“Ajanlar” olarak adlandırılan ve belirli görevleri kısmen otonom biçimde yerine getiren yapay zeka araçlarının bazı işleri devralabileceği yönündeki endişelere işaret etti.

Büyük teknoloji şirketleri son bir yılda, çoğu zaman yapay zeka araçlarının yüzlerce hatta binlerce yazılım mühendisinin işini yapabilme kapasitesi nedeniyle toplu işten çıkarmalar gerçekleştirdi.

Clark, daha yaratıcı olan ve daha iyi fikirler üretebilen kişilerin aslında yapay zeka teknolojisine karşı avantajlı olabileceğini söyledi.

“Yapay zeka sistemlerinin gerçekten yaratıcı olup olamayacağı konusunda açık sorular var… Bunun için henüz gerçekten bir kanıt yok” dedi ve ekledi:

“Anthropic’te artık daha çok iyi fikir üretme kapasitesinde sınırımız var; bu fikirleri gerçeğe dönüştürecek mühendislik kapasitemizde değil.”

Buna rağmen Clark, yapay zeka temelli bir ekonomide kendine yer olmadığını düşünen gençlere “bir hobi geliştirmesini” ve sosyal bilimler odaklı bir eğitim almasını önerdi.

Clark, “Yaratıcı olan, geniş düşünebilen, çok okuyan ve farklı ilgi alanlarına sahip insanlar bu süreçten en çok fayda sağlayanlar” dedi.

“Merakı teşvik edin. Bu, bu teknolojiyi nasıl kullanabileceğiniz konusunda size geri döner.”

Yapay Zeka, Teknoloji, Politika, Ekonomi, Son Dakika

Son Dakika › Teknoloji › Yapay Zeka Gelişiminde Fren Pedalı Çağrısı – Son Dakika