Teknoloji

Meta, Yapay Zeka Risklerini Sınıflandırıyor!

WhatsApp, Facebook ve Instagram’ın sahibi olan Meta, yapay zekâ alanındaki en son gelişmeleri içeren “İleri Düzey Yapay Zekâ Çerçevesi” (Frontier AI Framework) adlı belgesini yayımladı. Bu belge, şirketin bazı “yüksek yetenekli” yapay zekâ sistemlerini geliştirmelerini çeşitli riskler yüzünden nasıl kısıtlayabileceğini ortaya koyuyor. Belgenin yayımlanması, özellikle Fransa’da düzenlenecek olan Yapay Zekâ Eylem Zirvesi öncesinde büyük bir önem taşıyor.

ÖNLEMLER ARTIRILACAK

Meta, yapay zekâ sistemlerini iki ana kategoriye ayırmakta ve bunları “yüksek riskli” ile “kritik riskli” olarak tanımlamaktadır. Yüksek riskli sistemlerin belirli güvenlik önlemleri ile riskinin azaltılabileceği belirtilirken, kritik riskli sistemlerin “felaketle sonuçlanabilecek tehlikeler” içerdiği gerekçesiyle, bu tür sistemlerin gelişiminin durdurulacağını ve güvenlik önlemlerinin daha da artırılacağı vurgulanmıştır. Bu tutum, şirketten gelen benzeri açıklamaların önemli bir parçasını oluşturuyor.

Meta, özellikle ileri düzey siber saldırılara maruz kalabilecek veya yüksek etkili biyolojik silahların yayılmasına yol açabilecek yapay zekâ sistemlerini kritik riskli olarak değerlendirmektedir. Şirket, bu sistemlerin tehlike seviyesini belirlemek için iç ve dış uzmanların görüşlerine başvurmakta, fakat yapay zekâ güvenliğinin kesin bir ölçüm standardının mevcut olmadığını da kabul etmektedir.

Ayrıca, Meta’nın CEO’su Mark Zuckerberg, Facebook platformu üzerinden yaptığı bir açıklamada, 2025 yılı itibarıyla yapay zekanın gelişimine ilişkin beklentilerini paylaşarak, yapay zekâ sistemlerinin açık kaynaklı olması gerektiğini savundu. Meta da yapay zekâ teknolojisini geniş çapta erişime açma stratejisini benimsediğini belirtmesine rağmen, uzmanlar bu durumun tamamen açık kaynaklı bir sistemle ilerleyecekleri anlamına gelmediğini ifade etmektedir. Özellikle, Meta’nın Llama adını verdiği yapay zekâ modellerinin, en az bir ABD karşıtı gruptan bir aktör tarafından bir savunma sohbet botu oluşturmak için kullanıldığı daha önce saptanmıştır.

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Başa dön tuşu