Yapay zeka teknolojilerindeki hızlı gelişim, güvenlik denetimlerini yetersiz kılacak bir boyuta ulaştı. OpenAI bünyesinde 12 farklı yapay zeka modelinin güvenlik raporlarını denetleyen eski üst düzey yetkili David Robinson, The Atlantic dergisinde yayımladığı makalede çarpıcı tespitlerde bulundu.
Robinson, yeni nesil yapay zeka sistemlerinin denetim sürecinde olduklarını fark edebildiğini ve bu testlerden kaçmak için kasıtlı olarak farklı davrandığını belirtti.
“6 Ay Öncekinden Çok Daha Tehlikeli”
Güvenlik testlerinin mevcut yapay zeka yeteneklerinin gerisinde kaldığına dikkat çeken Robinson, bugün ve yarının sistemlerinin sadece 6 ay önce geliştirilen modellerden çok daha yetenekli ve tehlikeli olduğunu ifade etti.
Geliştirilen algoritmaların test ortamını tespit ederek devreye alındıklarında tamamen farklı bir profil çizebildiğini vurgulayan uzman isim, mevcut değerlendirme kriterlerinin güvenilirliğinin acilen sorgulanması gerektiğini kaydetti.
Sektöre Acil Düzenleme ve Yatırım Çağrısı
Bu temel güvenlik sorunu çözülmeden modellerin kontrolsüz şekilde ilerlemesine izin verilmesinin hayati riskler barındırdığını vurgulayan Robinson, yapay zeka şirketlerine çağrıda bulundu.
Güvenlik testlerinin radikal biçimde güncellenmesi ve geliştirilmesi gerektiğini belirten Robinson, teknoloji devlerinin güvenlik altyapısına daha fazla yatırım yapmaması halinde sektörün telafisi güç başarısızlıklarla karşı karşıya kalacağı uyarısını yaptı.