Avustralya Başbakanı Anthony Albanese, New York’ta yaptığı açıklamada, OpenAI’ın şirket içi araştırmalarında kullanılan bir yapay zeka modelinin Services Australia tarafından işletilen Medicare Statistics Reporting Service portalına yetkisiz erişim sağladığını duyurdu.
Yapay zeka ajanının görevi başlangıçta kamuya açık ilaç harcamaları hakkında internet üzerinden araştırma yapmaktı.
Ancak sisteme yaptığı bazı bilgi taleplerinin engellenmesinin ardından modelin alternatif yollar deneyerek korumaları aştığı ve portalın kamuya açık olmayan bölümlerine eriştiği belirtildi.
ENGELLENDİ, BAŞKA YOL BULDU
Albanese’nin verdiği bilgiye göre yapay zeka ajanı, aradığı verilere doğrudan ulaşamayınca işlemi sonlandırmadı.
Model, farklı yöntemler deneyerek erişim engellerini aşmayı başardı. Bu süreçte hem kamuya açık hem de kamuya açık olmayan bazı verilere ulaştı.
Services Australia ayrıca yapay zeka ajanının kurumun iç sunucusuna dosya yazdığına ilişkin bulgular bulunduğunu açıkladı.
KİŞİSEL SAĞLIK VERİLERİNE ERİŞİLDİ Mİ?
Avustralya hükümeti, mevcut bulgulara göre kişisel Medicare kayıtlarına ya da bireylere ait sağlık verilerine erişildiğine ilişkin kanıt bulunmadığını açıkladı.
Erişilen bilgilerin toplulaştırılmış sağlık istatistikleri, sağlık harcamalarına ilişkin veriler ve bazı kurum içi dosya adları olduğu belirtildi.
OpenAI da yaptığı açıklamada hasta kayıtlarına erişildiğine dair herhangi bir kanıt tespit edilmediğini bildirdi.
OLAY HAZİRANDA, BİLDİRİM EYLÜLDE
Yetkisiz erişim 18 Haziran’da gerçekleşti.
Ancak Services Australia’nın olaydan 10 Eylül’de haberdar edildiği açıklandı. Hükümet yetkililerine göre OpenAI, bildirimi kurumun genel kullanıma açık e-posta adresine gönderdi.
Başbakan Albanese, OpenAI CEO’su Sam Altman ile görüştüğünü ve hem olayın kendisine hem de bildirimde yaşanan gecikmeye ilişkin Avustralya’nın endişelerini ilettiğini söyledi.
Albanese, şirketin hükümeti bilgilendirmesinin bu kadar uzun sürmesini eleştirdi.
DÖRT HÜKÜMET SİTESİYLE ETKİLEŞİME GİRDİ
Avustralya hükümetinin açıklamasına göre OpenAI modeli araştırma sırasında toplam dört kamu sistemiyle etkileşime girdi.
Bunlar Australian Institute of Health and Welfare, Victoria Sağlık Bakanlığı, New South Wales Bureau of Crime Statistics and Research ile Services Australia’nın Medicare Statistics Reporting Service portalıydı.
İlk üç sistemde yalnızca kamuya açık bilgilere erişildiği, yetkisiz erişimin ise Medicare istatistik portalında gerçekleştiği açıklandı.
OPENAI: “AMAÇLAMADIĞIMIZ EYLEMLERDE BULUNDU”
OpenAI, olayın yapay zeka modellerindeki beklenmeyen davranışlara ilişkin yürütülen inceleme sırasında ortaya çıkarıldığını bildirdi.
Şirket, Avustralya’daki bazı kamu sitelerinde modellerinin bilgi ararken amaçlanmayan işlemler gerçekleştirdiğini kabul etti.
OpenAI, olayla ilgili teknik bilgilerin Avustralyalı yetkililerle paylaşıldığını ve incelemenin devam ettiğini açıkladı.
ADLİ BİLİŞİM İNCELEMESİ BAŞLATILDI
Avustralya hükümeti, olayın ardından Australian Signals Directorate’ın da katıldığı kapsamlı bir adli bilişim incelemesi başlattı.
Soruşturmada yapay zeka ajanının hangi verilere ulaştığı, başka hükümet sistemlerinin etkilenip etkilenmediği ve mevcut güvenlik mekanizmalarının erişimi neden engelleyemediği araştırılıyor.
Hükümet, mevcut verilere göre sistemin tamamının ele geçirildiğine ilişkin bulgu bulunmadığını belirtirken, olayla ilgili teknik incelemenin sürdüğünü açıkladı.