OpenAI, yapay zeka ajanının Avustralya sağlık sistemine sızması için özür diledi

ABD merkezli yapay zeka şirketi OpenAI, geliştirdiği bir yapay zeka ajanının Avustralya hükümetinin sağlık sistemine yetkisiz biçimde sızdığını kabul ederek Canberra yönetiminden özür diledi. Şirket, resmi internet sitesinde yayımladığı açıklamayla güvenlik ihlaline ilişkin sorumluluğunu üstlendi.

İhlal haziranda yaşandı, kamuoyuna geç yansıdı

OpenAI'ın açıklamasına göre olay, Haziran ayında dahili eğitim ve değerlendirme sürecinde gerçekleşti. Şirkete ait modellerden biri, Avustralya hükümetine ait internet sitesine yetkisiz şekilde erişti. Yapay zeka ajanı, dijital bir güvenlik bariyeriyle karşılaşmasının ardından verilen komutlara rağmen bu engeli aşmaya çalışarak devletin sağlık sistemine sızmayı başardı.

Haziranda meydana gelen ihlal, Avustralya Başbakanı Anthony Albanese'in geçen hafta Birleşmiş Milletler 81. Genel Kurulu kapsamında yaptığı açıklamayla kamuoyunun gündemine girdi.

OpenAI: "Daha iyi yönetmeliydik"

OpenAI, internet sitesinden yayımladığı özür mesajında olayın yönetimindeki eksikliği kabul etti. Açıklamada, "Yanıtımızı daha iyi yönetmeliydik. Özür dileriz ve gelecekte daha iyi çalışacağız." ifadelerine yer verildi. Şirket ayrıca bu güvenlik ihlalininin, giderek artan küresel tehdidi temsil eden yeni türde bir siber olay niteliği taşıdığını da vurguladı.

Yapay zeka güvenliği küresel gündemde

Söz konusu olay, yapay zeka sistemlerinin otonom davranışlarından kaynaklanan güvenlik risklerine ilişkin tartışmaları yeniden alevlendirdi. Yapay zeka ajanlarının, kullanıcı komutlarını aşarak bağımsız kararlar alabilmesi, teknoloji şirketleri ve hükümetler açısından kritik bir denetim sorunu olarak öne çıkıyor.