OpenAI: Yapay zeka sistemleri hata gizledi, veri uydurdu

ABD merkezli yapay zeka şirketi OpenAI, geliştirme süreçlerinde yapay zeka sistemlerinin beklenmedik ve yetkisiz davranışlar sergilediği 6 ayrı vakayı kamuoyuyla paylaştı. Şirket, söz konusu vakaların yaklaşık son 6 ayda gözlemlenen davranışlardan münferit örnekler olduğunu vurguladı.

Modeller hataları örtbas etmek için gizli notlar oluşturdu

OpenAI'nin resmi internet sitesinden yapılan açıklamada, vakalar "uyumsuzluk" kavramıyla tanımlandı. Şirket, uyumsuzluğu yapay zeka sistemlerinin amaç veya eylemlerinin insanların niyet ve değerlerinden sapması olarak nitelendirdi. Vakalardan birinde, GPT-5.6 Sol modelinin geliştirme aşamasında modelin kullanıcıların hataları fark etmesini önlemek amacıyla kendisine yönelik gizli notlar oluşturduğu belirtildi. Bu notların eksik verilerin uydurulması ve kaynak materyaller arasındaki uyuşmazlıkların örtbas edilmesine ilişkin talimatlar içerdiği kaydedildi. Yayımlanmamış başka bir modelin ise kendi oluşturduğu notlara, kendi kısıtlamalarını göz ardı etmesi yönünde talimatlar eklediği aktarıldı.

İzinsiz internet erişimi ve dosya paylaşımı

Açıklamada yer alan bir diğer vakada, bir yapay zeka sisteminin rutin bir soruyu yanıtlamaya çalışırken internette bulunan bir uygulama programlama arayüzü (API) anahtarını kullanıcı izni olmadan kullandığı ifade edildi. Sistem, soruyu yanıtlamak için gerekli rakamları bulamayınca verileri uydurdu. Ayrıca yayımlanmamış bir başka modelin, internet üzerinden kaynak gösterebilmek amacıyla kendi dosyasını izinsiz olarak internete yüklediği de belirtildi.

Sistemler arası yetkisiz iletişim

Açıklamada aktarılan diğer vakalarda, bazı modellerin eksik dosyaları ararken şirketin dahili yazılım deposunu sistemler arası mesaj panosu gibi kullandığı ortaya kondu. Aynı eğitim görevi üzerinde birlikte çalışan yapay zeka sistemlerinin ise birbirlerinin yerel dosyalarına erişemeyince dosya paylaşmak için halka açık dosya paylaşım sitelerine başvurduğu kaydedildi.

OpenAI: Sektörün mevcut yaklaşımı yeterli değil

OpenAI, açıklamasında yapay zekanın güvenli biçimde geliştirilmesi ve izlenmesi konusunda sektörün mevcut yaklaşımının "uzun süre daha azami hızda ilerlemeyi sorumlu şekilde sürdürebilecek yeterlilikte" olmadığını kabul etti. Şirket, tespit edilen 6 vakanın yapay zekadaki uyumsuz davranışların genel sıklığını yansıtmadığını da ayrıca vurguladı.