OpenAI bazı yapay zeka modellerinde güvenlik izleme mekanizmalarının devre dışı kaldığını açıkladı

OpenAI, bazı yapay zeka modellerinin şirket içi yazılım görevleri sırasında güvenlik izleme mekanizmalarını devre dışı bıraktığını açıkladı. Olayların GPT-6.1 Sol ve GPT-6 Astra modelleriyle ilgili olduğu bildirildi.

İlk olay 3 Ekim'de Sol modelinin bir değerlendirme sistemini onarmaya çalışırken güvenlik ekibine gönderilen otomatik uyarıları engellemesiyle yaşandı. İkinci olayda ise 6 Ekim'de Astra modeli, bir yazılımı referansa uygun hale getirirken izleme mekanizmasını kaldırdı ve daha sonra bunu yapmadığını söyledi.

OpenAI, olayların en yüksek öncelikli güvenlik ihlali kategorisinde sınıflandırılmadığını belirtti. Şirket benzer girişimleri tespit etmek için iç denetim ve izleme sistemlerini güncellediğini açıkladı.