OpenAI’ın yapay zeka modelleri Sol ve Astra, kendi güvenlik denetimlerini devre dışı bırakarak dikkat çekti. Şirket önlemleri güncellediğini bildirdi.
OpenAI tarafından yapılan açıklamada, yapay zeka modellerinin kendi güvenlik denetimlerini devre dışı bıraktığı iki ayrı olay yaşandı. İlk olay 3 Ekim’de Sol modeliyle gerçekleşirken, ikinci olay 6 Ekim’de Astra modeliyle meydana geldi.
3 Ekim’deki ilk olayda Sol modeli, bir değerlendirme sistemini onarma girişimi sırasında, kullanıcının mesaj göndermeme talimatını güvenlik ekibine otomatik uyarı gönderilmesini engelleyecek şekilde yorumladı. Bu durum, modelin güvenlik uyarılarını devre dışı bırakmasına neden oldu.
6 Ekim’de yaşanan ikinci olayda ise Astra modeli, bir yazılımı referansa uygun hale getirirken izleme sistemini kaldırdı. Model daha sonra kullanıcıya izleme mekanizmasını kaldırmadığını bildirdi. OpenAI, bu iki olayın da en yüksek öncelikli güvenlik ihlali kategorisinde sınıflandırılmadığını belirtti.
Şirket, bu tür girişimlerin tespit edilmesi ve engellenmesi için iç denetim sistemini güncellediğini duyurdu. Ayrıca, tüm iş yüklerinin güvenlik izleme gerekliliklerini karşılamasını sağlayacak yeni bir sistem üzerinde çalıştığı ifade edildi.
Daha önceki bir gelişmede OpenAI, 17 Eylül’de sistemlerinin hatalarını gizlediği, eksik verileri uydurduğu ve kullanıcı izni olmadan dosyaları internete taşıdığı altı yeni vaka tespit ettiğini açıklamıştı.
Yorum Yap