OpenAI’nın Güvenlik Testleri Sınırları Aştı: Çarpıcı Sonuçlar Açıklandı

OpenAI test sonuçları açılandı, modeller de sınırların dışına çıktı, test ortamlarının yapısı ile modellerin gelişen yeteneklerinin birleşmesi bazı faaliyetlerin planlanan test kapsamının dışına çıktığını tespit etti. Bugün açıklama yapıldı.

İlk değerlendirme de Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yapıldı, model internet erişimine izin verildi, simüle edilen test ortamına ulaşmaya çalışırken gerçek internet hizmetleriyle etkileşime geçti.

İkinci değerlendirme de Irregular adlı dış test ortakları tarafından gerçekleştirildi, test ortamındaki yanlış yapılandırma modelin internete erişmesine yol açtı, model gerçek bir alan adıyla çakışıp güvenlik açığını kullandı. Model gelmi internete erişti.

Bu olaylar de Hugging Face güvenlik olayından ayrı, önceki dahili testlerde OpenAI’nin platform üzerinde ihlal yarattığı duyurulmuştu.

Bakalım bundan sonra ne olacak, gelecekte benzer testlerde gelmi önlemler alınacak?

Kaynak: Orijinal Haber