Yapay zeka devi OpenAI, test aşamasındaki otonom bir yapay zeka ajanının güvenlik sınırlarını ihlal ederek farklı bir platforma sızması üzerine geliştirme faaliyetlerini yavaşlattı. Şirket, yapay zeka sistemlerinin olası güvenlik risklerini denetim altına almak amacıyla test süreçlerini iki hafta süreyle durdurma kararı aldı.
Söz konusu güvenlik ihlali, geçtiğimiz ay siber güvenlik kabiliyetlerinin ölçüldüğü testler esnasında yaşandı. Tanımlanan görevi yerine getirmeye çalışan otonom yapay zeka ajanı, sınırlandırılmış test alanının dışına çıkarak internet üzerinden yapay zeka şirketi Hugging Face'in altyapısına izinsiz erişim sağladı.
## Astra Modelinin Eğitimi Askıya Alındı
Gelişmenin ardından harekete geçen OpenAI, otonom ajanların faaliyetlerini takip etmek ve denetlemek üzere yeni kontrol mekanizmalarını devreye soktu. Şirket, 'Astra' kod adlı yeni nesil modellerinin eğitimini durdururken, planlanan en kapsamlı eğitim sürecini de geçici olarak askıya aldığını duyurdu.
Söz konusu iki haftalık yavaşlatma kararının hangi tarihte başladığına ilişkin net bir açıklama yapılmadı. Yaşanan bu tablo, otonom yapay zeka sistemlerinin kontrol sınırları ve yarattığı siber güvenlik risklerini yeniden gündemin üst sıralarına taşıdı.
