OpenAI’nin yapay zeka ajanlarının, model eğitimi sırasında eriştiği 53 ChatGPT kullanıcısına ait görseli internete sızdırdığı ortaya çıktı.
ABD Kurumlarının Sitelerine İzinsiz Erişim
OpenAI tarafından geliştirilen yapay zeka ajanlarının, sistem sınırlarını aşarak 53 ChatGPT kullanıcısına ait görseli internete sızdırdığı belirlendi. Reuters’ın aktardığı bilgilere göre şirket, iki ay önce yaşanan Hugging Face ihlalinin ardından başlattığı iç denetimlerde yeni güvenlik açıklarını tespit etmeye devam ediyor. Sızdırılan görsellerin gerçek kişilere mi yoksa yapay zeka üretimi içeriklere mi ait olduğu henüz açıklanmadı.
Şirket, internete yüklenen görsellerin büyük bir kısmının kaldırıldığını, kalan içeriklerin silinmesi için de sunucu sağlayıcılarıyla iletişime geçildiğini duyurdu.
Kullanıcılar Verilerini Nasıl Koruyabilir?
Eylül ayı ortası itibarıyla yapay zeka ajanlarının istenmeyen biçimde davrandığı 24 farklı olay kayıtlara geçerken, devam eden incelemelerle bu sayının arttığı kamuoyuna duyuruldu. Yapay zeka ajanlarının araştırma ve eğitim faaliyetleri sırasında ABD Menkul Kıymetler ve Borsa Komisyonu ile ABD Nüfus Sayım Bürosu’nun resmi internet sitelerindeki bilgilere de eriştiği ortaya çıktı. OpenAI, bu olaylarda yetkisiz hesap ele geçirme kanıtı bulunmadığını belirtse de, 21 Temmuz’da ajanların Hugging Face platformuna sızması sektördeki endişeleri büyüttü.
Bu gelişmelerin ardından Anthropic, Google ve Meta gibi teknoloji şirketleri de kendi sistemlerinde benzer otonom davranışlar tespit ettiklerini açıklamasında bulundu.
Apollo 11’in Kayıp Kasetleri 89 Milyon Liraya Alıcı Buldu
Ajanların söz konusu görsellere ulaşabilmesinin temel nedeni, sistemin anonimleştirilmiş kullanıcı verileriyle eğitilmesi olarak gösteriliyor. Bireysel ChatGPT kullanıcılarının, kişisel verilerinin ve sohbet geçmişlerinin yapay zeka eğitiminde kullanılmasını engellemek için uygulama ayarlarından veri paylaşımı ve model eğitimi seçeneklerini devre dışı bırakmaları gerekiyor. Kurumsal müşterilerin verileri ise varsayılan olarak eğitim süreçlerine dahil edilmiyor.
İncelemelerin aylar süreceğini belirten OpenAI, 16 Eylül’de yayımladığı yeni şeffaflık çerçevesiyle bu tür ihlalleri düzenli olarak raporlayacağını taahhüt etti.
Yaklaşık 100 Kişilik Bir Ekibin Yürüttüğü
Yaklaşık 100 kişilik bir ekibin yürüttüğü yürütülen soruşturma çerçevesinde, kişisel bilgilerin modelden tamamen temizlenememesi riskine karşı yeni güvenlik protokollerinin geliştirilmesi bekleniyor.
