Yapay zekanın (AI) kullanımı hızla artıyor. Geçtiğimiz yıl, Google’da yapay zeka aramaları tarihteki en yüksek seviyelerin %92’sine ulaştı. Ancak yeni araştırmalar, yapay zekanın hızlı yükselişinin ciddi sorunlara da yol açabileceği konusunda uyarıyor.
Cambridge ve Oxford Üniversitelerinden bir araştırmacı ekibi, yapay zeka araçları diğer yapay zeka sistemleri tarafından oluşturulan içeriği kullandığında ne olacağını araştırmaya karar verdi. Bulguları endişe verici.
Oxford Üniversitesi’nden Dr. Ilia Shumailov ve araştırma ekibi, üretken yapay zeka yazılımı yalnızca diğer yapay zekalar tarafından oluşturulan içeriğe dayandığında yanıtların kalitesinin düşmeye başladığını buldu. Bu keşif, geçen ay Nature dergisinde yayınlanan bir çalışmada ayrıntılı olarak açıklandı.
Yapay zeka yanıtları ilk iki istemden sonra azalmaya başlıyor
Araştırmacılar, ilk iki denemeden sonra yapay zekanın tepkilerinin anlamsızlaşmaya başladığını gözlemledi. Beşinci denemede kalite önemli ölçüde düştü. Art arda dokuzuncu denemede cevaplar tamamen saçma hale geldi.
Bu düşüşe “model çöküşü” adını verdiler. Bu, yapay zekanın diğer yapay zekalar tarafından oluşturulan içeriğe tekrar tekrar güvenmesi ve yanıtlarının giderek bozulmasına neden olması durumunda meydana gelir. Zamanla bu döngü eğitim verilerini kirleterek gerçekliğin çarpık ve işe yaramaz bir versiyonunu üretir.
Shumailov, modelin çöküşünün şaşırtıcı hızına ve bunu tespit etmenin zorluğuna dikkat çekti. İlk başta, iyi temsil edilmeyen daha az yaygın verileri etkiler. Daha sonra AI sonuçlarının çeşitliliğini azaltarak onları daha tekdüze hale getirmeye başlar.
Bazen verilerin çoğunda hafif bir iyileşme görülebilir ve bu, daha az yaygın olan verilerdeki performans düşüşlerini maskeleyebilir. Shumailov, modelin çökmesinin ciddi sorunlara yol açabileceği konusunda uyardı. Bu konudaki görüşlerini bir e-posta alışverişinde paylaştı.
İnternetteki tüm metinlerin yarısından fazlası yapay zeka tarafından üretiliyor veya çevriliyor
Bu sorun önemlidir çünkü Amazon Web Services araştırmacıları tarafından Haziran ayında yayınlanan ayrı bir araştırmaya göre İnternet’teki tüm metinlerin yaklaşık %57’si yapay zeka tarafından oluşturulmakta veya çevrilmektedir.
Çevrimiçi ortamda insan tarafından oluşturulan içeriğin yerini hızla yapay zeka tarafından üretilen materyal alırsa ve Shumailov’un bulguları doğruysa, bu, yapay zekanın kendi etkinliğini zayıflatabileceği ve potansiyel olarak internete zarar verebileceği endişe verici ihtimalini artırıyor.
Ekip, önceden eğitilmiş yapay zeka destekli bir wiki ile başlayarak modelin çöktüğünü doğruladı. Daha sonra yapay zekanın kendi ürettiği çıktılara göre kendisini güncellemesine izin verdiler. Zamanla bu kendine referans verme, orijinal ve doğru bilgilerin bozulmasına yol açtı. İçerik giderek anlamsızlaştı.
Örneğin, bu sürecin dokuz turundan sonra, 14. yüzyıl İngiliz kilise kuleleri üzerine yapılan bir çalışma hakkındaki wiki makalesi, saçma bir şekilde, at kuyruklu tavşanların renkleri hakkında kafa karıştırıcı bir teze dönüştü. Bu değişiklik, verilerin ne kadar saçma hale geldiğini açıkça ortaya koydu.
