Google’ın Gemini sohbet robotu, son güncellemesiyle bir kez daha kullanıcıların yapay zeka kullanarak insanların resimlerini oluşturmasına olanak tanıyacak. Google, sohbet robotunun eleştirmenlerin “uyandı” olarak adlandırdığı tarihsel olarak hatalı görüntüler oluşturmasının ardından bu özelliği Gemini AI’den daha önce kaldırmıştı.
Google’ın bu özelliği kaldırmasına neden olan olay, yapay zekanın “kültürel açıdan çeşitli” Nazilerin resimlerini ürettiğine dair bir kullanıcı raporuydu.
Bir basın bülteninde teknoloji devi, yeni özelliği Gemini Advanced, Business ve Enterprise kullanıcılarına İngilizce olarak sunacağını duyurdu.
Google Gemini AI tarafından oluşturulan görseller Imagen 3 tarafından desteklenecek
Ağustos ayı başlarında Google, Imagen 3’ü yapay zeka test laboratuvarında devreye aldı. Bu yapay zeka tarafından desteklenen Google Gemini güncellemesi, fotogerçekçi manzaralar ve dokulu resimler oluşturabilecek ve yakında tüm dillerde kullanıma sunulacak.
Google ayrıca Imagen 3 modelinin güvenlik önlemleriyle birlikte gelmesini ve diğer görsel oluşturma modellerinden daha iyi performans göstermesini sağlamıştır.
X’in sohbet robotu Grok’un bu ayın başlarında kafa karıştırıcı sonuçlar ürettiği göz önüne alındığında, bu, yapay zeka tarafından oluşturulan görüntü topluluğunda sıcak bir konudur.
Google, AI görüntü oluşturmanın bu yönünü çok ciddiye almıştır; öyle ki Gemini, kullanıcıların tanınmış kişilerin, reşit olmayanların, kan dökülmesinin, şiddet veya cinsel sahnelerin fotogerçekçi görsellerini oluşturmasına izin vermeyecektir.
Kullanıcıların, Google tarafından uygulanan bu güvenlik özelliğini atlamak için AI istemlerini tersine mühendislik yapıp yapamayacakları henüz bilinmiyor.
Bazı eleştirmenler daha önce yapay zekayı ‘uyandırdı’ olarak nitelendirdi
Şubat 2024’te Google Gemini, “uyandığı” ve tarihsel doğruluktan yoksun olduğu için eleştirildi. Yapay zeka, biri Afrikalı Amerikalı olarak tasvir edilen Amerika Birleşik Devletleri’nin kurucu babalarının yanı sıra kadın olarak tasvir edilen Katolik papaların yer aldığı görüntüler oluşturdu.
Alternatif sağın kötü şöhretli üyelerinden Ian Miles Cheong, X hesabı aracılığıyla sorunun bir örneğini paylaştı:
Bu, Google Gemini’nin insan görselleri üretirken karşılaştığı sorunların yalnızca bir örneği.
Ancak Google için asıl sorun, yapay zekanın yanlışlıkla Nazi askerlerinin siyahi bir adam ve Asyalı bir kadını tasvir eden bir görüntüsünü oluşturmasıyla ortaya çıktı. Google, “Gemini imaj üretimi yanlış anladı” başlıklı bir blog yazısı yayınlayarak yanıt verdi. Daha iyisini yapacağız” diye yazdı Kıdemli Başkan Yardımcısı Prabhakar Raghavan.
Raghavan, blog yazısında hatasını kabul etti ve olanları tam olarak anlattı.
Prahbkar, eğer bir kullanıcı belirli bir etnik kökene sahip bir kişiyi oluşturmak amacıyla bir bilgi istemi yazdıysa, yapay zekanın kesinlikle kullanıcının istediğini üretmesi gerektiğini açıklıyor. Ancak tam olarak bu gerçekleşmedi.
“Peki ne ters gitti?” Kısaca iki şey. İlk olarak, Gemini’nin bir dizi insan göstermesini sağlamak için yaptığımız ayarlamada, açıkça bir aralık göstermemesi gereken durumları hesaba katmadık. Daha sonra zamanla model beklenenden çok daha temkinli hale geldi ve bazı soruları tam olarak yanıtlamayı reddetti, bazı anonim soruları hassas olarak yanlış yorumladı,” diye açıkladı Raghavan.
Ancak Google artık sorunu çözdüğünü ve yapay zekanın davranışına ve DALL-E, Midjourney ve Grok gibi rakiplerin seviyesine ulaşabilecek yeteneklerine güvendiğini söylüyor.
