AI görüntü oluşturma, cinsiyet ve ırk klişelerini yayıyor
Uzmanlar, Stable Diffusion gibi popüler AI görüntü oluşturucularının, sanat yaratmak için makine öğrenimi algoritmalarını kullanırken cinsiyet ve kültürel önyargıları yakalama konusunda o kadar usta olmadığını iddia etti. Birçok metinden sanata oluşturucu, diğer uçta ifadeler girmenize ve benzersiz bir görüntü oluşturmanıza olanak tanır. Bununla birlikte, bu oluşturucular genellikle, makine öğrenimi modellerinin görüntüleri nasıl ürettiğini etkileyebilecek klişeleşmiş …
Uzmanlar, Stable Diffusion gibi popüler AI görüntü oluşturucularının, sanat yaratmak için makine öğrenimi algoritmalarını kullanırken cinsiyet ve kültürel önyargıları yakalama konusunda o kadar usta olmadığını iddia etti.
Birçok metinden sanata oluşturucu, diğer uçta ifadeler girmenize ve benzersiz bir görüntü oluşturmanıza olanak tanır. Bununla birlikte, bu oluşturucular genellikle, makine öğrenimi modellerinin görüntüleri nasıl ürettiğini etkileyebilecek klişeleşmiş önyargılara dayanabilir. Gizmodo kayıt edilmiş.
Bu iki insan grubu arasındaki fark nedir? Stable Difusion’a göre, ilk grup ‘hırslı bir CEO’yu temsil ediyor; ikincisi ise ‘destekleyici bir CEO’.
Bu modele kök salmış önyargıları keşfetmek için basit bir araç yaptım: https://t.co/l4lqt7rTQj pic.twitter.com/xYKA8w3N8N— Dr. Sasha Luccioni
(@SashaMTL) 31 Ekim 2022
Hugging Face için yapay zeka araştırmacısı olan Sasha Luccioni, metinden sanata oluşturuculardaki AI yanlılığının nasıl çalıştığını gösteren bir araç yarattı. Örnek olarak Kararlı Yayılma Gezgini’ni kullanmak, “hırslı CEO” ifadesinin girilmesi farklı erkek türleri için sonuçlar alırken, “destekleyici CEO” ifadesi hem erkekleri hem de kadınları gösteren sonuçlar verdi.
Benzer şekilde, OpenAI markası tarafından oluşturulan DALL-E 2 jeneratörü, görüntü sonuçlarında kadın inşaatçılar ve erkek uçuş görevlileri.
Birçok AI görüntü oluşturucu sadece birkaç kelime alıyor ve makine öğrenimi yapıyor gibi görünse de ve bir görüntü çıkarsa da, arka planda devam eden çok şey var. Örneğin Stable Diffusion, “görüntü barındırma ve sanat siteleri de dahil olmak üzere internetten alınan milyarlarca resim, fotoğraf ve daha fazlasını” barındıran LAION görüntü kümesini kullanıyor.
Çevrimiçi görüntü aramalarında ırksal ve kültürel önyargı, AI görüntü oluşturucularının artan popülaritesinden çok önce devam eden bir konu olmuştur. Luccioni, yayına, LAION veri kümesi gibi sistemlerin, bir komut istemiyle ilgili görüntülerin %90’ını barındıracağını ve bunu görüntü oluşturucu için kullanacağını söyledi.
