Instagram ve Facebook’taki yapay zeka üretimi tartışma yaratıyor!
Meta’nın yarı bağımsız politika konseyi olan The Oversight Board, dikkatini şirketin sosyal platformlarının yapay zeka tarafından üretilen müstehcen görüntüleri nasıl ele aldığına çevirmiş bulunuyor. Salı günü, Meta’nın sistemlerinin müstehcen içeriği tespit etme ve yanıt verme konusunda yetersiz kalmasının ardından, Hindistan’daki Instagram ve ABD’deki Facebook’un kamuya mal olmuş kişilerin yapay zeka tarafından üretilen görüntülerini nasıl ele aldığına ilişkin iki ayrı vaka hakkında soruşturma başlattığını duyurdu.
Kurul, Meta’nın içerik denetimi kararlarına ilişkin davaları değerlendiriyor. Kullanıcıların, Gözetim Kurulu’na başvurmadan önce Meta’ya içerik denetimi kararlarına itiraz etmeleri gerekiyor. Kurulun bulgularını ve sonuçlarını ilerleyen zamanlarda yayınlaması bekleniyor.
İlk vakayı açıklayan kurul, bir kullanıcının Instagram’da Hindistan’dan kamuya mal olmuş bir kişinin yapay zeka tarafından oluşturulmuş müstehcen görüntüsünü uygunsuz olarak bildirdiğini söyledi. Görsel, yalnızca yapay zeka tarafından oluşturulan Hintli kadın görsellerini paylaşan bir hesap tarafından paylaşılmıştı ve bu görsellere tepki veren kullanıcıların çoğunluğu Hindistan’da yaşıyordu.
Meta, ilk raporun ardından görseli kaldırmadı ve rapora ilişkin destek talebi, şirketin raporu daha fazla incelememesinden 48 saat sonra otomatik olarak kapatıldı. Asıl şikayetçi karara itiraz ettiğinde, rapor Meta’nın herhangi bir gözetimi olmaksızın tekrardan otomatik olarak kapatıldı. İki adet rapor oluşturulmasına rağmen yapay zeka tarafından oluşturulan müstehcen görüntü Instagram’dan kaldırılmadı.
Bunun üzerine kullanıcı nihayi kurula başvurdu. Şirket bu noktada sakıncalı içeriği kaldırmak için harekete geçti. Zorbalık ve tacizle ilgili topluluk standartlarını ihlal ettiği gerekçesiyle görseli kaldırdı.
İkinci vaka, bir kullanıcının yapay zeka ile üretilmiş ve ABD’li bir kamu figürüne benzetilmiş bir görseli, yapay zeka ile görsel oluşturma üzerine odaklanan bir grup üzerinden Facebook’ta paylaşması oldu. Söz konusu görsel, daha önce başka bir kullanıcı tarafından yayınlanmış ve Meta tarafından “aşağılayıcı cinsel içerikli photoshop veya çizimler” kategorisi altında Medya Eşleştirme Hizmeti Bankası’na eklenmiş olduğu için sosyal ağ tarafından kaldırılmıştı.
Başka haber kaynaklarından aktarılan bilgilere göre kurulun neden şirketin yapay zeka tarafından üretilen müstehcen bir görseli başarıyla kaldırdığı bir vakayı seçtiğini sorulduğunda “Meta’nın platformlarındaki daha geniş sorunları simgeleyen” vakaları seçtiği ifade edildi.
Son yıllarda Hindistan gibi bölgelerde deepfake görüntüler de endişe verici bir konu haline gelmişti. Geçen yıl BBC tarafından yayınlanan bir raporda, Hintli aktrislerin deepfake ile oluşturulmuş videolarının sayısının son zamanlarda artış gösterdiği belirtildi. Veriler kadınların deepfake ile oluşturulmuş videolara daha sık konu olduğunu öne sürüyor.
Bu yılın başlarında, Bilişim ve Teknoloji Bakan Yardımcısı Rajeev Chandrasekhar teknoloji şirketlerinin deepfake ile üretilen görsel, ses ve videolara karşı koyma yaklaşımından duyduğu memnuniyetsizliği dile getirmişti.
Chandrasekhar o dönemde düzenlediği bir basın toplantısında, “Eğer bir platform deepfake videoları kaldırmadan kurtulabileceğini düşünüyorsa ya da bu konuda sadece sıradan bir yaklaşım sergiliyorsa, bu tür platformları engelleyerek vatandaşlarımızı koruma gücüne sahibiz” dedi. Hindistan deepfake ile ilgili belirli kuralları yasaya koymayı düşünse de, henüz bu yönde kesinleşmiş bir adım atılmış değil.
Ülkede cinsiyete dayalı çevrimiçi şiddetin yasalar çerçevesinde bildirilmesine yönelik hükümler bulunsa da, uzmanlar sürecin sıkıcı olabileceğini ve genellikle çok az destek olduğunu belirtiyor. Geçen yıl yayınlanan bir çalışmada, Hintli savunma grubu IT for Change Hindistan’daki mahkemelerin çevrimiçi cinsiyete dayalı şiddeti ele almak için sağlam süreçlere sahip olması ve bu vakaları önemsizleştirmemesi gerektiğini belirtti.
Hindistan merkezli bir kamu politikası danışmanlık firması olan The Quantum Hub’ın kurucu ortağı Aparajita Bharti, yapay zeka modellerinin zarar veren müstehcen içerikler oluşturmasını engellemek için sınırlamalar getirilmesi gerektiğini söyledi.
Daha önce Meta’nın Güney Asya politika ekibinde çalışmış olan platform politikası uzmanı Devika Malik, sosyal ağların insanların rızası olmadan paylaşılan mahrem görüntülere karşı politikaları olmasına rağmen, uygulamanın büyük ölçüde kullanıcı bildirimine bağlı olduğunu söyledi. Bu durumun, sentetik medya ile ilgili olduğunda, etkilenen kullanıcılar üzerinde haksız bir yük oluşturduğu ve onların kimliklerini ve rızalarının olmadığını kanıtlamak zorunda bıraktığı düşünülüyor. Malik bu konu hakkında, “Sentetik içeriklerle ilgili vakalarda hata yapma olasılığı daha yüksek olabilir ve bu tür dış sinyalleri tespit etmek ve doğrulamak için harcanan zaman, içeriğin zararlı bir şekilde dikkat çekmesine neden olabilir” dedi.
Şu anda dünya genelinde yapay zeka araçları kullanılarak üretilen müstehcen video, görsel üretim ve dağıtımını ele alan yalnızca birkaç yasa olduğu biliniyor. Bir çok ABD eyaletinin deepfake görüntülerine karşı yasaları çıkmış durumda. Ayrıca Birleşik Krallık yakın zamanda cinsel içerikli yapay zeka destekli görüntülerin oluşturulmasını suç sayan bir yasa çıkardı.
Gözetim Kurulu’nun davalarına yanıt olarak Meta, her iki içeriği de kaldırdığını söyledi. Ancak sosyal medya şirketi, kullanıcılar tarafından yapılan ilk bildirimlerin ardından Instagram’daki içeriği kaldırmadığı ya da içeriğin platformda ne kadar süreyle yayında kaldığı konusu hakkında bir açıklama yapmadı.
Meta, cinsel içerikli materyalleri belirlemek için yapay zeka ve insan denetiminin bir kombinasyonunu kullanıldığını belirtti. Sosyal medya devi ayrıca, Instagram Keşfet ya da Reels önerileri gibi kısımlarda bu tür içerikleri önermediğini ifade etti.
Gözetim Kurulu, ABD ve Hindistan gibi bölgelerde sahte videoların ve bu videoların zararlarının yaygınlaşması üzerine bağlamsal bilgileri değerlendiriyor ve Meta’nın yapay zeka ile üretilen müstehcen görüntüleri tespit etme yöntemlerinin potansiyel tuzaklarını inceliyor. Bu konuda, son başvuru tarihi 30 Nisan olan kamuoyu yorumları talep etmektedir. Kurul, vakaları ve kamu yorumlarını inceleyerek kararı birkaç hafta içinde sitede yayınlayacak.
Bu vakalar, büyük platformların hala eski kontrol süreçleriyle boğuştuğunu ve yapay zeka destekli araçların kullanıcıların farklı türde içerikleri hızlı ve kolay bir şekilde oluşturup dağıtmasının önüne geçemediklerini gösteriyor.
Meta gibi büyük şirketler, yapay zeka tabanlı araçları test etmeye devam ediyorlar. Meta, içeriği “endüstri standardı yapay zeka görüntü göstergeleri” veya kullanıcı açıklamalarıyla tespit edebilirse, deepfake ile oluşturulmuş içerikler için “yapay zeka ile üretilmiştir” rozetleri ekleyeceğini nisan ayında duyurmuştu.
Platform politikası uzmanı Malik, etiketlemenin genellikle verimsiz olduğunu çünkü yapay zeka tarafından üretilen görüntüleri tespit eden sistemin hala güvenilir olmadığını söyledi. Malik açıklamalarına şu şekilde devam etti:
“Zararlı içeriklerin dağıtımını sınırlama konusunda etiketlemenin sınırlı bir etkiye sahip olduğu görülmüştür. Taylor Swift’in yapay zeka tarafından üretilen görüntüleri örneğine dönecek olursak, milyonlarca kullanıcı eski ismi ile Twitter olarak bilinen X’in kendi trend konusu olan ‘Taylor Swift AI’ aracılığıyla bu görüntülere yönlendirildi. Dolayısıyla, insanlar ve platform içeriğin gerçek olmadığını biliyordu fakat yine de bu görüntülerin yayılması algoritma tarafından güçlendirildi.”
Şu an failler sürekli olarak bu tespit sistemlerinden kaçmanın ve sosyal platformlarda sorunlu içerikler yayınlamanın yollarını bulmaya çalışıyor.
