Avrupa Parlementosu, dünyanın ilk kapsamlı ve bağlayıcı yapay zeka kurallarını düzenliyor!
Avrupa Parlamentosu üyeleri, aralık ayında konsey ile yapılan üçlü görüşmelerde varılan geçici anlaşmayı, 523 olumlu oya karşılık sadece 46 olumsuz ve 49 çekimser oy ile destekledi.
Dönüm noktası niteliğindeki mevzuat, yapay zeka için risk temelli bir çerçeve ortaya koyuyor ve kullanım durumu ile risk düzeyine bağlı olarak çeşitli kurallar getiriyor. 13 Mart günü parlamentoda yapılan tam oylama, olumlu komite oylarını ve geçen ay AB Üye Devletlerinin 27 büyükelçisinin tamamının desteğini alan geçici anlaşmayı takip ediyor. Genel kuruldan çıkan sonuç, yapay zeka yasasının yakında bölge genelinde yasalaşma yolunda ilerlediği anlamına geliyor. Şu an ise sadece konseyden gelecek nihai onay bekleniyor.
🇪🇺 Democracy: 1️⃣ | Lobby: 0️⃣
I welcome the overwhelming support from European Parliament for our #AIAct —the world's 1st comprehensive, binding rules for trusted AI.
Europe is NOW a global standard-setter in AI.
We are regulating as little as possible — but as much as needed! pic.twitter.com/t4ahAwkaSn
— Thierry Breton (@ThierryBreton) March 13, 2024
Önümüzdeki aylarda AB Resmi Gazetesi’nde yayınlandıktan 20 gün sonra yapay zeka yasası yürürlüğe girecek. Her ne kadar aşamalı bir uygulama söz konusu olsa da, hükümlerin ilk alt kümesi olan yasaklanmış kullanım durumları altı ay sonra, diğerleri ise 12, 24 ve 36 ay sonra uygulanacak. Uygulama cephesinde, uyumsuzluk için cezalar, 35 milyon avroya kadar ölçeklenebilir olacak. Yapay zeka sistemleri ile ilgili diğer hükümlerin ihlali ise 15 milyon avroya kadar ceza gerektirebilir. Gözetim organlarıyla işbirliği yapmamak ise küresel yıllık cironun %1’ine kadar para cezası riskini taşıyor.
Genel kuruldaki oylama öncesinde salı günü yapılan bir tartışma sırasında konuşan parlemento üyesi Dragoș Tudorache şunları söyledi:
“Toplumlarımızın temelini oluşturan temel değerleri yapay zeka kavramına sonsuza kadar bağladık. Yapay zeka yasası sadece bu yönüyle bile yapay zekanın geleceğini insan merkezli, insanların teknolojiyi kontrol ettiği ve teknolojinin yeni keşiflerden, ekonomik büyümeden, toplumsal ilerlemeden yararlanmamıza ve insan potansiyelini ortaya çıkarmamıza yardımcı olduğu bir yöne doğru itmiştir.”
Risk temelli teklif ilk olarak Avrupa Komisyonu tarafından Nisan 2021’de sunuldu. Daha sonra parlamento ve Konsey’deki AB eş-yasa koyucuları tarafından birkaç yıllık bir müzakere süreci boyunca önemli ölçüde değiştirildi, genişletildi ve aralık ayındaki son görüşmelerin ardından siyasi bir anlaşmayla sonuçlandı. Yasa kapsamında, sosyal puanlama veya bilinçaltı manipülasyonu gibi potansiyel yapay zeka kullanım vakası, kabul edilemez risk olarak geçmekte ve tamamen yasaklanmaktadır. Ayrıca söz konusu yasa eğitimde, istihdamda veya uzaktan biyometri için kullanılan yapay zeka gibi bir dizi “yüksek riskli” uygulama tanımlamaktadır. Yasaya göre bu sistemler kayıt altına alınmalı ve geliştiricilerin yasada belirtilen risk ve kalite yönetimi hükümlerine uymaları gerekmektedir.
AB’nin risk temelli yaklaşımı, düşük riskli sayılan çoğu yapay zeka uygulamasının yeni yasal düzenlemelerden muaf tutulmasını sağlıyor. Her ne kadar bu kurallar katı bir şekilde uygulanmıyor olsa da, sohbet robotları gibi belirli yapay zeka uygulamalarına, deepfake olarak bilinen sentetik medya üretebilen araçlara ve genel amaçlı yapay zeka modellerine belli şeffaflık gereklilikleri getiriyor. Özellikle güçlü genel amaçlı yapay zeka modelleri, ‘sistemik risk’ olarak değerlendirildiklerinde daha fazla düzenlemeye tabi tutuluyor ve burada risk yönetimi önem kazanıyor.
Genel amaçlı yapay zeka modellerine ilişkin bu düzenlemeler, milletvekillerinin Yapay Zeka Yasası’na son eklemeleri olarak öne çıkıyor. Milletvekilleri geçen yıl, gelişmiş yapay zeka araçlarının hızlı gelişimini düzenleme dışında bırakmama amacıyla, bu araçlar için aşamalı bir düzenleme sistemi önermişlerdi.
Öte yandan, Fransa öncülüğündeki bazı AB üye devletleri, Avrupa’nın küresel yapay zeka rekabetinde geri kalmaması gerektiğini savunarak, hızla gelişen bu sektörde ulusal şampiyonların desteklenmesi gerektiğini vurgulamaktadır. Bu görüş, Mistral gibi yerli yapay zeka girişimlerinin lobi çalışmalarıyla desteklenmiş, gelişmiş yapay zeka model üreticileri için düzenleyici muafiyetler talep etmektedir. Bu muafiyetler, Mistral’in Microsoft’tan yatırım aldığı uzlaşma anlaşmasından sonra ortaya çıktı.
Genel kurul oylaması öncesinde yapılan basın toplantısında eş raportörlere, Mistral’in lobi faaliyetlerinin AB’nin genel amaçlı yapay zeka kurallarını nasıl etkilediği soruldu. Brando Benifei, “Sonuçların kendilerini konuşturduğunu düşünüyorum” diyerek, mevzuatın en güçlü modellerin güvenlik gerekliliklerini net bir şekilde belirlediğini ifade etti. Benifei, “En güçlü modeller için şeffaflık ve güvenlik açısından net bir çerçeve sunduğumuza inanıyorum” dedi.
Parlemento üyesi Dragoș Tudorache, lobicilerin yasa üzerinde olumsuz bir etki yaptığı iddiasını reddetti ve verilen tavizlerin makul olduğunu söyleyerek, elde edilen sonucu gerekli bir denge olarak tanımladı. Tudorache, “Şirketlerin aldığı kararlar onlara aittir ve bunlar çalışmalarımızı hiçbir şekilde etkilememiştir” dedi. Ayrıca, “Bu algoritmaların içine giren veriler konusunda, bu modelleri geliştirenlerin, özellikle telif hakkıyla korunan materyallerle ilgili olarak, onları ‘kara kutu’ olarak tutma çıkarları vardı. Ancak biz şeffaflığı destekledik, çünkü eser sahiplerinin haklarını korumanın tek yolu bu” diye sözlerine ekledi.
Benifei, AB’nin Yapay Zeka Yasasına çevresel raporlama zorunluluklarının eklenmesini başka bir başarı olarak belirtti. Milletvekilleri, AB’nin yapay zeka yönetişimi yolculuğunun sadece başlangıcı olduğunu söyleyerek, modelin gelecekte daha fazla mevzuatla iyileştirilip genişletilmesi gerektiğini vurguladı. Benifei ayrıca, iş yerinde yapay zeka kullanımını düzenleyecek yeni bir direktife ihtiyaç olduğunu belirtti.
Benifei, Avrupa’nın yapay zeka yatırımlarını artırmasının önemine de dikkat çekti. “Avrupa’nın yapay zekaya daha fazla yatırım yapmasını, ortak araştırmalar için daha fazla kaynak ayırmasını ve hesaplama kapasitesini paylaşma konusunda daha fazlasını yapmasını istiyoruz” dedi.
Yapay Zeka Yasası’nın daha geniş bir yolculuğun sadece ilk adımı olduğunu vurgulayan Tudorache, “Bu yasa, yapay zekanın eğitim sistemlerimiz, iş gücü piyasamız ve hatta savaş üzerindeki etkileri gibi ölçemeyeceğimiz geniş etkileri olacak. Yani, yapay zekanın merkezi bir rol oynadığı tamamen yeni bir dünyadayız ve bu yüzden, bu yasadan sonra gelen yönetimi oluştururken, teknolojinin bu evrimine dikkat etmeli ve bu evrimden kaynaklanan yeni zorluklara karşı hazırlıklı olmalıyız” dedi. Tudorache, yapay zeka yönetimi konusunda benzer düşünen hükümetlerle ve genel anlamda iş birliği yapılması gerektiğini vurguladı ve geçen yıl bu konuda yapılan çağrıyı tekrarladı.
Yaptığı açıklamalarda Tudorache, “Demokrasilerle ve benzer düşünen ortaklarla bir yönetişim oluşturma konusunda mümkün olduğunca iş birliği yapma sorumluluğumuz var. Çünkü teknoloji globaldir ve dünyanın hangi bölgesinde olursak olalım aynıdır. Bu yüzden, bu yönetim anlamlı bir çerçevede bir araya getirebilmek için yatırım yapmamız gerekiyor” dedi.
