Avrupa Birliği Yapay Zekâ Yasası Hakkında İnceleme
Temmuz 2023, ERDEMİR&ÖZMEN AVUKATLIK ORTAKLIĞIAvrupa Birliği Yapay Zekâ Yasası Hakkında İnceleme
Yapay zekâ sistemlerinin çeşitli alanlarda gelişmesi ve giderek daha yaygın hale gelmesi, insan hayatında birçok olumlu gelişmeye yol açarken aynı zamanda bir dizi sorunu da beraberinde getirmektedir. Özellikle insan hakları, eşitlik ve kişisel verilerin kullanımını doğrudan etkileyebilecek potansiyel ihlallerin önlenmesi amacıyla Avrupa Komisyonu, yapay zekâ sistemlerinin kullanımlarından kaynaklanabilecek ihlalleri engellemek için bir düzenleme yapılması yönünde adım atmıştır.
21 Nisan 2021'de Avrupa Komisyonu, yapay zekâ kullanımını düzenleyen bir yasa teklifi olan "Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act)"i sunmuştur. Aralık 2022'de, üye devletlerden oluşan Avrupa Birliği Konseyi, yasa teklifine ilişkin tutumunu açıklamıştır.
Avrupa Parlamentosu ise 14 Haziran 2023'te resmi tutumunu belirlemek üzere nihai oylamayı gerçekleştirmiş ve yasa tasarısı geniş bir çoğunlukla kabul edilmiştir. Bu aşamayı takiben, 8 Aralık 2023’te Avrupa Birliği Komisyonu, Avrupa Parlamentosu ve üye ülkeler, dünyadaki ilk “Yapay Zekâ Yasası” konusunda uzlaşma sağlamıştır.
Avrupa Birliği bu kapsamda Dünya’daki yapay zeka regülasyonu konusunda öncülüğü üstlenerek, yapay zekanın kullanımına ilişkin açık hükümler içeren ve her soruna temas eden böylelikle de geleceğe yönelik olarak kapsayıcı bir yasal çerçevenin oluşturulması için gerekli adımları tamamlamayı amaçlamaktadır. Bu tarihi adım, Avrupa Birliğini ve üye ülkelerini Dünya’daki diğer tüm yasa düzenleyiciler için bir örnek haline getirecektir.
Avrupa Parlamentosu'nda oylanarak büyük bir çoğunlukla kabul edilen Avrupa Birliği Yapay Zekâ Yasası, yapay zekâ sistemi ile ilgili detaylı bir tanımlama yapmakla birlikte; Parlamento tarafından gelecekteki yapay zekâ sistemlerine uygulanabilecek bir tanım oluşturma amacı ile hareket edilmiş ve yapay zekâ olarak değerlendirilebilecek sistemler de belirlenmiştir. Ayrıca yönetmelikte Komisyon tarafından, Avrupa Yapay Zekâ Kurulu ile iş birliği yapacak Avrupa Yapay Zekâ Ofisi’nin kurulması öngörülmekte olup bu ofisin görevi yapay zekâ modellerinin kullanımını kontrol etmek ve denetlemek olarak belirlenmiştir.
Parlamento'nun öncelikli hedefi, Avrupa Birliği'nde kullanılan yapay zekâ sistemlerinin güvenilir, şeffaf ve denetlenebilir olmasını sağlamak ve bu sistemler kullanılırken temel insan hak ve özgürlüklerinin korumasını garanti altına almaktır. Yönetmelik ile detaylı bir biçimde “yapay zekâ sistemleri” tanımlanarak yapay zekâ sisteminin farklı alanlarında yer alan kişilere ilişkin sorumluluklar öngörülmektedir. Özellikle bu sistemlerin sağlayıcılarına, kullanıcılarına, ithalatçılarına yüksek risk taşıyan yapay zekâ sistemleri için bu Yönetmelik ile birlikte bir dizi ağır yaptırım getirilmiştir.
Yapay Zekâ Yasası incelendiğinde, Avrupa Parlamentosu tarafından dört temel risk kategorisine dayalı bir risk sistematiği benimsendiği görülmektedir. Bu kategoriler düşük risk, sınırlı risk, yüksek risk ve kabul edilemez risk düzeylerini kapsamaktadır. Bu risk seviyelerine bağlı olarak, yapay zekâ modellerinin geliştirilmesi, kullanımı, dağıtımı, ithalatı veya üretiminde yer alan tüm paydaşlar için belirli kurallar ve sorumluluklar belirlenmiştir. Buna göre;
- Temel insan haklarına yönelik kullanılan yapay zekâ sistemlerinin kullanımı açıkça yasaklanmış olup kabul edilemez risk kapsamında değerlendirilmektedir. Bu bağlamda, kişi davranışlarını manipüle eden ve derecelendiren yapay zekâ sistemleri, kamuya açık alanlarda kullanılan kişileri cinsiyetine, ırkına, cinsel veya siyasi yönelimine göre kategorize eden biyometrik tanıma uygulamaları ve bireylerin duygularını, düşüncelerini veya ruhsal durumlarını teşhis etmek için kullanılan duygu tanıma sistemleri bu kategoride sayılmıştır. Kamuya açık alanlarda gerçek zamanlı uzaktan biyometrik tanımlama teknolojisinin (örneğin, CCTV aracılığıyla yüz tanıma) kolluk kuvvetleri tarafından kullanılması, belirli durumlar dışında yasaktır.
Bu durumlar Yasa metninde;
- Tecavüz, Uluslararası Ceza Mahkemesi’nin yargı yetkisine giren suçlar, cinayet aralarında sayılan 16 suçla ilgili kanuni faaliyetlerde,
- Belirli mağdurların kaçırılması, kayıp kişilerin aranması, ticareti ve cinsel istismarı durumlarında,
- Kişilerin yaşamına veya fiziksel güvenliğine yönelik tehdidin önlenmesi veya mevcut veya öngörülebilir bir terör saldırısı tehdidine yanıt verilmesi durumlarında, kamuya açık alanda biyometrik tanımlamanın kullanılabileceği sayılmıştır.
- Yüksek risk olarak sınıflandırılan sistemler, yalnızca insan gözetiminde kullanılabilen ve sembole edici nitelikte veri ile sınırlı olarak kullanılabilen yapay zekâ sistemleri kapsamında belirtilmiştir. Yüksek riskli sistemler, ek olarak bir uygunluk değerlendirmesinden (conformity assessment) geçmek zorundadır. Madde 6 kapsamında Ek-3’te, yüksek riskli kabul edilen 8 kullanım durumu sırası ile listelenmiş olup kolluk kuvvetleri tarafından kullanılan sistemler, adalet ve demokratik süreçlerin idaresi kapsamında kullanılan sistemler, iş başvurularını analiz edip filtreleyerek adayları değerlendirmek, mesleki eğitim amacıyla kullanılan sistemler bu listede bulunmakla birlikte uygunluk değerlendirmesine tabi tutulmuştur.
- Destek amacı ile internet sitelerinde kullanılan sohbet botları daha esnek kurallarla yönetilecek olup spesifik şeffaflık kategorisinde sınıflandırılmıştır. İlgili yapay zekâ sistemleri kullanılırken yapay zekâ sistemleri ile etkileşime geçildiğine dair karşı tarafa bilgilendirme yapılmalıdır. Kamuya açık alanda kullanılan biyometrik yüz tanıma sistemleri ve bankaların internet sitelerinde sohbet robotları da şeffaflık yükümlülüklerine tabi olmakla kullanıcı bilgilendirmesine tabi tutulmuştur.
- Video oyunları ve spam filtreleri gibi uygulamaları kapsayan insan hakları bakımından daha az riskli olan yapay zekâ sistemlerinin kullanımı ile ilgili olarak, belirli bir yükümlülük öngörülmemiştir.
Yapay Zekâ Yasası’nın Avrupa Parlamentosu ve Konsey tarafından kabul edilmesinin ardından Resmî Gazetede yayımlanmasını takip eden yirminci günde yürürlüğe girecektir. Yürürlüğe girdikten 24 ay sonra aşağıdaki kademeli yaklaşımla tam olarak hayata geçirilecektir;
- Yürürlüğe girdikten 6 ay sonra Üye Devletler yasaklanmış sistemlerle karşı karşıya kalacaklardır;
- Yürürlüğe girdikten 12 ay sonra genel amaçlı yapay zekâ yönetişimine ilişkin yükümlülükler yürürlüğe girecektir.
- Yürürlüğe girdikten 24 ay sonra Madde 6 Ek-3’te tanımlanan yüksek risklere yönelik yükümlülükler de dahil olmak üzere AI Yasasının tüm kuralları geçerli hale gelecektir.
Bununla birlikte yapay zekâ geliştiricileri, herhangi bir yürürlük tarihinden önce kendi sistemlerinin Yasa’nın tamamına ve bir bölümüne ilişkin uyum sağlamasına ilişkin yükümlülüklerle bağlı olacaklarını gönüllü olarak deklare ederek hükümlerin uygulanma tarihini kendileri için öne çekebilecektir.
Yapay Zekâ Yasası’nda belirtilen kurallara ve yükümlülüklere uymamanın neticesinde sektörde yer alan yapay zekâ modellerinin geliştirilmesi, kullanımı, dağıtımı, ithalatı veya üretiminde yer alan tüm şahıslar için ciddi sonuçlar doğacaktır. Nitekim, yasada belirtilen ihlal derecesi göz önünde bulundurularak 35 milyon Euro’ya kadar veya yıllık küresel cironun %2’si ve %7’si oranında para cezaları öngörülmektedir. Öngörülen ihlal derecesine göre artıp azalabilen bu cezai yaptırım, yapay zekâ sistemlerinde rol olan tüm şahısların yasaya bağlı kalması ve kurallar dahilinde hareket etmesi gerekliliğini ortaya koymaktadır.
Sonuç itibariyle, yapay zekâ sistemleri dünyada hızla gelişmekte ve hayatın her alanında kullanılmaktadır. Yapay zekâ kullanımının gelişimiyle birlikte yapay zekâ sistemleri insan hakları ve güvenliği bakımından birçok probleme yol açabilecek nitelikte olup bu problemleri önlemek amacı ile kabul edilen yasa ile birlikte birtakım düzenlemeler getirilmiştir. Dünyada ilk kez düzenlenen Yapay Zekâ Yasası, gitgide kullanımı artmakta olan yapay zekâ sistemlerini risk sınıflarına göre ve insan haklarını korumaya yönelik bir yaklaşımla düzenlemekte ve yaptırım oluşturma amacı taşımaktadır. Yasa ile getirilen kısıtlamaların, günümüzde algoritma ve yapay zekâ temelli teknoloji şirketlerinin faaliyetlerinde önemli ölçüde etkili olacağı aşikardır. Yasanın yürürlüğe girmesine müteakip regülatif kuralların uygulanmasına ilişkin deneyimin, yapay zekanın geliştirilmesine odaklanan ABD, Güney Kore, İngiltere gibi devletler ile G7 ve OECD gibi ekonomik temelli uluslararası kurumların da düzenlemelerine yansıması beklenmektedir.
KAYNAKÇA:
1- https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_EN.pdf
2- https://ec.europa.eu/commission/presscorner/detail/en/QANDA_21_1683
