Analizler

Yapay Zeka Teknolojisi Kontrol Edilebilir mi?

Avrupa Birliği, "Yapay Zeka Yasası"nı uygulamaya hazırlanıyor...

Hayatımızın derinlerine yerleşen yapay zeka teknolojisi, küresel endüstrilerde büyük değişimlere yol açıyor. İşletmelerin iş tanımlarını, süreçlerini ve genel anlamda hayatımızın en ufak noktalarına sızıp yaşam biçimimizi değiştiren yapay zeka, küresel çapta hükümetlerin çalışma şeklini de değiştirmeye başlıyor.

Yapay zeka ile makine öğrenimi, otonom sistemler, doğal dil işleme gibi birçok alanda karşılaştık. Pek çok alanda kendini kanıtlayan bu teknolojinin, yakın gelecekte yeterli veri ve girdi ile desteklendiği takdirde tahmin, öneri ve karar alma mekanizmalarında kullanılacağı düşünülüyor.

Şirketlerin %77’si Yapay Zeka Kullanıyor

Aposto’dan aldığımız habere göre yapay zeka teknolojisi, işletmeler ve şirketler arasında gün geçtikçe daha da yaygınlaşıyor.

IBM adına Morning Consult tarafından gerçekleştirilen bir araştırma, günümüzde şirketlerin %77’sinin yapay zeka teknolojisi kullandığını ve bu teknolojiye dair araştırmalar yürüttüğünü belirtiyor. Şirketlerin yapay zeka ile ilgili sürdürdüğü araştırmaların arka planında yatan motivasyonın gelişmiş karar sürecine katkıda bulunmak ve müşteri deneyimini iyileştirmek olduğu düşünülüyor.
Araştırma, şirketlerin %35’inin yapay zekayı aktif olarak kullandığını, %42’sinin yapay zekası keşfetme olduğunu ortaya koydu.

2021 tarihli bir PwC araştırması ise Covid-19 pandemisi ile yapay zeka çalışmaları arasındaki bağlantıyı ortaya koydu. Araştırmaya göre pandeminin sebep olduğu kriz; işgücü planlamasında, tedarik zincirinde ve daha birçok alanda yapay zeka teknolojisinin kullanılmasını güdüledi. Şirketlerin %52’si pandemi sonrası yapay zeka teknolojisini benimseme çalışmalarını hızlandırdı.

Diğer yandan, yapay zeka henüz üzerinde %100 kontrole sahip olduğumu bir konsepte sahip değil. Yapay zeka, kendisini kullana kişiler için bir dizi risk ve tehlikeyi içerisinde barındırıyor. Teknolojinin gelişmesi ile yapay zeka algoritmalarının gelişimi de hızlanıyor ve uzmanlar bu konuda uyarılarda bulunuyor.

Yapay zekanın bilim kurgu filmlerinde karşımıza çıkan inanılmaz bir bilinç ve öfke sahibi “kötü karaktere” dönüşeceğini söylemiyoruz fakat yapay zekanın bu gelişim hızı ile karşılaşabileceğimiz bazı tehlikeler şöyledir:

  • Otomasyonun sebep olabileceği iş kayıpları,
  • Gizlilik ihlalleri,
  • Deepfake, diğer bir deyişle kişilerin yazı, görüntü ya da seslerinin değiştirilmesi, manipüle edilmesi,
  • Yetersiz verinin sebep olduğu önyargılı algoritma,
  • Sosyoekonomik eşitsizlik,
  • Piyasa oynaklığı,
  • Silah otomasyonu.

AB’den Dünyanın İlk Yapay Zeka Yasası

Yapay zekanın günlük hayatımıza yavaş yavaş entegre oluşunu kimileri salt olumlu değişiklikler bazında düşünürken kimileri de bu teknolojiden elde edebileceği kâr ile olası tehlikelere gözünü kapatıyor, hatta riskleri yok sayıyor. Diğer yandan Avrupa Birliği, bu iddialar konusunda epey ciddi.

Avrupa Komisyonu, yapay zeka teknolojisinin yakın bir gelecekte sebep olabileceği olumsuz etkilerin ve olası risklerin önüne geçme amaçlı “Yapay Zeka Yasası” isminde yeni bir yasa tasarlıyor. Yapay zekanın önlenemez gelişiminin yaratabileceği tahribata karşın bir güvence oluşturmak adına yasa hazırlığına girişmek bir yana, söz konusu yasa, yapay zekaya ilişkin düzenlenen ilk yasa olma özelliğine sahip. AB, söz konusu yasa ile AB bölgesi vatandaşlarını olası risk ve tehlikelere karşı korumayı hedefliyor.

Bu anlamda AB’nin Yapay Zeka Yasası, aşağıdaki üç maddeye odaklanıyor:

  • Çin hükümeti tarafından uygulamaya konulan “sosyal puanlama” ve benzeri uygulama ve sistemler yasaklanacak. Bu uygulamalar halk için kabul edilemez olup kişisel veri güvenliğini de büyük bir risk altına atıyor. (Black Mirror- Nosedive, tanıdık geliyor değil mi?)
  • Genellikle iş başvurularında kullanılan özgeçmiş tarama araçları, yüksek risk belirttiği için yasal gerekliliklere tabi tutulacak.
  • Yüksek riskli sınıfında bulunmayan, aşikar bir şekilde yasaklanmayan fakat bu etkenlerden dolayı büyük ölçüde denetimsiz bırakılan, denetimsizlik nedeni ile artık “yüksek riskli” sayılan uygulamalar denetlenecek.

İsviçre menşeli veri hizmetleri şirketi Unit8, “Upcoming AI Regulation: What to Expect and How to Prepare” teknik incelemesi ile düzenlenmesi planlanan yeni yasaya ve bu yasanın şirketlere etkisine dair görülerde bulunuyor.
Teknik inceleme, yasanın kapsamı ve yasaya ters düşen durumlarda meydana gelebilecek finansal risklerin düşünülmesini salık vererek; şirketlerin kendilerini şimdiden yasaya hazırlamalarını ve yeni kurallara adapte olmaları konusunda harekete geçmeleri gerektiğini belirtiyor.

Nisan 2021’de açıklanan öneri kapsamında öncelikli olarak yapay zeka teknolojisi kapsamında meydana gelebilecek risklerin ele alınması, bu yüksek riskli uygulamalar için net kararlar alınması ve uygulamanın önümüzdeki iki yıl içerisinde aktifleştirilmesi bekleniyor.

Sağlayıcılarının AB sınırları ya da dışında olması fark etmeksizin AB pazarında kullanılan ve bu pazarda yer alan tüm yapay zeka sistemlerine yönelik uygulanacak olan tüm yükümlülükler ve sorumluluklar; hem sistemi sağlayanlar hem de bu sistemleri kullanan üreticiler, ithalatçılar ve distribütörler için geçerli olacak.

Bu nedenle şirketlerin ilgili yasaya ve yasadan doğacak kurallara kendilerini adapte etmesi gerektiğini belirten Unit8, firmaların gerekli yükümleri eksiksiz şekilde yerine getirebilmeleri için bir uzmanla çalışmalar gerektiğinin altını çiziyor. Bununla beraber Unity8, bu konuda yol gösterici olacak nitelikte bir ekip kurmanın yapay zeka gelişimini teşvik edeceğini ve yeniden düzenleme maliyetlerini azaltacağını söylüyor.

Yasaya Uymayan Şirketleri Neler Bekliyor?

IBM raporunda ülkelerin yapay zeka teknolojilerinden ne ölçekte yararlandığına dair bir tablo yer alıyor:

İBM Raporu
İBM Raporu

Unit8, şirketleri yasanın getirilerine karşı uyarıyor. Öyle ki, uyumsuz tutum sergileyen şirketlerin maruz kalabileceği ağır mali yükümlülükler göz önüne alındığında, yasa ile uyumlu bir şekilde ilerlemek şirketlerin yararına olacaktır.

Aksi takdirde, veri yönetişimi gereksinimlerinin ihlali ya da yapay zeka yasalarına uyulmaması halinde şirketlerin 3 milyon euro yahut küresel yıllık gelirlerinin %6’sı kadar bir para cezası ile karşı karşıya kalma ihtimalleri söz konusu.

Bununla beraber, diğer hükümlere uyulmaması halinde ise 20 milyon euro değerinde para cezası yahut yine şirketlerin küresel yıllık gelirlerinin %4’ü oranında bir ceza ödeyecekleri belirtiliyor. Son olarak, yetkililere eksik ya da yanlış bilgi verilmesi durumunda ise şirketlerin 10 milyon euro ya da yıllık küresel gelirlerinin %2’sine denk gelen bir ceza ile karşı karşıya kalma durumları söz konusu olacaktır.

Etiketler
Kapalı