Sağlık, hukuk ve ulaşımdaki kusurların sonuçları önemli olabiliyor… Günümüzde kullanımı gitgide artan yapay zekaların yanılgılı kararları bazen …
Sağlık, hukuk ve ulaşımdaki kusurların sonuçları önemli olabiliyor…
Günümüzde kullanımı gitgide artan yapay zekaların yanılgılı kararları bazen tehlikelere yol açabiliyor. Yapay zekanın da kusur yapabileceğini belirten uzmanlar, bilhassa sağlık, hukuk, savunma ve ulaşım üzere alanlarda yapay zeka kusurlarının önemli sonuçlar doğurabileceğine dikkat çekiyor. Uzmanlar, yapay zekanın birtakım uygulama alanlarında ayrımcı ve önyargılı davranabildiğine de söylerken, yapay zeka sistemlerine girilen bilgilerin yanlışsız, dengeli ve tarafsız olması gerektiğinin altını çiziyor.
Üsküdar Üniversitesi Mühendislik ve Tabiat Bilimleri Fakültesi Yazılım Mühendisliği Kısım Başkan Yardımcısı Dr. Öğretim Üyesi Kristin Surpuhi Benli, yapay zekaların yanlışlı uygulamaları hakkında bilgiler ve ilgi cazibeli örnekler paylaştı.
Birinci hadise 2018’de gerçekleşti
Yapay zekanın verdiği yanlışlı kararların bazen tehlikelere yol açabildiğini belirten Dr. Öğretim Üyesi Kristin Surpuhi Benli, “Örneğin, 2018 yılında Uber’in şoförsüz arabası yanında güvenlik şoförü bir insan olmasına karşın bir bisiklet şoförüne çarpmış ve bu kaza mevtle sonuçlanmıştı. Bu olay otonom otomobilin mevte sebebiyet verdiği kaydedilen birinci olaydır. Bu kaza sonrasında yayınlanan raporda yapay zekanın bisikletli sürücüyü çarpışmaya çok kısa bir müddet kala algıladığı görüldü. Öncesinde ise, onu farklı ve yanlış objeler ile eşleştirmiş. Bisikletli şoför algılandıktan sonra da tehlikeli durumlarda devreye girmesi gereken otomatik fren sisteminin kapalı olması nedeniyle aracın durdurulamadığı belirtildi.” dedi.
Uygunlaştırma çalışmaları yapılmalı
Yapay zekanın da kusur yapabildiğini tabir eden Dr. Öğretim Üyesi Benli, “Yapmış olduğu yanılgılar da otonom araç örneğinde olduğu üzere telafisi mümkün olmayan sonuçlar doğurabilir. Bu olay üzere yapay zekanın yapmış olduğu bir öbür önemli kusur ise yapay zeka tabanlı yüz tanıma sistemi tarafından gerçekleştirildi. Bir hırsızlık olayında cürümlünün bulunması için kullanılan sistem temiz olan bir kişinin, yanlışlı yüz eşleştirme süreci sonucunda tutuklanmasına sebebiyet verdi. Tutuklanan kişinin koyu deri renge sahip olmasının sistemde yanılgıya yol açtığı düşünülüyor. Yüz tanıma sistemleri ile ilgili yapılan araştırmalarda da bu sistemlerin koyu cilt tonuna sahip insanları açık cilt tonuna sahip olanlara nazaran daha sık yanlış tanıdığını gösteriyor. Bu örnekte de görüldüğü üzere bu sistemler üzerinde güzelleştirme çalışmalarının yapılması gerekiyor.” diye konuştu.
Yanılgılardan kimin sorumlu tutulacağı kıymetli
Dr. Öğretim Üyesi Kristin Surpuhi Benli, ‘Özellikle sağlık, hukuk, savunma ve ulaşım üzere alanlarda yapay zekanın yapmış olduğu yanılgıların sonuçları büyük olacaktır.’ dedi ve kelamlarını şöyle sürdürdü:
“Risklerin daha düşük olduğu alanlarda örneğin yapay zeka kamerası aracılığıyla izlenilen bir futbol maçında kameranın asıl vazifesi futbol topunu takip etmek iken, top ile kel olan hakemin başını karıştırdığında atılan golü izleyememek izleyicinin kaybı olacaktır. Bu örnek ile evvelki örnekleri kıyaslandığımızda risklerin ve yanılgıların daha telafi edilebilir seviyede olduğunu söyleyebiliriz. Yapay zeka tarafından yapılan yanılgılardan kimin sorumlu tutulacağı ise düşünülmesi gereken öteki bir değerli bahistir. Otonom aracın yapmış olduğu trafik kazasında yapılan kazanın sorumluluğunun kime ilişkin olduğu konusunda farklı görüşler ortaya çıktı. Burada öncelikle yapay zekanın türel statüsünün hususun uzmanları tarafından tartışılması gerekiyor. İlerleyen vakitlerde ise hukukî düzenlemelerin yapılması muhtaçlığı doğacaktır.”
Yapay zeka ayrımcılık yapıyor
Yapay zeka tabanlı sistemlerin finans kuruluşlarında müşterilerin kredi limitlerinin belirlenmesi için kullanıldığını söz eden Dr. Öğretim Üyesi Benli, “Aynı gelir seviyesine sahip bayan ve erkek müşteriler ortasından sistemlerin erkek müşterilere daha yüksek ölçüde kredi limiti verdiğini gösteren örnekler mevcut. Öteki bir durum ise Amazon firmasının işe alımlar sırasında adaylar arasında eleme yapmak için kullandığı işe alım motoru ile ilgili yaşandı. İşe alım motorunun bayan ve erkek adaylar arasında ayrımcılık yaptığı ve iş konumları için daha çok erkek adayları tercih ettiği görüldü. Son iki örnek ile yapay zeka sistemlerinin içerisinde gömülü olan bir önyargının olduğu görülüyor.” diye konuştu.
Tehlikelere yol açabileceği bilinmeli
Yapay zeka insanların hayat kalitelerini arttırmaya yardımcı olacak bir teknoloji olarak kullanılsa da birçok yeni gelişen teknolojide olduğu üzere tehlikelere yol açabileceğinin göz önünde bulundurulması gerektiğini belirten Dr. Öğretim Üyesi Kristin Surpuhi Benli, “Bazı durumlar evvelce öngörülemediği için sistemler kullanıldıkça yanlışların farkına varılıyor. Yapay zeka tabanlı sistemlerin doğruluk ve önyargılar açısından daha titizlikle test edilmesi gerekiyor. Bu sistemlere girilen bilgilerin gerçek, dengeli ve tarafsız olması gerekiyor.” dedi.
Kaynak: (BHA) – Beyaz Haber Ajansı
