Ağustos 2022’nin başlarında piyasaya sürülmesinden bu yana, Meta’nın yapay zeka (AI) odaklı araştırma projesi Blenderbot manşetlere çıkıyor. Bir …
Ağustos 2022’nin başlarında piyasaya sürülmesinden bu yana, Meta’nın yapay zeka (AI) odaklı araştırma projesi Blenderbot manşetlere çıkıyor. Bir sohbet botu olan Blenderbot’un beşerler, şirketler ve siyaset hakkındaki açıklamaları beklenmedik ve bazen radikal görünüyor. Bu, makine öğrenmesinin (ML) kıymetli zorluklarından biri ve işlerinde ML kullanan kuruluşların bununla bilhassa ilgilenmesi gerekiyor.
Diğer misal projeler daha evvel Blenderbot’un yaşadığına emsal sorunla karşı karşıya kaldı. Örneğin Microsoft’un Twitter için hazırladığı sohbet botu Tay ırkçı açıklamalarıyla dikkat çekmişti. Bu, internetten gelen metinler ve imgeler üzerinde eğitilen makine tahsili modellerinin zayıf noktasını yansıtıyor. Çıktılarını inandırıcı kılmak için çok büyük ham bilgi kümeleri kullanıyorlar, lakin bu tıp modeller web üzerinde eğitildikleri takdirde yakaladığı önyargıları davranışlarına yansıtıyorlar.
Şimdiye kadar bu projeler çoğunlukla araştırma ve bilim hedefiyle ortaya koyuluyordu. Bununla birlikte kuruluşlar artık lisan modellerini müşteri takviyesi, çeviri, pazarlama metni yazma, metin düzeltme ve gibisi alanlarda kullanıyorlar. Bu modelleri daha az önyargılı hale getirmek için geliştiriciler, eğitim için kullanılan bilgi kümelerini düzenleyebilirler. Lakin web üzerindeki data kümeleri kelam konusu olduğunda bu çok zordur. Yüz kızartıcı yanlışları önlemek için ilgili evrakları kaldırmak, modelin bunları öğrenmesini önlemek için muhakkak sözleri yahut sözleri bilginin dışında tutmak ismine önyargılara karşı datayı filtrelemek gerekir. Öteki bir yaklaşım, modelin şüpheli metin oluşturması durumunda uygun olmayan çıktıları kullanıcılara ulaşmadan filtrelemektir.
Daha geniş açıdan bakıldığında müdafaa düzenekleri önyargıların ötesinde rastgele bir ML modeli için gereklidir. Geliştiriciler modeli eğitmek için açık bilgileri kullanırsa, özel hazırlanmış, yanılgılı biçimlendirilmiş bilgilerin saldırganlar tarafından bilgi kümesine eklendiği “veri zehirlenmesi” ismi verilen tekniğin kurbanı olabilirler. Sonuç olarak model birtakım olayları tanımlayamayacak, onları diğerleriyle karıştıracak ve yanlış kararlar verecektir.
Kaspersky Baş Data Bilimcisi Vladislav Tushkanov, şunları söylüyor: “Çok fazla uğraş ve uzmanlık gerektirmesi nedeniyle gerçekte bu tıp tehditler ender olsa da, şirketlerin hala önleyici önlemler alması gerekiyor. Bu tıpkı vakitte eğitim modelleri sürecindeki yanlışları en aza indirmeye yardımcı olacaktır. Öncelikle kuruluşların eğitim için hangi bilgilerin kullanıldığını ve nereden geldiğini bilmeleri gerekiyor. Ayrıyeten çeşitlendirilmiş bilgilerin kullanılması zehirlenmeyi daha da zorlaştırır. Son olarak, modeli devreye almadan evvel kapsamlı bir şekilde test etmek ve performansını daima olarak izlemek kıymetlidir.”
Kuruluşlar, makine tahsili sistemlerine yönelik tehditler hakkında özel bir bilgi kaynağı olan MITRE ATLAS’a da başvurabilirler. ATLAS ayrıyeten ML hücumlarında kullanılan bir taktik ve teknik matrisi sağlar.
Kaspersky’de muhtemel güvenlik açıklarını ortaya çıkarmak, hasarı görmek ve bu cins bir atak riskinin nasıl azaltılacağını anlamak için siber akınları taklit ederek istenmeyen posta tedbire ve berbat hedefli yazılım algılama sistemlerimiz üzerinde belli testler gerçekleştirdik.
Makine tahsili, Kaspersky eser ve hizmetlerinde tehditlerin tespiti, Kaspersky SOC’de ikaz tahlili yahut üretim süreci muhafazasında anormallik tespiti hedefiyle yaygın olarak kullanılmaktadır. Kaspersky eserlerinde makine tahsili kullanımı hakkında daha fazla bilgi edinmek için bu sayfayı ziyaret edin.
Kaynak: (BYZHA) – Beyaz Haber Ajansı
