Yapay zekanın “nesnel ve tarafsız” olduğu yaygın bir yanılgıdır. Gerçek şu ki bir model, ancak beslendiği veri kadar tarafsızdır. Veri önyargılıysa, model o önyargıyı öğrenir ve hatta büyütür.
Yanlılık (bias) nedir?
Algoritmik yanlılık, bir yapay zeka sisteminin belirli gruplar aleyhine sistematik biçimde hatalı ya da adaletsiz sonuçlar üretmesidir. Kaynağı genellikle modelin kendisi değil, ona verilen veridir.
Nereden gelir?
Eğer geçmiş veriler belirli bir grubu eksik ya da çarpık temsil ediyorsa, model bu çarpıklığı öğrenir. Bu, doğrudan örnekleme yanlılığının bir sonucudur: yanlış ya da eksik kitleden öğrenen sistem, yanlış genellemeler yapar.
Korelasyon tuzağı
Model, aslında nedensel olmayan ilişkileri kural sanabilir; örneğin bir özelliği, onunla yalnızca tesadüfen ilişkili bir sonuçla bağlayabilir. Bu da yine korelasyonu nedensellik sanma hatasının bir biçimidir.
Nasıl azaltılır?
Dengeli ve temsili veri toplamak, modelin çıktısını gruplara göre denetlemek ve şeffaflık, yanlılığı azaltmanın temel yollarıdır. Ayrıntı için algoritmik yanlılık sayfasına bakabilirsiniz.
İşin hocası ne yapar?
İşin hocası bir modelin çıktısına değil, önce verisine bakar. Çünkü “çöp girerse çöp çıkar” kuralı, yapay zekada her zamankinden geçerlidir.
İlgili yazı: Büyük Dil Modelleri (LLM) Nasıl Çalışır?