Bias (Yapay Zekada) Nedir? AI'ın Ön Yargıları

Kısa Tanım

Bias (Türkçe: ön yargı), yapay zeka modellerinin eğitim verilerinden gelen toplumsal, kültürel ve sistematik ön yargıları yansıtmasıdır.

Sonuç: AI cinsiyet, ırk, sosyal sınıf, yaş vb. temelli adaletsiz çıktılar üretebilir.

Neden Ortaya Çıkar?

1. Eğitim Verisindeki Bias

LLM’ler internet metinleriyle eğitilir. İnternet metinleri:

• Ağırlıklı İngilizce, batı kültürü perspektifi
• Belirli demografik grupların aşırı temsili
• Tarihi ön yargıları içerir (cinsiyet rolleri vb.)

2. Eksik Temsil

Azınlık grupları, az gelişmiş ülkeler, kadın yazarlar veriden az pay alır. Model bu eksikliği yansıtır.

3. Etiketleyici Bias

RLHF (insan geri bildirimi) yapan etiketleyiciler de insan; ön yargıları var.

4. Algoritmik Bias

Bazen algoritmanın kendisi bias yaratır. Örneğin gerçek dünya verisi alındığında, kadın CV’leri tarihsel olarak az olduğu için “iyi CV” prediksiyonu erkeği favoriler.

Gerçek Vakalar

Amazon İşe Alım AI’ı (2018)

Amazon, CV taramak için bir AI geliştirdi. 10 yıllık geçmiş veriyle eğitildi — ama veri ağırlıklı erkek mühendisten oluşuyordu.

Sonuç: AI kadın CV’lerini sistematik olarak düşürüyordu. “kadın futbol kulübü” gibi ifadeler bile negatif puan getiriyordu. Amazon sistemi tamamen kaldırdı.

Yüz Tanıma Sistemleri

Çoğu yüz tanıma sistemi siyahi kadınları %34 daha hata oranıyla tanıyor (beyaz erkeklere göre). ACLU testlerinde Amazon Rekognition, beyaz kongre üyeleriyle suçluları karıştırdı.

COMPAS Risk Skoru (ABD)

ABD’de mahkum tahliye risk skorlamasında kullanılan AI sistemi, siyahi sanıkları beyazlara göre 2 kat daha yüksek risk olarak işaretliyordu — aynı geçmiş profille bile.

ChatGPT Erken Bias

GPT-3 ve erken GPT-3.5:

• “Doktor” → erkek varsayılırdı
• “Hemşire” → kadın
• “CEO” → beyaz erkek
• Türkler için olumsuz çağrışımlar (eğitim verisindeki Avrupa metinleri)

Bias Türleri

Tip	Açıklama	Örnek
Selection bias	Veri seçiminden gelir	İnternette daha çok İngilizce
Confirmation bias	Mevcut görüşü onaylama	”Erkekler X iyi” devam ettirme
Representation bias	Eksik temsil	Az kadın bilim insanı verisi
Measurement bias	Veri ölçüm hatası	Suç istatistiklerinin doğruluğu
Aggregation bias	Tüm grup için aynı model	Türk ≠ Arap ≠ Fars ama “Orta Doğu” diye birleştirme

Bias’ı Azaltma Yöntemleri

1. Veri Düzeyi

• Çeşitlilik: Demografik dengeyle veri toplama
• Dengeleme: Az temsil edilen grupları artırmak
• Filtreleme: Açıkça önyargılı kaynakları çıkarmak

2. Model Düzeyi

• RLHF: İnsan geri bildirimleriyle eğitim
• Constitutional AI: Anthropic’in yaklaşımı — açık etik kurallar
• Debiasing: Bias’ı azaltıcı algoritma ekleme

3. Çıktı Düzeyi

• Bias detection: Üretilen çıktıyı bias için tarama
• Disclaimers: Bias riskini kullanıcıya bildirme
• Auditing: Düzenli denetim

4. Süreç Düzeyi

• Çeşitli ekip: Farklı demografilerden geliştirici
• Şeffaflık: Veri ve model raporları yayınlama (model cards)
• Düzenleme: AB AI Act, ABD AI Bill of Rights

Regülasyon

Düzenleme	Bias Gereklilikleri
AB AI Act	Yüksek riskli sistemler için bias değerlendirme zorunlu
ABD AI Bill of Rights	Algoritmik ayrımcılığa karşı koruma
KVKK (TR)	Hassas özel kategorideki veri için bias risk değerlendirme

Bias Test Araçları

• FairLearn (Microsoft, açık kaynak)
• AIF360 (IBM, açık kaynak)
• What-If Tool (Google)
• BBQ benchmark: Bias benchmark for QA
• RealToxicity: Toxic generation testi

Kullanıcı için Pratik İpuçları

1. AI çıktısını sorgula: Demografik bias var mı?
2. Çeşitli prompt: Aynı bilgiyi farklı persona ile sor
3. Kaynak iste: Bias’lı çıktıyı kaynakla doğrula
4. Şikayet et: Şirketlere bias raporla
5. Eleştirel kullan: AI’yı son söz değil, başlangıç olarak gör

İlgili Kavramlar

• LLM — bias’a sahip sistem
• Hallucination — yanlış bilgi
• Fine-tuning — bias’ı artırabilir veya azaltabilir
• Reinforcement Learning — RLHF ile bias azaltma

Sonraki Adımlar

• Yapay Zeka Cevaplarını Nasıl Doğrularsınız?
• ChatGPT’ye Hangi Bilgiler Yazılmamalı?

Özet

AI bias, yapay zekanın eğitim verilerinden gelen ön yargıları yansıtmasıdır. Tamamen ortadan kaldırılamaz ama sistematik olarak ölçülmeli ve azaltılmalı. AB AI Act ve KVKK gibi düzenlemeler artık bias değerlendirmesini zorunlu hale getiriyor. Kullanıcı olarak: AI çıktısını eleştirel okuyun, demografik varsayımları sorgulayın, kritik kararlarda mutlaka insan denetimi olsun.