Yapay Zekâ Regülasyonları ve Etik
Yazan Yasin TANIŞ

1. Yapay zekâ regülasyonları neden önemli
Yapay zekâ teknolojileri, 21. yüzyılın en büyük yeniliklerinden biri olarak hem bireysel yaşamı hem de iş dünyasını dönüştürüyor. Bu dönüşüm sırasında ortaya çıkan etik ve yasal sorunlar ise teknolojinin geleceğini belirleyen kritik bir etken. Şirketler, devletler ve bireyler, yapay zekânın sağladığı faydaların yanında taşıdığı riskleri de ele almak zorunda.
Birkaç örnek:
- İtalya'nın ChatGPT yasağı, veri gizliliği konusundaki zorlukları gözler önüne serdi.
- Amazon'un işe alım algoritması, cinsiyet önyargısı nedeniyle etik tartışmalara yol açtı.
- AB'nin Yapay Zekâ Yasası (AI Act), yüksek riskli yapay zekâ uygulamalarını düzenleyen dünyadaki ilk kapsamlı yasa oldu.
Bu yazıda yapay zekâ regülasyonlarının bugünkü durumunu, etik yapay zekâ geliştirmenin yollarını ve şirketlerin bu yeni düzene nasıl uyum sağlayabileceğini ele alıyoruz.
2. AB Yapay Zekâ Yasası: yakından bakış
Avrupa Birliği'nin Yapay Zekâ Yasası, dünyadaki ilk kapsamlı yapay zekâ regülasyonu olarak dikkat çekiyor. 2024'te kabul edilen yasa, hem Avrupa'da hem de AB pazarına ürün sunan dünyanın her yerindeki şirketler için oyunu değiştiriyor. Yasa risk temelli bir yaklaşımla yapay zekâ sistemlerini dört katmana ayırıyor: yasaklanan, yüksek riskli, sınırlı riskli ve asgari riskli uygulamalar.
Yüksek riskli sistemler
Bu sistemler insan hayatını doğrudan etkileyen kritik alanlarda kullanılır ve sıkı denetim ile şeffaflık gerekliliklerine uymak zorundadır. Örnekler:
- Sağlık: hastalık teşhisi yapan algoritmalar
- Finans: kredi skorlama sistemleri
- İşe alım: CV tarama ve aday değerlendirme araçları
Denetim mekanizmaları arasında veri kayıtları, modelin açıklanabilirliği ve sürekli izleme yer alıyor. Örneğin bir bankanın kredi skorlama algoritması, müşteriye neden kredi verilmediğini açıkça belgeleyebilmelidir.
Yasaklanan uygulamalar
Yasa, toplumun temel değerlerine aykırı yapay zekâ uygulamalarını kesin olarak yasaklıyor. Bunlar arasında:
- Sosyal puanlama sistemleri: vatandaş davranışlarını puanlayan sistemler
- Biyometrik kitle gözetimi: kamusal alanda izinsiz yüz tanıma
- Bilinçaltı manipülasyon: kullanıcıların davranışını farkında olmadan yönlendiren sistemler
Sınırlı ve asgari risk
Sohbet botları gibi sınırlı riskli sistemlerde başlıca yükümlülük şeffaflıktır: kullanıcı bir yapay zekâyla konuştuğunu bilmelidir. Oyun içi yapay zekâ ya da spam filtreleri gibi asgari riskli sistemler ise büyük ölçüde serbest bırakılıyor; etik ilkeler burada da önemli ama düzenleme çok daha hafif.
Şirketler için uyum gereksinimleri
Yasa, yüksek riskli sistemler için şirketlere şu adımları zorunlu kılıyor:
- Dokümantasyon ve şeffaflık: her model için kullanılan veriyi, algoritmanın işleyişini ve olası riskleri ayrıntılı anlatan belgeler hazırlanmalı.
- Bağımsız denetim: yüksek riskli sistemler düzenli olarak bağımsız kurumlarca denetlenmeli.
- Etik ve teknik eğitim: çalışanlar, özellikle teknik ekipler, regülasyonlar ve etik ilkeler konusunda eğitilmeli.
Yaptırımlar ve denetim
Kurallara uymayan şirketler ciddi yaptırımlarla karşılaşabilir:
- Ciroya dayalı cezalar: en ağır ihlallerde şirketin küresel yıllık cirosunun %7'sine kadar
- Faaliyetin durdurulması: ağır ihlalde ilgili yapay zekâ sisteminin kullanımı durdurulabilir
- Piyasadan çekme: etik ya da teknik standartları karşılamayan modeller piyasadan çekilebilir
Bu yaptırımlar hem mali hem de itibar açısından büyük kayıplara yol açabilir. Örneğin yanlış sonuç üreten bir teşhis algoritması hasta güvenini sarsarak ciddi bir itibar krizine dönüşebilir.
3. Uygulamadan iki örnek
Regülasyonların ve etik ilkelerin pratikte nasıl karşılık bulduğunu göstermek için finans ve sağlıktan iki örnek ele alalım. Bu vakalar gerçek kurumları değil, ilkelerin nasıl uygulanabileceğini gösteren kurgusal örnekleri anlatıyor.
Örnek 1: finansta yapay zekâ (kurgusal "XYZ Bank")
XYZ Bank kredi değerlendirmede yapay zekâ tabanlı bir algoritma kullanmaya başlıyor. Ancak ilk uygulamada model bazı demografik gruplara karşı önyargılı davranıyor.
Sorun: Model, 35 yaş altındaki kadın girişimcilerin başvurularını erkek girişimcilere göre %23 daha sık reddediyor. Bu hem yasal risk hem de müşteri güveni kaybı demek.
Çözüm adımları:
- Veri analizi ve temizlik: geçmiş veriler denetleniyor, önyargı tespit ediliyor ve kadın girişimcilere dair veri eksikliği gideriliyor.
- Önyargı azaltma: model eğitiminde adalet (fairness) metrikleri kullanılıyor.
- Sürekli izleme: algoritmanın kararlarındaki sapmaları izlemek için haftalık bir gösterge paneli kuruluyor.
Sonuçlar:
- Demografik eşitlik skoru 0,82'den 0,96'ya çıkıyor.
- Cinsiyete göre kredi onay farkı %4'e iniyor.
- Model performansı (AUC-ROC) %87 düzeyinde korunuyor.
Örnek 2: sağlıkta yapay zekâ (kurgusal "ABC Hastanesi")
ABC Hastanesi hastalık teşhisi için bir yapay zekâ modeli kullanıyor. Ancak hasta verilerinin yeterince korunmadığı ve GDPR'a (Genel Veri Koruma Tüzüğü) aykırı bir durum oluştuğu ortaya çıkıyor.
Sorun: Hasta verileri merkezi bir sunucuda tutuluyor ve bu, veri ihlallerine açık bir risk oluşturuyor.
Çözüm: Hastane federe öğrenmeye (federated learning) geçiyor:
- Veriler yerel cihazlarda işleniyor; merkezi veri saklama ihtiyacı ortadan kalkıyor.
- Model farklı cihazlardaki verilerden öğreniyor, ama hiçbir veri cihazdan dışarı çıkmıyor.
Sonuçlar:
- Veri gizliliği ihlallerinin önü kesiliyor.
- Modelin doğruluğu %91'den %93'e çıkıyor.
- GDPR'a uyumlu bir sistem kuruluyor.
Bu örnekler, regülasyonlara ve etik ilkelere uyumun gerçek dünyada nasıl uygulanabileceğini gösteriyor. Şimdi bu tür sonuçların nasıl tekrarlanabileceğine bakalım.
4. Etik yapay zekâ geliştirme çerçevesi
Etik bir yapay zekâ sistemi, iyi tanımlanmış bir çerçeveye dayanmalıdır. Bu çerçeve veri toplama, model geliştirme, izleme ve açıklanabilirlik gibi aşamalardan oluşur.
Model geliştirmede etik kontrol noktaları
Veri toplama ve işleme standartları: Veri tarafsız, güncel ve temsil edici olmalı; işleme sırasında kişisel veriler korunmalı. Örneğin cinsiyet ya da yaş gibi hassas özellikler veri setinden çıkarılabilir.
Önyargıyı tespit etme ve önleme: Model eğitimi sırasında önyargı kontrol araçları kullanılmalı. Aşağıdaki kod, bu tür bir kontrolün nasıl görünebileceğine dair bir taslak:
# Bias test framework
from fairness_check import calculate_bias_metrics
bias_metrics = calculate_bias_metrics(data, protected_features=["gender", "ethnicity"])
Açıklanabilirlik için iyi uygulamalar: Modeller kullanıcılar ve denetçiler tarafından kolayca anlaşılabilmeli.
- Özelliklerin önemini SHAP (SHapley Additive exPlanations) değerleriyle açıklamak
- Her model için ayrıntılı bir model kartı hazırlamak:
model_card = {
"model_name": "Disease Predictor v1.0",
"description": "Hastalık teşhisi için kullanılan bir AI modeli",
"fairness_metrics": {"demographic_parity": 0.95},
"limitations": ["Sınırlı veri temsil durumu"]
}
Dokümantasyon gereksinimleri
Her yapay zekâ sistemi için ayrıntılı dokümantasyon hazırlanmalı:
- Kullanılan veri kaynakları ve işleme adımları
- Eğitimde kullanılan parametreler
- Adalet ve performans metrikleri
- Uygulanan izleme ve denetim mekanizmaları
Sürekli izleme ve güncelleme
Yapay zekâ sistemleri durağan değildir; performans ve etik uyum düzenli olarak kontrol edilmeli:
- Gerçek zamanlı izleme sistemleri kurulmalı.
- Performans ve adalet metriklerindeki düşüşler için alarm mekanizmaları eklenmeli.
5. Türkiye'deki durum
Türkiye, yapay zekâ regülasyonları ve etik uygulamalarda uluslararası standartlara uyum sağlamaya çalışıyor. Mevcut çerçeve büyük ölçüde KVKK (Kişisel Verilerin Korunması Kanunu) ile şekilleniyor; AB Yapay Zekâ Yasası da giderek daha belirleyici hâle geliyor. Bu uyum süreci hem fırsatlar hem de zorluklar barındırıyor.
Mevcut yasal çerçeve
Türkiye'de yapay zekâya özgü bir yasa henüz yok, ama KVKK önemli bir çerçeve sunuyor:
- KVKK madde 4: kişisel verilerin işlenmesinde doğruluk, güncellik ve hukuka uygunluk ilkeleri
- KVKK madde 6: özel nitelikli kişisel verilerin işlenmesinde daha sıkı koşullar ve açık rıza
Örneğin sağlıkta kullanılan yapay zekâ sistemleri, hasta verilerini işlerken KVKK'nın 6. maddesine uymak zorunda. Ayrıca BDDK (Bankacılık Düzenleme ve Denetleme Kurumu) ve BTK (Bilgi Teknolojileri ve İletişim Kurumu), kendi sektörlerinde yapay zekâ uygulamalarına ilişkin yönlendirmeler yayımlıyor.
AB Yapay Zekâ Yasası ile uyum
AB pazarına ürün ya da hizmet sunan Türk şirketleri bu yasaya zaten tabi; AB ile Gümrük Birliği ilişkisi nedeniyle Türkiye'nin kendi mevzuatını da bu yöne yaklaştırması bekleniyor. Bu durum:
- Bankacılık, telekomünikasyon ve sağlık gibi sektörlerde yeni denetim mekanizmalarının kurulmasını
- Şirketlerin şeffaflık ve dokümantasyon süreçlerini geliştirmesini gerektiriyor.
Beklenen değişiklikler:
- Daha sıkı veri koruma protokolleri
- Yüksek riskli sistemler için bağımsız denetim zorunluluğu
- Etik kurulların oluşturulması gibi yapısal reformlar
Sektörel uygulamalar
- Bankacılık: BDDK'nın veri koruma ve algoritma şeffaflığına dair düzenlemeleri finans sektöründe öne çıkıyor; bazı bankalar kredi algoritmalarını bağımsız üçüncü taraflara denetletmeye başladı.
- Sağlık: Sağlık Bakanlığı, hasta verilerinin yapay zekâ ile işlenmesine yönelik kılavuzlar yayımladı; klinik teşhis algoritmaları için onay süreçleri geliştiriliyor.
- Telekomünikasyon: BTK'nın yönlendirmeleri müşteri verilerinin korunmasını ve anonimleştirme standartlarının uygulanmasını şart koşuyor.
Türkiye'nin yapay zekâ ekosistemi hızla büyüyor, ama regülasyon ve etik standartlar konusunda daha fazla çalışmaya ihtiyaç var. Şimdi şirketlerin uyum sürecinde neler yapabileceğine bakalım.
6. Uygulama önerileri
Regülasyonlara ve etik ilkelere uyum için şirketlerin hem stratejik hem de operasyonel adımlar atması gerekiyor. İşte bu süreç için bir rehber.
Uyum kontrol listesi
| Kontrol noktası | Açıklama | Tamamlandı mı? |
|---|---|---|
| Veri envanteri çıkarıldı mı? | Kullanılan tüm veri kaynakları belirlendi mi? | ☐ |
| Model dokümantasyonu var mı? | Modellerin teknik ayrıntıları kayıt altında mı? | ☐ |
| Risk değerlendirmesi yapıldı mı? | Sistemlerin risk sınıfı belirlendi mi? | ☐ |
| Denetim mekanizması kuruldu mu? | Sürekli izleme ve denetim süreçleri işliyor mu? | ☐ |
Bu liste uyum sürecini sistemli hâle getirir.
Risk değerlendirme yöntemi
Şirketler kullandıkları yapay zekâ sistemlerini risk temelinde değerlendirmeli. Örnek bir risk matrisi:
| Risk sınıfı | Örnek kullanım | Gerekli önlemler |
|---|---|---|
| Yüksek risk | Sağlık teşhisi | İnsan denetimi zorunlu |
| Orta risk | Kredi skorlama | Düzenli denetim |
| Düşük risk | Öneri sistemleri | Temel izleme |
Örneğin bir hastanede kullanılan teşhis algoritması her hafta insan gözetimiyle kontrol edilmelidir.
İç denetim ve dokümantasyon
Şirketler yapay zekâ sistemlerinin tüm yaşam döngüsünü ayrıntılı biçimde belgelemeli. Bir dokümantasyon şablonu en azından şunları içermeli:
- Kullanılan veri kaynakları
- Algoritmanın işleyişi ve karar mekanizması
- Etik uyum ve önyargı azaltma süreçleri
Bu tür ayrıntılı belgeler denetimi kolaylaştırır ve yasal riskleri azaltır.
7. İyi uygulamalar ve araçlar
Yapay zekâ sistemlerini hem regülasyonlara hem de etik ilkelere uygun hâle getirmek için kullanılabilecek pek çok araç var. Bu araçlar önyargı tespiti, açıklanabilirlik ve sürekli izleme gibi kritik alanlarda yol gösterir.
Önyargı test araçları
- IBM AI Fairness 360: önyargı tespiti ve azaltma teknikleri sunar; özellikle kredi skorlama ve işe alım modellerinde etkilidir.
- Google What-If Tool: farklı senaryoları deneyerek model kararlarının etkilerini görselleştirir; kullanıcı dostu bir arayüzü vardır.
- Microsoft Fairlearn: adalet metriklerini analiz eder ve iyileştirme önerir.
Örnek kullanım:
from aif360.datasets import BinaryLabelDataset
from aif360.metrics import BinaryLabelDatasetMetric
dataset = BinaryLabelDataset(df, 'target', protected_attribute_names=['gender'])
metric = BinaryLabelDatasetMetric(dataset)
print(metric.disparate_impact())
Bu araçlar, modellerdeki önyargı kaynaklarını bulup gidermek için kritik önemdedir.
Açıklanabilirlik araçları
Model kararlarını açıklanabilir kılmak hem kullanıcı güveni hem de regülasyona uyum için gereklidir.
- SHAP: modelin hangi özelliklere dayanarak karar verdiğini gösterir; finans ve sağlıkta yaygın kullanılır.
- LIME: herhangi bir model için yerel açıklamalar üretir.
Örnek SHAP kullanımı:
import shap
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(data)
shap.summary_plot(shap_values, data)
İzleme sistemleri
Sürekli izleme, sistemlerin performansını ve etik uyumunu korumak için kritik bir süreçtir.
- MLflow: model eğitimi, değerlendirme ve dağıtım süreçlerini izler, performanstaki değişiklikleri yakalar.
- Weights & Biases: gerçek zamanlı izleme ve görselleştirme sunar, veri kaymasını (data drift) bildirir.
- TensorBoard: eğitim sırasında performans metriklerini takip eder.
Örnek veri kayması tespiti:
from sklearn.metrics import roc_auc_score
# Eğitim ve gerçek zaman verileriyle performans karşılaştırma
auc_train = roc_auc_score(y_train, model.predict(X_train))
auc_live = roc_auc_score(y_live, model.predict(X_live))
if abs(auc_train - auc_live) > THRESHOLD:
print("Uyarı: Veri kayması tespit edildi!")
Dokümantasyon şablonu
Her model için kapsamlı bir dokümantasyon hazırlanmalı. Örnek bir model kartı:
model_name: Credit Risk Predictor
version: 1.0.0
data_sources:
- source: Customer data (internal)
- update_frequency: Monthly
performance_metrics:
- accuracy: 89%
- fairness_score: 95%
ethical_considerations:
- bias_mitigation: Applied
- privacy_measures: Anonymized data
limitations:
- Rural data coverage limited
- Requires manual oversight for high-risk cases
Böyle bir belge hem regülasyon denetimlerinde hem de iç denetimde değerli bir araçtır.
Açık kaynak çerçeveler
- TensorFlow Responsible AI: model geliştirme sırasında etik uyumu güçlendirir.
- PySyft: veri gizliliğini koruyarak federe öğrenme uygulamalarını mümkün kılar.
- Hugging Face Datasets: adalet ve çeşitlilik gözetilerek hazırlanmış veri setlerine erişim sağlar.
8. Sonuç ve öneriler
Yapay zekâ regülasyonları ve etik ilkeler, teknolojinin insan hayatını olumlu yönde dönüştürme potansiyelini gerçekleştirmesi için temel bir rol oynuyor. AB Yapay Zekâ Yasası gibi düzenlemeler, sistemlerin şeffaf ve sorumlu biçimde geliştirilmesi için kritik bir adım. Şirketler için uyum yalnızca yasal bir zorunluluk değil; müşteri güvenini ve iş verimliliğini artırmak için stratejik bir fırsat.
Gelecekteki eğilimler
- Etik standartların küreselleşmesi: AB Yapay Zekâ Yasası başka ülkeler için model olacak; Türkiye gibi ülkelerde de benzer düzenlemeler bekleniyor.
- Otomatik uyum sistemleri: uyumu sağlamak için otomasyon ve yapay zekâ destekli denetim araçları yaygınlaşacak.
- Etiğin iş değerine katkısı: etik ilkeleri benimseyen şirketler tüketici güvenini artırarak rekabet avantajı kazanacak.
Hemen atılabilecek adımlar
- Yasalara uyumu sağlayın: AB Yapay Zekâ Yasası ve KVKK'ya uygun bir uyum planı geliştirin.
- Etik kurullar oluşturun: üst yönetimden teknik ekiplere kadar sorumlulukları netleştirin.
- Araç ve çerçeveleri kullanın: önyargı kontrolü, açıklanabilirlik ve izleme araçlarını süreçlerinize katın.
- Eğitim programları düzenleyin: çalışanların regülasyonlar ve etik ilkeler konusundaki farkındalığını artırın.
- Sürekli denetim kurun: sistemlerin performansını ve etik uyumunu düzenli olarak kontrol edin.
Son tavsiyeler
- Başlayın: kusursuz bir plan beklemek yerine mevcut süreçlerinizle başlayıp ilerledikçe iyileştirin.
- Dokümantasyonu önemseyin: iyi belgeler hem yasal riskleri azaltır hem de sistemlerinizi iyileştirir.
- Sürekli gelişin: yapay zekâ sistemleri durağan değildir; düzenli olarak gözden geçirin ve güncelleyin.
- Kapsayıcı olun: sistemlerinizin herkes için adil ve erişilebilir olduğundan emin olun.
Sonsöz ve teşekkür
Bir projenin başında çoğu zaman yalnızca hedefi görürsünüz; yol boyunca karşılaşılan her zorluk ve her başarı ise yeni bakış açıları kazandırır. Uzun süredir üzerinde titizlikle çalıştığım bu yazıda, yapay zekânın yalnızca teknik yönüne değil, "nasıl" ve "ne" sorularının ötesinde "niçin" sorusuna odaklandım. Bu yolculuk, teknolojinin insani yönünün ne kadar değerli olduğunu bana tekrar tekrar hatırlattı.
Bu yolda yalnız değildim. Kaynaklarda emeği geçen tüm sektör çalışanlarına, vizyoner liderlere ve sahne arkasındaki adı bilinmeyen kahramanlara teşekkür ederim. Gerçek yenilik ancak ortak bir çabanın ve paylaşılan bir tutkunun ürünü olabilir. Bu çalışma benim için bir son değil, yeni bir başlangıç; umarım sizin için de öyle olur.
Kaynaklar
- BBC News (2023). Italy blocks ChatGPT over privacy concerns. bbc.com
- Brookings Institution (2023). Algorithmic bias detection and mitigation: best practices and policies to reduce consumer harms. brookings.edu
- TechCrunch (2024). EU AI Act: everything you need to know. techcrunch.com
- ForeSee Medical. Medical algorithms in healthcare. foreseemed.com
- DergiPark. Yapay zekâ ve hukuk. dergipark.org.tr
- TestGorilla. Resume screening software guide. testgorilla.com
- DergiPark. Yapay zekâ regülasyonları. dergipark.org.tr
- Liberties. Pros and cons of facial recognition. liberties.eu
- ResearchGate. Subliminal uyarıcıların nöropsikolojisi. researchgate.net
- EU Artificial Intelligence Act, Article 13. artificialintelligenceact.eu
- B3Lab. Artificial intelligence audit. b3lab.org
- Türkiye Yapay Zekâ İnisiyatifi (2024). Yapay Zekâ Etik İlkeleri ve Hukuki Düzenlemeler Raporu. turkiye.ai
- BDDK, Bankacılık Düzenleme ve Denetleme Kurumu. bddk.org.tr
- T.C. Sağlık Bakanlığı. saglik.gov.tr
- BTK, Bilgi Teknolojileri ve İletişim Kurumu. btk.gov.tr
- IBM. AI Fairness 360. aif360.res.ibm.com
- Google Research. The What-If Tool: interactive probing of machine learning models. research.google
- Microsoft Research. Fairlearn: a toolkit for assessing and improving fairness in AI. microsoft.com
- C3 AI. LIME: Local Interpretable Model-Agnostic Explanations. c3.ai
- TensorFlow. Responsible AI. tensorflow.org
- OpenMined. PySyft. openmined.org
- Hugging Face. Datasets documentation. huggingface.co
- SHAP documentation. shap.readthedocs.io
- MLflow documentation. mlflow.org
- Weights & Biases documentation. docs.wandb.ai
- TensorBoard. tensorflow.org
- ELI5 documentation. eli5.readthedocs.io
- InterpretML documentation. interpret.ml
- AI Fairness 360 documentation. aif360.readthedocs.io

