Reglementarea și etica inteligenței artificiale
Scris de Yasin TANIŞ

1. De ce contează reglementarea inteligenței artificiale
Tehnologiile de inteligență artificială, printre cele mai mari inovații ale secolului XXI, transformă atât viața personală, cât și afacerile. Problemele etice și juridice care însoțesc această transformare sunt un factor esențial în conturarea viitorului acestei tehnologii. Companiile, guvernele și persoanele fizice trebuie să gestioneze atât beneficiile, cât și riscurile AI.
Câteva exemple:
- Interzicerea ChatGPT în Italia a scos la iveală provocările legate de confidențialitatea datelor.
- Algoritmul de recrutare al Amazon a declanșat dezbateri etice din cauza prejudecății de gen.
- Regulamentul UE privind inteligența artificială a devenit prima lege cuprinzătoare din lume care reglementează aplicațiile AI cu risc ridicat.
În acest articol analizăm stadiul actual al reglementării AI, cum se dezvoltă AI în mod etic și cum se pot adapta companiile la noile reguli.
2. Regulamentul UE privind inteligența artificială, de aproape
Regulamentul Uniunii Europene privind inteligența artificială se remarcă drept prima reglementare cuprinzătoare a AI din lume. Adoptat în 2024, schimbă regulile jocului atât pentru companiile din Europa, cât și pentru companiile de oriunde care vând pe piața UE. Adoptă o abordare bazată pe risc și împarte sistemele AI în patru niveluri: aplicații interzise, cu risc ridicat, cu risc limitat și cu risc minim.
Sisteme cu risc ridicat
Aceste sisteme sunt folosite în domenii critice care afectează direct viața oamenilor și trebuie să respecte cerințe stricte de supraveghere și transparență. Exemple:
- Sănătate: algoritmi de diagnosticare a bolilor
- Finanțe: sisteme de scoring de credit
- Recrutare: instrumente de triere a CV-urilor și de evaluare a candidaților
Mecanismele de supraveghere includ păstrarea evidenței datelor, explicabilitatea modelului și monitorizarea continuă. Algoritmul de scoring al unei bănci, de exemplu, trebuie să poată documenta clar de ce unui client i s-a refuzat creditul.
Aplicații interzise
Regulamentul interzice strict aplicațiile AI care contravin valorilor fundamentale ale societății, printre care:
- Sisteme de scoring social: sisteme care atribuie punctaje comportamentului cetățenilor
- Supraveghere biometrică în masă: recunoaștere facială neautorizată în spații publice
- Manipulare subliminală: sisteme care dirijează comportamentul utilizatorilor fără ca aceștia să știe
Risc limitat și minim
La sistemele cu risc limitat, precum chatboții, obligația principală este transparența: utilizatorul trebuie să știe că vorbește cu un sistem de inteligență artificială. Sistemele cu risc minim, precum AI din jocurile video sau filtrele de spam, sunt în mare parte lăsate libere; principiile etice contează și aici, dar reglementarea este mult mai ușoară.
Cerințe de conformitate pentru companii
Pentru sistemele cu risc ridicat, Regulamentul cere companiilor acești pași:
- Documentare și transparență: pentru fiecare model, documente care descriu datele folosite, funcționarea algoritmului și riscurile posibile.
- Audit independent: sistemele cu risc ridicat trebuie auditate regulat de organisme independente.
- Instruire etică și tehnică: angajații, mai ales echipele tehnice, trebuie instruiți în privința reglementării și a principiilor etice.
Amenzi și supraveghere
Companiile care nu se conformează riscă sancțiuni serioase:
- Amenzi raportate la cifra de afaceri: până la 7 % din cifra de afaceri anuală globală pentru cele mai grave încălcări
- Suspendare: la încălcări grave, utilizarea sistemului AI în cauză poate fi oprită
- Retragere: modelele care nu respectă standardele etice sau tehnice pot fi retrase de pe piață
Aceste sancțiuni pot provoca pierderi financiare și de reputație grele. Un algoritm de diagnostic care dă rezultate greșite, de exemplu, poate zdruncina încrederea pacienților și se poate transforma într-o criză serioasă de imagine.
3. Două exemple din practică
Pentru a arăta cum se aplică în practică reglementarea și etica, iată două exemple din finanțe și sănătate. Sunt scenarii ilustrative, nu organizații reale.
Exemplul 1: AI în finanțe (banca fictivă „XYZ Bank”)
XYZ Bank începe să folosească un algoritm AI pentru deciziile de creditare. La prima implementare se constată că modelul este părtinitor față de anumite grupuri demografice.
Problema: modelul respinge cererile antreprenoarelor sub 35 de ani cu 23 % mai des decât pe ale antreprenorilor bărbați. Asta înseamnă atât risc juridic, cât și pierderea încrederii clienților.
Soluția:
- Analiza și curățarea datelor: datele istorice sunt auditate, prejudecata este identificată, iar lipsa de date despre antreprenoare este acoperită.
- Reducerea prejudecății: la antrenare se folosesc metrici de echitate.
- Monitorizare continuă: un tablou de bord săptămânal urmărește deriva deciziilor algoritmului.
Rezultatele:
- Scorul de paritate demografică crește de la 0,82 la 0,96.
- Diferența de gen la aprobarea creditelor scade la 4 %.
- Performanța modelului (AUC-ROC) rămâne la 87 %.
Exemplul 2: AI în sănătate (spitalul fictiv „ABC Hospital”)
ABC Hospital folosește un model AI pentru diagnostic. Se constată că datele pacienților nu sunt protejate suficient, ceea ce încalcă GDPR (Regulamentul general privind protecția datelor).
Problema: datele pacienților sunt stocate pe un server central, un risc evident de încălcare a securității datelor.
Soluția: spitalul trece la învățarea federată (federated learning):
- Datele sunt prelucrate pe dispozitive locale, astfel încât stocarea centrală nu mai este necesară.
- Modelul învață din datele aflate pe dispozitive diferite, dar datele nu părăsesc niciodată dispozitivul.
Rezultatele:
- Încălcările confidențialității sunt prevenite.
- Acuratețea modelului crește de la 91 % la 93 %.
- Sistemul devine conform cu GDPR.
Aceste exemple arată cum poate funcționa conformitatea cu reglementarea și etica în lumea reală. În continuare, cum pot fi repetate astfel de rezultate.
4. Un cadru pentru dezvoltarea etică a AI
Un sistem AI etic trebuie să se sprijine pe un cadru clar definit care acoperă colectarea datelor, dezvoltarea modelului, monitorizarea și explicabilitatea.
Puncte de control etic în dezvoltarea modelului
Standarde de colectare și prelucrare a datelor: datele trebuie să fie nepărtinitoare, actuale și reprezentative, iar datele cu caracter personal trebuie protejate în timpul prelucrării. Atribute sensibile precum genul sau vârsta pot fi, de exemplu, eliminate din setul de date.
Detectarea și prevenirea prejudecății: verificările de prejudecată trebuie făcute în timpul antrenării. Codul de mai jos schițează cum ar putea arăta o astfel de verificare:
# Bias test framework
from fairness_check import calculate_bias_metrics
bias_metrics = calculate_bias_metrics(data, protected_features=["gender", "ethnicity"])
Bune practici de explicabilitate: modelele trebuie să fie ușor de înțeles pentru utilizatori și auditori.
- Explicați importanța caracteristicilor cu ajutorul valorilor SHAP (SHapley Additive exPlanations)
- Pregătiți o fișă detaliată de model pentru fiecare model:
model_card = {
"model_name": "Disease Predictor v1.0",
"description": "Hastalık teşhisi için kullanılan bir AI modeli",
"fairness_metrics": {"demographic_parity": 0.95},
"limitations": ["Sınırlı veri temsil durumu"]
}
Cerințe de documentare
Orice sistem AI are nevoie de documentare detaliată:
- Surse de date și pași de prelucrare
- Parametrii folosiți la antrenare
- Metrici de echitate și de performanță
- Mecanismele de monitorizare și audit existente
Monitorizare și actualizare continuă
Sistemele AI nu sunt statice; performanța și conformitatea etică trebuie verificate regulat:
- Instituiți monitorizare în timp real.
- Adăugați alerte pentru scăderea metricilor de performanță și echitate.
5. Situația din Turcia
Turcia încearcă să se alinieze la standardele internaționale de reglementare și etică a AI. Cadrul actual este modelat în principal de KVKK (Legea privind protecția datelor cu caracter personal), iar Regulamentul UE privind inteligența artificială devine tot mai influent. Procesul de aliniere aduce atât oportunități, cât și provocări.
Cadrul juridic actual
Turcia nu are încă o lege dedicată inteligenței artificiale, dar KVKK oferă un cadru important:
- KVKK, articolul 4: principiile exactității, actualității și legalității în prelucrarea datelor cu caracter personal
- KVKK, articolul 6: condiții mai stricte și consimțământ explicit pentru categoriile speciale de date cu caracter personal
Sistemele AI din sănătate, de exemplu, trebuie să respecte articolul 6 când prelucrează datele pacienților. Autoritatea de reglementare bancară BDDK și autoritatea de reglementare a telecomunicațiilor BTK publică, de asemenea, ghiduri privind AI în sectoarele lor.
Alinierea la Regulamentul UE privind inteligența artificială
Companiile turce care oferă produse sau servicii pe piața UE intră deja sub incidența Regulamentului, iar datorită uniunii vamale dintre Turcia și UE se așteaptă ca și legislația turcă să meargă în aceeași direcție. Asta presupune:
- Noi mecanisme de supraveghere în sectoare precum cel bancar, telecomunicațiile și sănătatea
- Procese mai bune de transparență și documentare în companii
Schimbări așteptate:
- Protocoale mai stricte de protecție a datelor
- Audituri independente obligatorii pentru sistemele cu risc ridicat
- Reforme structurale precum comitetele de etică
Practica pe sectoare
- Sectorul bancar: în finanțe se remarcă regulile BDDK privind protecția datelor și transparența algoritmilor; unele bănci au început să încredințeze auditul algoritmilor de credit unor terți independenți.
- Sănătate: Ministerul Sănătății a publicat ghiduri privind prelucrarea datelor pacienților cu AI, iar procedurile de aprobare pentru algoritmii clinici de diagnostic sunt în curs de dezvoltare.
- Telecomunicații: ghidurile BTK cer protecția datelor clienților și standarde de anonimizare.
Ecosistemul AI din Turcia crește rapid, dar este nevoie de mai multă muncă în privința reglementării și a standardelor etice. În continuare, ce pot face companiile pentru a se conforma.
6. Recomandări pentru implementare
Conformitatea cu reglementarea și cu principiile etice presupune pași atât strategici, cât și operaționali. Iată un ghid.
Listă de verificare a conformității
| Punct de control | Descriere | Realizat? |
|---|---|---|
| S-a făcut inventarul datelor? | Au fost identificate toate sursele de date folosite? | ☐ |
| Există documentația modelului? | Au fost consemnate detaliile tehnice ale modelelor? | ☐ |
| S-a făcut evaluarea riscului? | A fost stabilit nivelul de risc al fiecărui sistem? | ☐ |
| Există mecanism de audit? | Funcționează monitorizarea continuă și auditul? | ☐ |
O astfel de listă face conformitatea sistematică.
Metoda de evaluare a riscului
Companiile ar trebui să evalueze sistemele AI pe care le folosesc în funcție de risc. Exemplu de matrice de risc:
| Nivel de risc | Exemplu de utilizare | Măsuri necesare |
|---|---|---|
| Risc ridicat | Diagnostic medical | Supraveghere umană obligatorie |
| Risc mediu | Scoring de credit | Audit periodic |
| Risc scăzut | Sisteme de recomandare | Monitorizare de bază |
Un algoritm de diagnostic dintr-un spital, de exemplu, trebuie verificat săptămânal sub supraveghere umană.
Audit intern și documentare
Companiile ar trebui să documenteze în detaliu întregul ciclu de viață al sistemelor lor AI. Un șablon de documentare ar trebui să acopere cel puțin:
- Sursele de date folosite
- Cum funcționează și cum decide algoritmul
- Procesele de conformitate etică și de reducere a prejudecății
O astfel de documentare ușurează auditurile și reduce riscul juridic.
7. Bune practici și instrumente
Numeroase instrumente pot contribui la conformitatea și caracterul etic al sistemelor AI. Ele ghidează domenii critice precum detectarea prejudecății, explicabilitatea și monitorizarea continuă.
Instrumente de testare a prejudecății
- IBM AI Fairness 360: tehnici de detectare și reducere a prejudecății, deosebit de eficiente pentru modelele de scoring de credit și de recrutare.
- Google What-If Tool: vizualizează efectul deciziilor modelului prin testarea scenariilor, cu o interfață prietenoasă.
- Microsoft Fairlearn: analizează metricile de echitate și propune îmbunătățiri.
Exemplu de utilizare:
from aif360.datasets import BinaryLabelDataset
from aif360.metrics import BinaryLabelDatasetMetric
dataset = BinaryLabelDataset(df, 'target', protected_attribute_names=['gender'])
metric = BinaryLabelDatasetMetric(dataset)
print(metric.disparate_impact())
Aceste instrumente sunt esențiale pentru găsirea și eliminarea surselor de prejudecată din modele.
Instrumente de explicabilitate
Explicabilitatea deciziilor modelului este necesară atât pentru încrederea utilizatorilor, cât și pentru conformitate.
- SHAP: arată pe ce caracteristici se sprijină decizia unui model; larg folosit în finanțe și sănătate.
- LIME: oferă explicații locale pentru orice model.
Exemplu de utilizare SHAP:
import shap
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(data)
shap.summary_plot(shap_values, data)
Sisteme de monitorizare
Monitorizarea continuă este esențială pentru ca sistemele să rămână performante și conforme etic.
- MLflow: urmărește antrenarea, evaluarea și punerea în producție și detectează schimbările de performanță.
- Weights & Biases: monitorizare și vizualizare în timp real, cu alerte pentru deriva datelor (data drift).
- TensorBoard: urmărește metricile de performanță în timpul antrenării.
Exemplu de verificare a derivei datelor:
from sklearn.metrics import roc_auc_score
# Eğitim ve gerçek zaman verileriyle performans karşılaştırma
auc_train = roc_auc_score(y_train, model.predict(X_train))
auc_live = roc_auc_score(y_live, model.predict(X_live))
if abs(auc_train - auc_live) > THRESHOLD:
print("Uyarı: Veri kayması tespit edildi!")
Șablon de documentare
Fiecare model are nevoie de documentare completă. O fișă de model exemplificativă:
model_name: Credit Risk Predictor
version: 1.0.0
data_sources:
- source: Customer data (internal)
- update_frequency: Monthly
performance_metrics:
- accuracy: 89%
- fairness_score: 95%
ethical_considerations:
- bias_mitigation: Applied
- privacy_measures: Anonymized data
limitations:
- Rural data coverage limited
- Requires manual oversight for high-risk cases
Un astfel de document este valoros atât în auditurile de reglementare, cât și în evaluările interne.
Cadre open source
- TensorFlow Responsible AI: întărește conformitatea etică în timpul dezvoltării.
- PySyft: permite învățarea federată cu protejarea confidențialității datelor.
- Hugging Face Datasets: acces la seturi de date pregătite ținând cont de echitate și diversitate.
8. Concluzie și recomandări
Reglementarea AI și principiile etice au un rol fundamental pentru ca tehnologia să își poată împlini potențialul de a schimba viețile în bine. Reguli precum Regulamentul UE privind inteligența artificială sunt un pas decisiv spre dezvoltarea transparentă și responsabilă a sistemelor. Pentru companii, conformitatea nu este doar o obligație legală, ci și o oportunitate strategică de a câștiga încrederea clienților și de a crește eficiența.
Tendințe viitoare
- Standarde etice globale: Regulamentul UE privind inteligența artificială va deveni model pentru alte țări, iar reguli similare sunt așteptate și în țări precum Turcia.
- Conformitate automatizată: se vor răspândi automatizarea și instrumentele de audit sprijinite de AI.
- Etica drept valoare de business: companiile care adoptă principii etice vor câștiga avantaj competitiv prin încrederea consumatorilor.
Pași pe care îi puteți face imediat
- Asigurați conformitatea legală: întocmiți un plan aliniat la Regulamentul UE privind inteligența artificială și la KVKK.
- Înființați comitete de etică: clarificați responsabilitățile de la conducere până la echipele tehnice.
- Folosiți instrumente și cadre: integrați verificarea prejudecății, explicabilitatea și monitorizarea în procesele dumneavoastră.
- Organizați instruiri: creșteți gradul de conștientizare al angajaților privind reglementarea și principiile etice.
- Instituiți audit continuu: verificați regulat performanța și conformitatea etică a sistemelor dumneavoastră.
Sfaturi finale
- Începeți acum: în loc să așteptați planul perfect, porniți cu ce aveți și îmbunătățiți pe parcurs.
- Prețuiți documentarea: documentele bune reduc riscul juridic și vă îmbunătățesc sistemele.
- Progresați continuu: sistemele AI nu sunt statice, așa că revizuiți-le și actualizați-le regulat.
- Fiți incluzivi: asigurați-vă că sistemele dumneavoastră sunt echitabile și accesibile tuturor.
Postfață și mulțumiri
La începutul unui proiect, adesea nu se vede decât ținta; fiecare dificultate și fiecare reușită de pe drum aduc perspective noi. În acest text, la care am lucrat mult și cu grijă, am privit dincolo de latura tehnică a inteligenței artificiale și dincolo de întrebările „cum” și „ce”, spre întrebarea „de ce”. Drumul acesta mi-a amintit iar și iar cât de prețioasă este latura umană a tehnologiei.
Nu am fost singur pe acest drum. Mulțumesc tuturor celor din industrie a căror muncă apare în surse, liderilor vizionari și eroilor anonimi din culise. Inovația adevărată se poate naște doar din efort comun și pasiune comună. Pentru mine această lucrare nu este un sfârșit, ci un nou început, și sper să fie la fel și pentru dumneavoastră.
Surse
- BBC News (2023). Italy blocks ChatGPT over privacy concerns. bbc.com
- Brookings Institution (2023). Algorithmic bias detection and mitigation: best practices and policies to reduce consumer harms. brookings.edu
- TechCrunch (2024). EU AI Act: everything you need to know. techcrunch.com
- ForeSee Medical. Medical algorithms in healthcare. foreseemed.com
- DergiPark. Yapay zekâ ve hukuk. dergipark.org.tr
- TestGorilla. Resume screening software guide. testgorilla.com
- DergiPark. Yapay zekâ regülasyonları. dergipark.org.tr
- Liberties. Pros and cons of facial recognition. liberties.eu
- ResearchGate. Subliminal uyarıcıların nöropsikolojisi. researchgate.net
- EU Artificial Intelligence Act, Article 13. artificialintelligenceact.eu
- B3Lab. Artificial intelligence audit. b3lab.org
- Türkiye Yapay Zekâ İnisiyatifi (2024). Yapay Zekâ Etik İlkeleri ve Hukuki Düzenlemeler Raporu. turkiye.ai
- BDDK, Bankacılık Düzenleme ve Denetleme Kurumu. bddk.org.tr
- T.C. Sağlık Bakanlığı. saglik.gov.tr
- BTK, Bilgi Teknolojileri ve İletişim Kurumu. btk.gov.tr
- IBM. AI Fairness 360. aif360.res.ibm.com
- Google Research. The What-If Tool: interactive probing of machine learning models. research.google
- Microsoft Research. Fairlearn: a toolkit for assessing and improving fairness in AI. microsoft.com
- C3 AI. LIME: Local Interpretable Model-Agnostic Explanations. c3.ai
- TensorFlow. Responsible AI. tensorflow.org
- OpenMined. PySyft. openmined.org
- Hugging Face. Datasets documentation. huggingface.co
- SHAP documentation. shap.readthedocs.io
- MLflow documentation. mlflow.org
- Weights & Biases documentation. docs.wandb.ai
- TensorBoard. tensorflow.org
- ELI5 documentation. eli5.readthedocs.io
- InterpretML documentation. interpret.ml
- AI Fairness 360 documentation. aif360.readthedocs.io

