Regulativa i etika vještačke inteligencije
Piše Yasin TANIŞ

1. Zašto je regulativa vještačke inteligencije važna
Tehnologije vještačke inteligencije, među najvećim inovacijama 21. vijeka, mijenjaju i lične živote i poslovanje. Etički i pravni problemi koji prate tu promjenu ključni su činilac u oblikovanju budućnosti te tehnologije. Kompanije, države i pojedinci moraju se baviti i rizicima i koristima vještačke inteligencije.
Nekoliko primjera:
- Italijanska zabrana ChatGPT-ja otkrila je izazove privatnosti podataka.
- Amazonov algoritam za zapošljavanje pokrenuo je etičke rasprave zbog rodne pristrasnosti.
- Akt EU o vještačkoj inteligenciji postao je prvi sveobuhvatni zakon na svijetu koji uređuje visokorizične primjene VI.
U ovom tekstu razmatramo dokle je danas stigla regulativa VI, kako razvijati VI na etičan način i kako se kompanije mogu prilagoditi novim pravilima.
2. Akt EU o vještačkoj inteligenciji izbliza
Akt Evropske unije o vještačkoj inteligenciji ističe se kao prva sveobuhvatna regulativa VI na svijetu. Usvojen 2024. godine, mijenja pravila igre i za kompanije u Evropi i za kompanije iz bilo kog dijela svijeta koje prodaju na tržištu EU. Primjenjuje pristup zasnovan na riziku i razvrstava sisteme VI u četiri nivoa: zabranjene, visokorizične, ograničeno rizične i minimalno rizične primjene.
Visokorizični sistemi
Ovi sistemi koriste se u ključnim oblastima koje direktno utiču na živote ljudi i moraju ispunjavati stroge zahtjeve nadzora i transparentnosti. Primjeri:
- Zdravstvo: algoritmi za dijagnostiku bolesti
- Finansije: sistemi kreditnog bodovanja
- Zapošljavanje: alati za pregled biografija i procjenu kandidata
Mehanizmi nadzora uključuju evidenciju podataka, objašnjivost modela i stalno praćenje. Algoritam za kreditno bodovanje u banci, na primjer, mora moći jasno da dokumentuje zašto klijent nije dobio kredit.
Zabranjene primjene
Akt strogo zabranjuje primjene VI koje su u suprotnosti s osnovnim vrijednostima društva, među kojima su:
- Sistemi društvenog bodovanja: sistemi koji boduju ponašanje građana
- Biometrijski masovni nadzor: neovlašćeno prepoznavanje lica na javnim mjestima
- Subliminalna manipulacija: sistemi koji usmjeravaju ponašanje korisnika bez njihove svijesti
Ograničen i minimalan rizik
Kod ograničeno rizičnih sistema, poput četbotova, glavna obaveza je transparentnost: korisnik mora znati da razgovara s VI. Minimalno rizični sistemi, poput VI u igrama ili filtera za neželjenu poštu, uglavnom ostaju bez posebnih obaveza; etička načela i tu su važna, ali je regulativa mnogo blaža.
Zahtjevi usklađenosti za kompanije
Za visokorizične sisteme Akt od kompanija zahtijeva ove korake:
- Dokumentacija i transparentnost: za svaki model dokumenti koji opisuju korišćene podatke, rad algoritma i moguće rizike.
- Nezavisna revizija: visokorizične sisteme redovno treba da provjeravaju nezavisna tijela.
- Etička i tehnička obuka: zaposleni, naročito tehnički timovi, treba da prođu obuku o regulativi i etičkim načelima.
Kazne i nadzor
Kompanije koje se ne usklade mogu se suočiti s ozbiljnim kaznama:
- Kazne zasnovane na prometu: do 7 % globalnog godišnjeg prometa za najteža kršenja
- Obustava: kod teškog kršenja upotreba spornog sistema VI može se zaustaviti
- Povlačenje: modeli koji ne ispunjavaju etičke ili tehničke standarde mogu se povući s tržišta
Ove kazne mogu donijeti velike finansijske i reputacione gubitke. Dijagnostički algoritam koji daje pogrešne rezultate, na primjer, može uzdrmati povjerenje pacijenata i prerasti u ozbiljnu krizu ugleda.
3. Dva primjera iz prakse
Da bismo pokazali kako regulativa i etika izgledaju u praksi, evo dva primjera iz finansija i zdravstva. Riječ je o ilustrativnim scenarijima, a ne o stvarnim organizacijama.
Primjer 1: VI u finansijama (izmišljena „XYZ Bank“)
XYZ Bank počinje da koristi algoritam zasnovan na VI za odluke o kreditima. Već u prvoj primjeni pokazuje se da je model pristrasan prema nekim demografskim grupama.
Problem: model odbija zahtjeve preduzetnica mlađih od 35 godina 23 % češće nego zahtjeve preduzetnika. To znači i pravni rizik i gubitak povjerenja klijenata.
Rješenje:
- Analiza i čišćenje podataka: istorijski podaci se provjeravaju, pristrasnost se utvrđuje i popunjava se manjak podataka o preduzetnicama.
- Smanjenje pristrasnosti: u obuci se koriste metrike pravičnosti.
- Stalno praćenje: sedmični kontrolni panel prati odstupanja u odlukama algoritma.
Rezultati:
- Pokazatelj demografskog pariteta raste s 0,82 na 0,96.
- Razlika u odobravanju kredita po polu pada na 4 %.
- Performanse modela (AUC-ROC) ostaju na 87 %.
Primjer 2: VI u zdravstvu (izmišljena „ABC bolnica“)
ABC bolnica koristi model VI za dijagnostiku. Ispostavlja se da podaci pacijenata nijesu dovoljno zaštićeni, što krši GDPR (Opštu uredbu o zaštiti podataka).
Problem: podaci pacijenata čuvaju se na centralnom serveru, što je otvoren rizik od curenja podataka.
Rješenje: bolnica prelazi na federativno učenje (federated learning):
- Podaci se obrađuju na lokalnim uređajima, pa centralno čuvanje više nije potrebno.
- Model uči iz podataka na različitim uređajima, ali nijedan podatak ne napušta uređaj.
Rezultati:
- Kršenja privatnosti su spriječena.
- Tačnost modela raste s 91 % na 93 %.
- Sistem postaje usklađen s GDPR-om.
Ovi primjeri pokazuju kako usklađenost s regulativom i etikom može funkcionisati u stvarnom svijetu. Pogledajmo sada kako se ovakvi rezultati mogu ponoviti.
4. Okvir za etički razvoj vještačke inteligencije
Etički sistem VI treba da počiva na jasno definisanom okviru koji obuhvata prikupljanje podataka, razvoj modela, praćenje i objašnjivost.
Etičke kontrolne tačke u razvoju modela
Standardi prikupljanja i obrade podataka: podaci treba da budu nepristrasni, ažurni i reprezentativni, a lični podaci moraju biti zaštićeni tokom obrade. Osjetljiva obilježja kao što su pol ili godine mogu se, na primjer, ukloniti iz skupa podataka.
Otkrivanje i sprečavanje pristrasnosti: provjere pristrasnosti treba da se izvode tokom obuke. Kod ispod skicira kako bi takva provjera mogla izgledati:
# Bias test framework
from fairness_check import calculate_bias_metrics
bias_metrics = calculate_bias_metrics(data, protected_features=["gender", "ethnicity"])
Dobra praksa za objašnjivost: modeli treba da budu lako razumljivi korisnicima i revizorima.
- Objasniti važnost obilježja SHAP vrijednostima (SHapley Additive exPlanations)
- Za svaki model pripremiti detaljnu karticu modela:
model_card = {
"model_name": "Disease Predictor v1.0",
"description": "Hastalık teşhisi için kullanılan bir AI modeli",
"fairness_metrics": {"demographic_parity": 0.95},
"limitations": ["Sınırlı veri temsil durumu"]
}
Zahtjevi za dokumentaciju
Svaki sistem VI zahtijeva detaljnu dokumentaciju:
- Izvori podataka i koraci obrade
- Parametri korišćeni u obuci
- Metrike pravičnosti i performansi
- Uspostavljeni mehanizmi praćenja i revizije
Stalno praćenje i ažuriranje
Sistemi VI nijesu statični; performanse i etičku usklađenost treba redovno provjeravati:
- Uspostaviti praćenje u realnom vremenu.
- Dodati upozorenja za pad metrika performansi i pravičnosti.
5. Situacija u Turskoj
Turska nastoji da se uskladi s međunarodnim standardima regulative i etike VI. Postojeći okvir oblikuje prije svega KVKK (Zakon o zaštiti ličnih podataka), a Akt EU o VI postaje sve uticajniji. Proces usklađivanja donosi i prilike i izazove.
Postojeći pravni okvir
Turska još nema zakon posvećen VI, ali KVKK pruža važan okvir:
- KVKK, član 4: načela tačnosti, ažurnosti i zakonitosti u obradi ličnih podataka
- KVKK, član 6: strožiji uslovi i izričita saglasnost za posebne kategorije ličnih podataka
Sistemi VI u zdravstvu, na primjer, moraju poštovati član 6 kada obrađuju podatke pacijenata. Bankarski regulator BDDK i regulator telekomunikacija BTK takođe objavljuju smjernice o VI u svojim sektorima.
Usklađivanje s Aktom EU o VI
Turske kompanije koje nude proizvode ili usluge na tržištu EU već podliježu Aktu, a zbog carinske unije s EU očekuje se da i turski propisi krenu u istom smjeru. To zahtijeva:
- Nove mehanizme nadzora u sektorima kao što su bankarstvo, telekomunikacije i zdravstvo
- Bolje procese transparentnosti i dokumentacije u kompanijama
Očekivane promjene:
- Strožiji protokoli zaštite podataka
- Obavezne nezavisne revizije za visokorizične sisteme
- Strukturne reforme kao što su etički odbori
Praksa po sektorima
- Bankarstvo: pravila BDDK o zaštiti podataka i transparentnosti algoritama ističu se u finansijama; neke banke su počele da angažuju nezavisne treće strane za reviziju kreditnih algoritama.
- Zdravstvo: Ministarstvo zdravlja objavilo je smjernice o obradi podataka pacijenata pomoću VI, a razvijaju se i postupci odobravanja kliničkih dijagnostičkih algoritama.
- Telekomunikacije: smjernice BTK zahtijevaju zaštitu podataka korisnika i standarde anonimizacije.
Ekosistem VI u Turskoj brzo raste, ali je potrebno više rada na regulativi i etičkim standardima. Pogledajmo sada šta kompanije mogu da učine kako bi se uskladile.
6. Preporuke za primjenu
Usklađivanje s regulativom i etikom zahtijeva i strateške i operativne korake. Evo vodiča.
Kontrolna lista usklađenosti
| Kontrolna tačka | Opis | Urađeno? |
|---|---|---|
| Napravljen popis podataka? | Jesu li utvrđeni svi izvori podataka koji se koriste? | ☐ |
| Postoji dokumentacija modela? | Jesu li tehnički detalji modela evidentirani? | ☐ |
| Urađena procjena rizika? | Je li za svaki sistem utvrđen nivo rizika? | ☐ |
| Uspostavljen mehanizam revizije? | Funkcionišu li stalno praćenje i revizija? | ☐ |
Ovakva lista čini usklađivanje sistematičnim.
Metoda procjene rizika
Kompanije treba da procijene sisteme VI koje koriste prema riziku. Primjer matrice rizika:
| Nivo rizika | Primjer upotrebe | Potrebne mjere |
|---|---|---|
| Visok rizik | Medicinska dijagnostika | Obavezan ljudski nadzor |
| Srednji rizik | Kreditno bodovanje | Redovna revizija |
| Nizak rizik | Sistemi preporuka | Osnovno praćenje |
Dijagnostički algoritam u bolnici, na primjer, treba svake sedmice provjeravati uz ljudski nadzor.
Interna revizija i dokumentacija
Kompanije treba detaljno da dokumentuju cijeli životni ciklus svojih sistema VI. Šablon dokumentacije treba da obuhvati najmanje:
- Korišćene izvore podataka
- Kako algoritam radi i odlučuje
- Procese etičke usklađenosti i smanjenja pristrasnosti
Ovakva dokumentacija olakšava revizije i smanjuje pravni rizik.
7. Dobra praksa i alati
Mnogi alati pomažu da sistemi VI budu usklađeni i etični. Pružaju smjernice u ključnim oblastima kao što su otkrivanje pristrasnosti, objašnjivost i stalno praćenje.
Alati za testiranje pristrasnosti
- IBM AI Fairness 360: tehnike otkrivanja i smanjenja pristrasnosti, naročito djelotvorne kod modela za kreditno bodovanje i zapošljavanje.
- Google What-If Tool: vizuelizuje uticaj odluka modela kroz testiranje scenarija, uz pristupačan interfejs.
- Microsoft Fairlearn: analizira metrike pravičnosti i predlaže poboljšanja.
Primjer upotrebe:
from aif360.datasets import BinaryLabelDataset
from aif360.metrics import BinaryLabelDatasetMetric
dataset = BinaryLabelDataset(df, 'target', protected_attribute_names=['gender'])
metric = BinaryLabelDatasetMetric(dataset)
print(metric.disparate_impact())
Ovi alati su ključni za pronalaženje i uklanjanje izvora pristrasnosti u modelima.
Alati za objašnjivost
Objašnjive odluke modela potrebne su i za povjerenje korisnika i za usklađenost.
- SHAP: pokazuje na kojim obilježjima počiva odluka modela; široko se koristi u finansijama i zdravstvu.
- LIME: daje lokalna objašnjenja za bilo koji model.
Primjer upotrebe SHAP-a:
import shap
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(data)
shap.summary_plot(shap_values, data)
Sistemi praćenja
Stalno praćenje je ključno da bi sistemi zadržali dobre performanse i ostali etički usklađeni.
- MLflow: prati obuku, evaluaciju i puštanje u rad i uočava promjene performansi.
- Weights & Biases: praćenje i vizuelizacija u realnom vremenu, s upozorenjima o pomaku podataka (data drift).
- TensorBoard: prati metrike performansi tokom obuke.
Primjer provjere pomaka podataka:
from sklearn.metrics import roc_auc_score
# Eğitim ve gerçek zaman verileriyle performans karşılaştırma
auc_train = roc_auc_score(y_train, model.predict(X_train))
auc_live = roc_auc_score(y_live, model.predict(X_live))
if abs(auc_train - auc_live) > THRESHOLD:
print("Uyarı: Veri kayması tespit edildi!")
Šablon dokumentacije
Svaki model zahtijeva sveobuhvatnu dokumentaciju. Primjer kartice modela:
model_name: Credit Risk Predictor
version: 1.0.0
data_sources:
- source: Customer data (internal)
- update_frequency: Monthly
performance_metrics:
- accuracy: 89%
- fairness_score: 95%
ethical_considerations:
- bias_mitigation: Applied
- privacy_measures: Anonymized data
limitations:
- Rural data coverage limited
- Requires manual oversight for high-risk cases
Ovakav dokument je dragocjen i u regulatornim revizijama i u internim provjerama.
Okviri otvorenog koda
- TensorFlow Responsible AI: jača etičku usklađenost tokom razvoja.
- PySyft: omogućava federativno učenje uz zaštitu privatnosti podataka.
- Hugging Face Datasets: pristup skupovima podataka pripremljenim s obzirom na pravičnost i raznolikost.
8. Zaključak i preporuke
Regulativa i etička načela imaju temeljnu ulogu u tome da tehnologija ostvari svoj potencijal da poboljša živote. Pravila poput Akta EU o VI predstavljaju ključan korak ka transparentnom i odgovornom razvoju sistema. Za kompanije usklađenost nije samo zakonska obaveza, nego i strateška prilika za izgradnju povjerenja klijenata i veću efikasnost.
Budući trendovi
- Globalni etički standardi: Akt EU o VI postaće model za druge zemlje, a slična pravila očekuju se i u zemljama poput Turske.
- Automatizovana usklađenost: širiće se automatizacija i alati za reviziju uz podršku VI.
- Etika kao poslovna vrijednost: kompanije koje prihvate etička načela steći će konkurentsku prednost kroz povjerenje potrošača.
Koraci koje možete preduzeti odmah
- Obezbijedite zakonsku usklađenost: napravite plan u skladu s Aktom EU o VI i KVKK-om.
- Osnujte etičke odbore: razjasnite odgovornosti od uprave do tehničkih timova.
- Koristite alate i okvire: ugradite provjere pristrasnosti, objašnjivost i praćenje u svoje procese.
- Organizujte obuke: podignite svijest zaposlenih o regulativi i etičkim načelima.
- Uspostavite stalnu reviziju: redovno provjeravajte performanse i etičku usklađenost sistema.
Završni savjeti
- Počnite odmah: umjesto čekanja savršenog plana, krenite s onim što imate i poboljšavajte usput.
- Cijenite dokumentaciju: dobri dokumenti smanjuju pravni rizik i poboljšavaju sisteme.
- Stalno napredujte: sistemi VI nijesu statični, pa ih redovno preispitujte i ažurirajte.
- Budite inkluzivni: postarajte se da sistemi budu pravični i dostupni svima.
Pogovor i zahvalnost
Na početku projekta često vidite samo cilj; svaka teškoća i svaki uspjeh na putu donose nove poglede. U ovom tekstu, na kojem sam dugo i pažljivo radio, gledao sam dalje od tehničke strane VI i dalje od pitanja „kako“ i „šta“, ka pitanju „zašto“. Taj put me je iznova podsjećao koliko je dragocjena ljudska strana tehnologije.
Na tom putu nijesam bio sam. Zahvaljujem svima iz industrije čiji se rad nalazi u izvorima, vizionarskim liderima i bezimenim junacima iza scene. Prava inovacija može nastati samo iz zajedničkog truda i zajedničke strasti. Za mene ovaj rad nije kraj, nego novi početak, i nadam se da će to biti i za vas.
Izvori
- BBC News (2023). Italy blocks ChatGPT over privacy concerns. bbc.com
- Brookings Institution (2023). Algorithmic bias detection and mitigation: best practices and policies to reduce consumer harms. brookings.edu
- TechCrunch (2024). EU AI Act: everything you need to know. techcrunch.com
- ForeSee Medical. Medical algorithms in healthcare. foreseemed.com
- DergiPark. Yapay zekâ ve hukuk. dergipark.org.tr
- TestGorilla. Resume screening software guide. testgorilla.com
- DergiPark. Yapay zekâ regülasyonları. dergipark.org.tr
- Liberties. Pros and cons of facial recognition. liberties.eu
- ResearchGate. Subliminal uyarıcıların nöropsikolojisi. researchgate.net
- EU Artificial Intelligence Act, Article 13. artificialintelligenceact.eu
- B3Lab. Artificial intelligence audit. b3lab.org
- Türkiye Yapay Zekâ İnisiyatifi (2024). Yapay Zekâ Etik İlkeleri ve Hukuki Düzenlemeler Raporu. turkiye.ai
- BDDK, Bankacılık Düzenleme ve Denetleme Kurumu. bddk.org.tr
- T.C. Sağlık Bakanlığı. saglik.gov.tr
- BTK, Bilgi Teknolojileri ve İletişim Kurumu. btk.gov.tr
- IBM. AI Fairness 360. aif360.res.ibm.com
- Google Research. The What-If Tool: interactive probing of machine learning models. research.google
- Microsoft Research. Fairlearn: a toolkit for assessing and improving fairness in AI. microsoft.com
- C3 AI. LIME: Local Interpretable Model-Agnostic Explanations. c3.ai
- TensorFlow. Responsible AI. tensorflow.org
- OpenMined. PySyft. openmined.org
- Hugging Face. Datasets documentation. huggingface.co
- SHAP documentation. shap.readthedocs.io
- MLflow documentation. mlflow.org
- Weights & Biases documentation. docs.wandb.ai
- TensorBoard. tensorflow.org
- ELI5 documentation. eli5.readthedocs.io
- InterpretML documentation. interpret.ml
- AI Fairness 360 documentation. aif360.readthedocs.io

