Kada veštačka inteligencija napravi štetu: ko odgovara — čovek, firma, programer ili osiguranje?
Veštačka inteligencija je za samo nekoliko godina prešla put od tehnološke novotarije do alata koji ulazi u gotovo svaki ozbiljan posao. Nekada smo o AI sistemima govorili kao o nečemu što pripada budućnosti. Danas ih koriste banke, osiguravajuće kuće, marketinške agencije, zdravstvene ustanove, advokatske kancelarije, proizvodne kompanije, škole, korisničke službe i mala preduzeća koja žele da rade brže, jeftinije i preciznije.
Ali što se AI više koristi, to jedno pitanje postaje sve važnije:
Šta se dešava kada veštačka inteligencija napravi grešku i izazove štetu?
Na prvi pogled, pitanje deluje jednostavno. Ako mašina pogreši, neko mora da odgovara. Međutim, kod veštačke inteligencije stvar nije tako jednostavna. AI sistem nije običan alat poput čekića, računara ili kalkulatora. On može da analizira podatke, prepoznaje obrasce, daje preporuke, donosi predloge odluka, automatizuje procese i utiče na ponašanje ljudi koji mu veruju.
Upravo zato se pred industrijom osiguranja, pravom i poslovnim sektorom otvara potpuno novo polje: odgovornost za štetu izazvanu veštačkom inteligencijom.
AI više nije pomoćni alat, već poslovni rizik
Mnoge firme veštačku inteligenciju danas koriste kao pomoć u radu. AI piše izveštaje, sortira prijave kandidata za posao, procenjuje kreditni rizik, analizira ponašanje kupaca, daje medicinske preporuke, obrađuje dokumentaciju, prepoznaje sumnjive transakcije i odgovara klijentima u ime kompanije.
Dok sve funkcioniše dobro, AI deluje kao velika prednost. Štedi vreme, smanjuje troškove i ubrzava procese. Problem nastaje onda kada sistem pogreši.
Zamislimo banku koja koristi AI za procenu kreditne sposobnosti. Ako sistem pogrešno proceni klijenta i odbije ga bez opravdanog razloga, klijent može pretrpeti finansijsku i poslovnu štetu. Ako osiguravajuća kuća koristi AI za obradu zahteva za naknadu štete, a sistem nepravilno odbije zahtev, korisnik može ostati bez novca koji mu pripada. Ako firma koristi AI za zapošljavanje, a algoritam diskriminiše određenu grupu kandidata, problem više nije samo tehnički, već i pravni, etički i finansijski.
Zato se AI rizik ne može posmatrati samo kao IT pitanje. On postaje pitanje upravljanja odgovornošću.
Šta znači šteta izazvana veštačkom inteligencijom?
Šteta izazvana AI sistemom ne mora uvek biti fizička. Ona može biti finansijska, reputaciona, poslovna, pravna ili čak psihološka, u zavisnosti od toga gde se sistem koristi.
Najčešći primeri su pogrešna automatska odluka, netačna preporuka, diskriminatorna procena, pogrešna analiza podataka, neovlašćena obrada ličnih podataka, povreda privatnosti, poslovni gubitak, kvar autonomnog sistema ili reputaciona šteta po kompaniju.
U klasičnim slučajevima odgovornosti, obično se traži veza između radnje i posledice. Neko je nešto uradio ili propustio da uradi, i zbog toga je nastala šteta. Kod AI sistema taj lanac često nije tako vidljiv. U odluci mogu učestvovati podaci, algoritam, model, korisnik, kompanija koja je sistem kupila, firma koja ga je razvila, treća strana koja ga održava i ljudi koji su ga pustili u upotrebu bez dovoljno kontrole.
Tu nastaje najveći problem: ko je stvarno odgovoran?
Ko odgovara kada AI pogreši?
Kod običnog proizvoda, odgovornost se lakše razume. Ako uređaj ima fabričku grešku i izazove štetu, odgovornost se može tražiti od proizvođača, distributera ili prodavca, zavisno od okolnosti. Kod AI sistema postoji mnogo više mogućih učesnika.
Odgovoran može biti korisnik koji je sistem upotrebio pogrešno. Odgovorna može biti kompanija koja je uvela AI bez jasnih procedura. Odgovoran može biti proizvođač softvera ako sistem ima ozbiljan nedostatak. Odgovoran može biti pružalac usluge koji nije obezbedio pravilno održavanje. Odgovornost se može postaviti i prema onome ko je sistem trenirao na lošim, pristrasnim ili nepotpunim podacima.
Upravo zato se kod veštačke inteligencije odgovornost ne može svesti samo na jedno lice. Ona se širi kroz ceo lanac: od razvoja sistema, preko testiranja i prodaje, do primene u stvarnom životu.
Ovo je posebno važno za firme koje misle da su zaštićene time što koriste tuđi AI alat. U praksi, kompanija ne može uvek jednostavno reći: “Nije do nas, sistem je tako odlučio.” Ako je firma koristila AI u svom poslovanju, prema klijentima ili zaposlenima, ona i dalje mora da pokaže da je sistem koristila odgovorno, zakonito i uz dovoljan nadzor.
Zašto je dokazivanje toliko teško?
Najveća prepreka kod AI štete jeste dokazivanje uzročne veze. Drugim rečima: kako dokazati da je baš AI sistem izazvao štetu?
Kod jednostavnih alata, uzrok je često vidljiv. Kod AI sistema, odluka može nastati kroz obradu ogromne količine podataka. Model može funkcionisati na način koji nije lako objasniti običnom korisniku. Čak i stručnjacima ponekad može biti teško da rekonstruišu zbog čega je sistem dao baš određeni rezultat.
Zato se često govori o problemu “crne kutije”. To ne znači da je AI magija, već da proces donošenja odluke može biti tehnički složen i nedovoljno transparentan.
Ako AI sistem pogrešno proceni kandidata za posao, da li je problem bio u algoritmu? U podacima na kojima je treniran? U načinu na koji ga je poslodavac koristio? U nedostatku ljudske kontrole? Ili u tome što korisnik nije razumeo ograničenja sistema?
To su pitanja koja će u narednim godinama sve češće stizati pred sudove, regulatore, osiguravajuće kuće i interne službe za upravljanje rizikom.
Evropska unija već postavlja pravila
Evropska unija je među prvima počela ozbiljno da uređuje oblast veštačke inteligencije. EU AI Act uvodi pristup zasnovan na riziku, što znači da se AI sistemi ne posmatraju svi isto. Neki sistemi nose nizak rizik, dok se posebna pažnja posvećuje visokorizičnim AI sistemima, naročito kada mogu uticati na zdravlje, bezbednost, osnovna prava, zapošljavanje, obrazovanje, pristup uslugama ili kreditnu sposobnost građana.
To je važno zato što zakonodavci shvataju da AI nije samo tehnološko pitanje. Kada algoritam odlučuje ko dobija kredit, ko prolazi u selekciji za posao ili ko ima pravo na određenu uslugu, posledice mogu biti ozbiljne.
Pored toga, EU je usvojila i novu Direktivu o odgovornosti za neispravne proizvode, koja je stupila na snagu 8. decembra 2024. godine. Države članice EU imaju rok do 9. decembra 2026. da je prenesu u nacionalno pravo, a nova pravila primenjivaće se na proizvode stavljene na tržište od 9. decembra 2026. godine.
Ono što je posebno važno jeste da nova pravila proširuju razumevanje proizvoda i na savremene digitalne tehnologije. To znači da softver i AI sistemi sve više ulaze u prostor odgovornosti koji je ranije bio vezan uglavnom za fizičke proizvode. Evropski parlament u objašnjenjima o novoj direktivi navodi da se pravilima ublažava teret dokazivanja za oštećena lica u određenim okolnostima, što je posebno značajno kod složenih tehnoloških proizvoda.
Za poslovni sektor ovo znači jedno: vreme neformalnog korišćenja AI sistema bez ozbiljne kontrole polako prolazi.
Zašto će osiguranje AI rizika postati velika tema?
Osiguranje postoji zato što društvo i privreda žele da ublaže posledice neizvesnosti. Kada postoji rizik koji može izazvati ozbiljnu finansijsku štetu, javlja se potreba za osiguravajućom zaštitom.
Kod AI sistema ta potreba će rasti iz više razloga.
Prvo, štete mogu biti velike. Jedna pogrešna automatska odluka u banci, zdravstvu, transportu ili industriji može izazvati ozbiljne posledice.
Drugo, odgovornost može biti sporna. Ako više aktera učestvuje u razvoju i korišćenju AI sistema, biće sve teže brzo utvrditi ko treba da plati štetu.
Treće, reputacioni rizik je ogroman. Kompanija koja koristi AI i napravi grešku ne gubi samo novac. Gubi poverenje klijenata.
Četvrto, regulativa će postajati stroža. Kada pravila postanu jasnija, firme će morati ozbiljnije da dokumentuju kako koriste AI sisteme, ko ih nadzire, kako se odluke proveravaju i šta se dešava kada nastane šteta.
Zbog toga će osiguravajuće kuće morati da razviju nove proizvode. Klasične polise odgovornosti možda neće biti dovoljne za sve scenarije. Biće potrebna posebna pokrića za AI greške, algoritamsku odgovornost, povredu podataka, automatizovane odluke, profesionalne propuste povezane sa AI alatima i štetu nastalu zbog pogrešne primene sistema.
Šta ovo znači za osiguravajuće kuće?
Za osiguravače, AI je istovremeno prilika i izazov.
Prilika je u tome što se otvara potpuno novo tržište. Kompanije će tražiti zaštitu od rizika koje do sada nisu ni prepoznavale. Osiguravajuće kuće koje prve razumeju AI rizik mogu razviti nove proizvode, nove modele procene i nove usluge za poslovne klijente.
Izazov je u tome što AI rizik nije lako izmeriti. Da bi osiguravač odredio premiju, mora da razume koliko je sistem rizičan, gde se koristi, koliko je autonoman, da li postoji ljudski nadzor, kakvi su podaci, ko održava sistem, kako se beleže odluke i da li postoje procedure za postupanje u slučaju greške.
Drugim rečima, osiguranje AI rizika neće moći da se radi površno. Biće potrebno mnogo više tehničkog, pravnog i poslovnog razumevanja.
Osiguravači će verovatno tražiti od firmi da pokažu dokumentaciju o korišćenju AI sistema, interne politike, procene rizika, procedure nadzora, planove za incidentne situacije i jasnu podelu odgovornosti. Firme koje koriste AI neodgovorno mogle bi plaćati veće premije ili uopšte ne bi mogle dobiti odgovarajuće pokriće.
Šta ovo znači za firme?
Za firme je najvažnija poruka jednostavna: AI ne sme biti uveden samo zato što je moderan.
Svaka kompanija koja koristi veštačku inteligenciju mora da zna u koje svrhe je koristi, ko je odgovoran za nadzor, kako se proveravaju rezultati i šta se dešava kada sistem pogreši.
Najopasnije je slepo poverenje u automatizaciju. AI može biti izuzetno koristan, ali nije nepogrešiv. Ako menadžment, zaposleni ili korisnici tretiraju AI odgovor kao konačnu istinu, rizik raste.
Zato firme moraju da uvedu jasna pravila. Ko sme da koristi AI? Za koje poslove? Ko proverava rezultate? Ko odobrava odluke koje utiču na ljude? Gde se čuvaju podaci? Kako se sprečava diskriminacija? Ko odgovara ako sistem napravi štetu?
Ovo više nisu pitanja za IT sektor. Ovo su pitanja za upravu, pravnu službu, sektor rizika, sektor usklađenosti, ljudske resurse i osiguranje.
Šta ovo znači za obične korisnike?
Obični korisnici sve češće dolaze u kontakt sa AI sistemima, čak i kada toga nisu svesni. AI može učestvovati u proceni kredita, preporuci proizvoda, korisničkoj podršci, obradi reklamacije, rangiranju kandidata, personalizovanoj ponudi ili proceni rizika.
Zato će korisnici morati da znaju da automatizovana odluka nije uvek bezgrešna. Ako neko smatra da je oštećen odlukom koja je doneta uz pomoć AI sistema, važno je da traži objašnjenje, dokumentaciju i ljudsku proveru.
U budućnosti će pitanje transparentnosti biti sve važnije. Ljudi će želeti da znaju da li je odluku doneo čovek, sistem ili kombinacija oba. A firme će sve teže moći da kriju odgovornost iza rečenice: “Tako je izračunao algoritam.”
Srbija i region: tema koja tek dolazi
Iako se najveći regulatorni koraci trenutno dešavaju u Evropskoj uniji, ova tema je važna i za Srbiju i region. Domaće firme već koriste AI alate, banke i osiguravajuće kuće prate evropske standarde, a mnoge kompanije posluju sa EU tržištem ili koriste alate globalnih tehnoloških kompanija.
To znači da će se evropska pravila, direktno ili indirektno, odraziti i na naše tržište. Kompanije koje žele da sarađuju sa evropskim partnerima moraće da pokažu viši nivo odgovornosti u korišćenju tehnologije.
Za osiguravajući sektor u Srbiji ovo može biti prilika da se na vreme pripremi. AI rizici neće čekati da svi zakoni budu savršeno napisani. Štete mogu nastati već sada. Firme već koriste AI. Klijenti već trpe posledice pogrešnih automatizovanih odluka. Pitanje je samo kada će prvi ozbiljni slučajevi postati vidljivi široj javnosti.
AI neće ukinuti odgovornost, nego će je zakomplikovati
Jedna od najvećih zabluda savremenog doba jeste ideja da tehnologija briše odgovornost. Naprotiv, što je tehnologija složenija, odgovornost postaje važnija.
Veštačka inteligencija može pomoći ljudima da rade bolje, brže i preciznije. Može unaprediti osiguranje, bankarstvo, zdravstvo, obrazovanje i privredu. Ali kada sistem pogreši, neko mora da odgovori na pitanje: ko je pustio sistem u rad, ko ga je nadzirao, ko ga je koristio, ko ga je razvio i ko je trebalo da spreči štetu?
Zato će osiguranje AI rizika biti jedna od najvažnijih oblasti budućnosti. Ne zato što je AI opasan sam po sebi, već zato što njegova upotreba ulazi u prostore gde greška može imati ozbiljne posledice.
Najpametnije kompanije neće čekati prvi veliki spor. One će već sada početi da uređuju svoje AI procese, dokumentuju odluke, obučavaju zaposlene i razgovaraju sa osiguravačima o novim oblicima zaštite.
Jer pitanje više nije da li će veštačka inteligencija praviti greške.
Pitanje je: ko će platiti cenu kada se to dogodi?
