Līdz ar jaunā Finanšu tirgus digitālās darbības noturības un mākslīgā intelekta izmantošanas likuma spēkā stāšanos 2025. gada 1. oktobrī, Latvijas finanšu nozare saskaras ar fundamentālām pārmaiņām. Ja līdz šim galvenais uzsvars tika likts uz tehnisko noturību, tad tagad uzmanības centrā ir mākslīgā intelekta (MI) droša un atbildīga izmantošana. Likums, kas balstīts ES Mākslīgā intelekta aktā, nosaka skaidrus spēles noteikumus, lai novērstu diskrimināciju, manipulāciju un citus riskus, ko var radīt nekontrolēta MI pielietošana.

     Jaunais regulējums definē drošu MI izmantošanu ne tikai kā tehniski nevainojamu darbību, bet gan kā ētisku, pārredzamu un godprātīgu tehnoloģiju pielietojumu. Finanšu tirgus dalībniekiem tagad ir pienākums nodrošināt, ka to izmantotās MI sistēmas atbilst vairākiem pamatprincipiem:

• Pārredzamība: Klientiem ir jābūt informētiem, ja viņi sadarbojas ar MI sistēmu, piemēram, čatbotu vai automatizētu konsultantu. Tāpat ir skaidri jānorāda, ja saturs, piemēram, investīciju analīze vai mārketinga materiāls, ir radīts ar MI palīdzību.
• Augsta riska sistēmu uzraudzība: Īpaši stingras prasības attiecas uz augsta riska MI sistēmām, piemēram, tām, kas tiek izmantotas kredītspējas novērtēšanai vai apdrošināšanas risku noteikšanai. Šo sistēmu nodrošinātājiem un lietotājiem jānodrošina kvalitātes vadība, pilnīga tehniskā dokumentācija un nepārtraukta darbības uzraudzība.
• Atbildības sadalījums: Likums nosaka skaidru atbildību visā piegādes ķēdē – no MI sistēmas izstrādātāja (nodrošinātājs) līdz uzņēmumam, kas to izmanto (uzturētājs). Par uzraudzību atbild Latvijas Banka, kurai ir tiesības veikt pārbaudes un piemērot bargas sankcijas.

      Likums ievieš virkni konkrētu aizliegumu, lai pasargātu patērētājus no negodīgas un kaitnieciskas MI prakses. Šeit ir daži piemēri, kā tas izpaudīsies finanšu sektorā:

1. Aizliegta "sociālā vērtēšana" kredītu piešķiršanā. Piemēram, banka nedrīkst izmantot MI sistēmu, kas analizē personas uzvedību sociālajos tīklos, draugu loku, publicētos attēlus vai izteiktos viedokļus, lai izveidotu "sociālo reitingu" un uz tā pamata pieņemtu lēmumu par kredīta piešķiršanu vai atteikšanu. Kredītspējas izvērtēšanai jābalstās uz objektīviem un pārbaudāmiem finanšu datiem, nevis uz izsecinātām personības iezīmēm.
2. Aizliegtas manipulatīvas un maldinošas tehnikas. Piemēram, investīciju platforma nedrīkst pielietot MI, kas, balstoties uz lietotāja psiholoģisko profilu un uzvedības analīzi, izmanto viņa neaizsargātību (piemēram, bailes zaudēt naudu vai vēlmi ātri gūt peļņu), lai ar sublimināliem vai manipulatīviem paņēmieniem mudinātu veikt riskantus ieguldījumus, kurus lietotājs citādi nebūtu veicis.
3. Aizliegta emociju analīze darbavietā un klientu apkalpošanā. Piemēram Aapdrošināšanas sabiedrība nevar ieviest MI sistēmu, kas videozvana laikā ar klientu analizē viņa sejas izteiksmes vai balss toni, lai noteiktu emocionālo stāvokli (piem., satraukumu vai nedrošību) un izmantotu šo informāciju pārdošanas stratēģijas pielāgošanai. Šādas sistēmas ir aizliegtas, izņemot gadījumus, kad to izmantošana ir pamatota ar medicīniskiem vai drošības iemesliem.
4. Aizliegta diskriminējoša kategorizēšana. Piemēram, finanšu iestāde nedrīkst izmantot MI, kas uz biometrisko datu pamata (piemēram, sejas attēla) mēģina izsecināt personas rasi, politiskos vai filozofiskos uzskatus, lai pēc tam šīs personas kategorizētu un piedāvātu tām atšķirīgus, potenciāli nelabvēlīgākus pakalpojumu nosacījumus (piemēram, augstāku apdrošināšanas prēmiju).

     Šo noteikumu ievērošana nav tikai juridisks pienākums – tas ir pamats ilgtermiņa uzticības veidošanai ar klientiem. Uzņēmumi, kas spēs demonstrēt atbildīgu un ētisku pieeju MI izmantošanai, iegūs būtisku konkurences priekšrocību.Pārkāpumu sekas ir ļoti nopietnas. Par aizliegtas MI prakses izmantošanu juridiskām personām var tikt piemērots naudas sods līdz 35 miljoniem eiro vai 7% no kopējā gada apgrozījuma. Tāpēc ikvienam finanšu tirgus dalībniekam ir kritiski svarīgi veikt savu MI sistēmu auditu un nodrošināt to pilnīgu atbilstību jaunajam regulējumam.

     Mūsu komanda ir gatava sniegt padziļinātu juridisko analīzi un palīdzēt Jums pielāgoties jaunajām prasībām, lai Jūs varētu droši izmantot tehnoloģiju sniegtās priekšrocības, neradot riskus savam biznesam un klientiem.