/English

Naujienos

Atgal

Europa planuoja reguliuoti dirbtinį intelektą

2021 06 01

Europos Komisija (EK) balandžio 21 d. pateikė pasiūlymus dėl dirbtinio intelekto (DI) reglamento. Naujomis taisyklėmis siekiama Europą paversti pasauliniu patikimo DI centru ir užtikrinti pagrindines žmogaus teises, verslo saugumą.

DI reglamento projekte numatyti rizika pagrįsti metodai, rizika skirstoma į nepriimtiną, didelę, nedidelę ir minimalią. Už dokumente įvardytų taisyklių pažeidimus numatomos baudos iki 30 mln. Eur arba, jeigu pažeidėjas yra įmonė, iki 6% praėjusių finansinių metų pasaulinės apyvartos (priklauso, kuri suma didesnė).

Siūloma įtvirtinti, kad DI sistemos ir programos, kurios kelia aiškią grėsmę žmonių saugumui, gyvenimui ir teisėms, bus draudžiamos. Pavyzdžiui, bus draudžiamos tokios DI sistemos, kurios turi didelį potencialą manipuliuoti žmonių elgsena, apeinant jų laisvą valią ir sąmoningumą, ar išnaudoti tam tikras socialiai pažeidžiamas grupes (vaikus, neįgaliuosius), jei pastarieji dėl DI įtakos jų elgesiui patirtų psichologinę ar fizinę žalą. 

Į nepriimtinos rizikos kategoriją taip pat pateks tokios praktikos, kaip šiuo metu Kinijos naudojama socialinio kredito reitingavimo sistema, ar kelių Vakarų valstybių žvalgybų galimai naudojama programinė įranga, skirta masiniam stebėjimui. „Realiu laiku“ veikiančios ir teisėsaugos tikslais naudojamos nuotolinės biometrinės identifikavimo programos (pavyzdžiui, veido atpažinimo) bus draudžiamos viešai prieinamose vietose, išskyrus tris DI reglamento projekte išsamiai įvardytas ir siauras išimtis, susijusias su grėsme žmonių gyvybei ar fiziniu saugumu bei vykdytojų arba įtariamųjų dėl nusikalstamų veikų patraukimu baudžiamojon atsakomybėn.

Didelės rizikos DI sistemos kelia didelę riziką žmonių sveikatai ir saugumui bei pagrindinėms jų teisėms. Kategorija apima tokias svarbias ir įvairias sritis kaip transportas, egzaminų įvertinimas, robotų chirurgija, gyvenimo aprašymų rūšiavimas įdarbinimo procesuose, diskriminuojanti asmeninio kredito reitingo sistema, įrodymų patikimumo įvertinimas ir t.t. DI sistemos šiose srityse bus leidžiamos ES rinkoje, jeigu atitiks numatytus reikalavimus ir ex-ante atitikties vertinimą. Didelės rizikos DI programos prieš patekdamos į rinką turės atitikti aibę griežtų reikalavimų, pradedant aukšta sistemų duomenų rinkinių kokybe, veiklos registravimu siekiant užtikrinti rezultatų atsekamumą, aiškios ir tinkamos informacijos vartotojui pateikimu, baigiant tinkamomis žmonių vykdomos priežiūros priemonėmis, mažinančiomis riziką. 

Dirbtinio intelekto sistemos, priklausančios nedidelei rizikai, siejamos su skaidrumo įsipareigojimais. Šiuo atžvilgiu, DI reglamento projektas įtvirtina esminį principą, kad DI sistemos, su kuriomis susiduria žmonės (pavyzdžiui, „chatbots“), būtų suprojektuotos ir vystomos taip, kad vartotojai būtų informuoti apie sąveiką su DI. Taip pat reglamento projektu numatytos pareigos ir DI vartotojams. Vartotojai, kurie naudoja DI sistemą, kuri kuria ar manipuliuoja vaizdo, garso ar video turiniu, kuris pastebimai primena esamus objektus, asmenis, vietas ir įvykius, ir, kurie asmeniui gali melagingai pasirodyti autentiškais arba teisingais, turi atskleisti, kad turinys buvo dirbtinai sukurtas ar suklastotas. 

Reglamento projekte numatyta, kad verslui ar valstybės institucijoms, kuriančioms ar naudojančioms bet kokias DI sistemas, kurios nėra klasifikuojamos kaip didelės rizikos, būtų taikomos tik minimalios informacijos teikimo prievolės. Detaliau projekte apie minimalios rizikos DI sistemas nekalbama, kadangi laikoma, jog jų keliamas pavojus žmogaus teisėms ir saugumui yra minimalus arba apskritai nėra tokio pavojaus.

DI reglamento projektas numato ir naują ES instituciją – Europos dirbtinio intelekto valdybą, kurią sudarytų valstybių narių ir Komisijos atstovai. Ji bus atsakinga už naujų taisyklių įgyvendinimą ir DI standartų vystymą. Nacionaliniu lygiu valstybės narės taip pat turės paskirti vieną ar daugiau kompetentingų institucijų DI reglamento taikymo ir įgyvendinimo priežiūrai. 

Tikimasi, kad naujasis DI reglamentas ne tik sureguliuos iki šiol tik minimaliai arba netiesiogiai reglamentuotas DI sritis, bet ir užkirs kelią galimam verslo bei valstybės institucijų piktnaudžiavimui DI teikiamomis galimybėmis. Kita vertus, nauji griežti reikalavimai gali apsunkinti ir sulėtinti DI sistemų kūrimą ir plėtrą – ypač tų DI sistemų, kurios priskiriamos didelės rizikos kategorijai.