Comunica experienta
MonitorulJuridic.ro
NORME din 4 decembrie 2024 privind utilizarea inteligenţei artificiale în aplicaţiile destinate instalaţiilor nucleare
EMITENT: Comisia Naţională pentru Controlul Activităţilor Nucleare PUBLICAT: Monitorul Oficial nr. 1308 din 23 decembrie 2024
──────────
Aprobate prin ORDINUL nr. 200 din 4 decembrie 2024, publicat în Monitorul Oficial al României, Partea I, nr. 1308 din 23 decembrie 2024.
──────────
CAP. I
Domeniu, scop, definiţii
SECŢIUNEA 1
Domeniu şi scop
ART. 1
(1) Prin prezentele norme se stabilesc cerinţele generale privind utilizarea inteligenţei artificiale în aplicaţiile destinate instalaţiilor nucleare.
(2) Îndeplinirea prevederilor prezentelor norme constituie o condiţie necesară pentru aprobarea de către Comisia Naţională pentru Controlul Activităţilor Nucleare, denumită în continuare CNCAN, a utilizării inteligenţei artificiale în aplicaţiile destinate instalaţiilor nucleare, ca suport pentru activităţile de proiectare, amplasare, construcţie şi montaj, punere în funcţiune, exploatare, respectiv dezafectare a unei instalaţii nucleare.
(3) Prevederile prezentelor norme se aplică atât titularilor, cât şi solicitanţilor de autorizaţie pentru fazele de proiectare, amplasare, construcţie şi montaj, punere în funcţiune, exploatare şi dezafectare ale unei instalaţii nucleare.
ART. 2
(1) Prezentele norme se aplică tuturor instalaţiilor nucleare şi tuturor activităţilor aferente acestora.
(2) Prevederile prezentelor norme se aplică utilizării inteligenţei artificiale în aplicaţiile destinate instalaţiilor nucleare, ca suport pentru activităţile de proiectare, amplasare, construcţie şi montaj, punere în funcţiune, exploatare, respectiv dezafectare a unei instalaţii nucleare, care pot avea impact asupra:
a) securităţii nucleare;
b) securităţii radiologice;
c) protecţiei fizice;
d) controlului de garanţii nucleare;
e) protecţiei împotriva ameninţărilor cibernetice pentru sistemele, echipamentele şi componentele cu funcţii de securitate nucleară, securitate radiologică, protecţie fizică, garanţii nucleare şi răspuns la situaţii de urgenţă, precum şi pentru cele cu funcţii în exploatarea fiabilă a instalaţiei nucleare;
f) pregătirii şi răspunsului pentru situaţii de urgenţă;
g) managementului calităţii;
h) pregătirii şi calificării personalului;
i) planificării şi alocării resurselor pentru activităţile de la lit. a)-h);
j) proceselor decizionale privind activităţile de la lit. a)-i).
(3) Prevederile prezentelor norme se aplică atât activităţilor desfăşurate de titularii de autorizaţii pentru instalaţiile nucleare, cât şi activităţilor desfăşurate de organizaţii externe în beneficiul titularilor de autorizaţii.
SECŢIUNEA a 2-a
Definiţii
ART. 3
(1) Inteligenţa artificială reprezintă un sistem bazat pe o maşină, care este conceput să funcţioneze cu diferite niveluri de autonomie, care poate prezenta adaptabilitate după implementare şi care, urmărind obiective explicite sau implicite, deduce, din datele de intrare pe care le primeşte, modul de generare a unor rezultate precum previziuni, conţinut, recomandări sau decizii care pot influenţa mediile fizice sau virtuale.
(2) Abrevierea IA se utilizează pentru a face referire în mod generic la inteligenţa artificială.
(3) Aplicaţie bazată pe IA reprezintă o aplicaţie bazată pe un program de inteligenţă artificială.
CAP. II
Cerinţe
SECŢIUNEA 1
Cerinţe generale privind utilizarea inteligenţei artificiale în aplicaţiile destinate instalaţiilor nucleare
ART. 4
(1) Titularul de autorizaţie trebuie să informeze CNCAN despre intenţia de a utiliza orice aplicaţie bazată pe IA, destinată instalaţiilor nucleare, înainte de implementare. Utilizarea aplicaţiilor bazate pe IA în instalaţiile nucleare şi pentru activităţile aferente acestora trebuie supusă aprobării CNCAN; această cerinţă se aplică atât pentru aplicaţiile bazate pe IA utilizate direct de titularul de autorizaţie, cât şi pentru utilizarea serviciilor contractate care includ aplicaţii bazate pe IA.
(2) Titularul de autorizaţie trebuie să stabilească lista şi să menţină actualizat inventarul tuturor aplicaţiilor care utilizează IA, identificate conform prevederilor din art. 2.
(3) Utilizarea IA în aplicaţiile destinate instalaţiilor nucleare este permisă doar în condiţiile în care se asigură verificarea, monitorizarea şi controlul acestor aplicaţii de către specialişti umani.
ART. 5
(1) Utilizarea aplicaţiilor bazate pe IA în instalaţiile nucleare şi pentru activităţile aferente acestora trebuie integrată în sistemul de management al titularului de autorizaţie, care trebuie să demonstreze că a implementat un proces riguros pentru verificarea, validarea, testarea, supravegherea şi controlul acestor aplicaţii.
(2) Titularul de autorizaţie trebuie să elaboreze proceduri şi să asigure mijloacele tehnice şi administrative necesare, inclusiv staţii tehnice, echipamente şi programe software adecvate pentru verificarea, validarea, testarea, supravegherea şi controlul aplicaţiilor bazate pe IA destinate utilizării în instalaţiile nucleare şi în activităţile aferente acestora, la nivelul celor mai noi standarde şi bune practici recunoscute la nivel internaţional, aplicabile în domeniul nuclear.
ART. 6
(1) Titularul de autorizaţie trebuie să asigure, în cadrul organizaţiei proprii, suficient personal pregătit şi calificat pentru verificarea, validarea, testarea, supravegherea şi controlul aplicaţiilor care utilizează IA, identificate conform prevederilor din art. 2.
(2) Personalul responsabil pentru verificarea, validarea, testarea, supravegherea şi controlul aplicaţiilor care utilizează IA trebuie să aibă competenţele necesare pentru a înţelege atât proiectul şi funcţionarea instalaţiei nucleare, cât şi modul în care au fost dezvoltate şi funcţionează aplicaţiile bazate pe inteligenţa artificială. Aceste competenţe trebuie definite în cadrul proceselor sistemului de management şi trebuie bazate pe o analiză sistematică a sarcinilor şi a necesităţilor de pregătire şi calificare.
(3) Personalul responsabil pentru verificarea, validarea, testarea, supravegherea şi controlul aplicaţiilor bazate pe IA trebuie să înţeleagă capacităţile şi limitările relevante ale acestor aplicaţii şi să monitorizeze în mod corespunzător funcţionarea acestora, inclusiv în vederea depistării şi abordării anomaliilor, disfuncţionalităţilor şi performanţelor neaşteptate.
(4) Toate produsele aplicaţiilor bazate pe IA, inclusiv previziunile, conţinutul, recomandările, deciziile, rapoartele, documentele, înregistrările rezultate din utilizarea acestor aplicaţii trebuie identificate în mod explicit ca fiind generate de IA sau cu ajutorul IA, după caz, şi trebuie verificate, validate, testate şi aprobate de specialiştii umani, inclusiv de personalul de conducere responsabil pentru procesele în care se utilizează aplicaţii bazate pe IA din cadrul organizaţiei proprii a titularului de autorizaţie, înainte de implementare în activităţi care intră în scopul celor prevăzute la art. 2.
(5) Se recomandă ca personalul responsabil pentru aprobarea produselor aplicaţiilor bazate pe IA să aibă cel puţin 10 ani de experienţă în activităţile tehnice specifice de proiectare, amplasare, construcţie şi montaj, punere în funcţiune, exploatare, respectiv dezafectare a unei instalaţii nucleare, în domeniile de expertiză prevăzute la art. 2, după caz. Pentru fiecare aplicaţie bazată pe IA trebuie identificaţi specialiştii, din cadrul organizaţiei proprii a titularului de autorizaţie, responsabili pentru verificarea, validarea, testarea şi aprobarea rezultatelor aplicaţiei în vederea utilizării. Aceste informaţii fac parte din documentaţia care trebuie transmisă la CNCAN în vederea aprobării utilizării aplicaţiilor bazate pe IA.
(6) Verificarea, validarea şi testarea aplicaţiilor bazate pe IA trebuie efectuată şi documentată de personal care deţine calificările, expertiza şi experienţa necesare şi care nu a fost implicat în dezvoltarea aplicaţiilor respective.
(7) Verificarea, validarea şi testarea aplicaţiilor bazate pe IA trebuie să includă cel puţin următoarele:
a) verificarea şi validarea datelor utilizate în procesele de IA;
b) testarea funcţionalităţii aplicaţiilor într-o varietate de condiţii şi scenarii relevante pentru domeniul de utilizare;
c) asigurarea că aplicaţiile bazate pe IA nu interferează cu sistemele instalaţiilor nucleare care au funcţii de securitate nucleară, securitate radiologică, protecţie fizică, control de garanţii nucleare, securitate cibernetică sau rol în răspunsul la situaţii de urgenţă.
ART. 7
(1) Aplicaţiile bazate pe IA destinate instalaţiilor nucleare trebuie să utilizeze:
a) date specifice pentru tehnologia, proiectul, amplasamentul şi exploatarea instalaţiilor nucleare respective;
b) date generice aplicabile proiectului instalaţiilor nucleare, în măsura în care acestea nu diferă semnificativ de proiectul actual al instalaţiilor, aşa cum sunt construite, puse în funcţiune şi exploatate;
c) standardele şi codurile tehnice relevante şi compatibile;
d) legislaţia aplicabilă instalaţiilor nucleare şi activităţilor aferente;
e) procesele şi procedurile sistemului de management al titularului de autorizaţie.
(2) Datele utilizate pentru antrenarea şi operarea aplicaţiilor bazate pe IA trebuie să fie precise, relevante şi protejate împotriva accesului neautorizat.
(3) Datele prevăzute la alin. (1) şi (2) includ următoarele categorii de date:
a) datele de antrenament, utilizate pentru antrenarea unui sistem de IA prin adaptarea parametrilor săi care pot fi învăţaţi;
b) date de validare, utilizate pentru a furniza o evaluare a sistemului de IA antrenat şi pentru a-i ajusta parametrii care nu pot fi învăţaţi şi procesul său de învăţare, printre altele, pentru a preveni subadaptarea sau supraadaptarea;
c) datele de testare, utilizate pentru a furniza o evaluare independentă a sistemului de IA, în scopul de a confirma performanţa preconizată a sistemului respectiv înainte de punerea sa în funcţiune.
(4) Titularul de autorizaţie trebuie să demonstreze că fiecare aplicaţie bazată pe IA a fost pregătită şi antrenată astfel încât să acorde prioritate securităţii nucleare în toate recomandările, deciziile, activităţile, previziunile, produsele şi rezultatele generate.
(5) Pentru fiecare aplicaţie bazată pe IA, titularul de autorizaţie trebuie să demonstreze că aceasta se utilizează exclusiv în domeniul şi limitele pentru care a fost antrenată, verificată, validată şi testată; de asemenea, trebuie să demonstreze cum se asigură gestionarea riscurilor, calitatea şi relevanţa seturilor de date utilizate, elaborarea şi actualizarea documentaţiei tehnice şi păstrarea înregistrărilor, transparenţa şi furnizarea de informaţii către implementatori, supravegherea umană, robusteţea, acurateţea şi securitatea cibernetică.
ART. 8
Titularul de autorizaţie trebuie să îşi stabilească politicile, principiile şi cerinţele privind scopul, domeniul, amploarea şi gradul de detaliu ale verificării, validării, testării şi supravegherii aplicaţiilor bazate pe IA, care să reflecte o abordare gradată, luând în considerare următorii factori:
a) specificul şi complexitatea instalaţiei nucleare;
b) importanţa aplicaţiei bazate pe IA, ţinând cont de activităţile pentru care se intenţionează utilizarea acesteia şi impactul asupra domeniilor prevăzute la art. 2;
c) complexitatea aplicaţiei;
d) riscurile asociate funcţionării defectuoase sau utilizării greşite a aplicaţiei;
e) experienţa de utilizare, respectiv noutatea şi unicitatea aplicaţiei.
ART. 9
(1) Pentru fiecare aplicaţie bazată pe IA, titularul de autorizaţie trebuie să includă în documentaţia aferentă, specifică instalaţiei nucleare respective, elaborată în conformitate cu cerinţele din normele în vigoare şi cu prevederile din sistemul de management al titularului de autorizaţie, care trebuie transmisă la CNCAN pentru aprobare, cel puţin următoarele informaţii, după caz:
a) obiectivul, scopul şi domeniul de utilizare, sarcinile specifice, precum şi caracteristicile, capabilităţile şi limitările performanţei aplicaţiei;
b) politicile de utilizare acceptabile aplicabile şi modul în care aplicaţia interacţionează sau poate fi utilizată pentru a interacţiona cu sisteme hardware sau software, inclusiv cu alte sisteme de IA care nu fac parte din aplicaţia de IA în sine, după caz;
c) standardele, ghidurile şi specificaţiile conform cărora a fost elaborată aplicaţia;
d) proiectarea, arhitectura, logica de funcţionare, modelele, relevanţa diverşilor parametri, metodologiile şi tehnicile de antrenare şi programele software de IA utilizate;
e) metodele şi etapele parcurse pentru dezvoltarea aplicaţiei, inclusiv, dacă este cazul, recurgerea la sisteme sau instrumente preantrenate furnizate de terţi şi modul în care acestea au fost utilizate, integrate sau modificate;
f) informaţii privind datele generale utilizate pentru antrenare, testare şi validare, după caz, inclusiv tipul şi provenienţa datelor şi metodologiile de organizare, numărul de puncte de date, domeniul de aplicare şi principalele caracteristici ale acestora; modul în care au fost obţinute şi selectate datele, precum şi toate celelalte măsuri de detectare a caracterului inadecvat al surselor de date şi metode de detectare a prejudecăţilor identificabile, după caz;
g) sursele de date specifice folosite în pregătirea şi antrenarea aplicaţiei în vederea utilizării în instalaţii nucleare şi rapoartele privind evaluarea acestora din punctul de vedere al relevanţei şi aplicabilităţii; pentru aplicaţiile destinate activităţilor de natură tehnică, sursele de date includ experimentele, testele, specificaţiile şi manualele de proiectare, documentele, specificaţiile şi desenele tehnice care descriu proiectul instalaţiei nucleare, aşa cum a fost construită şi pusă în funcţiune, studiile, analizele şi activităţile de monitorizare privind parametrii relevanţi pentru amplasamentul instalaţiei nucleare, limitele şi condiţiile tehnice de operare, analizele, evaluările şi rapoartele de securitate nucleară, manualele şi procedurile de operare, testare, întreţinere şi inspecţie, standardele, normele şi procedurile tehnice aplicabile, precum şi orice alte documente tehnice relevante pentru proiectul, amplasamentul şi operarea instalaţiei nucleare respective şi a sistemelor, structurilor, componentelor şi echipamentelor aferente acesteia;
h) instrucţiunile utilizate în dezvoltarea şi antrenarea aplicaţiei, care determină comportamentul şi rezultatele acesteia; în particular, se va demonstra modul în care aplicaţia a fost antrenată, verificată, validată şi testată pentru a acorda prioritate securităţii nucleare în toate recomandările, deciziile, activităţile, previziunile, produsele şi rezultatele generate şi pentru a respecta legislaţia, condiţiile de autorizare şi procedurile aplicabile;
i) o descriere a interfeţei cu utilizatorul şi a instrucţiunilor de utilizare;
j) criteriile de verificare, validare şi testare, precum şi rapoartele care atestă verificarea, validarea şi testarea aplicaţiei pentru utilizările avute în vedere;
k) măsurile tehnice şi administrative prin care se asigură securitatea cibernetică a aplicaţiei;
l) evaluarea riscurilor asociate utilizării aplicaţiei şi măsurile tehnice şi administrative implementate pentru a elimina sau pentru a reduce la minimum riscurile identificate;
m) justificarea necesităţii utilizării aplicaţiei bazate pe IA, prin care să se demonstreze că beneficiile aşteptate în urma utilizării aplicaţiei depăşesc riscurile evaluate;
n) necesităţile şi programele de pregătire şi calificare pentru personalul care va utiliza aplicaţia;
o) instrumentele de interfaţă om-maşină care permit supravegherea aplicaţiei de către persoanele fizice în perioada în care este utilizată; măsurile de supraveghere trebuie să fie proporţionale cu riscurile specifice, cu nivelul de autonomie şi cu contextul utilizării;
p) experienţa anterioară de utilizare în instalaţii nucleare şi activităţi similare şi orice verificări, validări, testări, evaluări de conformitate, certificări şi autorizări realizate sau obţinute la nivel internaţional;
q) managementul calităţii implementat la dezvoltarea, verificarea, validarea, testarea, supravegherea şi controlul utilizării aplicaţiei.
(2) Documentaţia prevăzută la alin. (1) trebuie să demonstreze cum îndeplinesc aplicaţiile bazate pe IA cerinţele privind siguranţa, utilitatea, relevanţa, transparenţa şi fiabilitatea.
(3) Toate aplicaţiile bazate pe IA utilizate se vor documenta, se vor revizui, se vor actualiza, după caz, şi se vor menţine sub controlul titularului de autorizaţie pe toată durata de viaţă a instalaţiei nucleare, în conformitate cu prevederile din normele CNCAN în vigoare.
ART. 10
(1) Utilizarea tuturor aplicaţiilor bazate pe IA trebuie să fie transparentă, documentată şi trasabilă. Toate rezultatele generate de IA trebuie să fie documentate/ înregistrate pentru a permite o verificare ulterioară în cadrul activităţilor de audit, evaluare independentă, respectiv în cadrul activităţilor de control efectuate de CNCAN.
(2) Aplicaţiile bazate pe IA trebuie să urmeze un proces definit de management al ciclului de viaţă, incluzând monitorizarea regulată, actualizările şi reantrenarea pentru a menţine performanţa şi siguranţa în utilizare.
(3) Modificările şi actualizările aplicaţiilor bazate pe IA trebuie evaluate, verificate, validate, testate şi aprobate înainte de utilizare şi trebuie documentate corespunzător pentru a permite trasabilitatea.
(4) Titularul de autorizaţie trebuie să pună la dispoziţia CNCAN rapoarte periodice privind performanţa şi modificările aduse aplicaţiilor IA, inclusiv actualizările algoritmilor şi revizuirile datelor.
ART. 11
(1) Aplicaţiile bazate pe IA trebuie să fie protejate împotriva ameninţărilor cibernetice. Aceasta include implementarea controalelor de securitate conform legislaţiei în vigoare.
(2) Orice incident de securitate cibernetică legat de aplicaţiile IA trebuie raportat la CNCAN, cu detalii privind natura incidentului, impactul potenţial şi măsurile corective adoptate.
(3) De asemenea, trebuie raportat la CNCAN orice incident care decurge din utilizarea aplicaţiilor bazate pe IA şi care conduce sau contribuie la un eveniment raportabil conform criteriilor din normele şi condiţiile de autorizare în vigoare.
CAP. III
Dispoziţii tranzitorii şi finale
ART. 12
(1) În termen de 1 an de la intrarea în vigoare a prezentelor norme, titularii de autorizaţie pentru instalaţiile nucleare aflate în faza de exploatare trebuie să transmită la CNCAN, spre evaluare, un raport care să prezinte analiza conformităţii cu cerinţele prezentelor norme şi un plan cu acţiunile întreprinse pentru implementarea integrală a cerinţelor.
(2) Orice solicitare de exceptare de la orice prevedere din prezentele norme trebuie justificată din punct de vedere tehnic şi trebuie supusă aprobării CNCAN.
------
Newsletter GRATUIT
Aboneaza-te si primesti zilnic Monitorul Oficial pe email
Comentarii
Fii primul care comenteaza.
MonitorulJuridic.ro este un proiect:
