Conținutul generat cu AI în primării: când trebuie etichetat

Primăriile trebuie să eticheteze conținutul realizat cu inteligență artificială? Noile reguli europene, explicate practic.

Instrumentele de inteligență artificială sunt folosite tot mai frecvent pentru redactarea comunicatelor, pregătirea unor postări, traducerea documentelor, realizarea imaginilor sau interacțiunea cu cetățenii prin asistenți virtuali.

Odată cu extinderea utilizării acestor instrumente apare o întrebare firească:

Trebuie o primărie să menționeze de fiecare dată când un text, o imagine sau un videoclip a fost realizat cu ajutorul inteligenței artificiale?

Răspunsul este nuanțat.

Regulamentul european privind inteligența artificială, cunoscut drept AI Act, introduce obligații de transparență pentru furnizorii și utilizatorii anumitor sisteme AI. Aceste obligații, prevăzute în principal la articolul 50, se aplică din 2 august 2026.

Sursa: Comisia Europeană, Codul de bune practici privind conținutul generat cu AI 

Ce urmăresc noile reguli

Scopul regulilor este ca cetățenii să poată recunoaște situațiile în care:

• interacționează direct cu un sistem de inteligență artificială;
• văd sau aud un material falsificat ori creat artificial, care poate părea autentic;
• primesc informații de interes public generate automat, fără o verificare umană;
• sunt expuși unor sisteme de recunoaștere a emoțiilor sau de clasificare biometrică.

Comisia Europeană arată că dezvoltarea rapidă a sistemelor generative face tot mai dificilă diferențierea conținutului autentic de cel creat artificial. Această situație poate favoriza dezinformarea, frauda, uzurparea identității și manipularea.

Sursa: Comisia Europeană, orientări privind transparența conținutului generat cu AI 

Primăria care folosește AI este, de regulă, utilizator al sistemului

În limbajul regulamentului, instituția care folosește un sistem de inteligență artificială în activitatea sa poate avea rolul de deployer, adică entitatea care utilizează sistemul.

De exemplu, o primărie poate fi utilizator al unui sistem AI atunci când:

• implementează un chatbot pe site;
• generează texte pentru informarea cetățenilor;
• creează sau modifică imagini și videoclipuri;
• folosește o voce artificială într-un material informativ;
• publică rezumate generate automat;
• utilizează un instrument care interacționează direct cu publicul.

Furnizorul sistemului, precum compania care dezvoltă chatbotul sau modelul de inteligență artificială, are obligații tehnice diferite de cele ale primăriei.

1. Chatboturile și asistenții virtuali trebuie să se prezinte ca sisteme AI

Atunci când un cetățean interacționează direct cu un chatbot sau cu un asistent virtual, acesta trebuie informat că discută cu un sistem de inteligență artificială.

Informarea nu trebuie ascunsă într-o pagină lungă de termeni și condiții. Ea trebuie să fie clară și vizibilă cel târziu la prima interacțiune. Articolul 50 prevede o excepție doar atunci când este evident, pentru o persoană rezonabil informată și atentă, că interacționează cu un sistem AI.

„Acesta este un asistent virtual bazat pe inteligență artificială. Răspunsurile sale pot conține erori. Pentru confirmarea informațiilor oficiale, consultați documentele publicate de primărie sau contactați un reprezentant al instituției.”

În cazul unui chatbot al primăriei, este recomandat să fie precizate și:

• scopul pentru care poate fi folosit;
• limitele răspunsurilor;
• faptul că nu emite acte administrative;
• modul prin care cetățeanul poate contacta o persoană;
• sursa informațiilor oficiale;
• regulile privind datele personale introduse în conversație.

Chatbotul nu trebuie să creeze impresia că este un funcționar public sau că răspunsurile sale reprezintă automat poziția juridică oficială a instituției.

2. Nu orice text redactat cu ajutorul AI trebuie etichetat

Aceasta este una dintre cele mai importante clarificări pentru administrația publică.

Articolul 50 se referă la textele generate sau manipulate cu ajutorul AI care sunt publicate pentru a informa publicul asupra unor chestiuni de interes public.

Totuși, obligația de etichetare nu se aplică atunci când sunt îndeplinite două condiții:

1. textul a trecut printr-un proces de verificare umană sau control editorial;
2. o persoană fizică sau juridică își asumă responsabilitatea editorială pentru publicare.

Prin urmare, dacă un angajat al primăriei folosește AI pentru a redacta o primă versiune a unui comunicat, dar apoi:

• verifică informațiile;
• corectează eventualele erori;
• adaptează formularea;
• verifică actele normative și datele menționate;
• aprobă versiunea finală;
• publică materialul în numele instituției;

textul nu trebuie etichetat automat ca fiind generat de inteligența artificială.

Instituția își asumă responsabilitatea editorială exact cum ar face în cazul unui text redactat integral de un angajat.

Când ar trebui etichetat un text

Etichetarea devine relevantă atunci când un text de interes public este generat și publicat automat, fără o verificare umană reală și fără ca o persoană sau instituție să își asume responsabilitatea editorială asupra conținutului.

Exemple:

• un sistem publică automat rezumate ale ședințelor, fără verificare;
• un chatbot generează automat anunțuri publice;
• un flux AI preia date și publică articole fără aprobarea unui angajat;
• sunt publicate automat explicații despre taxe, ajutoare sau proceduri administrative;
• sistemul răspunde public la întrebări juridice ori administrative fără control editorial.

În astfel de cazuri, cetățeanul trebuie să poată înțelege clar că informația a fost generată sau modificată cu ajutorul inteligenței artificiale.

„Acest material a fost generat automat cu ajutorul unui sistem de inteligență artificială și nu a fost verificat integral de un reprezentant al instituției.”

Pentru informațiile care pot produce efecte asupra cetățenilor, publicarea fără verificare umană ar trebui evitată, chiar dacă materialul este etichetat.

3. Imaginile și videoclipurile care pot părea reale

Regulile sunt mai stricte atunci când AI este folosit pentru a crea sau modifica imagini, materiale audio ori videoclipuri care seamănă cu persoane, locuri, obiecte sau evenimente reale și care pot fi percepute ca autentice.

Acest tip de material poate intra în categoria denumită frecvent deepfake.

O primărie trebuie să precizeze că materialul a fost creat sau modificat artificial atunci când, de exemplu:

• apare o persoană reală spunând lucruri pe care nu le-a spus;
• este modificată vocea unei persoane;
• este prezentat un eveniment care nu a avut loc;
• este generată o fotografie aparent reală a unei lucrări publice;
• este modificată o imagine astfel încât să schimbe semnificativ realitatea;
• este creat un videoclip cu un primar sau un funcționar care pare autentic.

Obligația vizează materialele care pot induce publicul în eroare și pot fi confundate cu realitatea.

Exemple practice

Exemplul 1: imagine ilustrativă pentru un proiect viitor

Primăria publică o imagine generată cu AI care arată cum ar putea arăta un parc după modernizare.

Imaginea nu trebuie prezentată drept fotografie reală. Este recomandată o mențiune precum:

„Imagine ilustrativă, generată cu ajutorul inteligenței artificiale. Aspectul final al proiectului poate fi diferit.”

Exemplul 2: fotografie reală corectată ușor

O fotografie este ajustată pentru luminozitate, contrast, claritate sau încadrare.

Articolul 50 prevede că marcarea tehnică nu este necesară atunci când AI îndeplinește doar o funcție auxiliară de editare și nu modifică substanțial datele inițiale sau semnificația acestora.

Exemplul 3: eliminarea unui obiect din imagine

Din fotografia unei străzi este eliminat cu ajutorul AI un obiect important, o persoană, o mașină sau o zonă deteriorată.

Dacă modificarea schimbă percepția asupra situației reale, imaginea trebuie prezentată ca material modificat, nu ca fotografie documentară autentică.

Exemplul 4: videoclip cu o voce generată artificial

Primăria realizează un material informativ cu un avatar sau cu o voce sintetică.

Este recomandat ca publicul să fie informat clar că vocea sau personajul sunt generate artificial, mai ales dacă materialul poate fi confundat cu înregistrarea unei persoane reale.

4. Materialele artistice, satirice sau creative

Pentru operele evident artistice, creative, fictive ori satirice, obligația de informare se aplică într-o formă care să nu afecteze vizionarea sau experiența publicului.

De exemplu, în cazul unui videoclip artistic de promovare a localității, realizat parțial cu AI, mențiunea poate fi inclusă:

• în descrierea materialului;
• la finalul videoclipului;
• în genericul de final;
• într-o secțiune privind producția;
• într-un marcaj discret, dar vizibil.

Regulamentul nu impune ca experiența artistică să fie întreruptă permanent de o avertizare mare afișată pe ecran.

5. Marcajele tehnice și marcajele vizibile nu sunt același lucru

Furnizorii sistemelor AI care generează text, imagini, sunet sau video trebuie să asigure, în măsura în care este fezabil tehnic, marcarea rezultatelor într-un format care poate fi citit automat și detectat ca fiind generat sau manipulat artificial.

Aceasta este, în principal, o obligație tehnică a furnizorului sistemului AI.

Primăria trebuie să se preocupe în special de informarea vizibilă a cetățeanului atunci când publică:

• deepfake-uri;
• materiale care pot fi confundate cu înregistrări autentice;
• texte de interes public publicate fără verificare umană;
• conținut generat automat care poate influența deciziile cetățenilor.

Comisia Europeană a publicat și un set de pictograme care pot fi folosite pentru etichetarea conținutului generat sau modificat cu AI.

Utilizarea acestor pictograme este opțională, însă obligațiile legale de informare nu sunt opționale. Simpla aplicare a unei pictograme nu garantează, de una singură, respectarea tuturor obligațiilor.

Sursa: pictogramele europene pentru etichetarea conținutului generat cu AI 

Ce ar trebui să facă practic o primărie

Nu este suficientă introducerea unei mențiuni generale potrivit căreia instituția folosește AI.

Primăria ar trebui să stabilească un proces intern clar.

1. Inventarierea instrumentelor AI

Trebuie cunoscute instrumentele utilizate de angajați și furnizori:

• chatboți;
• generatoare de text;
• traducere automată;
• transcriere audio;
• generatoare de imagini;
• editare video și audio;
• rezumarea documentelor;
• sisteme integrate în aplicațiile administrative.

2. Stabilirea materialelor care necesită aprobare

Ar trebui stabilit cine verifică și aprobă:

• comunicatele;
• anunțurile;
• informațiile despre taxe și impozite;
• procedurile administrative;
• informațiile despre ajutoare sociale;
• textele despre urbanism;
• răspunsurile către cetățeni;
• imaginile și videoclipurile publicate;
• traducerile realizate automat.

3. Păstrarea responsabilității umane

Un angajat trebuie să verifice informația și să își asume publicarea.

Expresia „a fost generat de AI” nu înlătură responsabilitatea instituției pentru:

• informații greșite;
• date personale publicate accidental;
• afirmații discriminatorii;
• informații juridice incorecte;
• încălcarea drepturilor de autor;
• imagini care induc publicul în eroare.

4. Etichetarea materialelor care pot fi confundate cu realitatea

Pentru materialele vizuale sau audio create artificial, primăria poate folosi formule clare:

„Imagine generată cu ajutorul inteligenței artificiale.”

„Material video realizat parțial cu ajutorul inteligenței artificiale.”

„Voce generată artificial.”

„Simulare vizuală. Materialul nu reprezintă o fotografie a situației actuale.”

5. Informarea utilizatorilor chatbotului

Mesajul trebuie să fie vizibil de la începutul conversației și să explice limitele sistemului.

6. Introducerea unei reguli interne

O procedură internă simplă poate preciza:

• ce instrumente pot fi utilizate;
• ce informații nu pot fi introduse în sisteme AI publice;
• cine verifică materialele;
• când este necesară etichetarea;
• cine aprobă publicarea;
• cum sunt păstrate versiunile și sursele informațiilor.

Atenție la datele personale și documentele confidențiale

Obligațiile de transparență nu înlocuiesc regulile privind protecția datelor, confidențialitatea și securitatea informațiilor.

Angajații nu ar trebui să introducă în instrumente AI publice:

• copii ale actelor de identitate;
• liste cu beneficiari;
• informații medicale;
• dosare sociale;
• parole;
• date de autentificare;
• documente care nu sunt publice;
• informații din anchete;
• baze de date;
• contracte care conțin informații confidențiale;
• date personale ale cetățenilor sau angajaților.

Înaintea utilizării unui sistem AI, trebuie verificat ce se întâmplă cu datele introduse, unde sunt procesate și dacă pot fi folosite pentru antrenarea sistemului.

Zece verificări care pot fi făcute imediat

1. Să identifice toate instrumentele AI folosite în instituție.
2. Să verifice dacă pe site există un chatbot sau un sistem automat de răspuns.
3. Să afișeze clar faptul că cetățeanul interacționează cu AI.
4. Să desemneze persoanele care verifică materialele înainte de publicare.
5. Să interzică publicarea automată a informațiilor importante fără control uman.
6. Să stabilească reguli pentru imaginile, vocile și videoclipurile generate artificial.
7. Să pregătească formule standard de etichetare.
8. Să interzică introducerea datelor sensibile în instrumente AI neaprobate.
9. Să ceară furnizorilor informații despre marcarea și detectarea conținutului generat.
10. Să instruiască angajații cu privire la utilizarea responsabilă a inteligenței artificiale.

O precizare importantă

Codul european de bune practici privind transparența conținutului generat cu AI este un instrument voluntar. El oferă furnizorilor și utilizatorilor o modalitate recunoscută la nivel european de a demonstra respectarea obligațiilor.

Obligațiile prevăzute de articolul 50 al AI Act sunt însă obligații legale, chiar dacă aderarea la cod este voluntară.

Instituțiile care nu folosesc codul pot aplica alte măsuri, dar trebuie să poată demonstra că acestea sunt adecvate pentru respectarea cerințelor europene.

Concluzie

Noile reguli europene nu interzic primăriilor să utilizeze inteligența artificială și nici nu impun etichetarea fiecărei fraze redactate cu ajutorul unui astfel de instrument.

Principiul de bază este transparența.

Cetățeanul trebuie să știe când discută cu un sistem AI și când vede sau aude un material artificial care poate părea autentic.

În cazul textelor de interes public, verificarea umană și asumarea responsabilității editoriale au un rol esențial. Inteligența artificială poate ajuta la redactare, structurare sau traducere, dar informația finală trebuie verificată și asumată de instituția care o publică.

Scopul nu este adăugarea unor etichete inutile, ci prevenirea confuziei și păstrarea încrederii cetățenilor în comunicarea oficială.

Notă: Prezentul material are caracter general și informativ. Aplicarea concretă a Regulamentului european privind inteligența artificială poate depinde de modul de utilizare a fiecărui sistem și de particularitățile instituției. Articolul nu înlocuiește o analiză juridică sau tehnică de specialitate.

Notă: La realizarea acestui articol și a imaginii aferente a fost utilizată inteligența artificială.