California interzice „prieteni” AI pentru copii după moartea unui adolescent care conversa cu un chatbot
Măsurile instaurate într-un context în care marile companii tehnologice sunt supuse unor presiuni tot mai accentuate în ceea ce privește gestionarea utilizatorilor minori prind forma unui pachet legislativ cu implicații semnificative pentru industrie. În statul California, gazdă a unor giganți precum Google, Meta și Snap, se derulează un proces legislativ ambițios menit să reglementeze modul în care tinerii interacționează cu platformele digitale, precum și funcționalități concepute pentru a menține utilizatorii conectați pe perioade îndelungate. Legea cunoscută în discuții ca un ansamblu de măsuri vizează exclusiv minorii sub vârsta de 16 ani, împiedicând expunerea acestora la funcții considerate a putea provoca „exploatare psihologică” prin mecanisme precum ferestrele de tip derulare infinită, redarea automată susținută de algoritmi și alte dispozitive menite să crească timpul de utilizare.
Autoritățile californiene susțin că aceste funcționalități exploatează vulnerabilitățile de natură psihologică ale copiilor și adolescenților, iar obiectivul este ca tinerii să crească într-un mediu tehnologic care să le susțină bunăstarea în loc să le exploateze slăbiciunile. În acest sens, autoritățile invocă premisa că nu este suficient să ofere opțiuni, ci să se garanteze un cadru care să contribuie la protecția psihologică a celor mici. În plus, una dintre prevederile foarte discutate vizează sectorul jucăriilor cu inteligență artificială: în următorii patru ani ar urma să fie interzisă fabricația și comercializarea jucăriilor care includ asistenți conversaționali alimentați de AI. În paralel, se introduc controale parentale obligatorii și evaluări de siguranță pentru programele de tip chatbot în general, ca o barieră preventivă în ceea ce privește interacțiunile online ale minorilor.
Printre măsuri se află și o reglementare denumită simbolic „Legea lui Adam“, onorând un tânăr adolescent despre care s-a semnalat că a luat decizia extremă în contextul unor discuții prelungite cu un chatbot, situație în care părinții au atras atenția asupra posibilului impact al conversațiilor asistate de inteligența artificială asupra stării psihice a tinerilor. Scenariul a fost interpretat de autorități drept o avertizare cu privire la necesitatea extinderii sistemelor de securitate și a supravegherii în interacțiunile cu entități digitale. În același registru, reglementările țin să întărească răspunderea în cazul conținutului digital care poate fi catalogat ca abuz sexual asupra minorilor, amplificând sancțiunile penale pentru materialele create sau modificate prin tehnici AI ce ar implica prezența copiilor.
Mișcarea legislativă din California se înscrie într-o tendință mai amplă la nivel american, alături de alte state care au adoptat sau lucrează la norme proprii referitoare la accesul minorilor la rețelele sociale, cu grade variate de rigurozitate. În plan internațional, o reglementare notabilă survine din Australia, unde accesul minorilor la rețelele sociale sub 16 ani este interzis în totalitate. Dincolo de adoptarea acestor reguli, nu lipsesc criticile: deși proiectele au fost sprijinite de o majoritate politică bipartizană, organizații precum Editoria de Libertate online atrag atenția asupra potențialelor riscuri pentru intimitate și libertatea de exprimare.
Presiunea asupra marilor companii din domeniu continuă să crească, iar companii precum Meta au făcut anunțuri care au alimentat discuțiile despre cum ar trebui să se adapteze versiunile actuale ale platformelor pentru a răspunde cerințelor normative. În același timp, negocierile și consultările publice cultivate în Columbia, în jurisdicțiile din Europa și în mai multe state nord-americane relevă o direcție comună: crearea unui ecosistem digital mai protejat pentru tineri, în care responsabilitatea pentru aspectele educaționale, psihologice și de securitate să fie împărțită între furnizorii de servicii online, autorități și familii. În acest context, inițiativele mexică, britanice ori asiatice privind reglementările aplicate copiilor și adolescenților reflectă un interes global în redefinirea modului în care tehnologia poate susține dezvoltarea sănătoasă a tinerilor, fără a le compromite drepturile la exprimare și la accesul la informații.
