Scandal uriaș provocat de un experiment care presupunea filmarea permanentă a copiilor pentru antrenarea inteligenței artificiale

Un proiect de cercetare aflat în plan într-o universitate de prestigiu a atras atenția dincolo de mediul academic, după ce autorii săi au cerut cadrelor didactice să poarte camere în sălile de clasă pentru a surprinde imagini din procesul educațional. Scopul indicat ar fi fost utilizarea acelor înregistrări pentru a alimenta antrenarea modelelor de inteligență artificială, în ideea dezvoltării unor tooluri care să poată interpreta mai bine interacțiunile din mediul educațional. În cadrul procedurii, părinții aveau posibilitatea de a refuza participarea copiilor lor, însă dacă nu exista un refuz expres, copilul urma să fie implicat automat în cadrul cercetării. În practică, această abordare ridica întrebări despre claritatea informării și despre cum se traduce consimțământul în contextul unei practici potențial intruzive pentru intimitatea copiilor.

Autori și organizatori au susținut că materialele video surprind interacțiuni obișnuite dintre profesori și elevi în timpul activităților de zi cu zi din clasă, ceea ce i-ar fi ajutat pe cercetători să înțeleagă mai bine dinamica educatională și să dezvolte aplicații AI utile pentru educație. Cu toate acestea, reacția părintelui a fost, pentru multe dintre familii, una de îngrijorare legitimă. Unii dintre părinți au solicitat detalii concrete despre modulele de inteligență artificială sau despre entitățile private implicate în proiect, în timp ce alții au criticat formularea documentelor cu care erau nevoiți să se acquaintedze, considerându-le dificil de interpretat. Întrebări persistente au vizat modalitatea de evitare a filmării copiilor ale căror familii nu dăduseră acordul, precum și condițiile de partajare a datelor, durata păstrării acestora și sursa de finanțare a cercetării. În fața unei asemenea reacții, inițiatorii proiectului au optat pentru suspendarea procedurilor, iar demersul nu a mai continuat în forma inițială.

Un caz similar a fost raportat și într-un alt centru educațional din New York, unde un proiect bazat pe inteligența artificială a fost închis luna trecută după ce un val de proteste din partea părinților a atras atenția comunității. Aceste situații au intensificat discuțiile despre limitările etice ale utilizării tehnologiilor de analiză video în spațiul educațional, despre necesitatea transparenței în cadrul cercetărilor și despre importanța definiției clare a dreptului la confidențialitate pentru copii. În contextul acestor cazuri, se conturează o preocupare crescută privind echilibrul între inovație și protecția datelor personale, precum și responsabilitatea comunităților academice și a instituțiilor de învățământ în gestionarea informațiilor sensibile.

Analizele ulterioare asupra acestor practici subliniază necesitatea unor cadre mai stricte de autorizare, a unor standarde de minimizare a datelor și a unor mecanisme de informare mult mai clare pentru părinți, astfel încât demersurile de cercetare să poată avansa fără a compromite securitatea copiilor sau încrederea comunităților în procesul educațional. Într-un context în care inteligența artificială promite să transforme metodele de predare, evoluția discuțiilor despre consimțământ, trasabilitatea datelor și responsabilitatea pentru utilizarea rezultatelor rămâne esențială pentru menținerea unor practici educaționale etice, echilibrate și transparente.