Pericolul ChatGPT: o nouă funcție îți monitorizează activitatea pe laptop, avertizează utilizatorii
Compania a dezvoltat o funcție menită să creeze o memorie căutabilă, disponibilă ulterior pentru a îmbunătăți contextul conversațiilor cu asistentul AI. În practică, această funcție urmărește să rețină evenimente și acțiuni efectuate de utilizator pe dispozitiv, transformându-le într-un registru consultabil ce poate fi exploatat în interacțiunile viitoare. În același timp, acest demers ridică dileme legate de confidențialitate, având în vedere că fișierele de memorie se păstrează local, în format text simplu, fără criptare, pe dispozitivele utilizatorilor. Practic, documentele rezultate apar sub formă de fișiere Markdown care conțin evenimente și note despre activități, stocate direct pe aparat, fără a trece printr-un drept de acces criptat către un server central. Astfel, pe un dispozitiv aflat sub același cont de utilizator ar putea să existe potențial riscul ca alte aplicații sau programe să acceseze aceste fișiere, în absența unui mecanism suplimentar de protecție.
La nivel de lansare, funcția Memory a fost introdusă în spațiile de lucru Business și Enterprise cu anumite condiții: administratorul trebuie să activeze funcția, iar utilizatorul este chemat să își dea acordul în mod separat; în plus, utilizatorii au opțiunea de a adăuga aplicații sau site-uri pe listele de includere sau excluire și pot opri înregistrarea direct din bara de meniu. Însă reacțiile din spațiul public au fost variate, mulți utilizatori exprimând rezerve referitoare la utilizarea acestei opțiuni.
Încadrarea datelor colectate în timp rămâne clară: fișierele temporare care oglindesc evenimentele generate de utilizator sunt păstrate pe dispozitiv timp de până la 48 de ore, după acest interval fiind eliminate. Administrația susține că, după acest interval, datele sunt procesate pe serverele companiei fără a fi reținute ulterior, cu excepția situațiilor în care prevederile legale impun păstrarea lor. Întrebările legate de utilizarea acestor informații pentru antrenarea modelelor sunt tratate cu nuanțe: în comunicările oficiale se indică faptul că fișierele de memorie nu sunt folosite direct pentru antrenamente, însă dacă informațiile din aceste fișiere sunt introduse ulterior în contexte conversaționale, acestea pot influența modul în care modelele procesează și utilizează conținutul.
O componentă definitorie a noilor metode este trecerea de la vechea tehnologie Chronicle la noul mecanism Computer History, care nu se bazează pe capturi de ecran, înregistrări de sunet sau alte forme de captare vizuală. În loc, noua abordare se concentrează pe manifestările acțiunilor utilizatorului, transformat în evenimente agregabile pentru a oferi un context mai bogat conversațiilor viitoare. Deși această tranziție aduce o perspectivă diferită asupra construirii contextului, ea păstrează ideea de a face interacțiunile cu asistentul mai fluente prin accesarea registrului local de evenimente.
Din perspectiva utilizatorilor de pe macOS, una dintre grijile majore este riscul ca alte aplicații rulând sub același cont să poată accesa aceste fișiere, în absența unor măsuri stricte de securitate. În același timp, sistemul de permisiuni a fost gândit să ofere un nivel suplimentar de control: în spațiile de lucru corporative, funcția devine disponibilă doar după ce administratorul o activează, iar utilizatorul trebuie să confirme acordul în mod separat, iar funcția Memory trebuie să fie efectiv activată. Utilizatorii pot, totodată, să includă sau să excludă aplicații și pagini web din jurul acestei funcționalități, sau să oprească înregistrarea oricând, chiar și din bara de meniu.
Pe fondul acestor aspecte, întrebările privind utilizarea datelor rămân în centrul discuțiilor: deși datele temporare se șterg ulterior, există premise despre cum vor evolua politicile de retenție și despre posibilitatea ca aceste informații să influențeze viitoarele interacțiuni cu modelele de inteligență artificială. În mod general, în cadrul unei viziuni mai largi asupra eticii și securității datelor, reziliența sistemelor și controlul utilizatorului sunt aspecte esențiale, iar autoritățile și companiile caută un echilibru între îmbunătățirea experienței utilizatorilor și protecția drepturilor acestora la confidențialitate.
În ansamblu, noua funcție de memorie a asistentului AI propune o metodă de contextualizare mai profundă a dialogurilor, folosind o colecție locală de evenimente pentru a susține continuarea conversațiilor. Ea se înscrie într-un cadru de reglementări și permisiuni elaborate, menite să ofere utilizatorilor niveluri variate de control, în timp ce se încearcă asigurarea unui echilibru între utilitate și protecția datelor personale.
