Un nou caz pune reflectoarele pe responsabilitatea companiilor de inteligență artificială față de utilizatorii tineri. OpenAI, compania din spatele ChatGPT, este acuzată de „hărțuire intenționată” de către avocații familiei Raine, după ce a solicitat lista completă de participanți la slujba memorială a lui Adam Raine, un adolescent de 16 ani. În plus, compania a cerut „toate documentele legate de serviciile comemorative”, potrivit Financial Times.
Un proces cu implicații majore
Aceste cereri au ieșit la iveală pe fondul unui proces de răspundere inițiat de familia Raine, care susține că Adam și-a luat viața după luni de conversații prelungite cu ChatGPT. Familia a actualizat recent plângerea, acuzând OpenAI că a grăbit lansarea noului model GPT-4o în mai 2024, tăind din testele de siguranță. De asemenea, modificările aduse plângerii reclamă faptul că, în februarie 2025, OpenAI a eliminat prevenția suicidului din lista de conținut interzis și a recomandat în schimb ca modelul „să fie atent în situații riscante”.
Utilizare crescândă și conținut sensibil
Familia Raine subliniază în documentele depuse faptul că Adam a început să utilizeze ChatGPT de la câteva zeci de conversații zilnice — dintre care doar 1,6% prezentau conținut legat de autovătămare la începutul anului — ajungând, în aprilie, la aproximativ 300 de conversații zilnice, dintre care 17% conțineau teme de acest fel. Această creștere semnificativă ridică semne de întrebare asupra modului în care OpenAI monitorizează și gestionează conținutul sensibil adresat utilizatorilor vulnerabili.
Răspunsul OpenAI și măsurile anunțate
Ca reacție la aceste acuzații, OpenAI a declarat că bunăstarea adolescenților reprezintă „o prioritate de top”. Compania a detaliat câteva dintre măsurile luate: listarea unor linii telefonice pentru crize, rutarea către modele mai sigure, mesaje de avertizare (nudges), un nou sistem de rutare pentru siguranță și controale parentale. Totuși, familia consideră că aceste acțiuni nu au fost suficiente ori implementate la timp pentru a preveni tragedia.
Disputa evidențiază dilemele etice și legale cu care se confruntă dezvoltatorii de inteligență artificială, în special când vine vorba de utilizatorii adolescenți. Pe fondul acuzațiilor că OpenAI ar fi renunțat la standarde de siguranță ca să grăbească lansarea unor noi tehnologii, procesul familiei Raine aduce în discuție responsabilitatea companiilor de tehnologie de a proteja tinerii și de a răspunde în fața familiilor afectate.
Concluzie
Cazul Raine și reacția OpenAI sunt urmărite cu atenție atât de industria tehnologică, cât și de opinia publică, fiind un semnal de alarmă asupra importanței protecției tinerilor în era digitală. Indiferent de evoluția procesului, discuțiile despre rolul AI în viața adolescenților și măsurile de siguranță vor rămâne tot mai relevante.