OpenAI restricționează accesul adolescenților la informațiile despre arme prin ChatGPT
OpenAI a anunțat că, în următoarele săptămâni, va înăspri restricțiile privind informațiile referitoare la arme și sisteme de securitate, în special pentru adolescenți, prin intermediul platformei ChatGPT. Această decizie vine ca parte a unui demers mai larg de prevenire a violenței în lumea reală și de protejare a utilizatorilor tineri, conform unui comunicat Reuters.
Noile reguli vor restricționa accesul utilizatorilor cu vârsta sub 18 ani la informații despre arme și sisteme de securitate care ar putea fi folosite în scopuri dăunătoare. Chiar și în situațiile în care întrebările adresate de utilizatori nu indică în mod clar intenții violente, platforma va aplica aceste restricții. Aceasta măsură vine într-un context de optimizare a siguranței online, pe fondul îngrijorărilor legate de impactul pe care tehnologia de tip chatbot, bazată pe inteligența artificială, îl poate avea asupra tinerilor.
Pentru toți utilizatorii, ChatGPT va avea capacitatea de a încheia automat conversațiile care ridică drapelele roșii ale unor preocupări constante legate de violență. Conturile care insista pe astfel de subiecte ar putea fi suspendate temporar, iar părinții vor fi notificați în cazul în care un cont al copilului lor suferă o suspendare din acest motiv. Aceasta este o măsură menită să protejeze nu doar utilizatorii minori, ci și comunitatea în ansamblu.
În plus, OpenAI va îmbunătăți sistemul său de estimare a vârstei utilizatorilor. Astfel, utilizatorii care vor fi identificați ca având probabil sub 18 ani vor fi redirecționați către o versiune special concepută pentru adolescenți, care vine cu protecții suplimentare și cu un conținut mai adaptat nevoilor lor. Această abordare vizează nu doar securitatea, ci și asigurarea că informațiile furnizate sunt corespunzătoare vârstei și nu incită la comportamente riscante.
Mai mult, compania va reduce nivelul de detaliu referitor la evenimentele de violență din trecut, cum ar fi atacurile armate în masă, inclusiv informații privind armele utilizate și modalitățile prin care acestea au fost procurate. Măsurile de securitate vor fi implementate treptat, cu scopul de a evalua și ajusta impactul lor în timp.
Anunțul vine într-un moment în care companiile de inteligență artificială se află sub o atenție sporită din partea autorităților și societății civile. Un raport publicat de OpenAI la începutul lunii octombrie sublinia că adolescenții folosesc ChatGPT, în medie, mai puțin de 15 minute pe zi. De asemenea, un studiu realizat de Common Sense Media a relevat că versiunea pentru adolescenți a platformei a avut întârzierea în a alerta părinții în cazurile legate de sinucidere, auto-vătămare sau tulburări alimentare.
În concluzie, aceste măsuri adoptate de OpenAI reflectă o responsabilitate crescută în domeniul tehnologiilor bazate pe inteligență artificială și un angajament față de siguranța utilizatorilor, în special a celor tineri. Compania își propune că, prin aceste restricții și ajustări, să contribuie la crearea unui mediu online mai sigur pentru generația tânără.
