Recent, s-a aflat că OpenAI lucrează de ceva timp la un instrument capabil să detecteze textele generate de ChatGPT cu o mare precizie. În ciuda faptului că acest instrument este pregătit de un an, OpenAI a ezitat să-l lanseze. Firma a explicat că echipele lor au dezvoltat un sistem de filigranare a textului care poate identifica cu o acuratețe de 99,9% textele generate de inteligența artificială. Totuși, acest nivel de performanță nu este garantat în toate circumstanțele. De exemplu, folosirea sistemelor de traducere sau a altor modele de generare a textului poate reduce eficacitatea detecției.
OpenAI a explicat că unul dintre motivele pentru care nu au lansat încă acest instrument este preocuparea că filigranul textului ar putea afecta disproporționat anumite grupuri de utilizatori. În plus, compania a subliniat că în prezent se concentrează pe dezvoltarea de instrumente de autentificare pentru conținutul vizual și auditiv. În viitor, odată ce îmbunătățirile necesare vor fi finalizate, instrumentul de filigranare a textului ar putea fi lansat, deși nu există încă un calendar specific pentru acest lucru.
Aceste demersuri vin ca un răspuns la creșterea numărului de studenți care folosesc ChatGPT pentru a-și face temele. OpenAI își dorește să combată acest fenomen și să promoveze utilizarea corectă a tehnologiei. Pe lângă posibilele pierderi financiare pe care le-ar putea înregistra, compania ia în considerare și riscurile etice și de impact social ale lansării unui astfel de instrument.
Într-o lume în care inteligența artificială devine din ce în ce mai prezentă, dezvoltarea unor sisteme de detectare a utilizării necorespunzătoare a acesteia este esențială. Rămâne de văzut cum va evolua această situație și cum vor reacționa utilizatorii la aceste schimbări.
[SURSA]
