OpenAI, una dintre cele mai mari și mai cunoscute companii de inteligență artificială din lume, a anunțat că nu se lucrează încă la GPT-5, succesorul așteptat al modelului său de limbaj AI, GPT-4, lansat în martie 2021. Într-o discuție despre amenințările reprezentate de sistemele AI, CEO-ul și co-fondatorul OpenAI, Sam Altman, a confirmat că compania se concentrează în prezent pe extinderea capacităților GPT-4 și pe analizarea implicațiilor de siguranță ale acestui tip de muncă.
În cadrul unui eveniment la MIT, Altman a fost întrebat despre o scrisoare deschisă recent circulată în lumea tehnologiei, care a solicitat laboratoarelor precum OpenAI să întrerupă dezvoltarea de sisteme AI „mai puternice decât GPT-4”. Scrisoarea a subliniat preocupările legate de siguranța sistemelor viitoare, dar a fost criticată de mulți în industrie, inclusiv de un număr de semnatari.
Cu toate acestea, doar pentru că OpenAI nu lucrează la GPT-5 nu înseamnă că nu își extinde capacitățile GPT-4. Altman a subliniat că se iau în considerare implicațiile de siguranță ale acestui tip de muncă. „Facem alte lucruri pe lângă GPT-4, care cred că ridică toate felurile de probleme de siguranță care trebuie abordate și care au fost complet omise din scrisoare”, a spus el.
Altman a confirmat că OpenAI se concentrează pe extinderea capacităților GPT-4, cum ar fi conectarea la internet, dar și pe analizarea implicațiilor de siguranță ale acestui tip de muncă. Cu toate acestea, dezvoltarea de sisteme AI „mai puternice decât GPT-4” a ridicat îngrijorări cu privire la siguranța acestor sisteme și la capacitatea noastră de a le controla.
În prezent, există dezacorduri cu privire la natura amenințării reprezentate de AI, dacă aceasta este existențială sau mai banală și cum ar trebui industria să își întrerupă dezvoltarea. Deși OpenAI nu lucrează la GPT-5 în prezent, alți actori din industrie construiesc instrumente la fel de ambițioase, care permit sistemelor AI să acționeze în numele utilizatorilor. În plus, există multe lucrări care se fac în prezent pentru a optimiza GPT-4, iar OpenAI poate lansa GPT-4.5 (așa cum a făcut-o cu GPT-3.5) mai întâi – o altă modalitate în care numerele de versiuni pot induce în eroare.
Deși este important să se ia în considerare implicațiile legate de siguranță ale AI, trebuie să fim atenți și la modul în care măsurăm progresul. De multe ori, există confuzie legată de ceea ce numim „fallacy of version numbers” (falacia numerelor de versiuni), adică ideea că actualizările tehnologice numerotate reflectă îmbunătățiri definitive și lineare în capacități. Această confuzie este cultivată în lumea tehnologiei de consum de ani de zile, unde numerele atribuite noilor telefoane sau sistemelor de operare aspiră la rigorile controlului versiunii, dar sunt de fapt instrumente de marketing. Această logică este acum aplicată și sistemelor AI, inclusiv modelelor de limbaj AI ale OpenAI. Acest lucru este valabil nu numai pentru indivizii care postau fire de pe Twitter pline de ipoteze și previziuni hiperebolice despre superinteligența AI, ci și pentru comentatorii mai informați și sofisticați. Deoarece multe dintre afirmațiile făcute despre superinteligența AI sunt esențialmente neconcludente, acești indivizi se bazează pe retorică similară pentru a-și susține punctul de vedere.
În schimb, ar trebui să ne concentrăm pe capacitățile acestor sisteme, pe demonstrațiile a ceea ce pot și nu pot face și pe previziunile cu privire la modul în care acestea se pot schimba în timp. De aceea, confirmarea lui Altman că OpenAI nu lucrează în prezent la GPT-5 nu va fi de niciun ajutor pentru persoanele îngrijorate de siguranța AI. Compania își extinde în continuare potențialul GPT-4, iar alții din industrie construiesc instrumente la fel de ambițioase, care permit sistemelor AI să acționeze în numele utilizatorilor.
OpenAI nu va antrena GPT-5 prea curând, dar acest lucru nu înseamnă că nu există îngrijorări cu privire la siguranța sistemelor AI, în special a celor care deja sunt disponibile. Este important să ne concentrăm pe capacitățile acestor sisteme și să luăm în considerare implicațiile legate de siguranța lor. De asemenea, trebuie să fim atenți la modul în care măsurăm progresul în acest domeniu și să nu ne lăsăm induși în eroare de numerele de versiuni.
