OpenAI, Google și Anthropic lucrează împreună
OpenAI, Google DeepMind și Anthropic lucrează împreună pentru a crea o structură comună de supraveghere a riscurilor legate de inteligența artificială, într-un moment în care cerințele pentru reglementarea domeniului devin tot mai insistentă. Această colaborare a fost confirmată de OpenAI, într-un context în care companiile din industria AI solicită un cadru de reglementare mai clar și mai eficient. Chris Lehane, directorul de politici globale al OpenAI, a declarat pentru AFP că producătorul ChatGPT colaborează cu Anthropic și Google DeepMind pentru a aborda problemele legate de siguranța inteligenței artificiale.
Inițiativa pornește de la o propunere a lui Demis Hassabis
Inițiativa pornește de la o propunere făcută de Demis Hassabis, care a condus Google DeepMind înainte de a deveni președintele companiei la începutul lunii august. Modelul luat în calcul vine din industria financiară, unde există o autoritate de reglementare, FINRA, care funcționează în baza legislației federale și se află sub supravegherea SEC, autoritatea care reglementează piața financiară din SUA. Ideea ar fi ca industria AI să aibă o structură asemănătoare, care să poată stabili reguli și mecanisme de evaluare pentru noile modele dezvoltate de marile companii.
De mai multe luni, liderii sectorului AI solicită administrației americane să introducă un cadru de reglementare și să supravegheze mai atent riscurile asociate tehnologiei. Administrația Trump a introdus deja un proces de evaluare, începând cu începutul lunii august, prin care noile modele de inteligență artificială pot fi evaluate. Participarea companiilor este însă voluntară, iar detaliile privind modul concret în care funcționează această evaluare nu au fost făcute publice.
Discuțiile despre o eventuală supraveghere mai strictă au devenit și mai intense după ce Dario Amodei, CEO-ul Anthropic, a cerut sâmbătă o încetinire a ritmului în care este dezvoltată inteligența artificială. Donald Trump și mai mulți membri ai partidului aflat la guvernare au reafirmat însă că nu vor măsuri care să încetinească sectorul. Argumentul invocat este competiția cu China și riscul ca Beijingul să obțină un avantaj tehnologic dacă Statele Unite limitează prea mult dezvoltarea AI.
Crearea unei structuri comune de supraveghere de către marile companii din industrie ar ridica însă și probleme juridice. Un asemenea mecanism ar putea necesita adoptarea unei legislații speciale. Una dintre explicații este necesitatea evitării acuzațiilor privind eventuale înțelegeri între companii sau încălcarea regulilor antitrust în interiorul sectorului AI. Propunerea lui Demis Hassabis merge tocmai în direcția unei organizații cu o structură clară și cu participare independentă.
Într-un mesaj publicat online la jumătatea lunii iulie, Hassabis a propus ca noua structură să fie finanțată de companiile din industrie. Conducerea ar urma să includă experți independenți, dar și reprezentanți ai ecosistemului open-source. După intrarea în funcțiune a organizației, marile companii de AI ar trebui să își trimită noile modele la evaluare înainte de lansarea pe piață. Verificările ar urma să pună un accent special pe siguranța sistemelor și pe riscurile asociate utilizării lor.
Dezvoltarea AI ar putea fi încetinită dacă riscurile devin prea mari. Structura propusă nu ar avea doar rolul de a verifica modelele înainte de lansare. Potrivit ideii prezentate de Hassabis, organismul ar putea coordona inclusiv o încetinire a ritmului de dezvoltare a inteligenței artificiale. O asemenea măsură ar putea fi luată în situația în care progresele tehnologice ar avansa mai repede decât capacitatea companiilor și a experților de a înțelege și controla riscurile.
Discuțiile dintre OpenAI, Anthropic și Google DeepMind arată astfel că marile companii din domeniu analizează varianta unui mecanism comun de supraveghere, în paralel cu dezbaterea politică din Statele Unite privind ritmul în care ar trebui să evolueze inteligența artificială.
Semnatar anonim
