Fostul Consiliu de administrație al OpenAI i-a reproșat lui Sam Altman că se concentrează prea mult pe dezvoltarea rapidă a OpenAI, creatorul interfeței ChatGPT, fără să acorde suficient timp analizei riscurilor asociate, scrie AFP care citează surse media americane.
Brendan Dolan-Gavitt, profesor de informatică la Universitatea Tandon din New York, consideră că apariția lui Emmett Shear, numit de fostul Consiliu să preia conducerea de la Sam Altman, confirmă această teză. “El și-a exprimat adesea îngrijorarea cu privire la siguranța inteligenței artificiale”, spune profesorul universitar.
“Am ajuns în acest punct pentru că riscuri minuscule au fost amplificate de către pasionații de science-fiction și de jurnaliștii care caută senzaționalul”, crede Vinod Khosla, fondator al firmei de private equity Khosla Ventures, acționar la OpenAI, într-un articol publicat de site-ul The Information.
Printre amenințările generate de dezvoltarea IA generative se numără posibilitatea ca programele să fie utilizate în scopuri militare, de dezinformare sau să devină autonome și să se întoarcă împotriva oamenilor.
“Este timpul să ne preocupăm de riscurile IA, dar nu într-atât încât să încetinim progresul și să ne privăm de beneficiile sale”, spune Vinod Khosla.
Ultimele zile au scos în evidență limitele modelului OpenAI, care a încercat să pună sub controlul unei organizații non-profit o companie pe care investitorii financiari au mizat miliarde de dolari.
Administratorii au “pierdut contactul cu realitatea, cum este posibil să menții statutul de companie non-profit atunci când accepți sume atât de semnificative de la investitori precum Microsoft?”, se întreabă Carolina Milanesi de la Creative Strategies.
Gigantul din Redmond (Washington) a alocat, conform mai multor surse media, o sumă de zece miliarde de dolari pentru parteneriatul său cu OpenAI, oferindu-i în special capacități masive de prelucrare a datelor pentru dezvoltarea modelelor sale.
”Mai mult ca niciodată e nevoie de reglementare”
Această secvență “arată că nu ar trebui să permitem companiilor să se reglementeze singure în domeniul inteligenței artificiale atunci când există dezacorduri în interiorul propriilor lor structuri de guvernanță”, a comentat Gary Marcus, un specialist în inteligență artificială și antreprenor, pe X (fostul Twitter).
“Vă rog să nu renunțați la legea privind inteligența artificială; avem nevoie de ea mai mult ca niciodată”, a continuat el, referindu-se la textul destinat să reglementeze inteligența artificială, aflat în prezent în discuție în cadrul Uniunii Europene.
Divizarea din cadrul OpenAI “va grăbi multe evoluții în domeniul reglementării”, estimează Ryan Steelberg, CEO al Veritone, o companie specializată în analiza datelor cu ajutorul inteligenței artificiale.
Cu toate acestea, “acest lucru nu va încetini cursa către IA generativă”, spune Carolina Milanesi. “Este pur și simplu o chestiune de răsturnări de situație în consiliile de administrație, care pun Microsoft într-o poziție mai bună”.
Articolul publicat de France24 integral aici
Traducere de Oana Neacșu