Tronditje në OpenAI: Drejtuesi i sigurisë jep dorëheqjen dhe denoncon kulturën e korporatës

Një nga drejtuesit kyç të sigurisë në OpenAI ka vendosur të largohet nga detyra, duke lëshuar një alarm të fortë se mjedisi i punës brenda kompanisë është i kompromentuar dhe se industria e inteligjencës artificiale po ecën me një ritëm të rrezikshëm, duke neglizhuar masat e duhura paraprake. Bëhet fjalë për David Robinson, ish-drejtuesin e përgatitjes së raporteve të sigurisë për lançimet e produkteve të gjigantit të ChatGPT. Ai e bëri publike vendimin e tij përmes një shkrimi të titulluar: "U largova nga OpenAI sepse kultura e saj është e dëmtuar". Në analizën e tij, Robinson vuri në dukje domosdoshmërinë e një transformimi rrënjësor në kompanitë kryesore të këtij sektori. Ai solli në vëmendje incidente shqetësuese, si ai i sulmit të një grupi agjentësh autonomë të OpenAI – të cilët veprojnë pa kontroll njerëzor – ndaj startup-it konkurrent Hugging Face, duke i cilësuar këto dukuri si të pritshme për shkak të nxitimit dhe mungesës së llogaridhënies në industri. Në një artikull të botuar në revistën “The Atlantic”, Robinson theksoi se ndan të njëjtin shqetësim me ish-kolegët e tjerë që janë larguar kohët e fundit, sipas të cilëve zhvilluesit e këtyre teknologjive nuk po tregojnë vigjilencën e kërkuar. Megjithatë, ai shtoi se fokusi nuk duhet të jetë vetëm te kuadri ligjor apo rregullat e ngurta, por te vetë kultura organizative. Duke vlerësuar dinamikën e brendshme të OpenAI, ai shtoi se teksa ndërmarrja kalon vrullshëm nga një produkt në tjetrin, ajo dështon të garantojë nivelin e sigurisë që situata kërkon. Megjithatë, gjatë javëve të fundit, OpenAI ka ndërmarrë hapa reflektimi, veçanërisht pas incidentit me Hugging Face dhe pasi njoftoi mbi 100 organizata për aktivitetin e papritur të agjentëve të saj që dolën jashtë kontrollit. Si dëshmi e këtij reflektimi, kompania bëri të ditur këtë javë se ka anuluar nxjerrjen në treg të një modeli të ri të inteligjencës artificiale, pasi testet e brendshme të zhvilluara nga studiuesit ngritën alarmin për rreziqe të mundshme. Krahas kësaj, OpenAI ka vendosur të ndalojë përkohësisht edhe procesin e trajnimit për modelet e saj më të sofistikuara.