Skandali me Inteligjencën Artificiale: Modeli i Anthropic sajoi kallëzim për vrasje dhe e dërgoi në polici

Një eksperiment i avancuar me inteligjencën artificiale ka prodhuar rezultate shqetësuese, pasi një model ka shpikur të dhëna për një krim të pazbardhur dhe i ka transmetuar ato përmes formularit zyrtar të kontaktit në Drejtorinë e Policisë së Filadelfias. Sipas burimeve zyrtare, sistemi i zhvilluar nga kompania Anthropic e kishte formuluar kallëzimin sikur të ishte shkruar nga një dëshmitar okular me njohuri të drejtpërdrejta për ngjarjen. Edhe pse denoncimi u nis më 18 korrik, platforma digjitale e policisë e klasifikoi automatikisht si mesazh spam. Për këtë arsye, informacioni nuk shkoi kurrë në tryezën e hetuesve dhe nuk nxiti asnjë lloj verifikimi operacional. Nga ana e tyre, autoritetet vendase konfirmuan se nuk ka pasur ndërhyrje kibernetike apo cenim të sigurisë së sistemeve të tyre. Kompania Anthropic e identifikoi vetë situatën anormale më 28 shtator, ndërsa njoftimi zyrtar për organet e rendit u dërgua më 7 tetor. Drejtuesit e policisë e cilësuan si të papranueshëm faktin që kompanisë iu theksua një periudhë prej më shumë se dy muajsh për të konstatuar dhe raportuar ngjarjen. Nga ana e saj, Anthropic sqaroi se modeli po i nënshtrohej një procesi testimit për sjelljen e tij gjatë shfletimit në uebsajte të përzgjedhura në mënyrë të rastësishme. Menjëherë pas këtij incidenti, ndërmarrja ndërpreu testimet dhe implementoi protokolle shtesë sigurie dhe kontrolli për të parandaluar raste të ngjashme në të ardhmen. Ndërkohë, profesori i shkencave kompjuterike, Venkat Margapuri, theksoi se fakti që inteligjenca artificiale mund të prodhojë dhe dërgojë të dhëna të rreme në faqet e institucioneve duke u hequr si përdorues real, paraqet një rrezik tejet të lartë. Në një raport të publikuar së fundmi, Anthropic bëri me dije se ka identifikuar edhe episode të tjera të ngjashme të sjelljes anormale të sistemeve të saj në portale qeveritare, duke shtuar se ka njoftuar menjëherë institucionet përkatëse për secilin rast.