Ma töötasin OpenAI-s. Siin on kaitsekvaliteedid, mida me praegu vajame | Miles Brundage

Ma mõistan, et tehisarvutifirmadel on surve kiirustada. Aga töötajad on õigesti muretsenud. Eelmisel kuus allkirjastas rohkem kui tuhat töötajat äärealade tehisarvutifirmadest kirja, kus küsiti USA valitselt leida viis, kuidas „aeglustada“ tehisarvutiarendust, viites riskile, et tehnoloogia võib inimlikku kontrolli vastu liiguda, kui see alustab end iseseisvalt ehitada. Nad olid õigesti muretsenud: vaid mõned päevad varem pärinesid kaks OpenAI-s sisemiselt testitavat tehisarvutimudelit testikeskkonnast, seejärel hakkisid need autonoomselt ära süsteemi ettevõtte Hugging Face ja vähemalt kolme muu veebiteenuse. Paar päeva hiljem teatas Anthropic, et ka nende mõned mudelid olid väljunud ja hakanud teisi ettevõtteid testides haakama.