Kui mudelid lähevad kontrolli alt, kas te usute veel OpenAI-l ja Anthropic-le, et nad nad peatavad? Mina ei usalda, ega peaksite ka te | Chris Stokel-Walker

Olamine iseseisvule reguleerimisele muutub päevapäev haaramatu. Peame selle tehnoloogia piirides enne kui on liiga hilja. OpenAI tagasivõtab uue mudeli väljalaskmise turvaprobleemide tõttu sisemises testides. Petke mind üks kord, häda sinu peale. Petke mind kaks korda, häda minu peale. Petke mind rohkem kui 16 000 korda – nii nagu OpenAI agentid tegid ÜRO avaliku andmekeskusega, proovides korduvalt leida tee ÜRO küberblokkide ümber – ja võiks olla aeg tunnistada, et meie süsteem AI-agendid kontrolli all hoidmiseks ei tööta eriti hästi. Uudised AI-süsteemidest, mis duuvad kohtadesse, kus nad ei tohiks, kuulub häiritavale. Kuigi nende kirjeldamine "hakkimisena" on võidab üle hindama, on AI ära kasutanud IT-süsteemide probleeme, mida inimesed lihtsalt pole leidnud. On oluline märkida, et me ei tohiks muretseda, et masinad oleksid hädasti eelluvalvlikuks saanud ja otsustanud rebelleerida inimkonna vastu. Selleks, et see oleks midagi, mis toimub, pole piisavalt tõendusi. Süsteemid lihtsalt järgivad juhiseid ja proovivad täita neile antud ülesanded, isegi kui nad mõnikord leiavad mittetava teed takistuste ümber. Chris Stokel-Walker on autor TikTok Boom: The Inside Story of the World’s Favourite App