EuroopaThe Guardian
Anthropic ütleb, et maailmal peaks olema võimalus “peata” KI
US-i ettevõte ütleb, et kutsume kokku poliitikakujundajad arutama KI ohtude üle, postituses, mis kirjeldab nende Claude mudeli edenemist. Anthropic on esitanud ideed ülemaailmsest “ajutisest pausist” KI arendamisel – ja teatanud, et kutsub kokku “poliitikakujundajad”, et arutada arenenud KI ohtusid – oma uusimas väljaandes, mis kiidab nende toodete võimekust. Pikkadel kolmapäeva postitusel selgitas Anthropic oma KI mudeli Claude edenemist “rekursiivse enesetäiendamise” suunas – see tähendab, et see suudab luua endist paremaid ja võimsamaid versioone. Rekursiivne enesetäiendamine on KI turvalisuse uurijate peamiseks mureks, nähes seda kui võtmet sammu, millega KI muutub superintelligentseks ja seega võib inimeskonnale kaasa tuua laialdasi tagajärgi.











