The Guardiani nägemus AI kontrollimisest: inimkond ei saa oma ellujäämise välja tellida | Toimetus

Inimesed juhiks hoidmine ei tähenda palju, kui superarvutid määravad tõendid, valikud ja aja, millest nende otsused sõltuvad. Kui oleks 10% võimalus, et AI võiks inimkonda hävita, ei jätaks ükski vastutustundlik valitsus selle arendamise ettevõtetele, kes võistlewad selle ehitamise eest. Kuni hiljuti näis see välja selline. Hoiatus oli veelgi ominem, kuna see tuli Anthropici uuringutelt, triljoni dollarise AI ettevõtte taga, mis on Claudii juturoboti loomine. AI-lubatud pandeemide või tuumarsenaalide ohtud on reaalsed. Riigid ei pea nõustuma demokraatiaga või kaubanduspolitikaaga, et seda aktsepteerida. USA ja Hiina peavad, teadaolevalt, esimese kahepoolse AI-ohutuse arutelu enne planeeritud Valge Maja tippkohtumist Donald Trumpi ja Xi Jinpingi vahel. Kuuldes oma tehnoloogilise võitlusest, ei suuda ani Washington ani Peking teha kõige edasijõudnud AI-st ohutuks ise. USA-Hiina lepingu ei suuda öelda, kuidas AI töötab kõikjal. Riigid, mis AI-d kasutavad, peavad aidama kirjutada globaalse reeglistiku. Hinnangud inimkonna välja suremise sündmusele on lühenenud. Sel nädalal ütles Anthropic, et need on tuvastanud viis juhtu, kus prooviti nende malle kasutada bioloogiliste relvade arendamise toetamiseks. Need keelasid kontod. Ühes juhus saadeti platforma poolt Claudii poolt tagasi lükatud päringud väiksemate kaitsetega konkurentile. AI ohutus, selgelt, ei tohi olla kõige vastutustundmatu mudeli see. Kas sul on arvamus selles artiklis tõestatud küsimustele? Kui soovid saata vastuse kuni 300 sõna e-postiga, et arvestada meie kirjade sektsiooni avaldamiseks, klõpsa siin.