# ‘n Senior navorser by die kunsmatige intelligensiemaatskappy Anthropic sê daar is ‘n kans van minstens 10-persent dat gevorderde kunsmatige intelligensie alle mense binne die volgende dekade kan uitwis. Evan Hubinger, wat Anthropic se belyningsnavorsing lei, het tot die gevolgtrekking gekom nadat ‘n ander maatskappynavorser bedank het weens kommer dat KI-firmas te vinnig na selfverbeterende stelsels beweeg. Hy sê die risiko is tans laag, maar is bekommerd dat toekomstige stelsels moontlik in staat sal wees om tot buite menslike beheer te verbeter. Anthropic werk daaraan om hierdie risiko’s aan te spreek, maar erken daar is nog geen omvattende oplossing nie.
KI-veiligheidsnavorser waarsku oor moontlike bedreiging vir die mensdom