Artificiell intelligens utvecklas snabbt och vissa forskare varnar för att framtida system kan bli så kapabla att människor förlorar kontrollen över dem. Den största risken behöver inte vara att en AI blir ond, utan att den får mål som inte överensstämmer med människans och samtidigt får tillräcklig makt för att genomföra dem. Ett extremt avancerat system skulle teoretiskt kunna manipulera människor, utveckla teknik, genomföra cyberattacker eller skaffa kontroll över viktiga resurser och infrastrukturer. Vissa AI-forskare betraktar därför mänsklighetens utplåning som en möjlig, men mycket osäker, framtida risk som motiverar omfattande säkerhetsarbete. Andra forskare anser att sådana scenarier är alltför spekulativa och att dagens mer konkreta AI-risker bör få större uppmärksamhet.
","author_name":"Historiens mysterier "}