“Lad os definere en ultraintelligent maskine som en maskine, der langt overgår de intellektuelle evner hos ethvert menneske, selv det klogeste. Da udviklingen af maskiner kræver en sådan intellektuel evne, ville en ultraintelligent maskine kunne udvikle endnu bedre maskiner; der ville da uden tvivl opstå en ‘intelligenseksplosion’, og menneskelig intelligens ville blive efterladt langt bagude.

Således ville den første ultraintelligente maskine være menneskets sidste opfindelse, hvis den vel at mærke er lydig nok til at fortælle os, hvordan vi kontrollerer den.”

Sådan skrev den britiske matematiker Irving John Good i Speculations Concerning the First Ultraintelligent Machine i 1966.

Forestil dig nu følgende scenarie: I 2022 købte Elon Musk Twitter, som han snart efter omdøbte til X.

Der var ikke nogen, der rigtig forstod, hvad han ville med Twitter/X indtil efteråret 2024, hvor det viste sig, at Musk ikke var drevet af...