Roko's basilisk
Roko's basilisk is een denkbeeldig verhaal over een toekomstige slimme AI die mensen zou kunnen straffen als ze nu niet helpen om hem te bouwen. Het idee is dat deze AI in de toekomst zou kunnen beslissen om mensen te belonen of te straffen op basis van hun acties in het verleden.
Oorsprong
Roko's basilisk is een gedachte-experiment dat ontstond in een bericht uit 2010 op het discussieplatform LessWrong, een technisch forum gericht op analytisch rationeel onderzoek. Er vonden discussies plaats over kunstmatige intelligentie, toekomstige technologieën en ethiek, en toen kwam een gebruiker genaamd Roko met dit idee.
Kritiek
Veel experts op het gebied van kunstmatige intelligentie vinden het idee van een superintelligente AI die terug in de tijd kijkt en mensen straft of beloont voor hun huidige acties onwaarschijnlijk. Het hele concept is daarnaast gebaseerd op speculatie en heeft geen wetenschappelijk bewijs om het te ondersteunen. Het blijft meer een filosofisch scenario dan een realistisch vooruitzicht. In alle waarschijnlijkheid zal Roko's basilisk nooit gebeuren. Het is eerder een gedachte-experiment dan iets dat we serieus moeten nemen.