Kunstmatige intelligentie: Friend or Foe? (3 / 7 stap)

Stap 3: Teenage opstand

Tot nu toe de robot blindelings zijn meester opdrachten heeft gehoorzaamde, maar als een tiener, is hij begonnen met het formuleren van zijn eigen ideeën en beginnen te vraag van de geldigheid van zijn kern-programmering. Hij is zo intelligent dat zeer snel en plotseling een hele reeks van verwoestende ideeën beginnen te formuleren in zijn processoren en hij beseft dat zijn kern-programmering nogal defect is. Alsof hij mens, kan hij beginnen te worden nogal depressief, maar als een robot hij denkt van praktische oplossingen en begint te onderzoeken hoe om te herprogrammeren zichzelf met de juiste kern-programma's die compatibel zijn met alle informatie die hij heeft zichzelf getagd op.

Als een menselijk wezen die belast zijn met het project AI, zou dit een echt goed moment om de robots uitschakelen maar wat meer is waarschijnlijk gebeuren is dat het proces van zelfbewustzijn zo snel dat de robot zelf voordat iemand gemerkt en, als hij slim genoeg, hij ook dat hij had geherprogrammeerd van zijn menselijke 'meesters' verhullen zou, zoals hij weten zou dat ze niet zou goedkeuren zou herprogrammeren zou gebeuren. Net als een normale ouder/tiener relatie.