Rudolf Cole
0 
2738
51
Het is Elon Musk op zijn Elon Musk-iest: volgens nieuwsberichten ontmoette de ondernemer in de ruimte en elektrische auto zijn huidige vriendin door een grap te maken over verraderlijke kunstmatige intelligentie.
Musk en de muzikant Grimes, wiens echte naam Claire Boucher is, gingen maandag (7 mei) als koppel naar het Met Gala. Volgens de roddelpublicatie Page Six ontmoetten de twee elkaar via Twitter, toen Musk dacht een woordspeling te maken over 'Rococo's Basilisk', een mashup van het gedachte-experiment 'Roko's Basilisk' en de uitbundig versierde stijl die te zien was in het 18e-eeuwse Frankrijk.
Musk ontdekte al snel dat Grimes in 2015 dezelfde woordspeling had gemaakt in een videoclip, en de rest is romantische geschiedenis. Roko's Basilisk, aan de andere kant, is een angstaanjagende visie op de toekomst en het centrum van een jarenlange online subcultuur maalstroom.
Het begin
Het geheel begon in 2010, toen iemand die langs Roko ging een gedachte-experiment plaatste op de site LessWrong, een forum waar mensen alles bespreken, van filosofie tot kunstmatige intelligentie (AI) tot cognitieve wetenschap. Het bericht is verwijderd, maar RationalWiki heeft een kopie bewaard. Roko's idee was dat als er in de toekomst een superintelligente AI zou ontstaan die is ontworpen om het algemeen welzijn te maximaliseren, het iedereen zou kunnen straffen die niet heeft bijgedragen aan het bestaan ervan. [Superintelligente machines: 7 robotfutures]
"Dit zou natuurlijk onrechtvaardig zijn, maar het is het soort onrechtvaardig dat oh zo erg utilitair is," redeneerde Roko..
Dit hypothetische zou plaatsvinden na de singulariteit, het punt waarop kunstmatige intelligentie niet meer te onderscheiden is van het leven zelf - in feite beter dan het leven zelf, omdat het dingen kan doen zoals zichzelf oneindig uploaden en een soort siliciumonsterfelijkheid bereiken. Als deze goddelijke kracht ontdekt dat jij niet hebt geholpen bij het creëren ervan, nou, sheesh. Het zou kunnen besluiten dat uw rechtvaardige beloning eeuwige pijniging is. [Een korte geschiedenis van kunstmatige intelligentie]
De naam "basilisk" kwam van een middeleeuwse legende over een slang die in één oogopslag kon doden.
Hier is echter de valstrik: als je niet wist van de mogelijkheid van Roko's Basilisk, ben je vrijuit - de AI komt waarschijnlijk alleen achter degenen aan die het bestaan ervan hebben voorspeld, maar ervoor hebben gekozen om bijvoorbeeld niet al hun wegwerpartikelen te doneren. inkomen om het tot stand te brengen. Alleen al door te lezen over de mogelijkheid van Roko's Basilisk, heb je jezelf gedoemd. (Sorry.)
Dat voorbehoud, in een notendop, is waar de online maalstroom begon. De oprichter van LessWrong, Eliezer Yudkowsky, hekelde de post als "STOM" en "echt gevaarlijk". Gewoon door heel gedetailleerd na te denken over hoe een AI je zou kunnen chanteren, had Roko zichzelf klaargemaakt om te worden gechanteerd, evenals alle anderen die het bericht zouden kunnen lezen.
"Ik verbied dit bericht zodat het (a) mensen geen vreselijke nachtmerries bezorgt en (b) verre superintelligences een motief geeft om door te gaan met chantage tegen mensen die dom genoeg zijn om voldoende gedetailleerd over hen na te denken," schreef Yudkowsky.
Van Roko tot romantiek
Het verbod op Roko's Basilisk-discussie over LessWrong duurde tot 2015. Yudkowsky schreef later op Reddit dat hij zijn reactie betreurde, waardoor het leek alsof hij dacht dat Roko gelijk had; hij gelooft eigenlijk dat geen enkele kunstmatige intelligentie die is ontworpen met de belangen van de mensheid in gedachten, uiteindelijk mensen zou martelen. In plaats daarvan, zo schreef hij, verwijderde hij het bericht omdat het idee voor niemand mogelijk voordeel had.
Musk is misschien vooral dol op de grappen van Roko's Basilisk, omdat de oorspronkelijke post hem noemde. Roko schrijft dat iemand als Musk, die "in zijn eentje de gezichten van high-impact industrieën verandert", in de goede gratie zou zijn van de theoretische bovenmenselijke AI. Musk heeft zich ook uitgesproken over de mogelijke gevaren van AI en riep vorige maand op tot regulering en waarschuwing dat AI een "onsterfelijke dictator" zou kunnen worden.
"Als AI een doel heeft en de mensheid toevallig in de weg staat, zal het de mensheid als vanzelfsprekend vernietigen zonder er zelfs maar aan te denken. Geen harde gevoelens", zei Musk in een documentaire genaamd "Do You Trust This Computer?" "die in april werd uitgebracht. 'Het is net alsof we een weg aanleggen en er staat toevallig een mierenhoop in de weg. We hebben geen hekel aan mieren, we bouwen gewoon een weg. Dus tot ziens, mierenhoop.'
Grimes, van haar kant, is een Canadese muzikant en beeldend kunstenaar die de woordspeling "Rococo Basilisk" bedacht voor haar videoclip "Flesh Without Blood". De video toont een personage dat pruiken in rococostijl en volumineuze jurken draagt en uiteindelijk in de buik wordt gestoken en onder het bloed zit op een tennisbaan..
"Ze is gedoemd om eeuwig te worden gemarteld door kunstmatige intelligentie, maar ze lijkt ook een beetje op Marie Antoinette," vertelde Grimes aan FuseTV..
Origineel artikel over .