Phillip Hopkins
0 
4988
390
Een neuraal netwerk met de naam 'Norman' is verontrustend anders dan andere soorten kunstmatige intelligentie (AI).
Gehuisvest in MIT Media Lab, een onderzoekslaboratorium dat AI en machine learning onderzoekt, werd het computerbrein van Norman naar verluidt kromgetrokken door blootstelling aan 'de donkerste hoeken van Reddit' tijdens zijn vroege training, waardoor de AI met 'chronische hallucinatoire stoornis' achterbleef, aldus een beschrijving gepubliceerd op 1 april (ja, April Fools 'Day) op de website van het project.
Vertegenwoordigers van MIT Media Lab beschreven de aanwezigheid van "iets fundamenteel kwaads in de architectuur van Norman dat zijn herscholing onmogelijk maakt", eraan toevoegend dat zelfs blootstelling aan hologrammen van schattige kittens niet voldoende was om de schade die zijn computerbrein in de ingewanden van Reddit opliep, ongedaan te maken. [5 intrigerende toepassingen voor kunstmatige intelligentie (dat zijn geen geweldige robots)]
Dit bizarre verhaal is duidelijk een grap, maar Norman zelf is echt. De AI heeft geleerd te reageren met gewelddadige, gruwelijke scenario's wanneer ze inktvlekken voorgeschoteld krijgen; zijn reacties suggereren dat zijn "geest" een psychologische stoornis ervaart.
Door Norman een 'psychopaat AI' te noemen, spelen de makers ervan snel en los met de klinische definitie van de psychiatrische aandoening, die een combinatie van eigenschappen beschrijft die een gebrek aan empathie of schuld naast crimineel of impulsief gedrag kunnen omvatten, aldus Scientific American.
Norman demonstreert zijn abnormaliteit wanneer hij wordt gepresenteerd met inktvlekbeelden - een soort psychoanalytisch hulpmiddel dat bekend staat als de Rorschach-test. Psychologen kunnen aanwijzingen krijgen over de onderliggende geestelijke gezondheid van mensen op basis van de beschrijvingen van wat ze zien als ze naar deze inktvlekken kijken.
Toen MIT Media Lab-vertegenwoordigers andere neurale netwerken testten met Rorschach-inktvlekken, waren de beschrijvingen banaal en goedaardig, zoals 'een vliegtuig dat door de lucht vliegt met rook die eruit komt' en 'een zwart-witfoto van een kleine vogel', volgens de website.
De reacties van Norman op dezelfde inktvlekken namen echter een donkerdere wending, waarbij de "psychopathische" AI de patronen beschreef als "de mens wordt neergeschoten uit de auto" en "de mens wordt in de deegmachine getrokken".
Volgens de grap bevindt de AI zich momenteel in een geïsoleerde serverruimte in een kelder, met maatregelen om de andere computers van mensen en het internet te beschermen tegen besmetting of schade door contact met Norman. Ook aanwezig in de kamer zijn wapens zoals branders, zagen en hamers, voor het fysiek demonteren van Norman, "te gebruiken als alle digitale en elektronische fail-safes defect raken", aldus vertegenwoordigers van MIT Media Lab..
Verdere opmerkingen van April Fools suggereren dat Norman een uniek gevaar vormt, en dat vier van de tien onderzoekers die interactie hadden met het neurale netwerk "permanente psychologische schade" opliepen. (Er is tot op heden geen bewijs dat interactie met AI op enigerlei wijze schadelijk kan zijn voor mensen).
Neurale netwerken zijn computerinterfaces die informatie op dezelfde manier verwerken als een menselijk brein. Dankzij neurale netwerken kan AI "leren" onafhankelijke acties uit te voeren, zoals het onderschrijven van foto's, door gegevens te analyseren die laten zien hoe deze taak doorgaans wordt uitgevoerd. Hoe meer gegevens het ontvangt, hoe meer informatie het zal hebben om zijn eigen keuzes te maken en hoe waarschijnlijker het is dat zijn acties een voorspelbaar patroon volgen.
Een neuraal netwerk dat bekend staat als de Nightmare Machine - gebouwd door dezelfde groep aan het MIT - werd bijvoorbeeld getraind om beelden te herkennen die eng waren, door visuele elementen te analyseren die mensen bang maakten. Vervolgens nam het die informatie en gebruikte het door middel van digitale fotomanipulatie, waarbij banale afbeeldingen werden omgezet in angstaanjagende, nachtmerrieachtige afbeeldingen.
Een ander neuraal netwerk werd op een vergelijkbare manier getraind om horrorverhalen te genereren. Met de naam "Shelley" (naar "Frankenstein" -auteur Mary Wollstonecraft Shelley), consumeerde de AI meer dan 140.000 horrorverhalen en leerde ze eigen, originele, angstaanjagende verhalen te genereren.
En dan is er Norman, die naar een kleurrijke inktvlek kijkt die een standaard AI beschrijft als "een close-up van een bruidstaart op een tafel" en een "man ziet vermoorden door een snel rijdende chauffeur".
Maar er is misschien hoop voor Norman. Bezoekers van de website krijgen de mogelijkheid om de AI te helpen door deel te nemen aan een enquête die hun reacties op 10 inktvlekken verzamelt. Hun interpretaties zouden het eigenzinnige neurale netwerk kunnen helpen zichzelf te herstellen, suggereerden vertegenwoordigers van MIT Media Lab op de website.
Origineel artikel over .