Joseph Norman
0 
2893
307
Een vooraanstaand onderzoeker op het gebied van machine learning en kunstmatige intelligentie beweert dat zijn vakgebied buiten de grenzen van wetenschap en techniek is afgedwaald naar 'alchemie'. En hij biedt een route terug aan.
Ali Rahimi, die werkt aan AI voor Google, zei dat hij denkt dat zijn vakgebied verbazingwekkende vooruitgang heeft geboekt, maar suggereerde dat er iets rot is in de manier waarop het is ontwikkeld. Bij machine learning "leert" een computer via een proces van vallen en opstaan. Het probleem in een lezing gepresenteerd op een A.I. conferentie is dat onderzoekers die in het veld werken - wanneer een computer 'leert' door een proces van vallen en opstaan - niet alleen niet precies begrijpen hoe hun algoritmen leren, maar ze ook niet begrijpen hoe de technieken die ze gebruiken om die algoritmen ook te bouwen, suggereerde Rahimi in een lezing die werd gepresenteerd op een AI-conferentie die onlangs werd besproken door Matthew Hutson for Science magazine.
In 2017 sloeg Rahimi alarm over de mystieke kant van kunstmatige intelligentie: "We produceren verbluffend indrukwekkende resultaten", schreef hij in een blog. "Zelfrijdende auto's lijken om de hoek te komen; kunstmatige intelligentie tagt gezichten op foto's, transcribeert voicemails, vertaalt documenten en stuurt ons advertenties. Miljardenbedrijven zijn gebouwd op machine learning. In veel opzichten bevinden we ons op een betere plek dan we 10 jaar geleden waren. In sommige opzichten bevinden we ons op een slechtere plek. " [Superintelligente machines: 7 robotfutures]
Rahimi, zoals Hutson meldde, toonde aan dat veel algoritmen voor machine learning vastgepakte functies bevatten die in wezen nutteloos zijn, en dat veel algoritmen beter werken wanneer die functies worden verwijderd. Andere algoritmen zijn fundamenteel gebroken en werken alleen vanwege een dikke korst van ad-hoc fixes die bovenop het oorspronkelijke programma zijn gestapeld.
Dit is, althans gedeeltelijk, het resultaat van een veld dat gewend is geraakt aan een soort willekeurige, trial-and-error-methodologie, betoogde Rahimi in die blog. Onder dit proces begrijpen onderzoekers helemaal niet waarom de ene poging om een probleem op te lossen werkte en de andere mislukte. Mensen implementeren en delen technieken die ze op afstand niet begrijpen.
Mensen die AI volgen, worden misschien herinnerd aan het "zwarte doos" -probleem, merkte Hutson op in zijn artikel - de neiging van AI-programma's om problemen op te lossen op manieren die hun menselijke makers niet begrijpen. Maar het huidige probleem is anders: onderzoekers begrijpen niet alleen de probleemoplossende technieken van hun AI-programma's niet, zei Rahimi, maar ze begrijpen ook niet de technieken die ze gebruikten om die programma's te bouwen. Met andere woorden, het veld lijkt meer op alchemie dan op een modern onderzoekssysteem, zei hij.
"Er is een plek voor alchemie. Alchemie werkte", schreef Rahimi.
"Alchemisten hebben de metallurgie uitgevonden, manieren om medicijnen te maken, verftechnieken voor textiel en onze moderne glasproductieprocessen. Aan de andere kant geloofden alchemisten ook dat ze basismetalen in goud konden omzetten en dat bloedzuigers een prima manier waren om ziekten te genezen. . "
In zijn recentere lezing (en begeleidende paper) op de International Conference on Learning Representations in Vancouver, Canada, stelden Rahimi en verschillende collega's een aantal methoden en protocollen voor die machine learning buiten de wereld van alchemie zouden kunnen brengen. Onder hen: het evalueren van nieuwe algoritmen in termen van hun samenstellende delen, delen ervan een voor een verwijderen en testen of de algehele programma's nog steeds werken, en het uitvoeren van elementaire 'geestelijke gezondheidstests' op de resultaten die de algoritmen produceren.
Dat komt allemaal omdat AI, zo argumenteerde Rahimi in zijn blog van 2017, te belangrijk is geworden in de samenleving om op zo'n flauwe manier te worden ontwikkeld..
"Als je services voor het delen van foto's bouwt, is alchemie prima", schreef hij. "Maar we bouwen nu systemen die de gezondheidszorg en onze deelname aan het maatschappelijk debat regelen. Ik zou graag willen leven in een wereld waarvan de systemen zijn gebaseerd op rigoureuze, betrouwbare, verifieerbare kennis en niet op alchemie."