Is artificiële intelligentie verworden tot alchemie, zoals sommige critici stellen? Of was dat alleen maar te verwachten? Een column.
Als zelfkritiek het begin van de wijsheid is, dan staat er artificiële intelligentie (AI) als wetenschappelijke discipline een gouden toekomst te wachten.
Ali Rahimi, een AI-onderzoeker bij Google, oogstte vorig jaar al een langdurig applaus van zijn collega’s op een conferentie, toen hij stelde dat een deel van het onderzoek naar kunstmatige intelligentie aan het verworden is tot ‘alchemie’.
In een recent artikel heeft hij verduidelijkt wat hij daarmee bedoelt. AI-programmeurs gebruiken allerlei algoritmes voor ‘machine learning’ (waarmee computers zelf kunnen bijleren) zonder goed te begrijpen waarom die werken of waarom het ene beter is dan het andere. Veel werk is in essentie gebaseerd op trial and error, zonder achterliggend begrip.
Rahimi en de collega’s die hem bijvallen, schuwen de grote woorden niet. ‘Er waart angst door de discipline’, verklaarde Rahimi in het vakblad Science, ‘Velen van ons voelen ons alsof we met een buitenaardse technologie aan het werk zijn.’
‘Mensen troepen samen rond namaak-wetenschappelijke praktijken’, zegt François Chollet, ook van Google, het is alsof ze geloven in ‘folklore en magische bezweringen’.
De verwijzingen naar magie of alchemie zijn natuurlijk boutades. Maar misschien hoeven ze ook niet al te zeer te verbazen. Tenslotte heeft het creëren van een kunstmatige mens, een golem, altijd al tot het domein van alchemie en magie behoord. En er is het bekende citaat van sciencefictionschrijver Arthur C. Clarke: ‘Elke voldoende geavanceerde technologie is niet te onderscheiden van magie’.
Rahimi heeft ook meer concrete kritiek. Hij haalt het voorbeeld aan van een ingewikkeld vertaalalgoritme, waar onderzoekers bij wijze van experiment de meeste complicaties uit weghaalden, met als resultaat dat het vereenvoudigde algoritme bétere vertalingen van Engels naar Frans of Duits produceerde. Wat liet zien dat de makers van het oorspronkelijke algoritme zelf niet wisten waar al die complicaties goed voor waren.
In andere gevallen bleken het alleen de toevoegingen, de bells and whistles te zijn die een AI-systeem goed deden werken, terwijl de kern van het algoritme niet deugde.
De critici hopen dat een veel rigoureuzere aanpak, met meer systematische experimenten, zoals in andere wetenschapstakken, de problemen kan helpen oplossen.
Maar misschien gaat die hoop wel voorbij aan de realiteit dat artificiële intelligentie niet alleen een wetenschapstak is, maar vooral ook een praktische discipline. Bedrijven verwachten van hun ontwikkelaars snelle resultaten. Liever volgende maand een algoritme dat min of meer werkt, dan over twee jaar een doorwrocht en peer reviewed wegenschappelijk artikel met een algoritme dat door en door begrepen is.
Trouwens, zó geavanceerd dat ze wel magie lijkt, à la Arthur C. Clarke, is artificiële intelligentie nog lang niet. Of zoals de AI van Google Translate het uitdrukt in een poging de vorige zin in het Engels te vertalen ‘So advanced that it seems like magic, artificial intelligence is far from’.
Deze column is op 25 augustus 2018 verschenen in De Tijd.