Onlangs heb ik een artikel op LinkedIn gepost over ‘Google Neural Machine Translation’ (GNMT) dat spontaan creatief werd. Zonder dat iemand GNMT een opdracht gaf, ontwikkelde het uit zichzelf een nieuwe taal omdat hij (of zij?) vond dat dat nodig was.
Stop nu even met lezen en laat dit goed tot je doordringen. Een computersysteem dat ontworpen is om te vertalen, besluit een (interne) taal te ontwikkelen om zijn taak beter te kunnen uitvoeren. Zonder opdracht, gewoon uit zichzelf, in een paar weken tijd. Is dat eng? Mijn eerste reactie was: ‘wow, dit is eng. Waar gaat dit toe leiden?’ Is dit het begin van een periode waarin (autonome) systemen de mens de baas zijn? Of is het een mooie case om te leren hoe dit soort fenomenen ontstaan? De tijd zal het leren. Laten we deze ontwikkeling nou eens in specifieke context plaatsen, bijvoorbeeld van een vermogensbeheerder.
Het is donderdag 1 maart 2019, 08:15 uur. Het is nog rustig bij BigBucks Asset Management in Amsterdam. Jaap de Vries heeft net zijn account opgestart en begint zijn dagelijkse routine: het checken van de posities die door het in december 2018 geïntroduceerde ‘Smart Trader’ systeem (of Smartie, zoals het systeem liefkozend op de werkvloer genoemd wordt) zijn ingenomen of afgebouwd. Smartie is eigenlijk een soort collega van Jaap. Dit computersysteem is namelijk met behulp van algoritmen in staat zelf trader beslissingen te nemen, op basis van een aantal parameters die door BigBucks gedefinieerd zijn. Het is Jaaps taak om te checken of Smart Trader de juiste beslissingen genomen heeft.
Als Jaap de resultaten van de trades die Smartie de afgelopen nacht gemaakt heeft bekijkt, geeft hij een brul, waardoor zijn collega’s opkijken: ‘OMG, Smartie heeft vannacht een waanzinnig rendement behaald op de Amerikaanse markt! Wat blijkt? Smartie heeft op eigen initiatief, dankzij voortschrijdend inzicht, zelf de door BigBucks gedefinieerde parameters bijgesteld, nieuwe algoritmen geschreven en daardoor een waanzinnig rendement behaald. Machine Learning optima forma, in deze vorm Deep Learning genoemd.
Dit scenario kan natuurlijk ook anders uitpakken: ‘OMG, Smartie heeft een dramatisch verlies geleden vannacht!’
Kern van het verhaal: de techniek is op een punt beland waarop computersystemen in staat zijn zonder menselijke tussenkomst te besluiten zichzelf aan te passen. Daarmee is een mijlpaal bereikt: autonome systemen die beslissingen nemen zonder menselijke interactie. Google heeft al laten zien dat het gebeurt. Wellicht weten we (nog) helemaal niet dat een aantal andere systemen in de wereld autonoom aan het opereren zijn en de mens de controle aan het verliezen is.
Als Technology Innovation Hunter word ik tamelijk enthousiast van dit soort ontwikkelingen. Het heeft een enorme potentie op veel gebieden, denk maar aan wetenschappelijk onderzoek en gezondheidszorg. Tegelijkertijd geeft het een onheilspellend ‘Deamon’ gevoel (naar het boek van Daniel Suarez) waarin computers de macht in de wereld overnemen en de mensheid onderwerpt.
Kortom: nu wordt pas het echt eng… of toch niet? Wie het weet mag het zeggen…
Wout Bucker
Chief Fun Officer & Technology Innovation Hunter
