menu
Wie denkt dat artificiële intelligentie (AI) een ver-van-zijn-bedshow is, heeft het mis.
AI komt niet enkel aan bod in futuristische sciencefictionfilms of op hippe technologie-beurzen. AI is overal, ook in jouw leven. De gepersonaliseerde reclamefolder van de supermarkt met aanbiedingen 'speciaal voor jou'? AI. De suggesties op Spotify? AI. De zelfregelende verkeerslichten op de hoek van je straat? AI. E-mails die automatisch in je spambox terechtkomen? AI.
Het valt niet te ontkennen. Artificiële intelligentie dringt met een duizelingwekkende snelheid onze realiteit binnen. Ze duikt niet alleen op in jouw dagelijkse leven, maar ook in de verschillende bedrijfssectoren. Dat roept veel vragen op. Wat kan AI allemaal? Wat nog niet? En in hoeverre is AI écht intelligent en een meerwaarde voor onze manier van leven?
Geertrui Mieke De Ketelaere, programmadirecteur AI bij IMEC, volgt de ontwikkelingen in deze fascinerende wereld vanop de eerste rij. In dit boek legt ze toegankelijk en helder de basisconcepten van AI uit. Daarbij heeft ze niet alleen aandacht voor de vele kansen die AI biedt, maar wijst ze ook op de risico's. De Ketelaere neemt je mee voorbij de hype, waardoor je geïnformeerd kunt deelnemen aan dit boeiende debat. Eén waarheid staat daarbij als een paal boven water: AI is vandaag al erg belangrijk, maar wordt voor onze toekomst cruciaal.
Interessant boek. Echt waar. Ik heb het zo ongeveer helemaal uitgelezen, zeer weinig overgeslaan. Ik geef je hieronder een korte samenvatting en/of bedenking bij elke sectie in het boek. Misschien vind je hier en daar iets nuttig, maar het boek is meer dan de som van de delen, en dat gebeurt niet zo dikwijls. Het blijft dus interessant om te lezen. Ik zou zeggen dat het vooral geschreven is met een open blik, uitgaande van actuele kennis over Artificiële Intelligentie, maar altijd met het oog op menselijke en maatschappelijke aspecten. Het is echter geen roman, wel droge kost, op hier en daar een persoonlijke noot na. De prima schrijfstijl en de min of meer logische structuur maken het m.i. verteerbaar. Als je even doorbijt in het begin, om de stijl te vatten, loopt de rest vanzelf. Onderweg krijg je heel wat technische informatie voorgeschoteld, maar ook sociale probleemstellingen, en krijg je een zicht op zowel de voor- als de nadelen van AI- (en andere) systemen. Dat we nood hebben aan meer AI-vertalers (mensen die AI kunnen kaderen en implementaties kunnen begeleiden) is een constante boodschap in het boek. Anderzijds werkt de schrijfster als ingenieur in de sector (weliswaar niet als expert, maar als AI-generalist), en dan weet je wel dat je een overwegend positief beeld gaat krijgen. Misschien moet je dat nog aanvullen met wat AI-inzichten uit de sociale sector, voor zover die al bestaan.
AI-vertaler – "We zitten met te veel AI-specialisten, en te weinig generalisten. Te veel mensen die veel weten over één aspect, en te weinig over verschillende disciplines tegelijk". Daarbij geeft ze enkele betrokken groepen: sociologen, techneuten, juristen, overheid, business, burgers, met daartussen de "AI-vertaler". OK.
Surfen op het algoritme – De schrijfster is bang dat een tekort aan AI-vertalers de huidige opgang van AI zal fnuiken.
Wat is AI? – Artificieel = kunstmatig. OK. Intelligentie is wat moeilijker. Inderdaad, want daar heb je veel soorten in (analytisch, praktisch, sociaal, …). Een definitie: "computersystemen die zelfstandig leren, beslissingen nemen, en ze ook uitvoeren". Dat laatste zou ik er niet bij gezet hebben, omdat onduidelijk is wat uitvoeren inhoudt; als het "publiceren" betreft, is dat niet meer dan logisch (wat mij doet denken aan de ideale computer: je stopt er je probleem in, en het komt er nooit meer uit); als het ook "realiseren" betekent, klopt het niet. Een AI-systeem genereert een resultaat, en dat wordt (al dan niet!) verwerkt door ander systeem; vermits dat ander systeem niet noodzakelijk geïntegreerd is met het AI-systeem, hoort dat niet thuis in de definitie. Foutje.
Machine learning en neurale netwerken – AI is algemeen; daarbinnen vinden we lerende machines (over AI die buiten lerende machines valt wordt niks gezegd); daaronder komen neurale netwerken (over andere vormen van machine learning wordt weer niets gezegd), en dan deep learning (dat blijkbaar gaat over neurale netwerken met zeer veel data). Ik vraag mij af of (of in hoever) deze indeling gekend of zelfs standaard is in de AI-industrie; ik mag hopen van niet, want ze is alles behalve doordacht.
Eng, breed en super – Enge AI kan één taak uitvoeren, brede AI meerdere, en super AI overstijgt de menselijke intelligentie. Momenteel kennen we alleen enge AI.
Turing-test – De Turing-test is ontworpen om te bepalen of een gesprekspartner al dan niet menselijk is, maar rammelt aan verschillende kanten.
Ray Kurzweil – Een soort opvolger van Turing, die straffe uitspraken produceert, maar de schrijfster gaat er realistisch mee om.
Hype – Diverse voorbeelden van misbruik van de hype. Met opnieuw de vermelding van het belang van AI-vertalers om te vermijden dat de positieve golf weer ineen zakt.
Mensgerichte AI – AI is slechts een hulpmiddel, dat moet ingezet worden ten voordele van de mens. Hier volgt ook een overzicht van de hoofdstukken.
Alles bijeen geeft deze inleiding de indruk dat het onderwerp op een realistische en veelzijdige manier benaderd wordt. Die paar foutjes lijken verder geen invloed te hebben.
Worden computers slimmer dan mensen? – Computers verslaan grootmeesters in schaken en Go.
Algoritmes – Een algoritme is regelgebaseerd of zelflerend.
Neurale netwerken – Waarom een neuraal netwerk zo heet wordt niet uitgelegd. Dat een neuraal netwerk een soort algoritme is gaat er bij mij niet in.
Leren in drie smaken – Gesuperviseerd, ongesuperviseerd en versterkend. Dat laatste wordt minder goed uitgelegd. Er wordt bv. niet gezegd wat dynamisch programmeren is, of wat het woord "adversarial" betekent, hoewel dat wel nodig is voor een goed begrip van de uitleg.
Topmodel gezocht – Gaat over het iteratief aanpassen van een AI-model, tot het voldoende betrouwbaar is voor gebruik op echte data i.p.v. trainingsdata.
Zelfrijdende crash – Het probleem van AI-systemen in auto's die verkeerde beslissingen maken, inclusief het voorbeeld van een UBER-testauto die een overstekende fietsster doodreed. Dat de schrijfster zegt dat we moeten rekening houden met het aantal ongevallen mét bestuurders vind ik niet terecht. Van een mens verwachten we immers geen 100% betrouwbaarheid, van een computer wel.
Moravec's paradox – Computers zijn goed in intelligentietests en spelletjes als schaken, maar slecht als het gaat over perceptie en mobiliteit. Daar leidt de schrijfster uit af dat intelligentie (de I van AI) meer is dan slimheid, en ook in motorische vaardigheden zit. Dat is uiteraard een vlag-en-ladingprobleem. Het deel over de vijf AI-scholen is interessant, maar te oppervlakkig om nuttig te zijn.
Mens versus machine – Maakt de vergelijking, en constateert dat de mens nog veel dingen veel beter kan dan de computer.
Algorithmic bias – Een algoritme neemt vooroordelen over uit de ingangsdata. Nog een werkterrein voor AI-vertalers.
Black box – Een geweldig voorbeeld van een absurd gebruik van AI. Blijkbaar een systeem van het zevende knoopsgat (!), en een geval van managerialisme. Dit gaat over metingenfixatie in het onderwijs; zie ook Jerry Muller's The Tyranny of Metrics, meer bepaald hoofdstuk 8. Die Amerikanen ook…
Zet 78 – Of hoe een AI-systeem soms de mist in gaat bij een onverwachte input (foutieve procedure).
De olie van slimme computers – Over de rol van data in AI-systemen, met gezichtsherkenning (cfr. ClearView) als voorbeeld (en een zeldzame taalfout: "gezichten, inclusief waarschijnlijk de jouwe, dienen als brandstof…"; niets is perfect, maar qua taal scheelt het hier toch niet veel). Ander leuk voorbeeld (voor de iets ouderen): auto's leren herkennen aan hun geluid…
De vijf dimensies – Volume, variety, velocity, value en veracity. Gewrongen in een vijf-V lijstje; kan niet deugen. Maar de beschrijving is zeer interessant. En in bepaalde opzichten alarmerend: enerzijds worden onbevattelijk veel data geproduceerd, ook waardeloze (omdat waardebepaling zo moeilijk is), anderzijds is er weinig aandacht voor de kwaliteit van de input van sytemen. Wat m.i. uiteraard ook betekent dat AI-systemen worden gevoed met waardeloze data. Waarvan de meeste het gevolg zijn van basale fouten…
Gezondheid – Over de bronnen van gezondheidsdata, en het eigenaarschap daarvan. Met de positieve hoop dat we kunnen evolueren van curatieve naar preventieve gezondheidszorg. De kwalijke gevolgen (bv. misbruik door verzekeringsmaatschappijen) wordt onderbelicht.
Clicks en personal things – Over ons klikgedrag, en wat daaruit volgt. Bangelijk is dit. Gedrag van gebruikers die niet beseffen wat ze allemaal toestaan wordt door energievretende systemen gebruikt voor allerlei commerciële processen waar niemand beter van wordt, en zeker de aarde niet.
GDPR – Kort stukje, maar wel weer een voorbeeld van de vlotte en persoonlijke schrijfstijl van de auteur.<br>Solid – Over het initiatief van Tim Berners-Lee om gebruikers weer eigenaar te maken van hun data. Ik denk dat de toekomst daarvan zeer onzeker is, ook na lezing van het interview met Ruben Verborgh.
Wie controleert AI? – AI vreet energie, en hoe langer hoe meer. Daar probeert men wel iets aan te doen, o.m. met AI-systemen (!) die koelingskosten reduceren met 10% (?!)… Zie je wat hier gebeurt? De boel heet stoken met zware IT-systemen, en dan de koeling optimaliseren, wat nog eens extra energie vergt. De wereld zou beter af zijn als de bedrijven het geld dat ze aan AI besteden direct zouden uitdelen aan de medewerkers.
AI wordt tastbaar – (Deze tussentitel was niet nodig.) Hier wordt terecht gevraagd: wie controleert deze vooruitgang (van AI en de bijbehorende energieconsumptie).
Madonna versus Basic – Een vergelijking van rekenkracht nu met die van dertig jaar geleden (die overigens volstond om mensen op de maan te zetten!). Hier toch een voorbeeldje van navelstaren in de ICT-sector, als de schrijfster beweert dat zonder de wet van Moore we niet allemaal een smartphone hadden, en laptops niet mogelijk waren. Dat is echter geen gevolg van de wet van Moore, maar wel van de exponentieel groeiende rekenkracht van computers, die weliswaar wordt beschreven door de wet van Moore (en overigens omwille van fysische beperkingen niet eeuwig kan blijven gelden, zoals terecht wordt uitgelegd).
Basisstructuur – De Von-Neumann-structuur (een CPU, geheugen, en communicatie daartussen) levert beperkingen op voor AI.
AI-versnellers – Interessant stukje over alternatieven voor CPU's, afwijkend van de Von-Neumann-structuur. In het kader over NVIDIA jammer genoeg twee keer "GPU" waar "CPU" moest staan (computerfoutje?).
In de wolken – Bedrijven hebben niet altijd zelf de reken- en opslagcapaciteit in huis, maar gebruiken die van datacenters.
Oplossingen aan de rand – Dit is wat onduidelijk, omdat niet uitgelegd wordt wat de "edge" is (volgens mij vooral een buzzwoord dat klanten moet lokken).
Techgiganten – Het gebruik van AI bij Facebook, Apple, Microsoft, Google en Amazon.
Dot-com bubble – De gevolgen van overdreven verwachtingen van de markt (en verdiensten van consultants) rond de eeuwwisseling.
Halen we hen in? – Het onmisbaar moreel kompas is sterker in Europa dan in Amerika.
Steelt AI onze jobs? – Een Amerikaanse toppoliticus hekelt de vervanging van miljoenen jobs door technologie, en er wordt veel onderzoek naar gedaan. Over het meest bangelijke element, nl. de bedenkelijke kwaliteit van geleverde IT-systemen, die allicht ook invloed heeft op dit proces, wordt niets gezegd.
Hokjesdenken – Over het gevaar van hokjesdenken, dat extra gevaar oplevert als er gebrekkige aspectscheidingen aan te pas komen (!). En alle bedenkelijke eigenschappen van de mens dreigen in AI-systemen teecht te komen. Dit boek blijft goed, als je het aandachtig leest.
Beeldherkenning – Een systeem kan een beeld herkennen, maar heeft geen benul van de betekenis erachter. Een kind herkent een cijfer ondersteboven, een computer niet. Een computer kan wel op korte tijd meer beelden bekijken dan een mens in zijn hele leven.
Spraakherkenning – Wat gewone dingen over spraakherkenning, een belangrijk gebied voor AI, en wat interessante dingen over ethiek (een aspect dat m.i. in elke technologie dreigt verkracht te worden door criminelen).
Misleidende AI – Een AI-systeem wordt getraind om wolven van husky's te scheiden op foto's, en blijkt uiteindelijk te reageren op al dan niet sneeuw. Of hoe een computer geen weg weet met menselijke intenties, of het verschil tussen correlatie en causaliteit.
Context matters – Een AI-systeem kan maar bruikbare resultaten afleveren als voldoende rekening gehouden is met de sociale context.
Failliet – Niet elk AI-bedrijf is succesvol. Als het economische model niet goed is, volgt een faillissement.
AI bij corporates – Zoals bij alle IT-projecten gaan ook AI-projecten af en toe de mist in. Nagels met koppen geslagen.
Computer versus mens? – Een beetje samenvatting, en beschouwingen over het onderwijs. Om twee keer te lezen!
Hoe maken we AI verantwoordelijk? – Vreemd dat die vraag gesteld wordt, want ze wordt niet beantwoord. Het gaat hier wel over bedenkelijke apocalyptische denkbeelden.
Onverwachte gevolgen – Waarschuwing voor de gevaren van misbruikte deep fake technieken. Zie ook hoger: "wetenschappers delen regelmatig heel open goedbedoelde innovaties, die andere actoren vervolgens voor slechte doeleinden kunnen gebruiken". Hier wordt een probleem aangeraakt, maar niet besproken: het maakt niet uit of je technologie "neutraal" noemt of niet, er wordt in ICT, economie en politiek en nog wat gebieden te weinig rekening gehouden met de slechte kanten van de mens.
Eed van Hippocrates – Maar die helpt daartegen uiteraard niet. Hier wordt nog doorgegaan op de verantwoordelijkheid van de ontwerper of de ingenieur. Ik ben het niet eens met de schrijfster dat dit uitspattingen kan voorkomen. Onkruid groeit overal, en ethiek vermag absoluut niets tegen criminaliteit.
Vier grondprincipes – Gaat nog wat door op het onderwerp, zonder het ethisch probleem op te lossen, maar raakt intussen wel heel wat interessante punten aan. Wat helaas niet wordt behandeld is de vraag of het zin heeft om AI met al zijn nadelen in te zetten voor problemen die ook met een eenvoudiger (bv. regelgebaseerd) systeem kunnen opgelost worden (bv. toekenning van een lening). Anderzijds vraagt de schrijfster zich ook terecht af of we wel een eerlijk systeem kunnen bouwen boven op een onrechtvaardige maatschappij… Goed boek!
Red Queen hypothese – Onduidelijk stukje, waaruit niet blijkt wat die hypothese inhoudt. De conclusie is dat AI-vertalers nodig zijn.
Richtlijnen voor AI – Het was te verwachten dat allerlei groeperingen worden opgericht om te werken rond ethische AI. Uit diverse richtlijnen heeft de schrijfster "zeven geboden" afgeleid; alvast een interessante poging, maar dat zal criminelen uiteraard worst wezen.
Verbod – Wordt al hier en daar toegepast, bv. voor gezichtsherkenning, maar dat lost het probleem uiteraard niet op.
Asimov – Zijn regels dateren van 1942, en zijn voor discussie vatbaar.
Wat is de toekomst van AI? – Het antwoord is genuanceerd. Het hele boek ook trouwens, wat enerzijds het lezen de moeite waard maakt, en anderzijds AI (beter A.I.!) nog te veel promoot naar mijn goesting, wat je uiteraard de schrijfster moeilijk kan verwijten. Eén van mijn algemene stellingen: als ge een systeem installeert om een probleem op te lossen, krijgt ge vervolgens problemen met dat systeem. Met A.I. zal het niet anders zijn. Als beslissers dat zouden begrijpen, groeit misschien het besef dat we beter alles zo eenvoudig mogelijk zouden maken.
Vier fasen – Een schets van mogelijk opeenvolgende stappen in de evolutie van AI-systemen.
Breinchauvinisme – Over het idee dat hersenen de enige bron van intelligentie zouden zijn.
Andere vormen van intelligentie – Eigenlijk een interessante sectie. Hier wordt iets gezegd over de "intelligentie" van dieren en planten. Zeker van planten zijn we (ben ik) niet geneigd in die termen te denken, maar wel in termen van louter biologische processen. Ook in de mens is alles, tot en met nadenken en emoties, een kwestie van biochemie. Als we zeggen dat planten geen intelligentie hebben, hoewel ze evengoed leven en evolueren, geldt dat misschien voor onszelf ook wel?! Ik vrees dat het idee dat de mens de natuur en zichzelf kent en onder controle heeft, in veel sectoren, en vooral sociologie, economie en ICT, meer kwaad dan goed doet.
De Celestijnse Belofte – Alsof de duivel ermee gemoeid is gaat deze sectie min of meer in op mijn vorige opmerking. Tegelijk vormt dit stuk een afsluiter van het boek. De conclusie is eens te meer dat we meer AI-vertalers nodig hebben…