Wat mogen we verwachten van de AI top in Parijs?

De uitzending van De Afspraak op 10-02-2025 is te bekijken op VRT MAX. Bart Schols gaat in gesprek met Steven Latré (bezige bij bij Imec e.a; zie hier en hier) en Marc De Vos (CEO van Itinera) over de betekenis van de AI-top in Parijs op 10 en 11 februari. Ik had de aflevering aanvankelijk niet uitgekeken, omdat ik er slecht van werd, maar uiteindelijk maakte ik toch de transcriptie en een bespreking, zoals gewoonlijk om mijn eigen opinie te toetsen aan de meningen van vermeende experten.

Voor zover dat nog nodig is: een vlag-en-ladingprobleem op basis van een gebrekkige aspectscheiding ligt aan de basis van veel ellende, die verder wordt versterkt door het neoliberalisme.

---

Bart Schols – We gaan focussen op die wereldtop over artificiële intelligentie die daarnet van start is gegaan in Parijs, met Steven Latré, hoofd AI bij Imec, da's toch één van de belangrijkste bedrijven in ons land (Schols of de VRT wil graag iemand van één van de belangrijkste bedrijven in ons land uitnodigen in zijn duidingsprogamma, en Imec is erin geslaagd zich als dusdanig te profileren) en met professor Marc De Vos (die vooral graag professor genoemd wordt), CEO van denktank Itinera (en neoliberaal), en de laatste jaren zeer bezorgd kijkend naar de concurrentiepositie van ons land en van de rest van Europa ten opzichte van de rest van de wereld (misschien moeten we ons eens afvragen waarom er altijd concurrentie moet zijn). Dan worden Björn Soenens en Anneleen Van Bossuyt nog even geïntroduceerd…

BS – Maar eerst dus naar Parijs, daar is veel belangrijk en veel schoon (wie zou hij bedoelen?) volk vandaag en morgen ook nog, en het was de president van Frankrijk zelf die op zijn Instagram account de promo voor het event verzorgde. Dan volgt een filmpje waarin de kop van Macron te zien is met allerlei vreemde kapsels op allerlei lichamen die duidelijk niet van hem zijn. De echte Macron geeft er nog wat commentaar bij:

Macron – Het is goed gedaan, en ik moest ermee lachen. Maar serieus nu. Met artificiële intelligentie kan je heel grote dingen doen (zoals fake filmpjes maken?). De gezondheidszorg veranderen (volgens de ondertiteling; Macron zegt "la santé"; da's niet hetzelfde), energie, het leven in onze gemeenschappen (??), en dus moeten Frankrijk en Europa middenin deze revolutie gaan staan om alle kansen (?) te grijpen (het is moeilijk te beschrijven hoezeer het idee dat iedereen kansen moet grijpen de wereld misvormt), en om onze eigen principes waarin we geloven naar voor te schuiven (internationale concurrentie van waarden; die van ons zijn alvast de beste…). Dat (dus "kansen grijpen"?) is het doel van deze top voor actie (die 'actie' is wat Macron zegt; uit de ondertiteling is dat weggelaten; misschien vindt de ondertitelaar de top zelf belangrijker dan de actie die eruit volgt) op het vlak van artificiële intelligentie, vanaf morgen in Parijs. Dus, ik reken op u (en waarvoor dan wel? om kansen te grijpen?).

Het panel moet ook lachen met het filmpje. Zou ik ook doen, als het niet zo triest was.

BSc – Het niveau is nog niet helemaal top, maar goed (hoezo?? één van de belangrijke mensen in de wereld laat iets maken dat niet helemaal top is, maar we vinden dat OK omdat het innovatief is…?)(zie ook Polarisatie omtrent innovatie). Mr. Latré, zeg eens, het is de eerste keer dat dit op deze schaal gebeurt? Er zijn anders al veel toppen georganiseerd op deze schaal (bv. rond klimaat), die ook weinig actie hebben opgeleverd. Want het is helemaal uw winkel hé, wat eh…

Steven Latré – Ja. Er zijn wel al drie van deze toppen geweest (over AI), maar het is de eerste die op deze schaal gebeurt, vooral door de tijdsgeest waarin we zitten. Ik denk dat we allemaal wel voelen (spreek voor uzelf) dat AI die doorbraak aan het meemaken is, met goeie en kwaaie dingen tegelijkertijd. Dus ik denk zeker qua grootte, qua ambitie is deze top toch wel uniek denk ik. Het is het programma van de top in Parijs zelf, de Context and Agenda for the 2025 AI Action Summit, dat gewag maakt van twee andere toppen, nl. Bletchley Park AI Safety Summit 2023 en de Seoul AI Safety Summit 2024; heel ver heeft Latré dus niet gezocht. Als je wat verder kijkt zie je ook NeurIPS (Conference on Neural Information Processing Systems), AAAI Conference on Artificial Intelligence, ICML (International Conference on Machine Learning), CES (Consumer Electronics Show), AI for Good Global Summit, World Economic Forum (WEF) in Davos, The AI Summit London, MIT Technology Review's EmTech Conference, en de European AI Alliance (hoewel deze lijst ook weer niet echt betrouwbaar is, vermits die is gegenereerd m.b.v. een AI-tool :-).

BSc – Meer dan 100 landen, begrijp ik.

SL – Ja, klopt. Dat betekent dat er eigenlijk heel veel mensen zijn, beleidsmakers, J.D. Vance, Ursula Von der Leyen zijn aanwezig, evengoed heel veel mensen uit het bedrijfsleven eh ook aanwezig… Als hij Imec als vice-president even goed structureert als zijn eigen taalgebruik zijn we er nog niet. Nu is spreektaal altijd wel gevoelig voor versprekingen en verdraaiingen, maar dat wordt erger naarmate het onderwerp waziger is.

BSc – Belangrijke spelers die er niet bij zijn? Spelers? Alsof het een spel is (wat nogal eens klopt voor wie de lakens uitdeelt). Tegelijk is dit een typische term in het jargon van managerialisme. 

SL – Cho, niet meteen denk ik. Ik denk (hij is een denker, denk ik) dat het toch wel heel representatief is, en zeker een succesvolle top, qua deelname dan toch al. (1) Deelname is misschien belangrijker dan actie? (2) Om kansen te grijpen moet je ze eerst creëren, en die creatie is waarschijnlijk het hoofddoel van dergelijke evenementen.

BSc – China ook, op één of andere manier?

SL – Jaaa, daar zie je natuurlijk wel een groot vraagteken daarbij. Er zijn zeker wel een aantal Chinese bedrijven ook wel aanwezig, maar beperkt natuurlijk daar.

Het resultaat van de top kan je al zien op Wikipedia. Het einddocument Statement on Inclusive and Sustainable Artificial Intelligence for People and the Planet is ondertekend door 58 landen, van Armenië tot het Vatikaan (?!), waaronder alle landen van de Europese Unie, maar niet door de Amerikanen, en al evenmin door de Britten. Het is vooral een principeverklaring. Dat de tekst door Europa wordt gepubliceerd in het Engels en het Frans zegt ook al iets over de invloed en de grootheidswaan van het keizerrijk Frankrijk.

BSc – Professor, wat denkt u? Europa schiet wakker? Schols denkt dat Europa op het vlak van AI heeft liggen slapen.

Marc De Vos – Wel, het is in de eerste plaats een mondiale top en het is goed dat dat gebeurt, met al die landen, want mondiaal zijn er natuurlijk veel spanningen, en artificiële intelligentie is voor mij, als je het vanuit een geopolitieke bril bekijkt, in eerst instantie een wapen. Oeps? Dat is eigenlijk het nucleaire (oeps? het heeft een uitstraling…) wapen van een nieuwe koude oorlog. En het beheer van de bedreiging die impliciet in die technologie zit, op voorhand (voordat er ongelukken gebeuren), met open (communicatie-) lijnen en zo, in deze tijden, da's positief dus. Dus? Hoezo dus? Sommigen gebruiken graag het woord 'dus' om de toehoorders het gevoel te geven dat ze door hun onwetendheid ergens iets gemist hebben, zodat ze hun mond houden. In dit geval is die 'dus' gekoppeld aan het idee van AI als wapen. De Vos vindt de mondiale top positief, omdat AI een bedreiging inhoudt, vermits AI een wapen is. Die 'dus' moet die opinie onderstrepen, terwijl helemaal niet duidelijk is waar die op slaat.

BSc – Dat is het eerste waar u aan denkt, 't is een oorlogswapen?

MDV – Ja, maar dat ligt aan mij hé. Voor zover ik hem ken ben ik geneigd dit als een excuus te beschouwen. Maar misschien was zijn uitspraak enkel dichterlijke vrijheid, bedoeld om indruk te maken.

BSc – Maar dat is niet uw bril hé. Hij kijkt naar Latré.

SL – Ik zie ;-) het inderdaad wat genuanceerder, maar ik ga ook wel akkoord, er zijn inderdaad ook wel gevaren, en zeker als we een blind ;-) vertrouwen hebben in wat die technologie kan doen, dan zijn er zeker gevaren. Ook al blijft het voor zowat iedereen gissen "wat die technologie kan doen". Ik denk bijvoorbeeld aan het initiatief in Amerika rond DOGE (Department of Government Efficiency; beangstigende ontwikkeling), waar eigenlijk gezegd wordt we gaan AI inzetten om een heel groot deel van het overheidspersoneel af te slanken (nu zijn er wel heel wat Amerikanen die mogen afgeslankt worden, gezien de obesitas-epidemie :-)(hij bedoelde "de overheid afslanken"). Daar een puur blind vertrouwen hebben in wat AI kan doen kan evengoed tot gevaren leiden (kan een gevaar vormen, kan tot problemen leiden). Soenens kijkt achterdochtig. Maar om nu meteen te zeggen het is een wapen… Hij wil niet dat Imec in een oorlog terechtkomt. Ik denk dat er veel kansen zijn ook (ook? dus dat bevestigt het gevaar), en heel veel efficiëntiewinsten ook te halen (daar heb je het weer: efficiëntie boven effectiviteit; dáár zit het echte gevaar!!), (MDV wil ertussen komen) als het op de juiste manier balanceert (?) …

MDV – Ik heb het niet willen reduceren tot een wapen hé. Hij heeft niks verkeerds gezegd, alleen indruk willen maken, de professor. Dus uiteraard (hoezo?) is het een fantastische (dat zou wel eens kunnen kloppen!!) golf van innovatie die ongelooflijk (idem!!) veel potentieel heeft op alle fronten, Macron heeft erop gewezen (Macron deelt een onnozel filmpje met nietszeggende commentaar, en de professor maakt daar een argument pro AI van; moeilijk te bepalen wie de intelligentste is van de twee), maar als je het doortrekt naar de toekomst (het verleden heeft problemen gecreëerd, de blik op de toekomst gaat ze allemaal oplossen) dan weten we allemaal (spreek voor uzelf!) dat ze de wapens, de satellieten, de drones, de robots, de auto's, … allemaal … AI zullen zijn, en dat dat in de context van wereldspanning en conflict, ja dat moet goed gemanaged kunnen worden tussen landen. Ook geen geweldige taalstructuur.

Lees die paragraaf nu nog eens. De Vos vindt het "uiteraard een fantastische golf van innovatie met ongelooflijk veel potentieel op alle fronten" en vindt ook dat Macron hem gelijk geeft. Echt waar? Wie gelooft die mensen nog? Het is een algemeen verschijnsel dat taalgebruik minder concreet wordt naarmate het onderwerp minder duidelijk is. Ga maar na in andere panelgesprekken: bij een vaag onderwerp (en AI is een mooi voorbeeld!) krijg je altijd schabouwelijk taalgebruik, misvormde en afgebroken zinnen, grote woorden, en nog grotere boodschappen (met een geurtje eraan).

BSc – Misschien ook het eerste waar we moeten aan denken zegt u ook, als we over ontwikkeling praten? Geen idee wat hij hiermee bedoelt.

MDV – Als het gaat over zo'n mondiale top (De Vos lijkt een idee te hebben, of doet toch alsof). Het gaat niet over hoe gaan we de wereldmarkt openen voor iedereen, want dat is voorbij (hoewel de halve wereld dat wel nog steeds verwacht…?). Globalisering bestaat niet meer. De wet van de sterkste komt weer in zwang. De Chinezen doen hun ding, de Amerikanen hun ding, Macron hoopt dat hij een Frans ding kan doen dat past in een Europees ding (Macron wil Europa gebruiken om Frankrijk weer groot te maken). Dat is de realiteit (als hij het zegt?). Des te belangrijker ook dat je vanuit verschillende invalshoeken van economische ontwikkeling kunt kijken naar gemeenschappelijke ja grenzen, basiswaarden die eigen zijn aan de mensheid hè, het feit dat de mens niet kan bedreigd worden als er een algemene artificiële intelligentie komt die intelligenter is dan eender welk individu. Daarop anticiperen, daarvoor dient eigenlijk de gemaakte oefening. Huh? HUH? Wat heeft hij nu eigenlijk gezegd? Ik begin te vrezen dat De Vos zelf wordt gestuurd door artificiële intelligentie (is hij een cyborg?); dat zou dit gewauwel alvast kunnen verklaren. De vaagheid van het onderwerp begint sporen na te laten.

BSc – Ik ben benieuwd wat J.D. Vance, want die is intussen al gearriveerd, wat hij daar gaat verkondigen hè? Kijkt naar Soenens, als halve Amerikaan, dus die mag het uitleggen. Schols begrijpt immers ook niets van wat De Vos vertelde, en dan kan je maar beter omschakelen.

Björn Soenens – J.D. Vance is eigenlijk de poot binnen (de voet tussen de deur) van de technologiesector in het witte huis. De man is opgegroeid als hillbilly, in West Virginia, Kentucky, Ohio, arm, en is dan in Yale terechtgekomen, heeft daar Peter Thiel (de oerduivel; zonder Thiel was er geen Musk geweest) gezien, het licht gezien. Peter Thiel is een belangrijke tech-man in de verenigde staten, nu een durfkapitalist. Hij is daarvoor gaan werken. Thiel heeft zijn carrière gepromoot, en hij (Vance) is zo in het witte huis terechtgekomen, contact gelegd met Donald Trump Junior, en zo de kandidaat vicepresident geworden, dus … (onderbroken door Schols)

BSc – Met welke boodschap zie je hem naar Parijs komen?

Bso – Hij is de toekomst hé. Als Trump niet mee zou willen, hij zal wel … Ik vermoed dat Soenens bedoelt dat de techbonzen Vance in het witte huis hebben geduwd om hun belangen te verdedigen.

BSc – Schols vindt dat geen antwoord op de vraag; lijkt mij ook niet. Nee, goed, maar qua positie wat de Verenigde Staten betreft, hé, ..want OK Europa… Want OK Europa wat, mr. Schols? Dit gesprek zit vol bijzonder magere verwoordingen. Ik denk opnieuw aan de wazigheid van het onderwerp.

BSo – Zij willen all the way gaan (met alles beheersende technologie). Ik bedoel Musk zit daar ook (in het Witte Huis, ma.w. dicht bij de president). Musk is nu boos omdat iemand anders het AI project krijgt; het is er hier al over gegaan denk ik.

BSc – Over die 500 miljard dollar…

BSo – Maar niemand, dat vind ik belangrijk toch om eens te zeggen, spreekt over de grote kost die daaraan vast hangt (aan ICT algemeen, met steeds grotere 'datacentra' om alle onzin in de wereld op te slaan, veelvuldig gekopieerd dan nog, en meer specifiek AI, dat massa's energie vreet om modellen te trainen), ook een milieukost. Op dit ogenblik weten ze in Amerika niet goed hoe ze het elektriciteitsnet gaan moeten aanpassen om al die vragen naar AI, die datacentra, die hebben enorm veel energie nodig.

Bsc – Schols heeft zich voorbereid, heeft iets gelezen over DeepSeek, hoort Soenens iets zeggen over energieverbuik, en grijpt zijn kans. Ja, maar dat is misschien al een interessant punt voor die top (hij veinst invloed op de agenda? beetje ambitieus). De Chinezen zijn onlangs met iets gekomen, veel zuiniger blijkbaar.

SL – Klopt. DeepSeek inderdaad.

BSc– Dus dat zal al een punt van discussie worden (als het van hem afhangt…), de voorsprong die de Chinezen op dat vlak hebben… (die we afleiden uit berichten die afkomstig zijn van … ja, van wie eigenlijk?)

SL – Ja, ik denk dat vooral Deepseek toont hoe eh een land met een sterke focus plotseling eigenlijk helemaal terug in die race kan zijn. Latré ziet een kans voor Europa om weer in de race te geraken. Die AI-race is op zich nog maar net begonnen; 't is geen sprint, 't is geen marathon (wat dat ook moge betekenen in dit kader). Je kan dit zien als een basketbalwedstrijd waar na vijf minuten plotseling 20 punten zouden kunnen gescoord worden (huh?) en dat is echt wat er in de AI-wereld aan het gebeuren is (ah ja, snel punten scoren?) en waar ik denk dat Europa toch wel een vernieuwd optimisme kan uithalen (?) dat het perfect mogelijk is dat een speler (ik heb altijd al gedacht dat computergames een slechte invloed hebben) plotseling veel meer snelheid haalt en veel meer tractie (huh?) haalt. Handig als je de typische uitdrukkingen beheert, om een zin te kunnen vormen als je eigenlijk niet weet wat zeggen. En energie…

Bsc – Laat ons zeggen, vandaag staan we achter hè, want… Hij begrijpt Latré ook niet voldoende om er zinnig op door te gaan, en probeert dan maar zijn eigen punt te maken.

SL – Dat is absoluut. Ik denk dat we echt wel kunnen zeggen dat vandaag spelen we zeker niet mee op hetzelfde niveau als een OpenAI, als een Meta of als een Deepseek. En moet dat dan?

BSc – En je krijgt dat gat dichtgereden? Professor? Toch nog maar eens proberen bij de hoogste in rang.

MDV – Ik heb geen glazen bol. Vraag is natuurlijk of de huidige fase van artificiële intelligentie en wat daarvoor nodig is, die large language models zoals dat dan heet (Anneleen Van Bossuyt kijkt bedenkelijk) en alle infrastructuur die zoveel energie verslindt, of dat de toekomst van AI zal zijn. Hier raken we één van de kernaspecten (er zijn er allicht meerdere). LLM's of Large Language Models zijn systemen die een zinnig antwoord proberen te produceren met statistisch frequente woordcombinaties, en gigantische hoeveelheden energie opsouperen om daar op het eerste gezicht in te slagen (het tweede gezicht ziet er al anders uit; zie ook mijn artikelen over ChatGPT). Daar zitten twee probleem aan vast: (1) de aandacht voor AI is sinds einde 2022 sterk gestegen, na de overrompeling van de maatschappij door de competitiegestuurde vrijgave van ChatGPT door zijn maker OpenAI, terwijl er heel wat andere en betere toepassingen bestaan van AI dan LLM's, en (2) zowat elke openbare discussie over AI wordt gebaseerd op die marktontwrichtende LLM's, echter zonder dat te benoemen, zodat de nuttige AI-toepassingen buiten de discussie blijven. Het verbaast mij dan ook niet dat De Vos hier LLM's noemt. Tegelijk lijkt hij dat overwicht in vraag te stellen door wat volgt: En dan heb je nog allerlei voorspellingen die u veel beter kent dan ik (dat is vermoedelijk tegen Latré), dat AI de fysieke wereld ingaat, met robots en sensoren (wat geen voorspelling is; dat gebeurt immers al lang), en dan hebben we denk ik hopelijk (vreemde combinatie; wijst op gokgedrag) kansen (om te grijpen!) voor eh top-ondernemerschap (top-??) en innovatie (die de wereld gaat redden, volgens de neoliberalen). Eh als we kijken naar AI en alles wat wetenschap, onderzoek, de medische toepassingen en zo (inderdaad niet-LLM-toepassingen) dan hoop ik dat Europa toch ook zal meespelen en België in het bijzonder. (1) Voor LLM's zijn we te laat, maar dat zie ik niet als een verlies. De competitie tussen de grote spelers biedt mogelijkheden aan de modale kennismedewerker, dus waarom zouden we dat dan zelf nog eens doen, gezien de kost? Bovendien is de kwaliteit van die systemen nog altijd bedroevend, omdat ze geen begrip kennen. (2) De Vos eindigt toch weer met die competitieve ingesteldheid, de hoop dat Europa het 'beter' doet dan de rest van de wereld, en België het 'beter' doet dan de rest van Europa. Dat past in zijn aanbidding van economische groei, die alleen maar kan ten koste van anderen en de aarde.

BSc – Want (?) wij horen natuurlijk ook de Verenigde Staten hé, wat ik daarnet zei, Trump 500 miljard dollar ja enfin investeringen, alleszins de grote jongens daar. Macron komt nu met een eerste brok investeringen privaat, een goeie honderd, krijg je want dat zal vaak zijn om heel nauw aan te sluiten, want anders ben je toch… Ja man, structuur… Die 'want' gaat allicht verder op zijn vorige vraag naar het dichtrijden van 'het gat', die hem op één of andere manier in het hoofd blijft spoken; zijn taal lijkt wel die van een kwade droom.

SL – Ja, maar…

BSc – …hopeloos op achterstand. … om zijn punt af te maken.

SL – Ook een beetje op het punt van Björn hè, 500 miljard is misschien veel ten opzichte van twee drie weken geleden was ik aan het zeggen absoluut nodig (ja man…), een Deepseek verandert dat voor een stukje al dat die energie-efficiëntie naar beneden (oeps) of nee naar boven kan dat ook de hoeveelheid rekenkracht die we nodig hebben (voor onbetrouwbare LLM's?) al een pakje minder is maar ja je gaat absoluut een grote investering nodig hebben maar het (geen idee wat hij met 'het' bedoelt) toont wel aan dat we als Europa daar toch kunnen aan werken (vaag) als we dat (wat?) allemaal concentreren. Daar is Europa misschien de dag van vandaag niet zo goed in en verspreiden we de middelen en zijn we niet zo sterk in het echt heel duidelijk gaan zeggen hier gaan we op inzetten. Terwijl er volgens mij echt wel verschillende opportuniteiten zijn. Er zijn verschillende start-ups, scale-ups in Europa…

BSc – Die complementair zijn aan wat ze in de VS doen? Nog steeds die concurrentievisie.

SL – Die complementair zijn en die ons ergens al toelaten om eigenlijk de volledige technologie portfolio rond AI echt uit te werken. (1) Weer die standaard uitdrukkingen. (2) Ergens? Waar is dat? (3) In technologische ontwikkelingen en politiek: hoe meer 'echt' wordt gezegd, hoe minder realistisch de ideeën. (4) Moeten we meer investeren in AI? Of in landsverdediging?

BSc – Kan u eens een voorbeeld geven van waar wij ons zouden kunnen op focussen? Een wakker moment…

SL – Taalmodellen (LLM's!) is een mooi voorbeeld (zie je wel: het eerste waar ze aan denken, ook al helpen ze onbeschrijflijk veel menselijkheid naar de vaantjes), maar de volgende generatie daarvan (het eeuwige ICT-adagium: de volgende versie gaat de problemen oplossen), maar evengoed de focus op energiezuinige chips (specialiteit van Imec). We hebben in Europa een heel sterke traditie van chiptechnologie, dan heb je Imec uiteraard die daar ook bezig is (met?), er is een start-up die heet OpenChip die ook heel sterk aan het werken is rond energiezuinige chips daarrond. Allemaal voorbeelden waar we in Europa ja toch wel kunnen die unieke link leggen (van wat met wat??) en vooral heel sterk die link leggen op Europese waardes (huh?) en Europese beschermingsmaatregelen (huh?). Ik krijg de indruk dat ook Latré's manier van denken al verwaterd is door het gebruik van LLM's.

BSo – Zijn jullie ook bezig met remsystemen op AI? Goed Björn! Daarmee bedoel ik we zien dat filmpje van Macron. We kunnen daarmee lachen maar eigenlijk is dat allemaal fake, deep fakes die gemaakt worden. En wij in de pers gaan daarmee te maken krijgen, foto's die vervalst zijn, en we gaan niet meer kunnen bewijzen dat het valse foto's zijn. En dat de informatie sneller zal vervuild worden tot en met als het al niet zover is… Soenens wijst terecht op één van de grote problemen met LLM's, maar de specialisten lijken dat niet zo te begrijpen.

SL – Persoonlijk denk ik dat dat de toekomst is van Artificiële intelligentie in Europa (nee, hij bedoelt niet deep fakes, wel de manier waarop we er in Europa mee omgaan, maar het blijft een rare uitspraak). De AI Act legt duidelijk restricties op, maar we kunnen op twee manieren die restricties eh interpreteren (waarmee we in feite de Amerikanen achterna gaan in hun misprijzen voor orde en instellingen). Ofwel zeggen we kijk we zien dat als een volledig legaal systeem, iets waar we legaal moeten aan voldoen (ik vermoed dat hij bedoelt dat voldoen aan de AI Act een optie is, wat mij nogal wiedes lijkt), ofwel we gaan technologisch daar ook een oplossing voor bieden, om er bijvoorbeeld voor te zorgen dat inderdaad een deep fake altijd gegarandeerd een soort van watermerk krijgt dat je niet kan kopiëren, en zo zijner heel veel verschillende voorbeelden van wat je technologisch kan doen. (1) Deep fakes zijn gewoon een gevaar voor de maatschappij; kunnen we die niet verbieden? Welke nut hebben die eigenlijk? (2) Deep fakes een watermerk geven dat je niet kan kopiëren gaat niets veranderen aan de kwalijke gevolgen. (3) De AI Act is toch niet opgezet om die vervolgens met technologische snufjes te omzeilen? (4) Het blijft mij vreemd voorkomen dat mensen die er niet voor terugschrikken om indrukwekkende onzin te verkondigen aan het grote publiek zo gemakkelijk in de top van organisaties worden opgenomen.

Bsc – Want hoe kijkt u bijvoorbeeld naar het spanningsveld tussen aan de ene kant innovatie, de mogelijkheden zijn legio en quasi onbeperkt (wat vooralsnog een mythe blijft), anderzijds je moet, wat u zegt ook, je moet tegelijkertijd een beetje opletten met wat je doet met die dingen? De Vos heeft blijkbaar een geluidje gemaakt; Latré kijkt naar hem.

MDV – Ja, en de ruimte voor wereldwijde standaarden is niet zeer groot. Er is een totaal verschillende visie China Amerika Europa. Europa is de wereldkampioen AI reguleren… Natuurlijk; hoe vager de vraag, hoe gemakkelijker je je eigen ding kan vertellen.

BSc – Belangrijk verschil…

MDV – … en is een nakomeling (hij bedoelt achterblijver) in AI ondernemen. En dus (dus?) dat is natuurlijk ('natuurlijk' werkt zoals 'dus', versterkt dat nog) iets dat Europa nu doet met eh met die top en die aankondiging van die investeringen eigenlijk een mini China hè iets wat al bestaat trachten te kopiëren in Europa zodanig dat we toch ergens een Europese component hebben van dat. Maar vernieuwing is het niet. En dus de hoop is…

BSc – Maar het kan misschien wel leiden tot vernieuwing, of niet? Schols is hopeloos op zoek naar iets dat zijn nachtmerrie kan stilleggen.

MDV – Dus de hoop is dat je dat kunt gebruiken hè als een soort hefboom (nog zo'n geijkte uitdrukking) om dan in de volgende generatie wel vernieuwend te kunnen zijn hè (hij pikt handig in op de opmerking van Schols). Maar daarvoor zal Europa toch een beetje meer Amerika moeten imiteren in plaats van China denk ik. Daarmee bedoel ik één grote markt maken, één diepe kapitaalmarkt (waar véél geld in kan!), want die honderd miljard en zo,… bon. Die grootste internetbedrijven of digitale reuzen die investeren een …multipel daarvan (hij kon niet op het woord 'veelvoud' komen) ieder jaar, …

BSc – Dus wat Macron nu doet…

MDV – … ieder jaar. De vier grootste technobedrijven gaan dit jaar meer dan driehonderd miljard dollar in AI investeren, dat is drie keer zoveel in één jaar. Dus je moet ergens schaal creëren (nog zo'n uitdrukking) in Europa waardoor je door een eengemaakte kapitaalmarkt zodanig dat er veel kapitaal kan gericht worden hè naar een prioriteit, naar een focus. De Vos wil zo veel mogelijk Europees geld. En dan moet je hopelijk ook een ecosysteem à la Silicon Valley kunnen krijgen. Want dan zal alles vanzelf gaan…?

Een mens zou de bedragen die omgaan in de AI-competitiestrijd eens moeten vergelijken met wat er nodig is om Europa te verdedigen tegen agressieve regimes.

BSc – Heeft ons land daarin iets te betekenen of …? Help de man toch eens uit zijn dromen.

MDV – Potentieel denk ik wel. De tulpen hadden ook veel potentieel tijdens de tulpenmanie. Ik denk dat de meneer van Imec daar beter kan over oordelen dan ik, maar wij hebben toch heel goei ingenieurs, wij hebben ondernemerschap, en hopelijk (??) kunnen wij in Vlaanderen en België ook een deel zijn van die Europese ja renaissance wat dat betreft (wat wat betreft?). Maar dan zal het wel moeten doordat we ja een soort eengemaakt speelveld (weer dat spelelement; het moet een speeltuin zijn tussen al die managers) hebben in Europa. En niet Mistral die dankzij de connecties met Parijs en de Franse regering met een diplomatieke deal met de verenigde Arabische Emiraten ineens een pak geld krijgt en daarmee eigenlijk een soort Franse minikampioen binnen het project van Europa wordt. Afgunst? Als het (wat?) dat is zal het (wat?) zeker niet competitief zijn (en moet dat dan?).

BSc – Is men zich daarvan bewust? Want als je hoort, ze willen eigenlijk een wereldwijd gedragen visie voor verantwoorde en inclusieve AI ontwikkelen. Kijkt naar SL.

SL – Ja…

BSc – Zijn ze zich daarvan bewust, wat professor De Vos zegt? Ja, maar wat heeft de professor nu in feite gezegd?

SL – Dat denk ik wel eerlijk gezegd (zou Latré het wel begrepen hebben?). Er is inderdaad zeker in AI-wetenschappers in Europa een soort … wordt er heel hard opgeroepen om exact dit (wat in 's hemelsnaam?) te doen (wijst naar MDV, die knikt) echt concentratie van middelen, concentratie van initiatieven rond AI en dat het echt een Europees initiatief moet zijn en geen enkel landelijk initiatief (ach, dat, OK; Latré gaat verder op dat Europees geld, niet op de renaissance; begrijpelijk). Zijn we daar al? Absoluut niet; daar is nog heel veel (geld) voor nodig. De tekst zelf ja dat zijn zaken waar je natuurlijk waar je niet kan tegen zijn hè. Verantwoorde AI, transparante AI, ja dat willen we allemaal (spreek voor uzelf). De vraag is hoe ga je het juist implementeren… (onder druk om de zin af te maken omdat Schols ertussen komt)

Wat je ook in veel panelgesprekken hoort, van allerlei belangengroepen, is dat ze meer geld willen. Maar wat ze dan willen gaan doen met dat geld, dat kom je nooit te weten. Ik vraag mij eigenlijk ook af hoe de techsector driehonderd miljard op een jaar denkt uit te geven, en waar de grondstoffen daarvoor blijven vandaan komen.

BSc – Ja want als je zegt inclusieve AI… in de Verenigde Staten zit de teneur op dit moment… (doet iets met zijn handen in de lucht)

SL – Absoluut (wel een term die betrouwbaarheid suggereert; Latré gebruikt hem regelmatig). In de verenigde staten gaat het zelfs in omgekeerde richting, wordt er zelfs gedereguleerd. Enkele weken geleden is er een wetgeving eigenlijk afgebouwd die providers…

BSo – (denkt blijkbaar niet dat SL iets nuttigs gaat zeggen, wat ik mij kan voorstellen) Wel een interessante vraag. Regulering, ik hoor dat vaak zeggen dat dat hier in Europa… dat we te traag zijn en dat we te veel reguleren, maar zeg je dan "weg ermee", het reguleren?

MDV – Ik zeg niet weg ermee (maar ik denk het wel…). Ik zeg we hebben in Europa ja gereguleerd voordat we wisten wat AI ging zijn. Het commissievoorstel van de AI Act is van 2021; de introductie van ChatGPT was in november 2022. En dat is natuurlijk iets … dan laat je eigenlijk … dan dan vernietig je iets alvorens het kan bestaan (dat snap ik niet…).

BSc – Wat in een ideale wereld misschien wel goed is? In feite dus (…) ook onbegrijpelijk; misschien bedoelt Schols dat het nuttig kan zijn nadelen op voorhand te vermijden, maar door alle onduidelijkheden in dit gesprek kan je daar niet meer zeker van zijn.

MDV – Deepseek is niet per toeval in China uitgevonden. Dat heeft te maken met het beleid en dat heeft ook te maken met het feit dat als we spreken van regulering in China telt data-privacy niet en daarmee kunnen zij dan… De Vos suggereert hier dat DeepSeek in China kon uitgevonden worden omdat data-privacy daar niet bestaat; lijkt mij wat kort door de bocht, maar het idee kan uiteraard ingegeven zijn door de hoop om hier ook aan de privacy te peuteren.

BSo – Ja, democratie is zeer storend hè… (met zijn typische Mr. Proper grijns erbij)

Anneleen Van Bossuyt – Ik hoop inderdaad dat we in Europa niet de fout gaan maken die we al meermaals maken en dat is door onze regulering technologie en innovatie tegenhouden. Eh ik herinner mij een heel goed voorbeeld van toen ik nog in het Europees parlement zat, (wauw, ze zat in het Europees parlement…) en toen ging het over slimme technologie en slimme toestellen (alles met 'smart' of 'slim' is verdacht). Bijvoorbeeld da uwe boiler pas water begint op te warmen omdat die ziet ah de mensen komen pas om zeven uur thuis en nemen dan eerst een douche enzovoort (die zijn naar huis gerend?). Ik herinner mij de discussie in het Europees parlement dat parlementsleden dat wouden (wilden) tegenhouden, dergelijke toestellen, omdat ze zeiden maar stel dat die data in de handen vallen van de verkeerde mensen dan dus dan zou je eigenlijk bijna zo'n slimme technologie gaan tegenhouden omwille daarvan. Beetje chaotisch uitgedrukt (lijkt tegenwoordig wel de gewoonte), maar blijkbaar wordt bedoeld dat de vrijgave van privacygevoelige data door slimme toestellen een argument kan zijn om geen slimme toestellen toe te laten. Vreemde redenering, wel, want dit impliceert dat zogenaamde slimme toestellen niet zouden kunnen werken zonder privacygevoelige data vrij te geven via het internet. Maar waarom zouden die toestellen op het internet moeten hangen? En dan komen we aan de kern van het verschijnsel: als je iets wil besturen of opvolgen komt er een smartphone (nog zoiets 'smart') aan te pas, en dat werkt via internet. En het kan allemaal gehackt worden. Is de smartphone de aanleiding voor alle miserie? En in de VS, dat gaat dan over privacy en Björn zal het allicht beter weten dan ikzelf, maar in de VS is wordt privacy gezien als een consumentenrecht dus je kiest zelf hoe ver je ermee gaat (ook beetje onduidelijk, maar kiezen is er in de meeste gevallen gewoon niet bij hoor). In Europa gaat het dan over ja wij moeten vooral onze burgers hun privacy beschermen (de burgers beschermen tegen de techsector) en wij zullen voor hun beslissen (wel zo handig, want een individu kan daar niet tegenop; zie ICT-ellende). Waardoor er hier vaak dingen tegengehouden worden. Ik denk Crispr is net hetzelfde. Crispr, we zijn daar, het is een soort gentechnologie, we zien Europa wij zijn daar top in. In Gent, niet toevallig (ze is van Gent :-), hebben we het Vlaams Instituut voor Biotechnologie. We zijn wereldtop, (Crispr) wordt wereldwijd toegepast, behalve in Europa omdat het hier niet toegelaten is. Het gebruik van Crispr is in Europa streng gereglementeerd, omdat Crispr wordt beschouwd als genetische manipulatie, dat streng gereglementeerd is. Weer zo'n onderwerp waar Europa de burgers beschermt tegen de roekeloosheid van de techsector.

BSc – Ben je dan meer geneigd te zeggen we moeten meer het Amerikaanse systeem toepassen en mensen het individueel laten beslissen? Een individu kan weigeren om AI toe te passen, maar dat heeft geen enkele invloed op de marktmacht en ambities van de techsector. Dus een individueel beslissingsrecht is waardeloos tegen misbruiken van de sector.

AVB – Ik zie in technologie altijd vooral het feit ge moogt dat niet tegenhouden (toch wel een kortzichtig standpunt, op basis van een vlag- en ladingprobleem: wat met technologie die de maatschappij schade toebrengt?), ge kunt dat ook niet tegenhouden (zeker niet als we verdedigen dat alles moet kunnen; momenteel wordt meer en meer duidelijk waar de ambities van de techbonzen liggen), ge moet vooral dat mogelijke misbruiken dat die der nie zijn, maar dat mag geen reden zijn, mogelijke misbruiken mogen geen reden zijn om vooruitgang tegen te houden. De klassieke redenering, maar die heeft ons ook in de huidige precaire toestand gebracht. De maatschappij is de greep op de technologie al kwijt. De techsector zuigt meer en meer middelen en verantwoordelijkheid uit de maatschappij. 

BSc – Maar dan moet je je wel de vraag stellen hoe gevaarlijk kan het worden als je het loslaat. Terug naar AI specifiek. Want de vraag is hier al zo vaak gesteld hè: wat als die dingen het menselijk verstand te boven gaan en we hebben geen controle meer. "Die dingen" is nogal onbepaald. Het is moeilijk om dat voorstelbaar te maken maar hoe groot is het gevaar eigenlijk? Maar we kunnen wel een poging doen om het voor te stellen. De actuele heisa draait om het gebruik van LLM's, en de invloed daarvan op de maatschappij. Het gevaar is echter niet dat "AI alles gaat overnemen", maar wel dat individuen gaan betrouwen op een onbetrouwbaar AI-systeem, waardoor ze hun doelen niet meer gaan bereiken (of zelfs de verkeerde doelen gaan bereiken). Maar ook dát is relatief. Het doel van de techsector is immers ons te degraderen tot een kudde schapen, en daar kan zo'n onbetrouwbaar AI-systeem net prima voor dienen.

SL – Maar op zich is dat voor mij zelfs een valse discussie. AI die intelligenter wordt dan de mens, ja dat zal misschien ooit gebeuren maar dat is op zich voor mij niet de discussie waar we het vandaag over hebben. Hij heeft geen idee. De discussie waar we het moeten over hebben is wat kunnen we er vandaag al mee doen (het moet absoluut gebruikt worden, nadelig of niet??), en daar zijn wel duidelijke signalen waar er toch ook wel vraagtekens bij te maken zijn (aha?!). Om een voorbeeld te geven: AI kan vandaag heel gemakkelijk toegepast worden om automatisch kandidaturen te screenen (managerialisme/metingenfixatie) bij sollicitaties (de enige reden om daar AI bij toe te passen is managerialisme). Als we dat doen op een heel naïeve manier dan ga je zien dat mannen bovengemiddeld worden geselecteerd in die vacatures. Waarom? Op basis van historische data 10, 20, 30, 40… jaar geleden is er daar discriminatie. Dit is flauwe kul. (1) Welke soort AI wordt hier bedoeld? Resultaten van LLM's zijn inderdaad beïnvloed door wat ze geleerd hebben op basis van data die discriminatie bevatten, maar een LLM inzetten voor sollicitaties is ook onzin, tenzij de recruteerder zelf niet meer kan nadenken. Of er zelf niks van kent, zoals managers die enkel uit zijn op geld maken met behulp van technologie. (2) Discriminatie als voorbeeld van fouten in AI-systemen is intussen al afgezaagd; als je dat aanhaalt wil je de discussie omzeilen. Dat zijn allemaal …

BSo – AI is conservatief eigenlijk? De grapjas.

SL – Absoluut. Dat zijn allemaal kleine voorbeelden (ik zie maar één voorbeeld…) waar je ziet dat er toch telkens ja bezwaren zijn ook om dat gewoonweg blind toe te passen. Ik pleit zeker niet om dingen te overreguleren, wel integendeel (ook klassiek: eerst ophemelen, dan ondergraven); ze moeten gewoonweg hand in hand gaan (huh?). Je moet regulering combineren met een duidelijke innovatie (hoezo? innovatie toepassen op regulering? wat hebben innovatie en regulering met elkaar te maken?) en duidelijke innovatiemaatregelen ook (vreemde denkwijze; innovatie promoten die vervolgens regulering noodzakelijk maakt?) en dat ontbreekt vandaag wel een beetje in Europa.

BSc – Waar zou u blij mee zijn morgenavond als daar uit Parijs één en ander naar buiten komt? Wat vindt u essentieel? Hij gaat afronden.

MDV – Wel het zou misschien ideaal zijn moesten China, Amerika en Europa gemeenschappelijke posities hebben rond bepaalde principes (!) voor de toekomstige governance van AI innovatie hè. Principes kunnen inderdaad het verschil maken. Als we er zouden in slagen principes te definiëren voor wat de wereld nodig heeft (zoals sociale voorzieningen en vrede), dan waren we misschien minder afhankelijk van onderlinge concurrentie en machtswellust. Omdat daar bedreigingen in zitten (in AI) en als we gemeenschappelijke grenzen kunnen bewaken zou dat goed zijn voor de mensheid. Ik zou heel blij zijn als de eh de aankondiging van meneer Macron echt het onderdeel is van een Europese strategie en die is dan eigenlijk is de vraag die we in Europa moet beantwoord worden heel simpel. Wat is er nodig om ervoor te zorgen dat een ondernemer-ingenieur die vandaag een idee heeft over een AI innovatie niet naar Amerika trekt om dat te realiseren? Want er is een grote brain drain bovenop kapitaaldrain. Ons kapitaal wordt eigenlijk in Amerika geïnvesteerd. Als we dat kunnen beantwoorden dan denk ik dat … Het is nog maar net begonnen, AI. Anders gezegd: geef de techsector nog meer geld.

BSc – Het is een goeie start en dan alles goed vasthouden (ja, man…). OK, heren, dank jullie wel.

---

De basale fout

Zoals meestal: vlag-en-ladingprobleem op basis van gebrekkige aspectscheiding. De verwarring rond de term "AI" is al even groot als die rond links en rechts. De verhoogde aandacht voor AI, die begon bij het vrijgeven van ChatGPT door OpenAI in november 2022, is puur gebaseerd op taalmodellen of LLM's, die door een beetje technologische ontwikkelingen en massale investeringen de maatschappij verstoren. Andere toepassingen van AI, bv. voor medische diagnosen en zelfrijdende voertuigen, zijn al veel langer in gebruik, maar worden in haast elke discussie onder de mat geveegd. De aantrekkingskracht van taalmodellen is begrijpelijk; de van nature luie, maar vooral door de zotgedraaide maatschappij overspannen mens, hoopt met de hulp van een AI-tool zijn werk te verlichten, en de grote managers hopen verlost te geraken van de labiliteit van hun werknemers, ook al scoren die tools qua onbetrouwbaarheid hoger dan de mens zelf.

De oplossing: meer onderscheid maken tussen diverse soorten AI-systemen, en zeker de taalmodellen als een aparte soort bekijken. De fouten en kwalijke gevolgen van LLM's mogen niet goedgepraat worden door de voordelen van andere AI-tools.

Trouwens, over taalmodellen gesproken, de gevolgen van de verwarring op taalgebruik zijn niet te onderschatten. De verschillen tussen soorten AI zijn zodanig groot dat wie iets wil zeggen over AI, maar het onderscheid niet maakt, wordt gedwongen om zich te bedienen van halfbakken zinsconstructies en geijkte uitdrukkingen. En dat valt vooral op in duidingsprogramma's. Vreemd toch, dat daar zo weinig mensen op reageren.

---

Gerelateerde artikelen

Na DeepSeek: zitten de VS en de EU op het verkeerde AI-spoor? – Waarin The Economist (m.a.w. dit is een economische visie) pleit voor het versoepelen van de Europese regelgeving omtrent AI.

Unesco's Aanbeveling over de ethiek van kunstmatige intelligentie – Een Nederlandse tekst die een idee geeft van de inhoud van de volledige Unesco aanbeveling die je hier kan vinden (in de Annex, vanaf p.14). De Vlaamse intro geeft blijk van AI-aanbidding.

AI maakt ons werk menselijker – Vreemd geval. Bijdrage in De Standaard, blijkbaar afkomstig van Jobat. Vol typische AI-clichés die aantonen dat Jobat met de AI-stroom meedrijft.

Als technologie onze levens niet beter en zinvoller maakt, waarom laten we ze dan toe? – Een meer dan terechte kritische kijk op technologie in het algemeen, en AI in het bijzonder.

Het moet eerst misgaan voor we weten wat het risico met AI is – Realistische kijk van Marietje Schaake, op de gevaren van AI; de ene na de andere logische vaststelling die ogen zou moeten openen.

Elon Musk daagt heel direct de rechtsstaat uit – Marietje Schaake over de macht van Big Tech, naar aanleiding van haar boek De tech coup; dit dateert van vóór de herverkiezing van Trump.