Een lezing over AI
Donderdag was ik op een middag lezing van een expert van Textua in de bibliotheek over AI. Sign of the times, ook in de bib worden we daar mee geconfronteerd. Het was een lezing waarbij we allemaal op het puntje van onze stoel zaten want met veel flair voor realisme werd de AI hype gefileerd.
De kern van het betoog is hoeveel afstand er is tussen ons en de technologie. We gebruiken allemaal wel AI chatbots, maar we vergeten makkelijk dat daar een industrieel technologisch complex achter zit. De gelikte interfaces, de woorden die magisch op onze schermen verschijnen,… het lijkt alsof we met een echte alwijze mens praten. En net in dat antropomorfisme schuilen risico’s.
Plaatsen we niet teveel vertrouwen in AI? Lopen we niet het gevaar dat we onszelf dingen laten aanpraten?
De technologie zelf is helemaal niet magisch. We kregen te horen wat het verschil is tussen machine learning en deep learning. Wat generative AI eigenlijk is. We leerden dat die modellen walgelijk veel data nodig hebben. Maar bovenal kwam het erop neer dat het de AI modellen eigenlijk slechts pure statistiek en wiskunde zijn. Eindeloze rekensommen die op basis van wat bestaande tekst corpora en het chatgesprek woord voor woord proberen te berekenen welk woord waarschijnlijk het volgende in de zin zou moeten zijn.
Wie Cixin Liu’s Three Body Problem heeft gelezen, herinnert zich de passage waarin een koning zijn onderdanen opstelt met vlaggen en specifieke instructies geeft zodat de massa zich gedraagt als een super computer. Het lijkt magie, maar het is niets meer dan miljoenen individuele mensen die elk een klein beetje werk doen.
Die allegorie is zeker relevant vandaag. De grote doorbraak zal niet komen van een knappe kop die een goddelijke wiskundige formule ontdekt. AI wordt alleen maar krachtiger door vergaande schaalvergroting. Meer datacenters, snellere chips, meer energie. Met alle economische, ecologische en sociale gevolgen die bij die evolutie komen kijken. Grote private bedrijven investeren bedragen in infrastructuur die het GDP van sommige naties overstijgen. Het zijn astronomische inzetten gokkende op riante winsten in een toekomst waar de economie steeds vergaander leunt op digitale technologieën en AI.
Ondertussen beweren grote AI profeten dat we op een dag AGI - Artificial General Intelligence - zullen bereiken. Een AI die de menselijke cognitie en emotie evenaart. Die zich net gedraagt als een mens. Maar is dat wel de weg waarop we zitten? Hoewel de hedendaagse AI modellen, zoals Anthropic’s Opus, zich menselijk lijken te gedragen, zijn ze dat allesbehalve. Het is het soort koele, koude intelligentie dat binnen de beperkte grenzen van het gesprek blijft door te redeneren, zonder meer, wars van welke vooroordelen of nuances de menselijke gesprekspartner legt in berichten.
Wanneer je de suspension of disbelief opheft, en je AI begint te benaderen voor wat het werkelijk is - een machine - dan zie je dat een woord verschil al snel je AI tegenpool zal verleiden om tot heel andere conclusies of standpunten te komen. De “waarheid” die je krijgt is dus gekleurd door wat je aan de machine voedt.
In al dat geweld hoeven we onszelf dan ook niet te verliezen. Noch hoeven we als neo-luddieten AI af te vallen. Net zoals vliegtuigen, auto’s of stoommachines is AI niets meer of minder dan een technologie. Eentje die de wereld zal veranderen, maar het is aan ons om te kiezen welke effecten we ervan tolereren, en welke niet.