Voor een artistiek project had ik afbeeldingen nodig van uitgekauwde kauwgums. Ik wist dat de zoekmachine Bing een handige feature ‘Image Search Widget’ had, waarmee je een plaatje kunt uploaden en vervolgens een lijst met vergelijkbare afbeeldingen als resultaat terugkrijgt. Ik bood Bing een afbeelding met een kauwgum die ik op straat had gefotografeerd, maar tot mijn verbazing kwam dit Image Recognition- model met geen enkele afbeelding terug waarop een kauwgum stond. Wel werden er allerlei andere voorwerpen tevoorschijn getoverd zoals wormpjes, schelpen, hangertjes, witte bloempjes, kapotte eieren en pingpongballen:

Wat ik in feite te zien kreeg is de bias – ongewenste systematische afwijkingen in de resultaten van het model. Bing is niet getraind op dit soort amorfe objecten. Het kan niet meer dan het aanbieden van afbeeldingen die met een bepaalde mate van waarschijnlijkheid het dichtst bij het aangeboden plaatje liggen.

Het vertekend beeld

Bias heeft een negatieve connotatie en dat is voor een groot deel terecht. Steeds meer bedrijven en maatschappelijke organisaties maken gebruik van AI-technologie in hun serviceverlening en de internetgebruikers krijgen steeds meer apps aangereikt om er mee aan de slag te gaan. Nog te vaak wordt haast blindelings vertrouwd op de beslissingen of voorspellingen die AI-modellen verschaffen, terwijl de algoritmen gebaseerd zijn op statistische berekeningen en de uitkomsten slechts een bepaalde mate van waarschijnlijkheid hebben. Dankzij de nieuwe taalmodellen (zoals chatGPT) ogen de uitkomsten ook nog steeds geloofwaardiger. De gebruiker heeft te weinig notie dat deze AI-modellen weleens slecht of onvoldoende getraind kunnen zijn en daardoor desinformatie verspreiden of nog erger bevooroordeeld zijn en onrechtvaardige beslissingen nemen.  

Bias is inherent aan AI-modellen en verschaft ons in principe een vertekend beeld. Het is zaak om kritisch te blijven op de uitkomsten van AI-modellen. Het herkennen van de bias en deze goed onder de loep te nemen, helpt ons de AI-modellen betrouwbaarder te maken en de desinformatie te verkleinen. 

Onverwachte voorspellingen

Over het algemeen wordt een AI-model beschouwd als een black box, omdat het niet meteen duidelijk is hoe het model tot zijn voorspellingen of beslissingen is gekomen. Dit geldt vooral voor complexe modellen, zoals diepe neurale netwerken, die miljoenen parameters en lagen kunnen hebben die moeilijk te interpreteren zijn. 

Toch is het mogelijk om inzicht te krijgen in hoe een AI-model werkt, door het input-output gedrag te analyseren. Als voorbeeld kom ik terug op het experiment met het kauwgumpje. Als we nog eens naar de resultaten kijken en deze naast elkaar leggen, dan zien we een patroon: allen vertonen een klein wit object tegen een donkergrijze achtergrond. Wat blijkt, is dat Bings model slechts gebaseerd is op algoritmen die op pixelniveau opereren. Het vergelijkt alleen de mimetype, kleur en transparantie van de afbeeldingen in haar database.  

Datavisualisatie is een van de methodes die kan helpen bij het verminderen van bias. De methodes zijn: 

• Identificeren van patronen: door data te visualiseren, kunnen patronen in de data worden geïdentificeerd die anders misschien niet zo duidelijk zouden zijn. Dit kan helpen bij het opsporen van mogelijke bias of onverwachte trends in de data. 
• Identificeren van uitschieters: datavisualisatie kan helpen bij het identificeren van uitschieters of extreme waarden in de data, die mogelijk invloed hebben op de analyse en interpretatie van de resultaten. 
• Inzicht in de data: datavisualisatie kan helpen bij het bieden van een visueel inzicht in de data, waardoor gebruikers de gegevens beter kunnen begrijpen en interpreteren. 
• Vergelijkingen maken: met behulp van datavisualisatie kunnen verschillende datasets gemakkelijker met elkaar worden vergeleken, waardoor mogelijke bias in een dataset kunnen worden geïdentificeerd. 
• Identificeren van inconsistenties: door data te visualiseren, kunnen inconsistenties in de data worden geïdentificeerd die anders over het hoofd zouden worden gezien. Dit kan helpen bij het opsporen van mogelijke fouten of problemen met de data. 

Onderzoek naar de bias kan tevens leiden tot nieuwe inzichten en creativiteit. Zouden we als een ontwerper naar het kauwgumpje kijken om te bezien welke vormen we, bij wijze van spreken, ermee zouden kneden, dan oogt het alsof Bing met suggesties komt. De statistische waarschijnlijkheden van de afbeeldingen lijken zich te vertalen naar mogelijkheden. 

AI heeft inmiddels haar intrede gedaan in de creatieve sector. Vera van der Burg is een designer die bij vormonderzoek gebruik maakt van AI-modellen, deze manipuleert en de bias gebruikt voor nieuwe ontwerpen. 

Een van haar eerste experimenten met een Image Recognition model was een dialoog die ze met het model, die ze Algo noemde, voerde. Ze bood in eerste instantie een afbeelding van een normale stoel aan, waarop het Algo terugkwam met een lijst van objecten zoals het model de afbeelding interpreteerde. De ‘stoel’ stond weliswaar hoog in de ranking, maar het AI-model zag ook allerlei andere voorwerpen in de ‘stoel’. Van der Burg gebruikte die bias vervolgens om de oorspronkelijke stoel aan te passen. Van het herontwerp maakte Van der Burg een foto en bood deze opnieuw aan het model. Deze iteratie voerde ze een aantal keren uit, zie de afbeeldingen hieronder. De bias leidde tot onorthodoxe nieuwe ontwerpen van de stoel.  

De schoonheid van Bias

Bias is niet iets waar we zo snel mogelijk vanaf moeten komen of negeren, maar juist gebruik kan worden om het AI-model op zijn merites te beoordelen. Het mooie van bias is dat het nieuwe inzichten kan verschaffen en de creatieve geest kan prikkelen.  

_{Uit: ‘The Incredible story of ALGO AND I’ van Vera van der Burg} 

Interessant voor jou? 

Etesian wil graag in contact treden met ontwerpbureaus en bedrijven in de creatieve sector om de mogelijkheden van deze nieuwe AI-technologie voor hun bedrijfsvoering af te tasten. 

Is je interesse gewekt? Neem dan contact met ons op:

Een interessante vraag. Als het aan Jean Boumans ligt zou hij deze graag volmondig met ‘ja’ willen beantwoorden. Er worden namelijk grootse beloftes voor de toekomst gedaan door ontwikkelaars van kunstmatige intelligentie (of Artificial Intelligence (AI) in het Engels). Of je echt mysteries kunt ontrafelen met AI zal Jean verder voor je uitzoeken in dit artikel.

Monsterlijke voordelen van AI

“Het zal zeker bijdragen aan verbeterde efficiëntie: AI kan repetitieve taken automatiseren en optimaliseren, waardoor de efficiëntie en productiviteit van bedrijven en organisaties wordt verhoogd.  

Het zal leiden tot betere besluitvorming: AI kan enorme hoeveelheden gegevens snel verwerken en analyseren, waardoor betere beslissingen kunnen worden genomen op basis van feiten en trends.  

De nauwkeurigheid kan worden verhoogd: AI is in staat om nauwkeurigere voorspellingen en analyses te maken dan menselijke experts, omdat het in staat is om enorme hoeveelheden gegevens te verwerken en patronen te detecteren die anders misschien over het hoofd worden gezien.  

Genoeg data is onmisbaar 

Maar in deze beloftes zijn ook de grenzen van AI waar te nemen. We zijn in de uitkomsten die AI geeft afhankelijk van de gegevens waarover AI de beschikking heeft. AI kan geen juiste conclusies trekken over zaken waar het nauwelijks data over heeft. Bovendien zullen de nauwkeurigheid en kwaliteit van de gegevens die worden gebruikt om AI te trainen, invloed hebben op de prestaties van het model. Als de gegevens slecht zijn of niet representatief zijn voor de werkelijkheid, kan het AI-model verkeerde conclusies trekken en slechte voorspellingen doen. 

Het Monster van Loch Ness 

Om de vraagstelling te verifiëren heb ik, als klein experiment, de iconische afbeelding van het Monster van Loch Ness (gefotografeerd door Robert Wilson in 1934), genomen en aangeboden aan het Image Recognition programma van Clarifai. (Overigens bleek later dat deze foto een hoax was: een geknutselde imitatiekop op een speelgoedonderzeeër).  

Dat het met hoge waarschijnlijkheid een vogel zou betreffen, komt overeen met de eerste theorieën over het monster.  Zou de database van Clarifai ook de berichtgeving en advertenties uit het noorden van Schotland van de vorige eeuw bevatten, dan zou ook de olifant als mogelijkheid geopperd zijn. In Schotland waren in de jaren ’30 veel rondtrekkende circussen en het zou zomaar kunnen dat een olifant verkoeling in Loch Ness had gezocht. 

We zien dat de verklaringen afhankelijk zijn van de databestanden waarop AI is getraind. AI weet niet meer dan wat het haar verteld is. 

‘Meten is weten’ 

Het is een cliché, maar geeft aan dat het meten van iets de enige manier is om het echt te begrijpen of te kennen.  

Het monster, liefkozend Nessie genoemd, is nooit meer gespot, hetgeen een team van onderzoekers begin deze eeuw bracht tot het verzamelen van andersoortig bewijsmateriaal. Ze hebben het meer onderzocht op DNA. Op verschillende plekken en diepten werden honderdtallen watermonsters genomen. Het water bevat veel genetisch materiaal van bijvoorbeeld de huid, vacht en urine van al het leven in Loch Ness. De meetdata werd vergeleken met een uitgebreide DNA-database. Dat leidde ertoe dat ze veel schepsels konden uitsluiten, zoals geschubde reptielen en meervallen. Verrassend was echter de grote hoeveelheden DNA van alen die ze in het meer vonden. Dit bracht de onderzoekers momenteel tot de meest plausibele theorie, namelijk dat het monster van Loch Ness een aal is. 

Kan AI nu mysteries ontrafelen? 

Een honderd procent ‘ja’ zullen we niet kunnen geven. Wel kunnen we de waarheid met deze nieuwe technologie nog beter benaderen. We dienen te zorgen dat AI getraind wordt met voldoende, gevarieerde en representatieve data en de juiste algoritmes kiezen.  

We zullen AI regelmatig moeten valideren en testen met nieuwe gegevens. Ook zal er goed nagedacht moeten worden welke kenmerken van de gegevens gebruikt gaan worden om de prestaties van het model zo goed mogelijk te krijgen en zogeheten overfitting zoveel mogelijk te voorkomen. 

Interessant voor jou? 

Etesian wil graag in contact treden met dienstverleners om de mogelijkheden van deze nieuwe AI-technologie voor hun bedrijfsvoering af te tasten. 

Ben jij een advies- en onderzoeksbureau en voer je inspecties uit of monitor je installaties ten behoeve van rapportages of kwaliteitsbewaking? En wil je jouw bedrijfsprocessen optimaliseren? Dan zullen deze nieuwe slimme technieken hier zeker aan gaan bijdragen. 

Is je interesse gewekt? Neem dan contact met ons op: [email protected]