‘Voor een grootschalige inzet van AI is meer transparantie broodnodig’

De mogelijkheden van AI zijn zo fenomenaal en veelomvattend dat een breed debat over de inzet van AI en de wenselijkheid ervan hard nodig is. Bij marketeers, bij bedrijven, maar ook in de maatschappij van alledag.  

Ik ben een technologie-optimist. Innovatie en nieuwe technologie heeft ons leven al eeuwenlang verbeterd en zo zal het in de toekomst ook zijn. Alleen komt er nu wel heel krachtige technologie op ons af die naast voordelen ook een aantal nadelen kent. De mogelijkheden van artificiële intelligentie zijn fenomenaal zowel voor ons dagelijks leven, als voor de professionele industrie als voor overheden. Artificiële intelligentie zal binnen afzienbare tijd gewoon onderdeel van ons leven uitmaken net zoals internet en elektriciteit dat vandaag al zijn. Om ervoor te zorgen dat we ten volle van de voordelen kunnen genieten, roep ik op om op korte termijn de transparantie rond deze technologie te verhogen. 

Temptation Island voor marketeers

Nieuwe technologie zou wel eens een soort Temptation Island kunnen worden voor marketeers. De meeste marketeers zijn heel correct en braaf, maar wat gebeurt er als je ze op Temptation Island zet? Wat gebeurt er als marketeers de mogelijkheid krijgen om bijvoorbeeld een verkoopprijs op een ontransparante manier te personaliseren? Stel dat je in realtime de gemoedstoestand van de klant kunt inschatten en daardoor weet of iemand bereid is net iets meer of iets minder geld uit te geven voor een aankoop. Hoe ga je om met die informatie? De Amazon Halo armband die recent werd gelanceerd kan in real time je emoties vaststellen op basis van je stem. Zal Amazon de prijzen verhogen als ze weten dat je in een goede bui bent? Zal je favoriete chocolade iets duurder aanbevolen worden als je triest bent en ze weten dat je net nu niet zonder kan? Geen idee, maar het is wel een mogelijkheid. Willen we dat als maatschappij?

Zullen mensen er ooit in slagen om machines te bouwen die kunnen liegen? 

Wat denk je?

We kennen het antwoord op deze vraag allemaal. Natuurlijk zullen we machines bouwen die kunnen liegen. Denk terug aan de Dieselgate-crisis waar de Volkswagengroep enkele jaren geleden in terecht kwam. Dat is een perfect voorbeeld van een liegende machine. De software manipuleerde de cijfers als een mechanicus de uitstoot van de auto met open motorkap controleerde. Als je een machine programmeert om te liegen, dan kun je er donder op zeggen dat die machine ook écht zal liegen. Het voorbeeld van Volkswagen is algemeen bekend, maar ik ben ervan overtuigd dat er veel vergelijkbare voorbeelden bestaan die (nog) niet geweten zijn. 

AI audit-team

Er is volgens mij dringend behoefte aan een AI audit-team dat enerzijds de afspraken over het gebruik van geavanceerde technologie vastlegt en anderzijds controles uitvoert op de algoritmes die bedrijven gebruiken. De algoritmes zijn zo vrijwel altijd een black box voor de klant. Hoe meer algoritmes een rol spelen in onze aankoopbeslissingen, hoe groter de nood aan een controleorgaan, om er zeker van te zijn dat de klant op een correcte manier wordt behandeld. De voorbije drie jaar is hier regelmatig over gepraat, maar een algemeen aanvaard systeem staat nog niet op punt.

Zelfregulering

Als er geen ethische regels en controles zijn, dan ligt de verantwoordelijkheid om correct te handelen bij de bedrijven zelf. Elk bedrijf kan op eigen initiatief een eigen ethische gedragscode bepalen voor het gebruik van geavanceerde technologie gelinkt aan klanten en medewerkers. Dit debat proactief organiseren is een belangrijke eerste stap. Zo is Microsoft al jarenlang bezig om voor zichzelf ethische standaarden te zetten. Satya Nadella, de CEO van het softwarebedrijf, is een enorme pleiter voor ‘technology for good’. Ethisch correct handelen vindt hij een minimumvoorwaarde. De échte ethische verantwoordelijkheid is volgens Nadella de inzet van technologie om een betere maatschappij te bouwen. Pas dan ben je ten volle ethisch correct bezig. 

Ethische keuzes: willen we nog afscheid nemen?

Naast de bedrijfscontext is er ook nood aan een stevig maatschappelijk debat over het gebruik van technologie. Hoever willen we de mogelijkheden van technologie laten evolueren? 

Op een mooie dag in februari 2020 zette de Zuid-Koreaanse Jang Ji-Sung een virtualrealitybril op. Enkele seconden later barstte de vrouw in tranen uit. In de virtuele wereld werd ze herenigd met haar zeven jaar oude dochtertje, dat drie jaar eerder gestorven was. Ze ontmoetten elkaar in de favoriete speeltuin van het kleine meisje. 

Bij het horen van haar stem: ‘Mama, denk je nog veel aan mij?’, werd het te veel voor de moedige vrouw. 

‘Altijd. Elke dag’, stamelde ze. 

Jang Ji-Sung was blij met deze ervaring. Ze was tevreden door haar dochter te zien en haar stem te horen. Niet iedereen is enthousiast over deze technologische mogelijkheden. Sommige mensen, hoezeer ze hun overledenen ook missen, willen het liever bij de menselijke herinneringen houden. Sommige mensen vrezen dat je met dit soort technologie nooit volledig afscheid kunt nemen van een geliefde. 

Virtueel onsterfelijk

Hoe ver willen we gaan met de technologische mogelijkheden? Dat is een heel belangrijke vraag. Vandaag staat virtual reality nog in haar kinderschoenen. Als we in 2035 een VR-ervaring zullen beleven, zal de huidige technologie middeleeuws lijken, vergelijkbaar met een Commodore 64 tegenover de huidige generatie iPhones. Dankzij data-analyses, sterke beeldvorming en krachtige artificiële intelligentie zal het perfect mogelijk zijn om een virtuele versie van een mens te maken. De technologie zal ons in staat stellen om echte gesprekken te voeren (op basis van de data uit het verleden) met een overleden persoon. Het zal levensecht lijken. De vraag is: willen we dat? Worden wij allemaal virtueel onsterfelijk op die manier? Zullen kinderen de kans krijgen om hun overgrootouders te ontmoeten? Willen we op zeker moment in ons leven nog eens raad kunnen vragen aan onze ouders? Willen we kinderen die veel te jong sterven virtueel zien verder leven? Ik weet het eerlijk gezegd niet.  Er zijn positieve en negatieve argumenten te vinden voor beide situaties. Eenzaamheid bij oudere mensen is een groot maatschappelijk probleem. Als één van beide partners na een huwelijk van vijftig jaar sterft, rest er een grote leegte voor de overblijver. Misschien kan een virtuele versie van de geliefde de eenzaamheid verkleinen. Of misschien wordt het gemis van de echte persoon juist erger. We weten het niet. 

De komende jaren wordt technologie een stuk krachtiger dan ze vandaag al is. De mogelijkheden om de grenzen van het menselijke en het goddelijke te overstijgen, komen steeds dichterbij. Een debat over de grenzen van de technologische kracht tussen overheden, bedrijven en een diverse groep experten (filosofen, gedragswetenschappers, sociologen, …) zou een mooie stap voorwaarts zijn. 

Eternal

In een managementboek schrijven over ethiek blijft iets theoretisch. Daarom heb ik besloten een driedelige fictiereeks te schrijven over dit onderwerp. In november 2020 komt het eerste boek op de markt. De titel van het boek is Eternal, het is een Nederlandstalige technologie thriller. 

Het gaat over een bedrijf, X-COM, dat een baanbrekende nieuwe technologie op de markt brengt: Eternal. Deze technologie zorgt ervoor dat mensen niet meer hoeven te sterven. Door een combinatie van nanobots en herseninterfaces worden mensen niet meer ziek. Bovendien biedt de technologie de mogelijkheid om ook de criminaliteit proactief uit de wereld te helpen. Bij de voorstelling van de technologie reageert heel de wereld enthousiast. Iedereen staat te springen om eeuwig te kunnen leven. Romy Bell, de projectleidster van Eternal, zit vol spanning naar de voorstelling van het nieuwe product te kijken, als ze ontdekt dat haar collega tijdens deze presentatie is gestorven in een ongeval met een zelfrijdende auto. Ergens voelt ze dat er iets niet klopt: met zelfrijdende auto’s behoren ongevallen tot het verleden. Ze graaft dieper naar de oorzaak van het ongeval. Als ze plots een boodschap ontvangt van haar overleden collega, slaat de schrik haar om het hart. Iemand wil de technologie op een vreselijke wijze misbruiken. Een race tegen de klok start. 

Droom

Ik wilde altijd al een fictieboek schrijven en ben opgetogen dat deze droom is uitgekomen. Eternal is een realistische sciencefictionthriller, waarin het debat over de grenzen van de technologie heel duidelijk wordt omschreven en akelig dichtbij komt. Met dit boek realiseer ik één van mijn persoonlijke dromen, maar hoop ik eveneens een debat te starten over de ethische grenzen van technologie. 

Over de auteur: Steven van Belleghem schrijft managementboeken, is actief als spreker en is mede-oprichter van Nexxworks