’AI moet zijn werk kunnen verklaren en verantwoorden’

Artificial Intelligence (AI) wordt – met dank aan Hollywood – door veel mensen geassocieerd met robots die de wereld willen overnemen. Daar is in elk geval op dit moment nog absoluut geen sprake van, meent de Canadese computerwetenschapper Yoshua Bengio, specialist op het gebied van neurale netwerken en deep learning. Maar het is wel degelijk belangrijk nu al heel goed na te denken over de impact en consequenties van het gebruik van AI in onze samenleving.

Bengio sprak tijdens een bijeenkomst over AI in Montreal met Patrice Caine, CIO van Thales Group, een specialist op het gebied van technische oplossingen voor lucht- en ruimtevaart, transport, defensie en beveiliging. De toepassing van AI is cruciaal om in al deze sectoren sneller en beter onderbouwd beslissingen te kunnen nemen, meent Caine. “Maar als we onze beslissingen baseren op geautomatiseerde analyses en processen moeten we er wel voor zorgen dat deze systemen hun werk kunnen verklaren en verantwoorden.”

Vertrouwen in AI

Caine noemt dit ‘a priori trust’: zuivere resultaten gebaseerd op zuivere data. In ons dagelijks leven is het al een uitdaging om onze beslissingen niet te baseren op onbewust gekleurde informatie. Nog moeilijker is het ervoor te zorgen dat we geautomatiseerde systemen voeden met data die bijvoorbeeld een goede reflectie zijn van de enorme diversiteit in deze wereld. “Wij mensen zijn ons al niet bijster goed bewust van onze eigen motivaties”, zegt Bengio. “We moeten er rekening mee houden dat wat we nu AI noemen in feite nog heel dom is. Het heeft maar een heel erg oppervlakkig begrip van de wereld om ons heen.”

Dat legt een grote verantwoordelijkheid bij de partijen die gebruikmaken van AI. Zeker als het gaat om de inzet van AI in kritieke systemen. Gerben Edelijn, CEO van Thales Nederland: “Als de kunstmatige intelligentie van Spotify mij verkeerde muziek aanraadt, is dat hooguit irritant. Als het gaat om leven en dood, moeten we heel goed weten hoe de algoritmes van dit soort systemen in elkaar zitten en op welke basis ze ons helpen in onze besluitvorming.”

Om die reden werkt Thales nu aan een zogeheten ‘charter’ over ethiek en digitale transformatie, vertelt Caine: een document waarin de ethische en morele grenzen zijn vastgelegd waarbinnen het gebruik van AI zich kan ontwikkelen. Het charter, dat in de loop van dit jaar wordt gepubliceerd, draait volgens Caine om vertrouwen, waakzaamheid en beleid. “Vertrouwen in wat AI doet en hoe het werkt, waakzaamheid rond de ethische impact van AI op de toepassingen die wij leveren, en beleid waarmee we ethische overwegingen een centrale plaats geven in al onze beslissingen.”

AI voor veiligheid

De uitdaging van dit voornemen wordt heel duidelijk uit de vele nieuwe toepassingen van AI die momenteel worden ontwikkeld. Mike Balm, directeur New Business bij Thales Nederland, houdt zich bezig met AI om vele databronnen, die betrekking hebben op onze veiligheid, op een intelligente manier te kunnen samenbrengen. Er zijn talloze databronnen die ons in potentie samen in staat stellen veel sneller en adequater te reageren op calamiteiten. De uitdaging is dat al die data niet zomaar altijd gecombineerd kan worden.

“Als een ziekenwagen naar een adres op weg is, weet de politie soms dat er op het betreffende adres meer aan de hand is, bijvoorbeeld dat er iemand woont die eerder is veroordeeld voor bezit van vuurwapens”, vertelt Balm. “Maar dat mogen ze niet zomaar over de radio met die ambulanceverpleegkundigen delen, omdat anderen die ook naar de radio luisteren dit niet mogen weten.” Wet- en regelgeving zet belangrijke beperkingen op het gebruik van databronnen en het delen van informatie. Maar onder bepaalde omstandigheden, zoals levensbedreigende situaties, maakt de wet plots veel meer mogelijk en moet sommige informatie zelfs worden gedeeld.

De uitdaging was een systeem te verzinnen dat reddingsdiensten in staat stelt zeer snel te schakelen, zodat in noodgevallen alle relevante informatie ook direct toegankelijk wordt naar enkel die individuen die op dat moment bevoegd zijn, maar dat na afloop die toegang tot informatie ook weer kan worden afgesloten. Daarvoor heeft Thales Nederland nu een oplossing ontwikkeld. “Momenteel verschuilen organisaties zich achter dikke muren en is het heel lastig om gedoseerd en gecontroleerd informatie te delen. Met onze oplossing beveiligen we informatie op dataniveau in plaats van deze te verschuilen achter firewalls, zodat wij heel gericht toestemming kunnen geven om bepaalde (delen van) informatie te verstrekken en we die toestemming ook heel snel en eenvoudig weer kunnen intrekken.” De oplossing van Thales is bovendien in staat uit zeer diverse API’s en datatypes relevante informatie te halen.

Mobiliteitsoplossingen

Artificial Intelligence kan ook goed worden ingezet voor commerciële toepassingen. Mathijs Voorend, Marketing Manager bij Thales Group, werkt bijvoorbeeld aan MaaS voor openbaar vervoer. MaaS (Mobility as a Service) maakt het mogelijk allerlei verschillende vervoersoplossingen aan elkaar te koppelen en te bundelen. Daarbij gaat het niet alleen om de data van OV-partijen als NS, RET of GVB, maar ook om bijvoorbeeld Uber, taxi’s of fietsverhuurders. “Er komen steeds meer vervoersoplossingen bij”, vertelt Voorend, “Van elektrische steps tot watertaxi’s, drones en deelauto’s. Met MaaS koppel je al die opties in één app, die de ideale oplossing voor je uitwerkt en gelijk voor je afrekent.”

Volgens Voorend is MaaS voor stedelijke gebieden een uitkomst. Hij verwacht zelfs dat de eigen auto door dit soort oplossingen voor veel mensen in feite overbodig wordt. Maar ook voor dienstverleners en overheden is het ideaal. “Hoe meer reizigersinformatie we dankzij AI kunnen koppelen, hoe beter we in staat zullen zijn vervoersstromen te managen, zodat we de openbare ruimte veel effectiever kunnen benutten.” Ongewenste bijeffecten van verstedelijking, zoals vervuiling, congestie en zelfs criminaliteit, worden veel beter beheersbaar als verkeer actief kan worden gestuurd.

Controle over AI

Dergelijke ontwikkelingen zijn onvermijdelijk, meent Edelijn, maar we moeten er wel over blijven praten: “De samenwerking tussen mens en computer is een feit. Als we het hebben over zelfrijdende treinen, maakt iedereen zich direct zorgen over het lot van de machinist. Als reactie moeten we niet proberen de techniek tegen te houden, maar moeten we ons afvragen wat we voor die machinist kunnen doen.”

Yoshua Bengio schat dat zo’n 50% van de werkzame bevolking vroeg of laat bij- of omgeschoold moet worden, doordat intelligente systemen delen van hun werk overnemen. Maar ook hij denkt niet dat dit een reden moet zijn om de ontwikkeling af te remmen. In tegendeel: “Het laatste wat we willen is dat mensen met minder goede bedoelingen een voorsprong opbouwen.” Hij roept dan ook op tot internationale samenwerking en coördinatie: “Als we zorgen dat we snel meer kennis en ervaring opbouwen, stelt ons dat ook in staat onszelf beter te beschermen tegen de negatieve kanten van AI.”

Technologie is uitermate geschikt om complexe situaties hanteerbaar te maken, zeker als ze hoge handelingssnelheid vereisen, zegt Patrice Caine. “Thales gebruikt AI bijvoorbeeld op marineschepen, waar luchtafweergeschut in een fractie van een seconde het verschil tussen een zeemeeuw en een hypersonische raket moet kunnen zien.” Maar AI blijft niet beperkt tot high tech defensie-oplossingen. Het dringt nu door tot ons dagelijks leven. De internationale gemeenschap probeert hier momenteel een gezamenlijk standpunt over in te nemen, maar Caine vindt dat de industrie daar niet op mag wachten. “Met AI moeten we heel voorzichtig zijn, juist als het gaat om mensenlevens. Deels vanwege wettelijke aansprakelijkheid, maar vooral vanuit ethisch oogpunt en morele verantwoordelijkheid.”

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Deze website gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.