Bedrijven die met kunstmatige intelligentie werken, kunnen zich voortaan verzekeren tegen de risico’s daarvan. Verzekeringsmarkt Lloyd’s of London introduceert een nieuwe polis die dekking biedt bij schade veroorzaakt door slecht presterende AI-systemen. Het gaat onder meer om claims van klanten die benadeeld zijn door foutieve AI-uitvoer, zoals misleidende of onjuiste teksten.
Fouten
Volgens de Financial Times is het een baanbrekende stap binnen de verzekeringswereld. De polis vergoedt bijvoorbeeld juridische kosten of schadeclaims wanneer een AI-toepassing onverwacht fouten maakt die leiden tot financiële of reputatieschade. Denk aan een chatbot die klanten verkeerd informeert, zoals gebeurde bij Air Canada, of zelfs het eigen bedrijf afbrandt, zoals een AI van pakketbezorger DPD.
Verzekering
De verzekering is ontwikkeld door de Canadese start-up Armilla in samenwerking met Lloyd’s. Wat de polis onderscheidt van bestaande AI-dekkingen is de hogere maximale uitkering en de bredere toepasbaarheid. Dat maakt de verzekering aantrekkelijk voor bedrijven die AI willen inzetten, maar huiverig zijn voor de risico’s.
Toch is de dekking niet onbeperkt. Alleen als aangetoond wordt dat de AI slechter presteerde dan vooraf verwacht, komt de verzekering in beeld. Bijvoorbeeld: een chatbot die doorgaans 95 procent van de vragen correct beantwoordt, maar plotseling nog maar 85 procent haalt, kan aanleiding zijn voor vergoeding. Voorwaarde is wel dat er vooraf een technische audit is uitgevoerd op het AI-model, om de verwachtingen te kunnen vastleggen.
Foutloos bestaat niet
Helemaal foutloze of volledig betrouwbare AI bestaat niet, en daar speelt de verzekering op in. Tegelijkertijd worden structureel gebrekkige modellen en zogenoemde ‘hallucinaties’, oftewel verzinsels van AI-systemen, meestal uitgesloten van dekking. Bedrijven blijven dus verantwoordelijk voor de kwaliteit en het toezicht op hun AI-systemen.
Met deze polis zet Lloyd’s een belangrijke stap in het beheersen van een groeiend en complex risicogebied. Het kan bedrijven helpen met meer vertrouwen AI-oplossingen te ontwikkelen en toe te passen.