Organisaties moeten data die door AI-modellen worden gebruikt beveiligen. Dat zeggen NSA en CISA in een nieuwe richtlijn.
Volgens de organisaties is beveiliging een belangrijke overweging nu het AI-gebruik explosief stijgt en beveiliging achterblijft. De richtlijn komt van het Artificial Intelligence Security Center (AISC) van de National Security Agency (NSA), de Cybersecurity and Infrastructure Security Agency (CISA), de National Security Agency (NSA) en de Federal Bureau of Investigation. Hoewel AI-modellen en machine learning-systemen zoals grote taalmodellen (LLM’s) helpen bij automatisering van, is beveiliging vaak bijzaak. Niet alleen schiet die beveiliging tekort, maar veel organisaties onderschatten ook de risico’s. En die zijn talrijk.
De richtlijn focust op drie belangrijke gebieden van AI-databeveiligingsrisico’s: toeleveringsketen, kwaadwillig gewijzigde of gepositioneerde data en datadrift. Wie deze risicogebieden niet aanpakt, maakt het voor aanvallers makkelijk om data te manipuleren en dus de prestaties van modellen verslechteren. Organisaties die AI gebruiken in hun bedrijfsvoering moeten de hele levenscyclus beveiligingsmaatregelen nemen, vanaf de ontwikkeling tot en met de implementatie en daarna.
De baas over je gegevens en de AI-modellen
In de richtlijn vind je een hele trits aan tips die zorgen dat je de baas blijft over zowel je gegevens als de AI-modellen. Zo worden organisaties dringend verzocht de herkomst van gegevens te volgen, integriteit van gegevens te verifiëren en behouden tijdens opslag en transport, gegevens te beschermen en veilig op te slaan, en doorlopend risicobeoordelingen voor gegevensbeveiliging uit te voeren.
Volg bijvoorbeeld de herkomst van gegevens. Controleer de gebruikte gegevensbronnen en vertrouw alleen op betrouwbare en nauwkeurige gegevens voor training en bediening van AI-systemen. Implementeer herkomsttracking en integreer een beveiligde herkomstdatabase om bronnen van kwaadwillig gewijzigde gegevens te identificeren en te zorgen dat de gegevens niet zijn gemanipuleerd.
Verder is het zaak dat bedrijven de integriteit van gegevens tijdens opslag en transport controleren. Gegevensintegriteit is een essentieel onderdeel om de betrouwbaarheid van gegevens te behouden.
Het gebruik van digitale handtekeningen om gegevensrevisies te authenticeren is volgens de richtlijn belangrijk. Digitale handtekeningen voorkomen manipulatie. Organisaties moeten verder ook kwantumresistente standaarden voor digitale handtekeningen hanteren.
Bedrijven kunnen het beste een vertrouwde computeromgeving creëren op basis van zero-trust en bewaar die gegevens in veilige enclaves. Classificeer die gegevens en gebruik daarbij ook toegangscontroles.
De uitvoer van AI-systemen moet op hetzelfde niveau worden geclassificeerd als invoergegevens, in plaats van een aparte set beveiligingsmaatregelen. Gegevens versleutelen is ook een dringend advies. Beveilig gegevens zowel in rust, tijdens de overdracht en tijdens de verwerking. AES-256-versleuteling is de industriestandaard en resistent genoeg tegen quantum computing-bedreigingen. Gebruik van protocollen als TLS met AES-256 of post-quantumversleuteling voor gegevens tijdens de overdracht is belangrijk.
Gegevens veilig bewaren kan het beste in gecertificeerde opslagapparaten die voldoen aan NIST FIPS 140-3-vereisten, zodat de cryptografische modules om de gegevens te versleutelen een hoog niveau van beveiliging bieden tegen geavanceerde inbraakpogingen. Overweeg ook privacybeschermende technieken. Gebruik waar mogelijk datamaskering om de training en ontwikkeling van AI-modellen te vergemakkelijken.
Zelfs aan gegevens verwijderen is gedacht. Veel organisaties verwijderen ze namelijk onveilig. Gegevens wissen met een veilige verwijdermethode zoals cryptografisch wissen, blok wissen of gegevens overschrijven voordat je systemen hergebruikt of buiten gebruik stelt, is volgens de organisaties het beste.
Maar vooral is het belangrijk steeds risicobeoordelingen uit te voeren voor gegevensbeveiliging. Verbeter voortdurend de gegevensbeveiligingsmaatregelen om gelijke tred te houden met evoluerende bedreigingen en kwetsbaarheden, leer van beveiligingsincidenten en blijf op de hoogte van nieuwe technologieën.
Tip:
- Nederlandse bedrijven leven in gevaarlijke schijnveiligheid