Secure AI Framework helpt AI-modellen beveiligen tegen hackers

Google heeft zijn Secure AI Framework gelanceerd. Daarmee wil de techreus bedrijven helpen om hun AI-modellen beter te beschermen tegen hackers.

Concreet moet het Secure AI Framework (SAIF) neurale netwerken helpen beveiligen, zodat inbrekers de leergegevens of code van een AI-model niet zomaar kunnen stelen. Ook wanneer sabotage het doel is, moet het AI’s beter beschermen. Google heeft zijn aanbevelingen in een rapport gegoten.

Googles SAIF wil de cyberbeveiliging bij bedrijfs-AI’s op zes punten verbeteren. Voor een stuk gaat het om suggesties voor een beter beleid:

In eerste instantie vraagt SAIF om de al aanwezige cyberbeveiliging beter af te stemmen op kunstmatige intelligentie, met onder meer software tegen SQL-injecties. Bij zulke aanvallen versturen hackers valse opdrachten naar een database om gegevens te stelen.
Daarnaast wil Googles nieuwe programma focussen op mogelijke dreigingen. Het proactief zoeken naar mogelijk schadelijke AI-content moet belangrijker worden. Admins wordt gevraagd om nieuwe procedures te implementeren en niet zomaar te vertrouwen op oudere beveiligingssystemen.
Verder is het ook een mogelijkheid om AI in te schakelen voor het vereenvoudigen van complexe taken. Kunstmatige intelligentie kan malware of verdachte code helpen opsporen en doorgronden. Google wijst er wel op dat programmeurs altijd nog eindcontroles moeten uitvoeren.
Ook aangeraden: controles harmoniseren over de verschillende platformen die een bedrijf gebruikt. Het kan AI-toepassingen veel efficiënter helpen beschermen.
AI-systemen kunnen zichzelf veiliger maken door aan een goed tempo te blijven bijleren en actueel te blijven. Daarvoor hebben ze voldoende feedback nodig.
Tot slot raadt SAIF een soort risicoanalyse aan, waarbij de end-to-endrisico’s onderzocht worden wanneer een bedrijf AI wil gaan inzetten.
Secure AI Framework waakt
Daarnaast heeft Google nog een aantal tips verwerkt in zijn SAIF. Zo doen beveiligingsteams er goed aan om te inventariseren welke AI-systemen werknemers nu precies gebruiken en om een standaardmethode uit te werken van hoe ermee om te gaan.