Kunstig intelligens i cybersikkerhet – et tveegget sverd

I 2019 publiserte Mariarosaria Taddeo, Tom McCutcheon og Luciano Floridi en artikkel i Nature Machine Intelligence med tittelen, Trusting artificial intelligence in cybersecurity is a two-edged sword.

De hevder at «tillit til AI for cybersikkerhet er uberettiget, og for å redusere sikkerhetsrisikoen er det nødvendig med en form for kontroll for å sikre utplassering av ‘pålitelig AI’ for cybersikkerhet.»

Det samme gjelder i dag. Mens AI har tatt kvantesprang siden 2019, er det å stole blindt på kunstig intelligens en oppskrift på cybersikkerhetskatastrofe. Ifølge en rapport fra McKinsey, vil cyberangrep i økende grad multipliseres ved hjelp av verktøy som AI, maskinlæring og automatisering.

Hvordan AI kan hjelpe cybersikkerhetsteamet å oppdage cybertrusler

AI kan bistå cybersikkerhetsteam å bekjempe angrep gjennom automatisert deteksjon og blokkering av angrep og kan bidra til å sikre nettverk og tjenester.

AI kan være et verktøy for å utvide cybersikkerhetsteamets trusseldeteksjon og generelle sikkerhetsomfang via:

• Sårbarhetshåndtering
• Nettverksovervåking
• Trusseldeteksjon
• Kontinuerlig forbedring

Sårbarhetshåndtering

AI kan proaktivt administrere nettverkssårbarheter før de skader nettverket ditt. AI og maskinlæring bruker sammen ekstremt komplekse algoritmer for å analysere mistenkelige mønstre for å forbedre nettverkssikkerheten generelt.

Nettverksovervåking

AI kan sette opp et nettverks grunnlinje og beskytte det hele tiden basert på trafikkmønstre. Den bruker grunnlinjen som et referansepunkt og justeres etter hvert som trafikkmønstrene endres over tid.

Trusseldeteksjon

AI bruker atferdsanalyse for å overvåke all nettverksaktivitet konstant og bistå med trusseldeteksjon. Den kan identifisere ondsinnede aktiviteter fortløpende og reagere på trusler umiddelbart.

Kontinuerlig forbedring

Fordi AI hele tiden lærer, forbedres den over tid. Jo før du implementerer en AI-cybersikkerhetsløsning, jo bedre blir den. I tillegg har den en tendens til å lære eksponentielt raskere. Så selv om det kan virke som en stor investering når du kommer i gang, vet du at systemet ditt vil forbedre seg kontinuerlig.

Risikoer ved bruk av kunstig intelligens i cybersikkerhet

Selv om AI kan være en fantastisk ressurs for cybersikkerhetsteamet ditt er noen risikoer forbundet med bruken og noen tips for å redusere disse risikoene.

Noen risikoer ved å stole for blindt på AI for cybersikkerhet:

• Kvaliteten på dataen
• Overdreven avhengighet av modeller
• Sikkerhetsbrudd
• Uforutsette konsekvenser

Kvalitet på data

Data av dårlig kvalitet kan føre til unøyaktige resultater fra AI-modeller. Dårlig datakvalitet kan være forårsaket av ufullstendige eller feil data, noe som fører til problemer som falske positive eller negative, som kan sette organisasjoner i fare. Det er viktig for organisasjoner å sikre at dataene deres er rene og nøyaktige før de mates inn i en AI-modell.

Overavhengighet av modeller

Organisasjoner bør ikke stole utelukkende på modeller for sin sikkerhetsstrategi, da modellene bare er like gode som dataene de mottar. Menneskelige analytikere må inkluderes i prosessen for å sikre at modeller ikke går glipp av noe eller gjør feil antagelser basert på tilgjengelige data. Enten har deres organisasjon slike ressurser eller dere kan kjøpe slike tjenester av en partner som NetNordic.

Sikkerhetsbrudd

AI-baserte systemer kan være sårbare for hacking på grunn av deres avhengighet av store mengder sensitive data som angripere kan forsøke å få tilgang til eller manipulere. Organisasjoner må sørge for at alle sikkerhetstiltak er på plass og jevnlig oppdatert ved bruk av AI-baserte systemer for å minimere potensielle risikoer forbundet med ondsinnede aktører som prøver å få tilgang.

Uforutsette konsekvenser

Det er alltid en potensiell risiko for at et AI-system kan få utilsiktede konsekvenser på grunn av uforutsette omstendigheter (f.eks. ukjente sårbarheter eller nye trusler som ingen har forutsett før). Dette kan potensielt forårsake store skader hvis det ikke løses umiddelbart, så organisasjoner bør ha beredskapsplanlegging på forhånd i tilfelle noe uventet skulle oppstå mens de bruker AI til cybersikkerhetsformål.

Avslutningsvis, som de lærde som påpekte det tveeggede sverdet som er AI i cybersikkerhetskonteksten påpekte tilbake i 2019, er konseptet fortsatt sant og gyldig den dag i dag!

NetNordic er her for å hjelpe deg og organisasjonen din med å utvikle en solid strategi som baserer seg på din risikovillighet. En slik strategi involverer naturligvis AI og maskinlæring, men også med beskyttelse. Kontakt oss i dag, så hjelper vi deg gjerne!

Skrevet av Trygve Wettestad – Salgsdirektør for store og komplekse kunder innen nettverk og cybersikkerhet hos NetNordic Norway AS

Ta kontakt med oss for en uforpliktende sikkerhetsprat i dag!
Fyll inn kontaktinformasjon: