This is the Trace Id: 6e98eedb1ff27597a919d55e7a39fb0e

Microsofts guide til sikring af den AI-drevne virksomhed: Introduktion

Download guiden
Del
En kvinde, der bruger en berøringsskærm.

Kom godt i gang med AI-programmer

Kunstig intelligens (AI) transformerer virksomhedsdrift ved at åbne op for innovation og introducerer samtidig nye risici. Fra skygge-AI (værktøjer på forbrugerniveau, der er taget i brug uden tilsyn) til prompt-injicerede angreb – og lovgivning under udvikling såsom EU AI Act – organisationer skal håndtere disse udfordringer for at bruge AI sikkert.

Denne guide dækker de risici, som er forbundet med AI: udfordringer med datalækage, nyopståede trusler og overholdelse samt de unikke risici ved agentisk AI. Den tilbyder også vejledning og praktiske skridt, du kan tage, baseret på strukturen for ibrugtagning af AI. Du kan få dybere indsigt og handlingsrettede trin ved at downloade guiden.

AI ændrer alt – men kun hvis du kan bruge det sikkert. Lad os komme i gang.

Når organisationer tager AI i brug, skal ledere håndtere tre grundlæggende udfordringer:
  • 80 % af ledere nævner datalækage som en af de største bekymringer. 1 Skygge-AI-værktøjer – brugt uden IT-godkendelse – kan eksponere følsomme oplysninger, hvilket øger risikoen for brud.
  • 88 % af organisationer bekymrer sig om manipulation af AI-systemer af ondsindede aktører. 2 Angreb som prompt-injicering udnytter sårbarheder i AI-systemer, hvilket sætter fokus på behovet for proaktive forsvar.
  • 52 % af ledere føler sig usikre i forhold til at navigere i AI-lovgivning. 3 Det er afgørende vedvarende at overholde love som EU AI Act for at skabe tillid og bevare muligheden for innovation.

Agentisk AI er potentielt transformerende, men dets autonomi introducerer unikke sikkerhedsudfordringer, der kræver proaktiv risikostyring. Nedenfor finder du de vigtigste risici og strategier, som er skræddersyet til at håndtere dem:

Hallucinationer og utilsigtede resultater

Agentiske AI-systemer kan producere unøjagtige, forældede eller uoverensstemmende resultater, hvilket kan føre til driftsforstyrrelser eller dårlige beslutninger.

For at mindske disse risici bør organisationer implementere strenge overvågningsprocesser for at gennemgå AI-genererede resultater i forhold til nøjagtighed og relevans. Regelmæssig opdatering af træningsdata sikrer overensstemmelse med aktuel information, mens eskaleringsveje for komplekse sager muliggør menneskelig indgriben, når det er nødvendigt. Menneskelig overvågning forbliver afgørende i forhold til at opretholde pålidelighed og tillid i AI-drevet drift.

Overafhængighed af AI-beslutninger

Blind tillid til agentiske AI-systemer kan føre til sårbarheder, når brugere handler på fejlbehæftede resultater uden validering.

Organisationer bør etablere politikker, der kræver menneskelig gennemgang af beslutninger med høj risiko, som er påvirket af AI. Uddannelse af medarbejdere om AI-begrænsninger fremmer informeret skepsis, hvilket reducerer sandsynligheden for fejl. Kombination af AI-indsigt med menneskelig dømmekraft gennem lagdelte beslutningsprocesser styrker den samlede modstandsdygtighed og forhindrer overafhængighed.

Nye angrebsvektorer

Autonomien og tilpasningsevnen ved agentisk AI skaber muligheder for angribere til at udnytte sårbarheder, hvilket introducerer både driftsmæssige og systemiske risici.

Driftsmæssige risici omfatter manipulation af AI-systemer for at udføre skadelige handlinger, f.eks. uautoriserede opgaver eller phishing-forsøg. Organisationer kan reducere disse risici ved at implementere robuste sikkerhedsforanstaltninger, herunder registrering af uregelmæssigheder i realtid, kryptering og strenge adgangskontroller.
Systemiske risici opstår, når kompromitterede agenter forstyrrer internt forbundne systemer, hvilket forårsager kaskader af fejl. Fejlsikre mekanismer, protokoller for redundans og regelmæssig overvågning – tilpasset til cybersikkerhedsstrukturer såsom NIST – medvirker til at minimere disse trusler og styrker forsvar mod fjendtlige angreb.

Ansvar

Agentisk AI fungerer ofte uden direkte menneskelig overvågning, hvilket rejser komplekse spørgsmål om ansvar for fejl.

Organisationer bør definere klare rammer for ansvar, der specificerer hvilke roller, der har ansvaret for AI-relaterede resultater. Gennemsigtig dokumentation af processer til AI-beslutningstagen understøtter fejlfinding og ansvarstildeling. Samarbejde med juridiske teams sikrer overholdelse af regler, mens vedtagelse af etiske standarder for AI-styring opbygger tillid og reducerer omdømmerisici.

Med nye AI-innovationer som agenter skal organisationer etablere et solidt fundament baseret på Zero Trust-principperne – "aldrig have tillid, altid bekræfte". Denne tilgang hjælper med at sikre, at hver interaktion er godkendt, bekræftet og kontinuerligt overvåget. Selvom det tager tid at opnå Zero Trust, muliggør en faseopdelt strategi stabil fremgang og opbygger tillid til sikkert at integrere AI.

Microsofts struktur for ibrugtagning af AI fokuserer på tre grundlæggende faser: Styr AI, Administrer AI og Sikker AI.

Ved at håndtere disse områder kan organisationer lægge grundlaget for ansvarlig AI-brug, samtidig med at de reducerer kritiske risici.

For at få succes skal man prioritere mennesker ved at træne medarbejdere til at genkende AI-risici og bruge godkendte værktøjer sikkert. Frem samarbejdet mellem it-, sikkerheds- og forretningsteams for at sikre en samlet tilgang. Øg gennemsigtigheden ved åbent at kommunikere dine AI-sikkerhedsinitiativer for at opbygge tillid og demonstrere lederskab.

Med den rette strategi, forankret i Zero Trust-principper, kan du reducere risici, muliggøre innovation og navigere sikkert i det udviklende AI-landskab.

Mere fra Sikkerhed

Navigation i cybertrusler og styrkelse af forsvar i den kunstige intelligens' tidsalder

Fremskridt inden for kunstig intelligens (AI) giver nye trusler – og muligheder – for cybersikkerhed. Find ud af, hvordan trusselsaktører bruger kunstig intelligens til at udføre mere sofistikerede angreb, og gennemse derefter bedste praksisser, der hjælper med at beskytte mod traditionelle og kunstig intelligens-drevne cybertrusler.
Få mere at vide

CISO'en drevet af kunstig intelligens: Muliggørelse af en bedre strategi med indsigter i oplysninger om trusler

Der er tre vigtige fordele parat til CISO'er, som omfavner generativ AI til sikkerhed: forbedrede indsigter i efterretninger om cybertrusler, hurtigere trusselssvar og assisteret strategisk beslutningstagen. Lær fra tre eksempelscenarier, og opdag, hvorfor 85 % af CISO'er ser kunstig intelligens som afgørende for sikkerhed.
Få mere at vide

Microsoft-rapport over digitalt forsvar for 2024

2024-udgaven af Microsoft-rapport over digitalt forsvar undersøger de fremvoksende cybertrusler fra nationalstats-trusselsgrupper og cyberkriminelle aktører, giver ny indsigt og vejledning for at forbedre modstandsdygtigheden og bestyrke forsvaret og udforsker den voksende indvirkning på cybersikkerhed fra generativ AI.
Få mere at vide

Følg Microsoft Security