This is the Trace Id: 7451a4e973e33f93855a69f7278efd8c
Preskoči na glavni sadržaj
Microsoft Security

Što je AI sigurnost?

Saznajte više o osnovama AI sigurnosti i kako zaštititi AI sustave od potencijalnih prijetnji i ranjivosti.
Istražite sigurnosna rješenja za umjetnu inteligenciju

Pregled AI sigurnosti


AI sigurnost je granaračunalne sigurnosti specifična za AI sustave. Odnosi se na skup procesa, najboljih praksi i tehnoloških rješenja koja štite AI sustave od prijetnji i ranjivosti. 

Glavni zaključci

  • AI sigurnost štiti podatke umjetne inteligencije, održava integritet sustava i osigurava dostupnost servisa umjetne inteligencije.
  • Uobičajene prijetnje za AI sustave obuhvaćaju kompromitiranje baze podataka za obučavanje modela umjetne inteligencije, napade inverzijom modela i suparničke napade.
  • Najbolje prakse za AI sigurnost obuhvaćaju šifriranje podataka, robusno testiranje, snažnu kontrolu pristupa i kontinuirani nadzor.
  • Moderni sigurnosni alati umjetne inteligencije, rješenja i okviri umjetne inteligencije mogu pridonijeti zaštiti AI sustava od prijetnji koje se razvijaju. 

Što je AI sigurnost?

Umjetna inteligencija donijela je nevjerojatne inovacije neviđenom brzinom. Nažalost, računalni zločinci prihvatili su AI tehnologiju brzo kao i svi ostali, što dovodi do novih sigurnosnih ranjivosti, prijetnji i izazova.

AI sigurnost ili sigurnost umjetne inteligencije odnosi se na mjere i prakse osmišljene za zaštitu AI sustava od tih prijetnji. Baš kao što tradicionalni IT sustavi trebaju zaštitu od hakiranja, virusa i neovlaštenog pristupa, AI sustavi trebaju vlastite sigurnosne mjere kako bi ostali funkcionalni, pouzdani i zaštićeni.

AI sigurnost važna je zbog nekoliko razloga, uključujući:
 
  • Zaštitu povjerljivih podataka. AI sustavi obrađuju velike količine povjerljivih podataka, uključujući financijske, medicinske i osobne podatke. 
  • Održavanje integriteta sustava. Neprovjerene ranjivosti u AI sustavima mogu ugroziti modele, što može dovesti do netočnih ili štetnih ishoda.
  • Zaštitu dostupnosti servisa umjetne inteligencije. Kao i svi drugi servisi, AI sustavi moraju biti dostupni i u funkciji, posebno zato što se sve više osoba i tvrtki ili ustanova oslanja na njih. Kršenja sigurnosti često rezultiraju prekidima u radu, što može omesti ključne servise. 
  • Odgovornost. Za prihvaćanje umjetne inteligencije na globalnoj razini, osobe i tvrtke ili ustanove moraju imati povjerenja u to da su AI sustavi sigurni i pouzdani.

Ključni koncepti u AI sigurnosti

  • Povjerljivost: Dostupnost podataka samo ovlaštenim pojedincima ili sustavima. 
  • Cjelovitost: Održavanje točnosti i dosljednosti AI sustava.
  • Dostupnost: Funkcionalnost i dostupnost AI sustava. 

  • Odgovornost: Mogućnost praćenja radnji koje su izvršili AI sustavi.
 

AI sigurnost u odnosu na umjetnu inteligenciju za računalnu sigurnost

Važno je razlikovati dva povezana, ali različita koncepta: AI sigurnost i umjetnu inteligenciju za računalnu sigurnost.

AI sigurnost fokusira se na zaštitu samih AI sustava. To je zaštita za umjetnu inteligenciju koja obuhvaća strategije, alate i prakse namijenjene zaštiti modela umjetne inteligencije, podataka i algoritama od prijetnji. To uključuje i osiguravanje da AI sustav funkcionira u skladu s očekivanjima i da napadači ne mogu iskoristiti ranjivosti za manipulaciju rezultatima ili krađu povjerljivih podataka.

Umjetna inteligencija za računalnu sigurnost, s druge strane, odnosi se na upotrebu alata i modela umjetne inteligencije radi poboljšanja sposobnosti tvrtke ili ustanove za otkrivanje, odgovaranje na prijetnje i njihovo otklanjanje u svim tehnološkim sustavima. Pomaže tvrtkama ili ustanovama da analiziraju velike količine podataka o događajima i prepoznaju obrasce koji upućuju na potencijalne prijetnje. Umjetna inteligencija za računalnu sigurnost može analizirati i povezivati događaje i podatke o računalnim prijetnjama iz više izvora.

Ukratko, AI sigurnost odnosi se na zaštitu AI sustava, dok se umjetna inteligencija za računalnu sigurnost odnosi na upotrebu sustava umjetne inteligencije za poboljšanje ukupnog stanja sigurnosti tvrtke ili ustanove.
Prijetnje umjetnoj inteligenciji

Uobičajene prijetnje AI sigurnosti

Budući da tvrtke i pojedinci sve češće upotrebljavaju AI sustave, oni postaju sve podložniji računalnim napadima.

Nekoliko ključnih prijetnji predstavlja rizik za sigurnost AI sustava: 

Kompromitiranje baze podataka za obučavanje modela umjetne inteligencije

Do kompromitiranja baza podataka za obučavanje modela umjetne inteligencije dolazi kada napadači umetnu zlonamjerne ili obmanjujuće podatke u skup za obuku AI sustava. Budući da su modeli umjetne inteligencije dobri samo koliko i podaci na kojima su obučeni, oštećivanje tih podataka može dovesti do netočnih ili štetnih ishoda. 

Napadi inverzijom modela

U napadima inverzijom modela napadači upotrebljavaju predviđanja modela umjetne inteligencije kako bi izvršili obrnuti inženjering povjerljivih podataka na kojima je model obučen. To može dovesti do izloženosti povjerljivih podataka kao što su osobne informacije koje ne bi trebale biti javno dostupne. Ti napadi predstavljaju znatan rizik, osobito kada su usmjereni na modele umjetne inteligencije koji obrađuju povjerljive podatke.

Suparnički napadi

Suparnički napadi uključuju stvaranje varljivih unosa koji prijevarom navode modele umjetne inteligencije na izradu netočnih predviđanja ili klasifikacija. U tim napadima naizgled bezopasni unosi kao što je izmijenjena slika ili audioisječak uzrokuju nepredvidljivo ponašanje modela umjetne inteligencije. U stvarnim primjerima istraživači su pokazali kako suptilne promjene slika mogu navesti sustave prepoznavanja lica na pogrešno identificiranje osoba.

Pitanja zaštite privatnosti 

AI sustavi često se oslanjaju na velike skupove podataka, od kojih mnogi sadrže osobne informacije ili povjerljive podatke. Osiguravanje zaštite privatnosti pojedinaca čiji se podaci upotrebljavaju u obučavanju umjetne inteligencije ključan je aspekt AI sigurnosti. Do kršenja privatnosti može doći kada se podacima nepravilno rukuje, kada se nepravilno pohranjuju ili kada se upotrebljavaju na način koji krši pristanak korisnika.

 Ishitrene implementacije 

Tvrtke se često suočavaju s velikim pritiskom za brzo uvođenje inovacija, što može dovesti do neodgovarajućeg testiranja, ishitrenih implementacija i nedovoljne sigurnosne provjere. Zbog povećane brzine razvoja ponekad se ne riješe kritične ranjivosti, što stvara sigurnosne rizike kada se AI sustav implementira.

Ranjivosti opskrbnog lanca 

Lanac opskrbe umjetnom inteligencijom složen je ekosustav koji predstavlja moguće ranjivosti koje bi mogle ugroziti integritet i sigurnost AI sustava. Ranjivosti u bibliotekama ili modelima trećih strana ponekad izlažu AI sustave iskorištavanju. 

Pogrešna konfiguracija umjetne inteligencije

Prilikom razvoja i implementacije aplikacija umjetne inteligencije pogrešne konfiguracije mogu izložiti tvrtke ili ustanove izravnim rizicima kao što je nemogućnost implementacije upravljanja identitetom za resurs umjetne inteligencije i neizravnim rizicima kao što su ranjivosti na virtualnom računalu koje je izloženo internetu, što bi napadaču moglo omogućiti pristup resursu umjetne inteligencije. 

 Ubacivanja upita 

 U napadu ubacivanjem upita haker prikrije zlonamjeran unos kao ispravan upit, što uzrokuje neželjene radnje AI sustava. Stvaranjem varljivih upita napadači navedu modele umjetne inteligencije na generiranje rezultata koji obuhvaćaju povjerljive informacije. 

Najbolje prakse za zaštitu AI sustava

Za zaštitu sigurnosti AI sustava potreban je sveobuhvatan pristup koji rješava tehničke i operativne izazove. Evo nekoliko najboljih praksi za zaštitu AI sustava:

Sigurnost podataka

Da bi se osigurala cjelovitost i povjerljivost podataka koji se upotrebljavaju za obučavanje modela umjetne inteligencije, tvrtke ili ustanove trebaju implementirati robusne mjere za sigurnost podataka koje obuhvaćaju: 

  • Šifriranje povjerljivih podataka radi sprječavanja neovlaštenog pristupa skupovima podataka za obuku umjetne inteligencije.
  • Provjera izvora podataka: Važno je osigurati da podaci koji se upotrebljavaju za obuku dolaze iz pouzdanih i provjerenih izvora, čime se smanjuje rizik od kompromitiranja baze podataka za obučavanje modela umjetne inteligencije.
  • Redovitu sanitizaciju podataka radi uklanjanja zlonamjernih ili neželjenih elemenata što može smanjiti rizike za AI sigurnost.

Sigurnost modela

Zaštita modela umjetne inteligencije od napada važna je kao i zaštita podataka. Ključne tehnike za osiguranje sigurnosti modela obuhvaćaju:

  • Redovito testiranje modela umjetne inteligencije radi prepoznavanja potencijalnih ranjivosti na suparničke napade, što je ključno za održavanje sigurnosti.
  • Upotrebu diferencijalne privatnosti radi sprječavanja napadača u izvršavanju obrnutog inženjeringa povjerljivih podataka iz modela umjetne inteligencije.
  • Implementaciju suparničke obuke koja obučava modele umjetne inteligencije na algoritmima koji simuliraju napade kako bi brže prepoznali prave napade. 

Kontrola pristupa

Implementacija snažnih mehanizama kontrole pristupa osigurava da samo ovlaštene osobe mogu stupati u interakciju s AI sustavima ili vršiti izmjene. Tvrtke ili ustanove trebaju: 

  • Upotrebljavati kontrolu pristupa utemeljenu na ulogama radi ograničavanja pristupa AI sustavima na temelju korisničkih uloga.
  • Implementirati višestruku provjeru autentičnosti radi pružanja dodatnog sloja zaštite za pristup modelima umjetne inteligencije i podacima.
  • Nadzirati i evidentirati sve pokušaje pristupa kako bi se brzo otkrio i otklonio neovlašten pristup.

Redovit nadzor

Kontinuirani nadzor i nadzor AI sustava ključan je za otkrivanje i odgovor na potencijalne sigurnosne prijetnje. Tvrtke ili ustanove trebaju: 

  • Redovito nadzirati AI sustave radi prepoznavanja ranjivosti ili nepravilnosti u performansama sustava. 
  • Upotrebljavati automatizirane alate za nadzor za otkrivanje neobičnog ponašanja ili obrazaca pristupa u stvarnom vremenu. 
  • Redovito ažurirati modele umjetne inteligencije radi popravaka ranjivosti i poboljšanja otpornosti na nove prijetnje. 

Poboljšanje AI sigurnosti pomoću odgovarajućih alata

Nekoliko je alata i tehnologija koje mogu poboljšati sigurnost AI sustava. To su sigurnosni okviri, tehnike šifriranja i specijalizirani alati za AI sigurnost.

Sigurnosni okviri

Okviri kao što je NIST AI Risk Management Framework pružaju smjernice tvrtkama ili ustanovama za upravljanje i otklanjanje rizika povezanih s umjetnom inteligencijom. Ti okviri nude najbolje prakse za zaštitu AI sustava, prepoznavanje potencijalnih rizika i osiguravanje pouzdanosti modela umjetne inteligencije.

Tehnike šifriranja 

Upotreba tehnika šifriranja pridonosi zaštiti podataka i modela umjetne inteligencije. Šifriranjem povjerljivih podataka tvrtke ili ustanove mogu smanjiti rizik od kršenja sigurnosti podataka i osigurati da čak i ako napadači pristupe podacima, oni nisu upotrebljivi.

Alati za AI sigurnost

Različiti alati i platforme razvijeni su za zaštitu aplikacija umjetne inteligencije. Ti alati tvrtkama ili ustanovama pomažu u otkrivanju ranjivosti, nadzoru AI sustava radi mogućih napada i provođenju sigurnosnih protokola. 

Rješenja AI sigurnosti

S pojavom sve većih izazova za AI sigurnost, tvrtke ili ustanove moraju i dalje biti proaktivne u prilagođavanju sigurnosnih strategija sve većim prijetnjama kako bi osigurale sigurnost i pouzdanost AI sustava. Ključne strategije obuhvaćaju prihvaćanje sveobuhvatnih sigurnosnih okvira, ulaganje u tehnologije šifriranja i kontrolu pristupa, kao i informiranje o novim prijetnjama i novim rješenjima.

Modernarješenja AI sigurnosti koja štite i upravljaju umjetnom inteligencijom znatno poboljšavaju zaštitu tvrtke ili ustanove od tih novih prijetnji. Integracijom tih naprednih rješenja AI sigurnosti tvrtke ili ustanove mogu bolje zaštititi povjerljive podatke, održavati usklađenost s propisima i osigurati otpornost svojih okruženja umjetne inteligencije na buduće prijetnje.
RESURSI 

Saznajte više o rješenju Microsoft Security

  1.
Žena kratke tamne kose gleda u računalo.
Rješenje

Sigurnost za umjetnu inteligenciju

S povjerenjem prihvatite doba umjetne inteligencije uz vodeća rješenja u djelatnosti za računalnu sigurnost i usklađenost. 
Saznajte više
Muškarac u crnoj košulji pokazuje kartu.
Tehnička dokumentacija

Sigurnost podataka kao temelj za sigurno prihvaćanje umjetne inteligencije

Otkrijte uobičajene rizike povezane s umjetnom inteligencijom i saznajte kako pripremiti podatke za maksimalno iskorištavanje mogućnosti umjetne inteligencije.
Dohvatite tehničku dokumentaciju
Žena sa smeđom kosom i naočalama u zelenoj košulji gleda u zaslon računala.
Blog

Najbolje prakse za zaštitu aplikacija generativnog AI-ja 

Saznajte više o najboljim praksama za sigurno projektiranje aplikacija generativnog AI-ja.
Pročitajte blog
Muškarac u odijelu stoji ispred prijenosnog računala.
E-knjiga 

Računalna sigurnost u doba umjetne inteligencije

Saznajte zašto će generativni AI dovesti do transformacije načina rada timova za sigurnost. 
Preuzmite e-knjigu
Nazad na sekciju RESURSI

Najčešća pitanja

  • Neki od najvećih sigurnosnih rizika od kojih štiti AI sigurnost obuhvaćaju kršenja sigurnosti podataka, manipulaciju modelima, suparničke napade i zloupotrebu umjetne inteligencije u zlonamjerne svrhe kao što je krađa identiteta.
  • Zaštita umjetne inteligencije obuhvaća zaštitu podataka, modela i sustava umjetne inteligencije od računalnih napada pomoću šifriranja, redovitih testiranja, nadzora i ljudskog nadzora.
  • AI sigurnost fokusira se na zaštitu samih AI sustava. Obuhvaća strategije, alate i prakse namijenjene zaštiti modela umjetne inteligencije, podataka i algoritama od prijetnji. Umjetna inteligencija za računalnu sigurnost odnosi se na upotrebu alata i modela umjetne inteligencije radi poboljšanja sposobnosti tvrtke ili ustanove za otkrivanje, odgovaranje na prijetnje i njihovo otklanjanje u svim tehnološkim sustavima.

Pratite Microsoft Security