This is the Trace Id: bef59249b06e1a329d41a6f55f8694d7
Pereiti prie pagrindinio turinio
Security Insider

„Microsoft“ vadovas, kaip apsaugoti DI valdomą įmonę: Pradėti

Atsisiųskite vadovą
Bendrinti
Moteris, naudojanti jutiklinį ekraną.

Pradžia su DI programomis

Dirbtinis intelektas (DI) keičia verslo operacijas, atverdamas naujoves, tačiau kartu įneša naujų rizikų. Nuo šešėlinės DI (vartotojų lygio įrankiai, priimti be priežiūros) iki užklausų injekcijos atakų—ir besikeičiančių reglamentų, tokių kaip EU DI aktas—org—organizacijos turi spręsti šiuos iššūkius, kad galėtų saugiai naudoti DI.

Šis vadovas apima rizikas, susijusias su DI: duomenų nutekėjimas, naujos grėsmės ir atitikties iššūkiai, taip pat unikalios agentinio DI rizikos. Jame taip pat pateikiamos gairės ir praktiniai žingsniai, kuriuos reikia atlikti remiantis DI priėmimo sistema. Norėdami gauti gilesnių įžvalgų ir veiksmų žingsniųdatsisiųskite gidą.

DI yra žaidimų keitiklis - tačiau tik tuo atveju, jei sugebėsite jį užtikrinti. Pradėkime.

Kai organizacijos priima DI, vadovai turi spręsti tris pagrindinius iššūkius:
  • 80 % lyderių nurodo duomenų nutekėjimą kaip didžiausią susirūpinimą.1 Šešėliniai DI įrankiai, naudojami be IT patvirtinimo, gali atskleisti jautrią informaciją, didindami pažeidimo riziką.
  • 88 % organizacijų nerimauja dėl blogų veikėjų, manipuliuojančių DI sistemomis.2 Atakos, tokios kaip užklausų injekcija, išnaudoja DI sistemų pažeidžiamumus, pabrėždamos proaktyvių gynybų poreikį.
  • 52 % lyderių pripažįsta netikrumą naršydami pagal AI taisykles.3 Kad būtų skatinamas pasitikėjimas ir palaikomas inovacijų pagreitis, būtina laikytis tokių sistemų kaip ES DI įstatymas.

Agentinis DI siūlo transformacinį potencialą, tačiau jo autonomija įneša unikalių saugumo iššūkių, reikalaujančių proaktyvaus rizikos valdymo. Žemiau pateikiamos pagrindinės rizikos ir strategijos, pritaikytos joms spręsti:

Halucinacijos ir nepageidaujami rezultatai

Agentinės DI sistemos gali generuoti netikslius, pasenusius ar nesuderintus rezultatus, kas gali sukelti operacinius sutrikimus arba prastus sprendimus.

Norint sumažinti šias rizikas, organizacijos turėtų įgyvendinti griežtas stebėjimo sistemas, kad peržiūrėtų DI generuotus rezultatus dėl tikslumo ir aktualumo. Reguliarus mokymo duomenų atnaujinimas užtikrina atitiktį dabartinei informacijai, o sudėtingų atvejų eskalavimo keliai leidžia žmogaus įsikišimą, kai to reikia. Žmogiškasis priežiūra išlieka esminė, siekiant išlaikyti patikimumą ir pasitikėjimą DI valdomose operacijose.

Per didelis pasitikėjimas DI sprendimais

Aklas pasitikėjimas agentiniais DI sistemomis gali sukelti pažeidžiamumų, kai naudotojai veikia remdamiesi klaidingais rezultatais be patvirtinimo.

Organizacijos turėtų sukurti taisykles, kurios verstų dirbtinį intelektą naudoti žmogaus peržiūrą svarbiais klausimais. Mokymas darbuotojų apie AI ribas skatina informuotą skeptiškumą, mažindamas klaidų tikimybę. Kombinuojant DI įžvalgas su žmogaus sprendimais per sluoksniuotas sprendimų priėmimo procesus stiprinama bendra atsparumas ir užkertamas kelias per dideliam priklausomumui.

Nauji atakų vektoriai

Agentinio DI autonomija ir prisitaikymas sukuria galimybes užpuolikams išnaudoti pažeidžiamumus, įnešdami tiek operacines, tiek sistemines rizikas.

Operacinės rizikos apima DI sistemų manipuliavimą, kad būtų atliekami žalingi veiksmai, tokie kaip neautorizuoti uždaviniai ar sukčiavimo bandymai. Organizacijos gali sumažinti šias rizikas, įgyvendindamos tvirtas saugumo priemones, įskaitant realaus laiko anomalijų aptikimą, šifravimą ir griežtus prieigos kontrolės.
Sistemines rizikas sukelia, kai pažeisti agentai sutrikdo tarpusavyje susijusias sistemas, sukeldami kaskadines nesėkmes. Apsaugos mechanizmai, atsargumo protokolai ir reguliarios audito procedūros—suderintos su kibernetinio saugumo sistemomis, tokiomis kaip NIST—padeda sumažinti šiuos pavojus ir sustiprinti gynybą prieš priešiškas atakas.

Atsakomybė ir pareiga

Agentinis DI dažnai veikia be tiesioginės žmogaus priežiūros, keliančios sudėtingus klausimus apie atsakomybę ir kaltę dėl klaidų ar nesėkmių.

Organizacijos turėtų apibrėžti aiškias atsakomybės sistemas, nurodančias vaidmenis ir atsakomybes dėl dirbtinio intelekto (DI) rezultatų. Sklandi DI sprendimų priėmimo procesų dokumentacija padeda nustatyti klaidas ir priskirti atsakomybę. Bendradarbiavimas su teisininkų komandomis užtikrina atitiktį reglamentams, o etinių standartų laikymasis DI valdyme kuria pasitikėjimą ir mažina reputacijos riziką.

Su naujomis DI inovacijomis, tokiomis kaip agentai, organizacijos turi sukurti tvirtą pagrindą, grindžiamą Nuliniu pasitikėjimu - „niekada nepasitikėk, visada tikrink“. Šis požiūris padeda užtikrinti, kad kiekviena sąveika būtų autentifikuota, autorizuota ir nuolat stebima. Nors Nulinio pasitikėjimo pasiekimas užtrunka, palaipsniui įgyvendinant strategiją galima pasiekti nuolatinę pažangą ir didinti pasitikėjimą saugiai integruojant DI.

„Micrsoft“ DI priėmimo sistema dalijasi į tris pagrindines fazes: DI valdymas, tvarkimas ir saugumo užtikrinimas.

Sprendžiant šias sritis, organizacijos gali paruošti pagrindą atsakingam DI naudojimui, tuo pačiu sumažindamos kritines rizikas.

Norint pasiekti sėkmę, prioritetą teikite žmonėms, mokydami darbuotojus atpažinti DI rizikas ir saugiai naudoti patvirtintas priemones. Skatinkite bendradarbiavimą tarp IT, saugos ir verslo komandų, kad užtikrintumėte vieningą požiūrį. Skatinkite skaidrumą, atvirai bendraudami apie savo DI saugumo iniciatyvas, kad sukurtumėte pasitikėjimą ir parodytumėte lyderystę.

Turėdami tinkamą strategiją, grindžiamą Nuliniu pasitikėjimu, galite sumažinti rizikas, atverti inovacijas ir drąsiai naršyti besikeičiančio DI kraštovaizdžio.

Daugiau iš saugos

Kaip išvengti kibernetinių grėsmių ir sustiprinti apsaugą DI amžiuje

Dirbtinio intelekto (DI) pažanga lemia naujas kibernetinio saugumo grėsmes ir galimybes. Sužinokite, kaip įsilaužėliai naudoja DI sudėtingesnėms atakoms vykdyti, o tada peržiūrėkite gerąją praktiką, taikomą siekiant apsisaugoti nuo įprastų ir DI pagrindu vykdomų kibernetinių grėsmių.
Sužinokite daugiau

Dirbtiniu intelektu pagrįstas CISO: Geresnės strategijos įgalinimas pasitelkiant grėsmių analizės įžvalgas

CISO, naudojančių generuojamąjį dirbtinį intelektą saugumui, laukia trys pagrindiniai privalumai: patobulintos grėsmių žvalgybos įžvalgos, greitesnis atsakas į grėsmes ir pagalba priimant strateginius sprendimus. Sužinokite iš trijų pavyzdinių scenarijų, kodėl 85 % CISO mano, kad DI saugume yra nepakeičiamas.
Sužinokite daugiau

2024 m. „Microsoft“ skaitmeninės gynybos ataskaita

2024 m. „Microsoft“ skaitmeninės gynybos ataskaitos leidime nagrinėjamos nacionalinių valstybių grėsmių grupių ir kibernetinių nusikaltėlių sukeliamos besikeičiančios kibernetinės grėsmės, pateikiamos naujos įžvalgos ir gairės, kaip padidinti atsparumą ir sustiprinti gynybą, ir nagrinėjamas augantis generuojamojo dirbtinio intelekto poveikis kibernetiniam saugumui.
Sužinokite daugiau

Stebėkite „Microsoft“ saugą