5 nasvetov: Kako se spopasti z varnostnimi izzivi AI orodij?

Umetna inteligenca (ang. Artificial Intelligence oz. AI) se v proizvodni industriji hitro razvija, za kar obstaja dober razlog. Z uporabo AI lahko povečamo produktivnost in učinkovitost podjetja ter celo prehitimo konkurenco. Z veliko močjo pa pride tudi velika odgovornost. Poskrbeti morate, da je vaša organizacija dobro opremljena za varen razvoj in uporabo orodij AI.

Razvoj lastnih rešitev umetne inteligence vam omogoča popoln nadzor nad njihovo varnostjo, medtem, ko je pri že obstoječih orodjih AI ta odgovornost pogosto na strani prodajalca. Kljub temu je pomembno, da imate jasen pregled nad varnostjo orodij umetne inteligence, ki jih uporabljate ali jih želite uporabljati v prihodnosti.

V nadaljevanju z vami delimo pomembne nasvete, kako to storiti in kako se pri tem izogniti morebitnim pastem.

Zaščitite dragocene podatke

Podatki so gonilna sila vsakega orodja AI. V tem primeru so to podatki vašega podjetja. Zagotavljanje njihove zaščite je nujno potrebno iz številnih razlogov, kot je na primer krepitev zaupanja med stranko in deležniki. Poleg tega mora biti vaša politika varstva podatkov skladna z ustreznimi zakoni in predpisi o zasebnosti, kot so GDPR, CCPA in kmalu tudi Zakon o umetni inteligenci (ang. AI Act), ki ga je predlagala Evropska komisija.

Pomembno je, da imate jasne opredeljene postopke o zbiranju, shranjevanju, uporabi in izbrisu podatkov. Vsako podjetje mora izvajati vrhunske ukrepe za kibernetsko varnost, z namenom zagotavljanja varnosti podatkov pred zlorabami in drugimi morebitnimi grožnjami. Šifrirajte občutljive podatke in zagotovite uporabo varnih komunikacijskih kanalov med sistemi AI in drugimi programskimi komponentami. Prav tako je pomembno, da imate vzpostavljene mehanizme, s katerimi lahko posamezniki, na katere se nanašajo osebni podatki, uveljavljajo svoje pravice. Tak primer je zahteva po kopiji ali izbrisu svojih osebnih podatkov.

Čeprav so odprtokodna orodja AI lahko zelo uporabna in stroškovno učinkovita, lahko predstavljajo tveganje. Preden orodje AI vključite v svojo organizacijo, morate narediti temeljito raziskavo o njem in oceniti njegovo zgodovino, vključno z branjem mnenj drugih uporabnikov tega orodja. Prepričajte se, da ima dobro urejene pogoje varnosti in zasebnosti. Pri orodjih, kot je ChatGPT, se je pomembno vprašati o njihovi politiki zasebnosti podatkov. Ali ChatGPT hrani zasebne podatke o svojih uporabnikih? To vprašanje postane še pomembnejše, če v sistem vnašate podatke o svojih strankah, saj morate v tem primeru stranke obvestiti o tem, kako se njihovi podatki uporabljajo. Vedno bodite previdni in se izogibajte nalaganju ali vnašanju občutljivih ali osebnih podatkov v orodja AI, katerih podatkovne prakse niso pregledne in/ali dobro dokumentirane.

Informacije o Microsoftovih orodjih umetne inteligence so enostavno dosegljiva. Najbolj dostopno orodje je Copilot, ki ga poganja storitev Azure OpenAI Service. Copilot ponuja kombinacijo načel odgovorne AI in vrhunske varnosti Azure. Ker je vgrajen v storitve, kot sta Dynamics 365 in Microsoft 365, prevzema zanesljive prakse teh sistemov na področju varnosti, skladnosti in zasebnosti. S funkcijami, kot sta dvofaktorska avtentikacija in zaščita zasebnosti, se Copilot predstavlja kot zaupanja vredna platforma umetne inteligence.

Copilot se od drugih orodij razlikuje po edinstvenem načinu ustvarjanja odgovorov umetne inteligence, ki so neposredno povezani z opravljeno nalogo in temeljijo na podatkih vašega podjetja. Nekaj primerov si lahko preberete v enem od naših prejšnjih člankov. Zasnovan je z velikim poudarkom na varnosti in zasebnosti:

• Vaši podatki ne bodo nikoli uporabljeni za usposabljanje velikih jezikovnih modelov (ang. Large Language Models oz. LLM)

• Svojo odobritev za dostop Copilota do aplikacij Microsoft 365 Graph in Dataverse lahko kadar koli prekličete.

• Odgovori nikoli ne bodo vključevali podatkov, do katerih uporabnik nima dostopa, razen izjemoma, če je bilo nastavljeno drugače.

V primeru kritičnih aplikacij je lahko za mnoge organizacije ustrezna strategija združevanje obstoječih orodij AI s prilagojenim razvojem. Uporaba Microsoftove platforme Azure AI Platform vam zagotavlja več vgrajenih varnostnih funkcij.

Omejen dostop - poskrbite za varnost svojih sistemov AI

Omejen dostop zagotavlja, da lahko spremembe v vaših sistemih umetne inteligence izvajajo le pooblaščeni zaposleni. Z nadzorom dostopa na podlagi vlog (ang. role-based access controls oz. RBAC) lahko zaposlenim omejite uporabo sistemov AI glede na okvir delovnih nalog vsakega posameznika. Na primer, podatkovni analitik ne bo imel dostopa do sistemskih nastavitev, sistemski administrator pa ne bo imel dostopa do neobdelanih podatkov. Na ta način vaši sistemi in podatki niso varni le pred morebitnimi notranjimi zlorabami in človeškimi napakami, ampak tudi pripomore k ohranjanju odgovornosti, saj je mogoče dejanja povezati s posameznimi zaposlenimi.

Microsoftova nastavitev nadzora dostopa je enostavna. Ti modeli dovoljenj zagotavljajo, da imajo uporabniki in skupine dostop le do pooblaščenih podatkov. Tudi tukaj se shranijo vsa dejanja, tako da je na voljo popolna revizijska sled.

Redne posodobitve - bodite korak pred drugimi

Tako kot pri vsaki drugi programski opremi, je tudi pri sistemih AI pomembno, da jih redno posodabljate. Programska oprema in sistemi se nenehno izboljšujejo, hkrati pa se odkrivajo nove pomanjkljivosti. Z rednimi posodobitvami boste svojo umetno inteligenco zaščitili pred ranljivostmi in preprečili morebitne težave. Določite časovnico posodobitev sistemov AI in z njimi povezane programske opreme ter jih pozorno spremljajte, da zagotovite zaščito svojih sistemov. Ne gre namreč le za posodobitve, temveč tudi za redno preverjanje popravkov in varnostnih izboljšav, ki so jih izdali prodajalci programske opreme. Na ta način zmanjšujete možnosti zlonamernih akterjev.

Usposabljanje in ozaveščanje - opolnomočite svoje zaposlene

Tehnološka varnost je dobra le toliko, kot je dober njen najšibkejši člen. To je pogosto človek. Zato morate svojim zaposlenim redno zagotavljati usposabljanja o varnosti umetne inteligence. Dobro obveščeni zaposleni bodo razumeli morebitna tveganja, kako ta zmanjšati in se bolje znašli, če pride do težav. V svoji organizaciji spodbujajte odprt dialog o varnosti AI in zaposlene sproti obveščajte o najnovejših grožnjah in tehnikah preprečevanja le-teh.

Na voljo je veliko ustreznih virov, kjer lahko poiščete vsebine za takšno usposabljanje. Eden od teh primerov je Microsoftovo središče za učenje in skupnost AI.

Ustvarite smernice uporabe AI v svoji organizaciji

Številne od zgoraj omenjenih tem lahko najdejo svoje mesto v smernicah za uporabo AI v podjetju. Takšne smernice bi morale biti okvir za odgovorno uporabo AI v vaši organizaciji:

• Določite vloge in odgovornosti
• Odobrena orodja in ocenjevanje novih orodij
• Pravice intelektualne lastnine
• Dokument mora biti živ, kar pomeni, da se nenehno ureja in posodablja

If you’re looking for inspiration, you could have a look at Microsoft. They defined six ethical principles that they feel are essential to creating responsible and trustworthy AI as it moves into mainstream products and services. These are:

• Fairness: How might an AI system allocate opportunities, resources, or information in ways that are fair to the humans who use it?
• Zanesljivost: Kako bi lahko sistem dobro deloval za ljudi, ki sistem uporabljajo v različne namene in tiste, ki jim prvotno ni bil namenjen?
• Zasebnost in varnost: Kako naj bo sistem zasnovan, da bo podpiral zasebnost in varnost?
• Vključevanje: Kako naj bo sistem zasnovan, da bo vključeval ljudi z različnimi sposobnostmi?
• Preglednost: Kako lahko ljudje napačno razumejo, zlorabijo ali napačno ocenijo zmogljivosti sistema?

Zaključek

Če povzamemo, podjetja se morajo zavedati možnih posledic umetne inteligence in v ta namen določiti celovite smernice še preden se lotijo izvajanja storitev AI, ne glede na to, ali uporabljajo interno razvita orodja ali rešitve tretjih oseb. Bistveni koraki pri zagotavljanju varne in učinkovite uporabe AI so dodeljevanje ustreznih uporabniških pravic, omogočanje razvoja spretnosti in izvajanje rednih posodobitev. S prednostno obravnavo teh ukrepov lahko podjetja proaktivno zmanjšajo varnostna tveganja in povečajo koristi tehnologij AI.