Vývoj systémov umelej inteligencie (AI) je fascinujúci proces, ktorý sa prejavuje v mnohých oblastiach a prináša vyššiu efektivitu a produktivitu, ako aj lepšie služby zákazníkom. Táto oblasť však čelí mnohým výzvam, ako sú etické otázky, transparentnosť a dôvera, kybernetická bezpečnosť a obavy z vplyvu na zamestnanosť. Organizácie by preto mali od začiatku podporovať iniciatívy súvisiace s vytváraním alebo využívaním systémov umelej inteligencie.
Norma ISO/IEC 42001
Koncom roka 2023 bola vydaná nová norma ISO/IEC 42001:2023 Informačné technológie – Umelá inteligencia – Systém riadenia pre všetky organizácie, ktoré poskytujú alebo používajú produkty alebo služby založené na umelej inteligencii.
Norma obsahuje kapitoly 4 až 10, ktoré špecifikujú požiadavky na vytvorenie, implementáciu, údržbu a neustále zlepšovanie systému manažmentu umelej inteligencie (AIMS). Okrem iného obsahuje aj normatívnu prílohu A – Referenčné ciele pre činnosti a opatrenia, ktoré majú organizácie používať na riadenie rizík a dosiahnutie cieľov v oblasti umelej inteligencie.
Analýza rozdielov (gap) v súlade s normou ISO/IEC 42001 a jej prínosy
Posúdením súladu s uvedenými požiadavkami môže organizácia vyhodnotiť, či a do akej miery je v súlade, kde sú nedostatky (nezhody) a kde sú príležitosti na zlepšenie. Môže tiež určiť účinnosť alebo vyspelosť existujúcich postupov. Toto všetko sa súhrnne označuje ako analýza nedostatkov alebo analýza medzier s nasledujúcimi výhodami.
- Identifikácia a pochopenie súčasného stavu a vyspelosti systému manažmentu a kontrolných opatrení vo vzťahu k príslušným požiadavkám
- Optimalizácia plánovania implementácie systému manažmentu a kontrolných opatrení
- Hodnotenie pokroku vo vývoji systému manažmentu a kontrolných opatrení
- Efektívne využívanie výstupov v procese manažmentu rizík
Postup analýza rozdielov
Proces analýzy rozdielov pozostáva z 5 následných krokov.
- Určenie kontextu a rozsahu pôsobnosti
- Identifikácia a posúdenie súčasnej situácie
- Definícia cieľového stavu
- Špecifikácia krokov na dosiahnutie cieľového stavu
- Konsolidácia informácií a záverečná správa
Účelom stanovenia kontextu je definovať ciele a rozsah analýzy rozdielov.
Cieľom identifikácie a posúdenia súčasného stavu je zhromaždiť informácie a zdokumentovať súčasný stav systému manažmentu alebo kontrolných opatrení a posúdiť úroveň ich vyspelosti. Určenie úrovne vyspelosti procesu alebo kontrolných opatrení sa vykoná pomocou kvantitatívnej hierarchickej stupnice. V praxi sa stupnica zvyčajne vyjadruje ako stupnica od 0 do 5, pričom čím vyššie číslo, tým vyššia úroveň vyspelosti. Je dôležité, aby hodnotenie vyspelosti poskytovalo objektívne dôkazy o zhode na príslušnej úrovni.
Účelom definovania cieľového stavu je stručne opísať požadovaný cieľový stav vzhľadom na príslušné požiadavky a stanoviť jeho cieľovú úroveň vyspelosti.
Účelom špecifikácie krokov na dosiahnutie cieľového stavu je identifikovať medzery medzi súčasným a cieľovým stavom a určiť opatrenia potrebné na prekonanie medzier a prechod do cieľového stavu.
Cieľom konsolidácie je preskúmať a potvrdiť výsledky analýzy rozdielov a vyvodiť z nej závery. Výsledky a závery analýzy rozdielov by mali tvoriť súčasť záverečnej správy. Dobrou praxou je prezentovať výsledky analýzy rozdielov graficky, čo na prvý pohľad naznačuje, kde sú najväčšie nedostatky a na čo treba zamerať pozornosť.
Úroveň vyspelosti
Určenie úrovne vyspelosti procesov alebo opatrení je dobrým postupom, ktorý organizáciám pomôže pochopiť ich súčasnú úroveň výkonnosti. Existuje niekoľko modelov, ako napríklad Capability Maturity Model Integration (CMMI), ktorý definuje 5 úrovní vyspelosti:
- Počiatočné: Procesy a opatrenia sú nedefinované a chaotické.
- Riadené: procesy a opatrenia sú plánované, implementované a kontrolované.
- Definované: Procesy a opatrenia sú opísané a štandardizované.
- Kvantitatívne riadenie: procesy a opatrenia sa merajú a analyzujú.
- Optimalizácia: Procesy a opatrenia sa neustále zlepšujú.
Príklad záznamu v rozdielovej analýze
| ID | Téma | Opatrenia | Stručný opis stavu | Vyspelost | Kľúčový faktor zmeny | Priorita |
|---|---|---|---|---|---|---|
| A.2.2 | Politika AI | Organizácia musí zdokumentovať politiku vývoja alebo používania systémov umelej inteligencie. | Organizácia schválila a oznámila všeobecnú politiku AI podľa bodu 5.2 normy. Politika AI sa však nezaoberá vplyvom na príslušné zainteresované strany alebo tematickými aspektmi (správa aktív AI, hodnotenie vplyvu systémov AI, vývoj systémov AI atď.) | 1 | Dokumentovať, schvaľovať a oznamovať politiky týkajúce sa umelej inteligencie špecifické pre danú tému. | 1 (nesúlad) |