Umelá inteligencia napreduje tempom, ktoré prekonáva adaptačnú kapacitu mnohých organizácií a ich rámcov riadenia. Verejný aj súkromný sektor čelia výzve, ako túto technológiu začleniť bezpečne, zodpovedne a v súlade s čoraz náročnejším regulačným prostredím. V tejto súvislosti... Európska konferencia ISACA 2026 sa bude konať v Mníchove od 7. do 9. októbra, pre viac ako 50 medzinárodných rečníkov, aby analyzovali, ako posilniť dohľad, riadiť riziká a rozvíjať odolnosť tvárou v tvár novým technologickým výzvam.
Stretnutie sa zhoduje s prípravami organizácií na implementáciu Zákon Európskej únie o umelej inteligenciispolu s ďalšími normami, ako sú NIS2, DORA a zákon o kybernetickej odolnosti. Tieto rámce spoločne nanovo definujú požiadavky na riadenie, operačnú odolnosť a digitálnu dôveru, keďže umelá inteligencia sa čoraz viac integruje do aktivít podnikov a inštitúcií.
Zákon o umelej inteligencii predstavuje zlom v regulácii
Od 2. augusta 2026 je väčšina povinností vyplývajúcich z európskeho nariadenia o umelej inteligencii (AI Act) vymáhateľná. Táto legislatíva, prvá svojho druhu na svete, zavádza postupný implementačný režim do roku 2028 a jej cieľom je zabezpečiť, aby sa umelá inteligencia používala bezpečne, transparentne a v súlade so základnými právami. Spoločnosti musia informovať používateľov o interakcii so systémom umelej inteligencieako sú chatboty alebo virtuálni asistenti, hoci povinné označovanie obsahu generovaného umelou inteligenciou bolo pre určité generatívne modely odložené do decembra 2026.
Režim sankcií je obzvlášť prísny: Za najzávažnejšie porušenia môžu byť udelené pokuty až do výšky 35 miliónov eur.najmä pri používaní zakázaných systémov umelej inteligencie. Porušenia súvisiace s vysoko rizikovými systémami môžu viesť k pokutám až do výšky 15 miliónov eur. Medzi použitia, ktoré sú už od roku 2025 zakázané, patria systémy sociálneho bodovania, diaľková biometrická identifikácia v reálnom čase vo verejných priestoroch na policajné účely (s veľmi obmedzenými výnimkami) a nástroje, ktoré zneužívajú zraniteľnosť maloletých alebo osôb so zdravotným postihnutím.
Niektoré povinnosti sa však oneskorili. Požiadavky na systémy s vysokým rizikom, ako sú tie, ktoré sa používajú pri výbere personálu, poskytovaní úverov alebo stanovovaní poistnéhoTieto sa budú uplatňovať od decembra 2027. O rok neskôr, v auguste 2028, príde rad na systémy integrované do už regulovaných produktov, ako sú zdravotnícke pomôcky alebo asistenti riadenia.
Španielsko napreduje s vlastným zákonom o riadení umelej inteligencie
Súbežne s európskym nariadením španielska vláda propaguje projekt Zákon o správnom používaní a riadení umelej inteligencieTáto legislatíva, ktorá je v súčasnosti predmetom parlamentného preskúmania, nevytvára samostatný režim, ale skôr prispôsobuje uplatňovanie zákona o umelej inteligencii španielskemu právnemu systému, pričom definuje príslušné orgány, systém dohľadu a postup udeľovania sankcií. Stanovuje tiež osobitné povinnosti pre verejný sektor, čím posilňuje potrebu verejnej správy pripraviť sa na dodržiavanie nových noriem.
Odborníci ako Giovanni Alessandrello, generálny riaditeľ spoločnosti BIP Iberia, varujú, že Najväčším rizikom je, že spoločnosti si predĺženia vyložia ako dôvod na odloženie adaptácie.Podľa jeho názoru nový rámec predstavuje príležitosť na podporu Vysvetliteľná, auditovaná a riadená umelá inteligenciaGuillermo Hidalgo, technologický právnik v spoločnosti Maio Legal, dodáva, že nariadenia poskytujú právnu istotu tým, že rozlišujú medzi žiadosťami s nízkym dopadom a tými, ktoré ovplyvňujú rozhodnutia o pôžičkách, zamestnaní alebo vzdelávaní.
Autonómni agenti umelej inteligencie otvárajú novú oblasť rizika
Zatiaľ čo regulácia napreduje, technologická realita sa zrýchľuje. Agenti umelej inteligencie, ktorí sú schopní interpretovať pokyny a konať autonómne v rámci podnikových sietí, sa nasadzujú rýchlym tempom. Podľa globálneho prieskumu Aliancie pre bezpečnosť cloudu (CSA) z apríla 2026, 82 % organizácií má na svojej infraštruktúre pôsobiacich neznámych agentov umelej inteligencie A 65 % už zažilo bezpečnostné incidenty súvisiace s týmito agentmi za posledných 12 mesiacov. Z tejto skupiny 61 % nahlásilo únik údajov, 43 % prevádzkové narušenia a 35 % finančné straty.
Fenomén tieňovej umelej inteligencie, čiže používania nástrojov umelej inteligencie bez povolenia technologických tímov, problém ešte zhoršuje. Správa o nákladoch na únik údajov z roku 2025, ktorú vypracoval Ponemon Institute, odhalila, že 97 % organizácií, ktoré utrpeli bezpečnostný incident súvisiaci s umelou inteligenciou, nemalo primerané kontroly prístupu.A že 63 % z nich nemá zavedené zásady riadenia na riadenie umelej inteligencie. Incidenty tieňovej umelej inteligencie už teraz predstavujú 20 % všetkých narušení a v priemere zvyšujú náklady na incident o 670 000 dolárov.
Okrem toho v máji 2026 výskumníci spoločnosti Google zistili prvý útok v reálnom svete s využitím umelej inteligencie na zneužitie zraniteľnosti typu zero-day, čím potvrdili, že útočná umelá inteligencia je už realitou. Obzvlášť zraniteľné sú sektory ako ťažba, energetika a výroba, pretože aktér s prístupom k operačným systémom môže eskalovať incident z digitálnej do fyzickej sféry.
Európska konferencia ISACA 2026 ako odpoveď na výzvu
Vzhľadom na tento scenár sa Európska konferencia ISACA 2026, ktorá sa bude konať v Mníchove od 7. do 9. októbra, prezentuje ako kľúčové fórum pre riešenie riadenia umelej inteligencie. Viac ako 50 medzinárodných rečníkov sa zúčastní viac ako 40 prednášok Tieto stretnutia sa budú zaoberať témami od riadenia AI s využitím agentov až po kybernetickú odolnosť, cloudovú bezpečnosť a súkromie. Medzi hlavné témy patria „Riadenie AI dosahuje zrelosť: Regulácia, riziká a AI s využitím agentov“ a „Ako vybudovať obranu zameranú na ľudí proti útokom riadeným AI“.
Konferencia sa začne hlavným prejavom Henryho Ajdera, špecialistu na generatívnu umelú inteligenciu a deepfake a poradcu Svetového ekonomického fóra a Európskej komisie. Zúčastní sa aj Mónica Verma, bývalá riaditeľka pre informačnú bezpečnosť a zakladateľka Cyber Foyer, ktorá sa podelí o stratégie na posilnenie kybernetickej odolnosti a líderstva. ISACA tiež predstaví nové pokročilé poverenia umelej inteligenciePokročilý v audite umelej inteligencie (AAIA), Pokročilý v rizikách umelej inteligencie (AAIR) a Pokročilý v manažmente bezpečnosti umelej inteligencie (AAISM) sú určené na vybavenie profesionálov špecifickými zručnosťami v oblasti auditu, rizík a kybernetickej bezpečnosti.
Pred kongresom sa uskutočnia dva špecializované workshopy: jeden o príprave na certifikáciu Advanced in AI Risk a druhý o návrhu a implementácii programov na ochranu súkromia. Účastníci môžu získať až 32 kreditov za kontinuálny profesionálny rozvoj (CPE) a nadviazať kontakt s odborníkmi z celej Európy. Konferencie sa možno zúčastniť osobne alebo virtuálne a registrácia je teraz otvorená za zníženú cenu do 28. augusta 2026.
Kombinácia nadobudnutia účinnosti zákona o umelej inteligencii, spracovania španielskeho práva a šírenia autonómnych agentov umelej inteligencie zdôrazňuje naliehavosť zavedenia robustných rámcov riadenia. Organizácie, ktoré sa teraz nepripravia, riskujú pokuty vo výške niekoľkých miliónov dolárov, bezpečnostné incidenty a stratu dôvery.Riadenie umelej inteligencie už nie je možnosťou, ale strategickou nevyhnutnosťou pre konkurencieschopnosť v čoraz regulovanejšom a technologicky zložitejšom prostredí.