Je AI pre kybernetickú bezpečnosť veľká neprebádaná výzva alebo hazard?

V súčasnosti existuje veľké množstvo spoločností, ktoré sa chvália tým, ako využívajú strojové učenie a umelú inteligenciu na to, aby vytvorili svet okolo seba ako bezpečnejšie miesto. Niektorí odborníci sa však obávajú, že tieto spoločnosti nevenujú dostatočnú pozornosť rizikám spojeným s veľkým spoliehaním sa na tieto technológie. To, čo sa u nich deje, je trochu znepokojujúce a v niektorých prípadoch dokonca nebezpečné.

Tá druhá strana mince je, že veľa firiem momentálne zavádza narýchlo produkty založené na strojovom učení, pretože cítia, že musia. Tlačí ich do toho trhový trend a aj zákazníci. Existuje ale nebezpečenstvo, že prehliadnu jeden dôležitý fakt. Algoritmy strojového učenia môžu navodzovať falošný pocit úplného bezpečia.

Dobrým príkladom je „super-evidované učenie“. To vyžaduje, aby firmy vyberali a označovali súbory dát, na ktoré sú algoritmy použité – napríklad označením kódu, ktorý je malvérom, a kódu, ktorý je čistý. Toto by mohlo viesť k tomu, že algoritmus nezistí niektoré útoky. Ďalším príkladom sú hackeri, ak získajú prístup do systémov bezpečnostnej firmy, môžu poškodiť údaje prepnutím označení, aby boli niektoré príklady škodlivého softvéru označené ako čistý kód alebo naopak. Hackeri ani nemusia s údajmi manipulovať. Namiesto toho by mohli zistiť spôsob, ktorý AI používa na označenie škodlivého softvéru, a potom upraviť vlastný škodlivý kód, aby ho algoritmus nezachytil.

Značné riziko je aj v oblasti nadmerného spoliehania sa na jediný hlavný algoritmus na riadenie bezpečnostného systému (tzv. Jeden verzus veľa). Existuje nebezpečenstvo, že ak dôjde k narušeniu tohto algoritmu, neexistuje žiadny iný signál, ktorý by znamenal problém s týmto algoritmom, je preto potrebné používať rozmanitú sadu algoritmov s rôznymi množinami a funkciami tréningových údajov. Takže ak je jeden algoritmus hacknutý, výsledky ostatných – za predpokladu, že tiež nebola narušená ich integrita – zvýraznia anomáliu v prvom modeli.

Nič z toho ale  neznamená, že AI a strojové učenie by nemali mať dôležitú úlohu v ochrannom systéme, práve naopak. V posledných rokoch sa AI ukázala ako dôležitá technológia na zvýšenie úsilia spoločností pre ich zabezpečenie. AI dokáže napríklad identifikovať a uprednostniť riziká, okamžite odhaliť malvér v sieti, usmerniť reakciu na incidenty a detegovať narušenie často skôr, ako začne.

AI umožňuje tímom kybernetickej bezpečnosti vytvárať silné partnerstvá človek – stroj, ktoré posúvajú hranice našich vedomostí, obohacujú naše životy a modifikujú kybernetickú bezpečnosť doteraz nevídaným spôsobom. Umelá inteligencia poskytuje veľmi potrebnú analýzu a identifikáciu hrozieb, na ktorú môžu odborníci v oblasti kybernetickej bezpečnosti zareagovať, aby znížili riziko alebo dôsledky narušenia.