CLOUDY podcast | #01 Star Wars je síce super, ale na Zemi zatiaľ nemáme dve slnká.

Pre mnohých ľudí je AI udomácnená, ale pre mnohých ľudí je ešte stále strašiakom. Máme sa pri používaní AI alebo umelej inteligencie obávať?

Obávať je veľmi silné slovo. Ja by som skôr povedal, že byť opatrný alebo nejaký rozvážny v rámci používania týchto technológií. Či už ide o generovanie nejakého textu obrázkov, alebo vnímanie širokých reality. 

Dá sa povedať, že nám môže byť AI dobrým pomocníkom?

Jasné, ono nám to dokáže veľmi urýchliť deň.

Keď robíme niečo monotónne alebo potrebujeme vygenerovať texty, opraviť gramatiku, pri písaní mailov alebo podobne, dokáže to urýchliť ten proces. Ale zas netreba všetkému veriť, čo tá umelá inteligencia vygeneruje lebo ona si ešte stále veľmi rada vymýšľa.

Ako veľmi vie byť AI nápomocná?

Krátka odpoveď je, že veľmi. Vieme učiť jednoduchším spôsobom, ak to zoberieme z pohľadu školstva, či už edukácia staršej generácie alebo mladšej. Tie študijné materiály sa dokážu prispôsobiť na kvalitu alebo na tempo toho samotného študenta.

Dokáže nám to zrýchliť proces aj pri vývoji nejakého softvéru, poskytnúť pomôcky, či už testovacie scenáre alebo takzvané templaty, vzorové kódy. Pri marketingu, to dokáže spraviť plán, analyzovať články, texty, spraviť kvalitný rešerš. AI dokáže optimalizovať procesy vo firmách.

Môže v bežnej firme AI aj nahradiť zamestnanca?

Momentálne nie. Pokusy boli aj sú, ale často to vedie k tomu, že namiesto nejakých seniornejších zamestnancov nemyslím vekovo, ale v rámci skúseností, ktorí sú trošku aj finančne nákladní pre tú firmu, tak ich chcú nahradiť čerstvým absolventom s AI nástrojmi.

Často to končí katastrofálne, nakoľko tá skúsenosť ľudí tam chýba a oni veci veľmi nepreverujú. U AI je fabulácia ešte silná a pokiaľ tie modely nie sú dostatočne vyladené a nie sú až také dôveryhodné, tie výsledky sú veľakrát katastrofálne.

Môže byť teda dobrý sluha, ale zlý pán? Môže byť použitá aj negatívne?

Jasné, ono sa to bohužiaľ často stáva. Veľa AI startup-ov vzniklo ako nejaká nadstavba ChatGPT, že sa de facto len premenovali, využili to čo OpenAI vytvorilo a spravili nejaké vlastné podklady a pomôcky na základe čoho ťahali od ľudí peniaze.

Či už nejaký scam, podvodné maily, podvodné správy a dokázali to celé pomocou aj iných, ako AI-čkových technológií automatizovať. Tzn. naraz stovkám až tisíckam ľuďom posielali nejaké podvodné emaily alebo správy, nebodaj išlo aj o vydieranie v rámci obsahu, kde ľuďom manipulovali tváre na iné postavy alebo ich vkladali do horších situácií alebo dokonca im ukradli hlas.

Falošné správy, úpravy fotiek a podobne. Máš nejaký konkrétny príklad?

Bohužiaľ áno, často sa to používa na tú staršiu generáciu, keď im niekto zavolá z nejakého neznámeho čísla alebo ja tu môžem sedieť a vytvoriť si nejaké iné telefónne číslo, zavolať rodinným príslušníkom s ukradnutým hlasom, v zmysle „Mám problém, pošli mi peniaze na účet“ a podobne.

Aj na stredných školách kyberšikana. Ľudia majú veľkú kreativitu a ak hocičo ja publikujem na Instagram, Pinterest, Facebook, tak ono to v dnešnej dobe dokážeme orezať ten obrázok a už to vieme tak dobre napasovať na iný obrázok, že to vyzerá akoby sme to robili vo Photoshope alebo nejakom inom editačnom softvéri. A dokáže nás to vykresliť do nemilých a nepriaznivých situácií, a to sa potom šíri.

Ako to teda rozlíšiť, ako vieme zistiť, či to je fake alebo nie?

Ak sa jedná len o tvár tak je to veľmi ťažké. Treba pozerať kontúry, pery, uši, zuby, oči a prsty. Keď sa na to pozriem prvým pohľadom a niečo mi tam pocitovo nesedí, tak sa oplatí na to pozrieť znova. A zrazu to vidno - prečo má ten človek šesť prstov, dve sady nechtov, očí mu idú nemožným spôsobom, má dve zrenice, uši sú generované čudnou formou..

Tiene už AI rieši dobre, to už nie je také ľahké. Ale treba sledovať pozadie lebo Star Wars je síce super, ale na Zemi zatiaľ nemáme dve slnká. Európska únia pripravila takzvaný AI Act. Kde voči takýmto veciam chce bojovať a ak to prejde do širšej platnosti a zavedie sa to širokej verejnosti, tak každý vygenerovaný obraz alebo video bude musieť byť jednoznačne identifikovateľný, že je generovaný umelou inteligenciou. Môže to byť nejaký watermark, ktorý sa nedá odstrániť, resp. nemal by sa dať odstrániť.

Pozrime sa na to napríklad cez študentov. Aký je tvoj názor na to, že aj študenti vo veľkom s AI robia a robia seminárne, diplomové alebo bakalárske práce? Aký je tvoj pohľad na to, je to správne alebo nie?

Veľmi dobrá otázka, akurát toto leto sme sa s tým stretli, lebo pôsobím ešte na univerzite, čiže bol som práve na takých obhajobách, kde boli študenti, ktorí prezentovali svoju prácu. Ale z mojej skúsenosti je to tak, že tí, ktorí to AI použili, sa veľmi ľahko sami identifikovali. Vygenerovali si abstrakt záverečnej práce, bakalárskej alebo diplomovej a prezentovali svoju prácu. Problém nastal ten, že nevedeli čo robia. Niečo im vygenerovalo a ani si to neprečítali. Po troch-štyroch otázkach sme sa na študenta pozerali „no pán kolega to je síce super, ale vy neviete o čom rozprávate..“

Ale to boli výnimočné prípady. Boli aj prípady, že študent si to chcel uľahčiť, nechal si to vygenerovať, ale vedel o čom rozpráva. Takže keď sme sa začali pýtať celkom do hĺbky a vedel o čom rozpráva, tak som si povedal, že za mňa je to dobré.

Ale nemalo by to byť o tom, že AI vygeneruje celú moju prácu. Keď už študent nevie o čom rozpráva a nechá si to celé vygenerovať, tak keď to spraví v rámci akademickej pôdy, kde tá bezúhonnosť je trošku väčšia, tak čo potom bude v praxi robiť? Lebo AI  mi to vygeneruje, ale ďaleko ma to nedostane lebo nechápem ten základ toho čo robím.

Kam to bude pokračovať, čo nás čaká v najbližšom čase v spojitosti s AI?

Tie modely ktoré máme budú doladené, budú lepšie. Problém skôr je to ako získame dáta na trénovanie, ako ich natrénujeme. Dostať sa však môžeme veľmi ďaleko, či už sú to nástroje v medicíne, v biznise, v technológiách, vo vývoji... potenciál je tam veľký.

Článok bol vytvorený na základe podcastu. Celý podcast si môžete vypočuť na SPOTIFY alebo pozrieť na YouTube.