CLOUDY podcast | #01 Star Wars je sice super, ale na Zemi zatím nemáme dvě slunce.

Pro mnohé lidi je AI zdomácnělá, ale pro mnohé lidi je stále strašákem. Máme se při používání AI nebo umělé inteligence obávat?

Obávat je velmi silné slovo. Já bych spíše řekl, že být opatrný nebo nějaký rozvážný v rámci používání těchto technologií. Ať už jde o generování nějakého textu obrázků nebo vnímání širokých reality.

Dá se říci, že nám může být AI dobrým pomocníkem?

Jasně, ono nám to dokáže velmi urychlit den.

Když děláme něco monotónního nebo potřebujeme vygenerovat texty, opravit gramatiku, při psaní mailů nebo podobně, dokáže to urychlit ten proces. Ale zase netřeba všemu věřit, co ta umělá inteligence vygeneruje neboť ona si stále moc ráda vymýšlí.

Jak moc umí být AI nápomocná?

Krátká odpověď je, že velmi. Umíme učit jednodušším způsobem, vezmeme-li to z pohledu školství, ať už edukace starší generace nebo mladší. Ty studijní materiály se dokáží přizpůsobit na kvalitu nebo na tempo toho samotného studenta.

Dokáže nám to zrychlit proces i při vývoji nějakého softwaru, poskytnout pomůcky, ať už testovací scénáře nebo takzvané templaty, vzorové kódy. Při marketingu to dokáže udělat plán, analyzovat články, texty, udělat kvalitní rešerši. AI dokáže optimalizovat procesy ve firmách.

Může v běžné firmě AI i nahradit zaměstnance?

Momentálně ne. Pokusy byly i jsou, ale často to vede k tomu, že místo nějakých seniornějších zaměstnanců nemyslím věkově, ale v rámci zkušeností, kteří jsou trošku i finančně nákladní pro tu firmu, tak je chtějí nahradit čerstvým absolventem s AI nástroji.

Často to končí katastrofální, protože ta zkušenost lidí tam chybí a oni věci moc neprověřují. U AI je fabulace ještě silná a pokud ty modely nejsou dostatečně vyladěné a nejsou až tak důvěryhodné, ty výsledky jsou mnohdy katastrofální.

Může být tedy dobrý sluha, ale špatný pán? Může být použita i negativně?

Jasně, ono se to bohužel často stává. Mnoho AI startup-ů vzniklo jako nějaká nástavba ChatGPT, že se de facto jen přejmenovali, využili toho co OpenAI vytvořilo a udělali nějaké vlastní podklady a pomůcky na základě čeho táhly od lidí peníze.

Ať už nějaký scam, podvodné maily, podvodné zprávy a dokázaly to celé pomocí i jiných, než AI-čkových technologií automatizovat. Tzn. najednou stovkám až tisícům lidem posílaly nějaké podvodné emaily nebo zprávy, neboť šlo io vydírání v rámci obsahu, kde lidem manipulovali tváře na jiné postavy nebo je vkládali do horších situací nebo dokonce jim ukradli hlas.

Falešné zprávy, úpravy fotek a podobně. Máš nějaký konkrétní příklad?

Bohužel ano, často se to používá na tu starší generaci, když jim někdo zavolá z nějakého neznámého čísla nebo já tady můžu sedět a vytvořit si nějaké jiné telefonní číslo, zavolat rodinným příslušníkům s ukradeným hlasem, ve smyslu „Mám problém, pošli mi peníze na účet“ a podobně.

Také na středních školách kyberšikana. Lidé mají velkou kreativitu a pokud leccos já publikuji na Instagram, Pinterest, Facebook, tak ono to v dnešní době dokážeme oříznout ten obrázek a už to umíme tak dobře napasovat na jiný obrázek, že to vypadá jako bychom to dělali ve Photoshopu nebo nějakém jiném editačním softwaru. A dokáže nás to vylíčit do nemilých a nepříznivých situací, a to se pak šíří.

Jak to tedy rozlišit, jak umíme zjistit, jestli to je fake nebo ne?

Pokud se jedná jen o tvář tak je to velmi obtížné. Třeba dívat kontury, rty, uši, zuby, oči a prsty. Když se na to podívám prvním pohledem a něco mi tam pocitově nesedí, tak se vyplatí na to podívat znovu. A najednou to vidět - proč má ten člověk šest prstů, dvě sady nehtů, očí mu jdou nemožným způsobem, má dvě zornice, uši jsou generovány podivnou formou.

Stíny už AI řeší dobře, to už není tak snadné. Ale je třeba sledovat pozadí neboť Star Wars je sice super, ale na Zemi zatím nemáme dvě slunce. Evropská unie připravila takzvaný AI Act. Kde vůči takovým věcem chce bojovat a pokud to přejde do širší platnosti a zavede se to široké veřejnosti, tak každý vygenerovaný obraz nebo video bude muset být jednoznačně identifikovatelný, že je generován umělou inteligencí. Může to být nějaký watermark, který nelze odstranit, resp. neměl by se dát odstranit.

Podívejme se na to například přes studenty. Jaký je tvůj názor na to, že i studenti ve velkém s AI dělají a dělají seminární, diplomové nebo bakalářské práce? Jaký je tvůj pohled na to, je to správné nebo ne?

Velmi dobrá otázka, akorát toto léto jsme se s tím setkali, neboť působím ještě na univerzitě, čili byl jsem právě na takových obhajobách, kde byli studenti, kteří prezentovali svou práci. Ale z mé zkušenosti je to tak, že ti, kteří to AI použili, se velmi snadno sami identifikovali. Vygenerovali si abstrakt závěrečné práce, bakalářské nebo diplomové a prezentovali svou práci. Problém nastal ten, že nevěděli co dělají. Něco jim vygenerovalo a ani si to nepřečetli. Po třech čtyřech otázkách jsme se na studenta dívali "no pan kolega to je sice super, ale vy nevíte o čem mluvíte.."

Ale to byly výjimečné případy. Byly i případy, že student si to chtěl usnadnit, nechal si to vygenerovat, ale věděl o čem mluví. Takže když jsme se začali ptát docela do hloubky a věděl o čem mluví, tak jsem si řekl, že za mě je to dobré.

Ale nemělo by to být o tom, že AI vygeneruje celou moji práci. Když už student neví o čem mluví a nechá si to celé vygenerovat, tak když to udělá v rámci akademické půdy, kde ta bezúhonnost je trošku větší, tak co potom bude v praxi dělat? Neboť AI mi to vygeneruje, ale daleko mě to nedostane neboť nechápu ten základ toho co dělám.

Kam to bude pokračovat, co nás čeká v nejbližší době ve spojitosti s AI?

Ty modely, které máme budou doladěny, budou lepší. Problém spíše je to, jak získáme data na trénování, než je natrénujeme. Dostat se však můžeme velmi daleko, ať už jsou to nástroje v medicíně, v byznysu, v technologiích, ve vývoji… potenciál je tam velký.

Článek byl vytvořen na základě podcastu. Celý podcast si můžete poslechnout na SPOTIFY nebo prohlédnout na YouTube.