Žijeme v takej dobe, v ktorej miestami človek už nevie rozoznať, čo je pravda a čo nie, či niečo vidí, alebo sa mu to len zdá, a častokrát nevieme očakávať, čo príde a čo si budúcnosť pre nás pripravila. Počuli ste už pojem deepfake?
Táto technológia využíva umelú inteligenciu na vytváranie falošných videí, ktoré pôsobia tak realisticky, že bežný človek často nedokáže spozorovať podvod. Môže ísť o slávne osobnosti, politikov, ale aj o vás. Je fascinujúce, čo dnes AI dokáže. Modely už vedia napodobniť mimiku, pohyby pier aj emócie. A nielen obraz. Vedia skopírovať váš hlas, jeho farbu, rytmus, intonáciu aj bežné frázy, ktoré používate.
Znie to ako zázrak technológie, ale zároveň je to krásne nebezpečné. Predstavte si, že vám raz zavolá váš syn so slovami: „Ahoj, oci, potreboval by som peniaze na výlet.“ Vy mu tie peniaze ako správny rodič dáte. No keď sa neskôr prídete opýtať syna, aký bol výlet, on vám odpovie: „Aký? Na žiadnom som nebol.“ V tom momente si uvedomíte, že ste boli okradnutý. Nie niekým na ulici, ale digitálnym klonom vášho vlastného dieťaťa.
Toto už nie je len výmysel. Útoky založené na syntetickom hlase a obraze sa začínajú objavovať po celom svete. V niektorých prípadoch boli firmy oklamané, aby previedli obrovské sumy peňazí len preto, že niekto napodobnil hlas generálneho riaditeľa. Technológia, ktorá mala baviť a pomáhať, sa tak môže stať zbraňou.
Je preto dôležité, aby si ľudia uvedomovali existenciu deepfake a učili sa rozpoznávať varovné signály. Aj tie najrealistickejšie videá môžu byť umelým výtvorom. Budúcnosť prinesie ešte silnejšie nástroje, no zároveň aj potrebu väčšej ostražitosti. Pretože v dobe, keď realitu možno vyrobiť na počkanie, je najväčšou hodnotou stále pravda.
PS: priložil som sem video kde sa deepfake rozoberá, ide o praktické ukážky ako vo videách vie AI zobraziť tváre známych hercov a napodobniť ich hlas. Video je po anglicky.
Celá debata | RSS tejto debaty