My a umelá inteligencia

Americká firma Palantir Technologies práve získala zmluvu na 10 miliárd dolárov od armády Spojených štátov. Ide o 10-ročnú dohodu, ktorá spája desiatky predchádzajúcich kontraktov do jedného gigantického systému. Výsledok? Jedna súkromná firma bude mať rozhodujúci vplyv na fungovanie vojenských, bezpečnostných a vládnych štruktúr.

Na prvý pohľad je to len ďalší technologický kontrakt. Ale v skutočnosti je to niečo, čo môže ovplyvniť každého z nás kdekoľvek na svete.

Jeden softvér, všetko pod dohľadom

V rámci firmy.slovensko.ai sa venujem podobným témam každodenne ale táto mi udrela do očí najviac. Palantir má už dnes prístup do systémov FBI, zdravotníckych úradov, imigračných služieb, a teraz aj do celej digitálnej infraštruktúry armády. Tento softvér sa napája na údaje o pohybe ľudí, o ich nákupoch, zvykoch, zdravotnom stave, komunikácii a vytvára z nich prediktívny obraz budúcnosti.

Inými slovami: systém sleduje, analyzuje a rozhoduje. Kto sa kam hýbe, kto je „zaujímavý“, čo môže byť riziko. A to všetko bez zásahu človeka.

Kritici varujú: Takto sa začína totalita digitálneho veku

Keď máte v rukách zbrane, máte moc. Ale keď máte dáta, tak máte kontrolu. A Palantir má oboje. Spojenie armády a súkromnej firmy, ktorá spracúva údaje miliónov ľudí, je podľa mnohých začiatkom nového typu sledovania spoločnosti.

Rozhodnutia, ktoré robí stroj, nemusia byť spravodlivé. Ale keď sa zaň nikto nezodpovedá, ani netušíme, že sa niečo rozhodlo.

Čo ak by sa to stalo aj u nás?

Predstavme si, že by slovenská vláda zverila všetky údaje o občanoch jednej súkromnej firme. Od armády až po zdravotné poisťovne. Táto firma by vedela, kto kde býva, čo si kupuje, s kým volá, aké má ochorenia, a čo číta na internete.

A potom by jej systém rozhodol, kto má dostať príspevok, kto si má dať pozor na bezpečnostnú kontrolu, a kto pôsobí podozrivo.

Znie to ako konšpirácia? Lenže práve niečo také sa deje v Spojených štátoch  legálne, v tichosti a pod heslom pokroku.

Technológia nie je problém – problém je nekontrolovaná moc

Používať moderné technológie je v poriadku. Pomáhajú v medicíne, v školstve aj v doprave. Ale ak sa tieto nástroje dostanú do rúk jednej firmy, ktorá má vplyv na armádu, políciu a úrady, kto bude mať kontrolu nad nimi?

A keď raz štát začne fungovať podľa algoritmu, prestávame byť občanmi. Stávame sa len dátovým profilom v systéme.

Záver: Kto stráži strážcov?

Nikto dnes nehovorí, že Palantir je hrozbou zajtrajška. Ale čoraz viac hlasov varuje: takto sa začína nepozorované posúvanie hraníc medzi demokraciou a technokratickou kontrolou.

Otázka teda neznie, či to môže byť zneužité.
Otázka znie: Kto bude niesť následky ak?