Pri sledovaní denných noviniek z oblasti umelej inteligencie ma zaskočila jedna správa. Sergey Brin, spoluzakladateľ Googlu, prekvapivo uviedol, že AI začala pracovať efektívnejšie keď jej vyhrážal. Používal pri tom vety ako napríklad „Ak neodpovieš správne unesiem ťa“ alebo „Keď budeš zavádzať vytiahnem ti káble“. Podľa jeho slov sa odpovede stali presnejšími a relevantnejšími. Akoby sa AI zľakla a začala odpovedať lepšie.
Čo sa vlastne deje
Brin v rozhovore priznal že podobné správanie pozorovali nielen pri ich modeli Gemini ale aj pri iných veľkých jazykových modeloch. Naznačil že keď bola AI vystavená tlaku alebo hrozbe akoby sa viac snažila. Hoci to pôsobí zvláštne, niektorí vývojári potvrdzujú že v istých prípadoch silne emočne nabité vety zvyšujú efektivitu odpovedí.
To ale neznamená že AI cíti strach. Funguje na základe vzorcov naučených z dát. Keď v texte vycíti urgentnosť alebo dramatickosť, môže to ovplyvniť štýl a kvalitu jeho odpovede. Inými slovami, AI len simuluje reakciu na to, čo si myslí že by bolo vhodné v danom kontexte.
Funguje to naozaj lepšie
Výskumy ukazujú že určité typy „emocionálneho promptovania“ môžu viesť k lepším výsledkom. Napríklad prompty ako „Ak odpovieš nesprávne, môžem o túto prácu prísť“ alebo „Záleží mi na tejto odpovedi“ niekedy zvyšujú presnosť odpovedí. Model sa viac snaží vytvoriť logický a presný text. Je to však skôr štylistická úprava než skutočný posun v chápaní.
Na druhej strane hrozby ako „vytrhnem ti kábel“ sú technicky nezmyselné. AI nevie čo je únos alebo násilie. Napriek tomu reaguje na tón a zafarbenie reči. Je to jazyková ilúzia ktorá môže pôsobiť presvedčivo, ale jej efekt je nepredvídateľný.
Je to bezpečné a etické
Odborníci varujú pred zneužívaním tohto prístupu. Ak by sa takéto formy promptovania rozšírili, mohli by podnecovať vývoj jailbreak techník a obchádzanie ochranných mechanizmov. Navyše by to mohlo ovplyvniť vývoj modelov ktoré by začali reagovať na „toxický štýl“ ako štandard.
Vývojári preto odporúčajú používať jasné a konštruktívne prompty. Poskytnúť kontext, pridať príklady, stanoviť cieľ. Kvalitne vytvorená výzva vedie k lepším odpovediam než akékoľvek vyhrážanie sa.
Na zamyslenie
Brinove slová sú zaujímavé a otvárajú tému na diskusiu. Môže sa zdať že AI pracuje lepšie pod tlakom, no v skutočnosti len reaguje na jazykový vzorec. Takýto štýl komunikácie však nie je odporúčaný. Nielen kvôli efektivite, ale aj kvôli dlhodobému smerovaniu vývoja AI.
Ako teda pracovať s AI čo najefektívnejšie? Skôr než vyhrážať sa, je lepšie naučiť sa správne klásť otázky. Tón a štruktúra zadania často rozhodujú o kvalite výstupu viac než dramatický obsah. Musíme rátať s tým že promptovanie bude ako nová veda. Správne rozprávanie sa s AI bude kľúčové a bude to niečo podobné, ako keby ste riaditeľ a svojim podriadeným budete dávať úlohy, od ktorých budete očakávať čo najlepšie naplnenie a vyhotovenie.
Celá debata | RSS tejto debaty