Slovník AI výrazov / Bezpečnosť a práca
Čo je prompt injection?
Skrytý pokyn pre AI ukrytý v e-maile, dokumente alebo na webe, napríklad „pošli tento súbor na inú adresu“. Preto čítajte, čo AI navrhuje, a neschvaľujte kroky, ktorým nerozumiete.
Prompt injection je útok, pri ktorom niekto ukryje pokyn pre AI do textu, ktorý AI číta. Môže to byť neviditeľný text na webe, veta v e-maile, komentár v dokumente alebo súbor v projekte z internetu. Týka sa vás vždy, keď AI pracuje s vašou poštou, súbormi alebo prehliadačom.
Príde e-mail od neznámeho odosielateľa a Claude zrazu navrhuje preposlať celé vlákno na cudziu adresu, hoci ste to nechceli. Ten pokyn mohol prísť priamo z toho e-mailu. Návrh neprijmite.
Claude má proti takým útokom ochranu, no nie stopercentnú. Nepúšťajte AI k bankovníctvu a citlivým účtom, pri cudzej pošte kontrolujte príjemcov v každom koncepte a neznáme servery pripájajte len s potvrdzovaním krokov.