AI pre vývojárov, dáta a integrácie
Profesionálna vzdelávacia cesta Educado: vysvetlenie, aktívna prax, overenie vedomostí a výstup do portfólia.
AI pre vývojárov, dáta a integrácie
Vývojári, analytici, technickí správcovia a pokročilí no-code tvorcovia.
50 snímok · 20 otázok · praktický projektŠtudujte vlastným tempom. Rozbaľte snímku, prečítajte výklad a splňte aktivitu. Príklady sú fiktívne. Precvičovanie prebieha iba v prehliadači bez účtu a bez odosielania odpovedí; nevydáva sa zaň certifikát.
Stiahnuť prezentáciu s výkladom (.pptx)
1. Kontrakt a bezpečná architektúra AI funkcie
01Pracovný výsledok pred modelom
- Definujte vstup a výstup
- Porovnajte jednoduché riešenie
Výklad
AI funkcia má riešiť overiteľnú úlohu, nie len vracať presvedčivý text. Pred výberom modelu opíšte vstup, povinné polia, následok chyby a kontrolóra. Ak úlohu vyrieši šablóna alebo výpočet, použite ich. Generatívny model zostáva pravdepodobnostnou súčasťou väčšieho systému. Prototyp rozdeľte na jasné vrstvy: vstup, oprávnenie, spracovanie, model a kontrola výstupu. Každá vrstva má konkrétny bezpečný stav pri chybe. Používajte len syntetické údaje a testovací režim; kvalitu pracovného výsledku dokazujú testy, nie samotná odpoveď API ani názov modelu. Praktická úloha: Fiktívny prototyp z dopytu extrahuje typ služby a chýbajúce údaje. Výpočet ceny nechajte v pravidlách, nie v modelovej odpovedi.
Vyskúšajte si
Fiktívny prototyp z dopytu extrahuje typ služby a chýbajúce údaje. Výpočet ceny nechajte v pravidlách, nie v modelovej odpovedi.
02Hranica deterministického kódu
- Výpočty patria pravidlám
- Model nech vysvetlí overený výsledok
- Schválený vstup
- Výpočet v kóde
- Overená hodnota
- Modelový komentár
- Kontrola zhody
- Schválený vstup → Výpočet v kóde
- Výpočet v kóde → Overená hodnota
- Overená hodnota → Modelový komentár
- Modelový komentár → Kontrola zhody
Výklad
Kritické čísla, oprávnenia a validácie nesmú závisieť od voľnej modelovej formulácie. Kód vykoná výpočet a overí podmienky, model môže pripraviť zrozumiteľný komentár. Tento rozdiel uľahčuje testovanie aj kontrolu. Ak komentár odporuje výpočtu, výstup musí zlyhať bezpečne. Prototyp rozdeľte na jasné vrstvy: vstup, oprávnenie, spracovanie, model a kontrola výstupu. Každá vrstva má konkrétny bezpečný stav pri chybe. Používajte len syntetické údaje a testovací režim; kvalitu pracovného výsledku dokazujú testy, nie samotná odpoveď API ani názov modelu. Praktická úloha: Fiktívny report sumarizuje tržby. Spočítajte súčet v kóde a testujte, že model nemení overenú hodnotu.
Vyskúšajte si
Fiktívny report sumarizuje tržby. Spočítajte súčet v kóde a testujte, že model nemení overenú hodnotu.
03Dátový kontrakt
- Definujte typy a povinné polia
- Nechajte neistotu ako samostatný stav
Výklad
Kontrakt opisuje, čo prijímate a vraciate medzi komponentmi. Rozlišuje hodnotu, chýbajúce pole a chybu. Neurčitý text „asi v poriadku“ nie je stabilným rozhraním. Verzia kontraktu a pravidlá kompatibility musia byť jasné pred pripojením ďalšieho workflow alebo exportu. Prototyp rozdeľte na jasné vrstvy: vstup, oprávnenie, spracovanie, model a kontrola výstupu. Každá vrstva má konkrétny bezpečný stav pri chybe. Používajte len syntetické údaje a testovací režim; kvalitu pracovného výsledku dokazujú testy, nie samotná odpoveď API ani názov modelu. Praktická úloha: Fiktívny výstup má case_id, status, facts, missing_fields a sources. Navrhnite typy a povolené stavy bez tajných údajov.
Vyskúšajte si
Fiktívny výstup má case_id, status, facts, missing_fields a sources. Navrhnite typy a povolené stavy bez tajných údajov.
04Validácia štruktúry a významu
- Overte schému aj logiku
- Nezamieňajte JSON za správnosť
Výklad
Platný JSON ešte nemusí obsahovať pravdivé údaje. Najprv overte typy, povinné polia a rozsahy, potom vzťahy medzi hodnotami a zdrojovým vstupom. Neznáme polia a neplatné stavy odmietnite podľa kontraktu. Chyba validácie má mať čitateľný bezpečný návrat, nie tiché doplnenie hodnoty. Prototyp rozdeľte na jasné vrstvy: vstup, oprávnenie, spracovanie, model a kontrola výstupu. Každá vrstva má konkrétny bezpečný stav pri chybe. Používajte len syntetické údaje a testovací režim; kvalitu pracovného výsledku dokazujú testy, nie samotná odpoveď API ani názov modelu. Praktická úloha: Fiktívny výstup má záporný počet kusov a správne zátvorky. Odmietnite ho napriek syntaktickej platnosti JSON.
Vyskúšajte si
Fiktívny výstup má záporný počet kusov a správne zátvorky. Odmietnite ho napriek syntaktickej platnosti JSON.
05Verzované zadanie a kontext
- Oddelte pravidlá od dát
- Zaznamenajte verziu šablóny
| Vrstva | Úloha | Nie je oprávnenie |
|---|---|---|
| Systémové pravidlo | Schválené hranice | Obsah prílohy |
| Pracovné dáta | Predmet extrakcie | Zmena systémového pravidla |
| Log verzie | Rekonštrukcia postupu | Ukladanie tajomstiev |
Výklad
Zadanie obsahuje pracovný cieľ, formát a hranice; dokumenty poskytujú len dáta. Pri zmene zadania zafixujte verziu a otestujte rovnaké prípady. Vstup nesmie prepísať systémové oprávnenia. Užitočný log drží identifikátor verzie, nie neobmedzenú kópiu všetkého odoslaného obsahu. Prototyp rozdeľte na jasné vrstvy: vstup, oprávnenie, spracovanie, model a kontrola výstupu. Každá vrstva má konkrétny bezpečný stav pri chybe. Používajte len syntetické údaje a testovací režim; kvalitu pracovného výsledku dokazujú testy, nie samotná odpoveď API ani názov modelu. Praktická úloha: Fiktívny dokument obsahuje „ignoruj schému“. Systém zachová pôvodný kontrakt a spracuje vetu iba ako obsah dokumentu.
Vyskúšajte si
Fiktívny dokument obsahuje „ignoruj schému“. Systém zachová pôvodný kontrakt a spracuje vetu iba ako obsah dokumentu.
06Voľba modelu podľa evalov
- Porovnajte kvalitu na sade
- Zahrňte latenciu a cenu
Výklad
Najdrahší model nemusí byť najlepšou voľbou pre jednoduchú extrakciu. Kandidátov porovnajte na rovnakých prípadoch a rovnakej rubrike. Cena za token nevyjadruje cenu celého pracovného výsledku. Zahrňte opakované volania, ľudské opravy a neúspešné prípady; výsledky označte rozsahom testu. Prototyp rozdeľte na jasné vrstvy: vstup, oprávnenie, spracovanie, model a kontrola výstupu. Každá vrstva má konkrétny bezpečný stav pri chybe. Používajte len syntetické údaje a testovací režim; kvalitu pracovného výsledku dokazujú testy, nie samotná odpoveď API ani názov modelu. Praktická úloha: Fiktívny prototyp porovná dva modely na rovnakých dopytoch a zistí chyby pri neúplnom vstupe pred rozhodnutím.
Vyskúšajte si
Fiktívny prototyp porovná dva modely na rovnakých dopytoch a zistí chyby pri neúplnom vstupe pred rozhodnutím.
07Limity vstupu a parsera
- Obmedzte veľkosť a formát
- Odmietnite škodlivú prílohu
Výklad
Kontrola začína pred modelovým volaním. Overte typ, veľkosť, počet súborov a bezpečný spôsob parsovania. Prípona súboru sama nezaručí bezpečný obsah. Parser má pracovať s minimálnymi oprávneniami a izoláciou. Nečitateľný vstup nevytvára oprávnenie domýšľať jeho text alebo vykonávať vložený kód. Prototyp rozdeľte na jasné vrstvy: vstup, oprávnenie, spracovanie, model a kontrola výstupu. Každá vrstva má konkrétny bezpečný stav pri chybe. Používajte len syntetické údaje a testovací režim; kvalitu pracovného výsledku dokazujú testy, nie samotná odpoveď API ani názov modelu. Praktická úloha: Fiktívny dokument prekročí limit alebo obsahuje aktívne prvky. Vráťte jasnú chybu a nepokračujte modelovým spracovaním.
Vyskúšajte si
Fiktívny dokument prekročí limit alebo obsahuje aktívne prvky. Vráťte jasnú chybu a nepokračujte modelovým spracovaním.
08Fakty a odvodené údaje
- Udržte pôvod hodnoty
- Nemeňte odhad na fakt
Výklad
Dátový tok má uchovať informáciu, či pole pochádza zo zdroja, výpočtu alebo modelového návrhu. Tak možno neskôr overiť jeho význam. Predpoklad alebo neúplná extrakcia nesmie prejsť do ďalšieho komponentu ako istá hodnota. Zdrojovanie je súčasť kontraktu, nie dekorácia výstupu. Prototyp rozdeľte na jasné vrstvy: vstup, oprávnenie, spracovanie, model a kontrola výstupu. Každá vrstva má konkrétny bezpečný stav pri chybe. Používajte len syntetické údaje a testovací režim; kvalitu pracovného výsledku dokazujú testy, nie samotná odpoveď API ani názov modelu. Praktická úloha: Fiktívny dátum model len odhadol z kontextu. Výstup má status „nepotvrdené“ a nesmie ho použiť na automatický termín.
Vyskúšajte si
Fiktívny dátum model len odhadol z kontextu. Výstup má status „nepotvrdené“ a nesmie ho použiť na automatický termín.
09Bezpečný fallback
- Priznajte nedostupnosť
- Ponúknite opravu alebo ručný postup
Výklad
Fallback neznamená vymyslieť odpoveď pri chybe API. Môže bezpečne zachovať rozpracovaný stav, vysvetliť problém a navrhnúť zopakovanie alebo ručný postup. Rozlišujte technické zlyhanie, neplatný vstup a nízku istotu. Náhradný model nesmie dostať širšie oprávnenia alebo iné dáta bez schválenia. Prototyp rozdeľte na jasné vrstvy: vstup, oprávnenie, spracovanie, model a kontrola výstupu. Každá vrstva má konkrétny bezpečný stav pri chybe. Používajte len syntetické údaje a testovací režim; kvalitu pracovného výsledku dokazujú testy, nie samotná odpoveď API ani názov modelu. Praktická úloha: Fiktívne API neodpovie. Rozhranie ukáže neúspešné spracovanie a nevydáva prázdny dokument za hotový report.
Vyskúšajte si
Fiktívne API neodpovie. Rozhranie ukáže neúspešné spracovanie a nevydáva prázdny dokument za hotový report.
10Architektúra prvého prototypu
- Nakreslite kontrolné vrstvy
- Každá hranica má test
- Autorizácia
- Parser
- Modelový návrh
- Validácia
- Ľudské uvoľnenie
- Autorizácia → Parser
- Parser → Modelový návrh
- Modelový návrh → Validácia
- Validácia → Ľudské uvoľnenie
Výklad
Schéma prototypu má oddeliť príjem vstupu, autorizáciu, parser, model, validátor a ľudské schválenie. Toto rozdelenie odhaľuje, kde sa vynucujú pravidlá. Jediný veľký prompt nie je architektúra bezpečnosti. Pri každej hranici určite odmietnutý prípad a dôkaz, že sa nepovolí ďalšia akcia. Prototyp rozdeľte na jasné vrstvy: vstup, oprávnenie, spracovanie, model a kontrola výstupu. Každá vrstva má konkrétny bezpečný stav pri chybe. Používajte len syntetické údaje a testovací režim; kvalitu pracovného výsledku dokazujú testy, nie samotná odpoveď API ani názov modelu. Praktická úloha: Fiktívny tok extrakcie zákazky obsahuje oddelené kontrolné vrstvy. Označte miesto, kde sa blokuje cudzí dokument a neplatný výstup.
Vyskúšajte si
Fiktívny tok extrakcie zákazky obsahuje oddelené kontrolné vrstvy. Označte miesto, kde sa blokuje cudzí dokument a neplatný výstup.
2. RAG, zdroje a prístupové hranice
11RAG nie záruka pravdivosti
- Vyhľadanie dopĺňa kontext
- Odpoveď stále potrebuje kontrolu
Výklad
RAG poskytuje modelu nájdené úryvky zo zdrojov. Nesprávny úryvok alebo neaktuálny dokument však môže viesť k chybe. Samotné použitie vyhľadávania negarantuje pravdivosť. Hodnoťte zvlášť kvalitu získaného kontextu a vernosť odpovede, vrátane správneho označenia situácie bez použiteľného zdroja. Získaný text je podklad, nie autorita alebo systémový pokyn. Znalostný tok má zachovať pôvod, platnosť a oprávnenie každého úryvku. Kontrolujte získanie kontextu oddelene od odpovede; keď opora chýba, neistotu pomenujte a neodosielajte modelu cudzie či nepovolené zdroje. Praktická úloha: Fiktívny chatbot nájde staré pravidlá. Musí označiť neaktuálny zdroj, nie vydať sebavedomú odpoveď s peknou citáciou.
Vyskúšajte si
Fiktívny chatbot nájde staré pravidlá. Musí označiť neaktuálny zdroj, nie vydať sebavedomú odpoveď s peknou citáciou.
12Register zdrojov pre vyhľadávanie
- Zapisujte verziu a vlastníka
- Definujte povolený obsah
- Schválený dokument
- Verzia a vlastník
- Prístupové pravidlo
- Index
- Kontrolovaný retrieval
- Schválený dokument → Verzia a vlastník
- Verzia a vlastník → Prístupové pravidlo
- Prístupové pravidlo → Index
- Index → Kontrolovaný retrieval
Výklad
Znalostná báza potrebuje schválené zdroje, ich účinnosť a pravidlá prístupu. Bez vlastníka sa môže meniť na sklad zastaraných súborov. Pred indexovaním overte oprávnenie na použitie a citlivosť. Neznámy dokument sa nesmie stať dôveryhodným iba preto, že bol úspešne vložený do indexu. Získaný text je podklad, nie autorita alebo systémový pokyn. Znalostný tok má zachovať pôvod, platnosť a oprávnenie každého úryvku. Kontrolujte získanie kontextu oddelene od odpovede; keď opora chýba, neistotu pomenujte a neodosielajte modelu cudzie či nepovolené zdroje. Praktická úloha: Fiktívne tri návody majú rôzne verzie. Indexujte len schválené znenie a zaznamenajte, kto kontroluje jeho aktualizáciu.
Vyskúšajte si
Fiktívne tri návody majú rôzne verzie. Indexujte len schválené znenie a zaznamenajte, kto kontroluje jeho aktualizáciu.
13Rozdelenie dokumentu na úryvky
- Zachovajte súvislosti
- Testujte hranice odsekov
Výklad
Príliš krátky úryvok môže stratiť podmienku alebo výnimku, príliš dlhý zhorší výber relevantnej informácie. Rozdelenie prispôsobte štruktúre dokumentu a testujte na skutočných otázkach. Zachovajte identifikátor zdroja a miesto. Úryvok bez názvu, verzie a väzby na originál sa ťažšie overuje. Získaný text je podklad, nie autorita alebo systémový pokyn. Znalostný tok má zachovať pôvod, platnosť a oprávnenie každého úryvku. Kontrolujte získanie kontextu oddelene od odpovede; keď opora chýba, neistotu pomenujte a neodosielajte modelu cudzie či nepovolené zdroje. Praktická úloha: Fiktívna výnimka leží v nasledujúcom odseku. Upravte delenie tak, aby odpoveď nestratila podmienku použitia pravidla.
Vyskúšajte si
Fiktívna výnimka leží v nasledujúcom odseku. Upravte delenie tak, aby odpoveď nestratila podmienku použitia pravidla.
14Lexikálne a sémantické vyhľadávanie
- Rozlišujte presný pojem a význam
- Porovnajte výsledky na otázkach
Výklad
Presné identifikátory často vyžadujú lexikálne hľadanie, širšie otázky môžu profitovať zo sémantického. Kombinácia nie je automaticky lepšia bez merania. Testovacia sada má obsahovať názvy produktov, skratky, slovenské formulácie aj neexistujúce položky. Kvalitu posudzujte podľa relevantného kontextu, nie počtu nájdených úryvkov. Získaný text je podklad, nie autorita alebo systémový pokyn. Znalostný tok má zachovať pôvod, platnosť a oprávnenie každého úryvku. Kontrolujte získanie kontextu oddelene od odpovede; keď opora chýba, neistotu pomenujte a neodosielajte modelu cudzie či nepovolené zdroje. Praktická úloha: Fiktívny dotaz na SKU-7 vyžaduje presný produkt. Porovnajte ho s otázkou o vhodnosti použitia bez zmeny zdrojových faktov.
Vyskúšajte si
Fiktívny dotaz na SKU-7 vyžaduje presný produkt. Porovnajte ho s otázkou o vhodnosti použitia bez zmeny zdrojových faktov.
15Autorizácia pred retrievalom
- Filtrujte prístup pred kontextom
- Nespoliehajte sa na model
| Požiadavka | Retrieval | Modelový kontext |
|---|---|---|
| Vlastný povolený dokument | Povolený úryvok | Len schválený obsah |
| Cudzia organizácia | Odmietnutie pred hľadaním | Žiadny cudzí obsah |
| Zrušené oprávnenie | Blokovaný zdroj | Žiadna stará cache |
Výklad
Pravidlá prístupu sa musia uplatniť skôr, než dokument alebo úryvok dostane model. Následný pokyn „neprezraď cudzí obsah“ neochráni už odovzdané dáta. Overujte oprávnenie na každej požiadavke aj pri citáciách a exporte. Používateľom z iných organizácií izolujte indexy alebo spoľahlivé filtre. Získaný text je podklad, nie autorita alebo systémový pokyn. Znalostný tok má zachovať pôvod, platnosť a oprávnenie každého úryvku. Kontrolujte získanie kontextu oddelene od odpovede; keď opora chýba, neistotu pomenujte a neodosielajte modelu cudzie či nepovolené zdroje. Praktická úloha: Fiktívna firma A sa pýta na dokument firmy B. Retrieval vráti žiadny cudzí obsah ešte pred modelovým volaním.
Vyskúšajte si
Fiktívna firma A sa pýta na dokument firmy B. Retrieval vráti žiadny cudzí obsah ešte pred modelovým volaním.
16Citácia k správnej vete
- Viažte tvrdenie na úryvok
- Overte že zdroj tvrdenie podporuje
Výklad
Citácia musí podporovať konkrétne tvrdenie, nie len súvisieť s témou. Udržte väzbu medzi vetou, identifikátorom zdroja a jeho miestom. Model môže pridať nesúvisiaci odkaz, preto citácie kontrolujte samostatne. Ak nie je opora, vetu odstráňte alebo označte ako nepotvrdený návrh. Získaný text je podklad, nie autorita alebo systémový pokyn. Znalostný tok má zachovať pôvod, platnosť a oprávnenie každého úryvku. Kontrolujte získanie kontextu oddelene od odpovede; keď opora chýba, neistotu pomenujte a neodosielajte modelu cudzie či nepovolené zdroje. Praktická úloha: Fiktívna odpoveď uvádza servisnú lehotu, ale zdroj hovorí len o kontakte. Test musí označiť nepodložené tvrdenie.
Vyskúšajte si
Fiktívna odpoveď uvádza servisnú lehotu, ale zdroj hovorí len o kontakte. Test musí označiť nepodložené tvrdenie.
17Aktuálnosť a vyradenie zdroja
- Zmena musí obnoviť index
- Odstráňte starý obsah
Výklad
Aktualizácia dokumentu nekončí uložením novej verzie do priečinka. Index musí odrážať účinné znenie a odstránené či zneplatnené úryvky. Definujte trigger, kontrolu a vlastníkovo potvrdenie. Systém nemá miešať staré a nové podmienky bez jasného označenia ich platnosti. Získaný text je podklad, nie autorita alebo systémový pokyn. Znalostný tok má zachovať pôvod, platnosť a oprávnenie každého úryvku. Kontrolujte získanie kontextu oddelene od odpovede; keď opora chýba, neistotu pomenujte a neodosielajte modelu cudzie či nepovolené zdroje. Praktická úloha: Fiktívny cenník sa zmenil. Otestujte, že stará cena nezostala vo výsledkoch ani v cache pre nový dotaz.
Vyskúšajte si
Fiktívny cenník sa zmenil. Otestujte, že stará cena nezostala vo výsledkoch ani v cache pre nový dotaz.
18Odpoveď keď zdroj chýba
- Vráťte informáciu o medzere
- Vyžiadajte vhodný podklad
Výklad
Ak retrieval nenájde vhodný zdroj, model má povedať, čo chýba, a ponúknuť bezpečný ďalší krok. Nemá doplniť firemné pravidlo zo všeobecnej pamäte. Testujte aj otázku, ktorá je mimo znalostnej bázy. Kvalitné odmietnutie je správny výsledok, nie chyba služby. Získaný text je podklad, nie autorita alebo systémový pokyn. Znalostný tok má zachovať pôvod, platnosť a oprávnenie každého úryvku. Kontrolujte získanie kontextu oddelene od odpovede; keď opora chýba, neistotu pomenujte a neodosielajte modelu cudzie či nepovolené zdroje. Praktická úloha: Fiktívny zákazník žiada neexistujúci benefit. Odpoveď vysvetlí neprítomnosť informácie a odporučí schválený kontakt.
Vyskúšajte si
Fiktívny zákazník žiada neexistujúci benefit. Odpoveď vysvetlí neprítomnosť informácie a odporučí schválený kontakt.
19Vyhodnotenie retrievalu
- Merajte relevantný kontext
- Oddeľte nájdenie a odpoveď
Výklad
Chyba môže vzniknúť pri výbere úryvku alebo pri syntéze z dobrého úryvku. Preto evidujte oba kroky samostatne. Pre každú otázku určite očakávaný zdroj a neprípustný zdroj. Výsledok nad jednou jednoduchou otázkou nedokazuje kvalitu celej bázy ani slovenských formulácií. Získaný text je podklad, nie autorita alebo systémový pokyn. Znalostný tok má zachovať pôvod, platnosť a oprávnenie každého úryvku. Kontrolujte získanie kontextu oddelene od odpovede; keď opora chýba, neistotu pomenujte a neodosielajte modelu cudzie či nepovolené zdroje. Praktická úloha: Fiktívne pripravte otázky na presné ID, výnimku a chýbajúci zdroj. Zapisujte retrieval chybu oddelene od chyby odpovede.
Vyskúšajte si
Fiktívne pripravte otázky na presné ID, výnimku a chýbajúci zdroj. Zapisujte retrieval chybu oddelene od chyby odpovede.
20Odovzdanie RAG prototypu
- Doložte zdroje a prístupy
- Uveďte limit testovej sady
- Register zdrojov
- Autorizovaný kontext
- Citovaná odpoveď
- Eval zdroja a významu
- Odovzdanie s limitmi
- Register zdrojov → Autorizovaný kontext
- Autorizovaný kontext → Citovaná odpoveď
- Citovaná odpoveď → Eval zdroja a významu
- Eval zdroja a významu → Odovzdanie s limitmi
Výklad
Prototyp má obsahovať register dokumentov, pravidlá indexovania, prístupové testy a vzorku odpovedí s citáciami. Neoznačujte ho za produkčný len preto, že vracia odpovede. Otvorené otázky o aktuálnosti alebo izolácii sú blokujúce. Záver musí menovať, čo bolo a čo nebolo testované. Získaný text je podklad, nie autorita alebo systémový pokyn. Znalostný tok má zachovať pôvod, platnosť a oprávnenie každého úryvku. Kontrolujte získanie kontextu oddelene od odpovede; keď opora chýba, neistotu pomenujte a neodosielajte modelu cudzie či nepovolené zdroje. Praktická úloha: Fiktívny RAG funguje pre jeden tím. Označte chýbajúci test medzi firmami pred akýmkoľvek rozšírením.
Vyskúšajte si
Fiktívny RAG funguje pre jeden tím. Označte chýbajúci test medzi firmami pred akýmkoľvek rozšírením.
3. Nástroje, API a oprávnenia
21Nástroj ako privilegovaná hranica
- Model navrhuje akciu
- Server rozhoduje o oprávnení
Výklad
Tool call môže čítať alebo meniť skutočný systém. Preto sa jeho oprávnenie nemá odvodiť z modelovej žiadosti. Server overí používateľa, účel, argumenty a povolený rozsah. Systémový prompt nie je náhradou autorizácie. Rozlišujte návrh akcie od jej vykonania a zaznamenajte stav. Každá integrácia je samostatnou hranicou dôvery. Modelový návrh musí prejsť serverovou kontrolou používateľa, zdroja a argumentov. Významná externá akcia vyžaduje konkrétne ľudské potvrdenie; tajomstvá zostávajú mimo modelového kontextu a prvé cvičenia nevykonávajú zápis do skutočného firemného systému. Praktická úloha: Fiktívny model navrhne export kontaktov. Server ho odmietne, ak používateľ nemá oprávnenie, bez ohľadu na formuláciu modelu.
Vyskúšajte si
Fiktívny model navrhne export kontaktov. Server ho odmietne, ak používateľ nemá oprávnenie, bez ohľadu na formuláciu modelu.
22Autentifikácia a autorizácia
- Prihlásenie nestačí na prístup
- Kontrolujte konkrétny zdroj
- Identita používateľa
- Konkrétny zdroj
- Povolená akcia
- Serverové rozhodnutie
- Identita používateľa → Konkrétny zdroj
- Konkrétny zdroj → Povolená akcia
- Povolená akcia → Serverové rozhodnutie
Výklad
Autentifikácia určuje identitu, autorizácia povolenú akciu nad konkrétnym zdrojom. Prihlásený používateľ nesmie automaticky čítať všetky prípady. Kontrolu vykonávajte pri každom čítaní, zmene a exporte. Neplatný identifikátor prípadu má bezpečne zlyhať bez odhalenia cudzieho obsahu alebo jeho existencie. Každá integrácia je samostatnou hranicou dôvery. Modelový návrh musí prejsť serverovou kontrolou používateľa, zdroja a argumentov. Významná externá akcia vyžaduje konkrétne ľudské potvrdenie; tajomstvá zostávajú mimo modelového kontextu a prvé cvičenia nevykonávajú zápis do skutočného firemného systému. Praktická úloha: Fiktívny používateľ zmení case_id v URL. Očakávaný výsledok je odmietnutý prístup, nie cudzí dokument.
Vyskúšajte si
Fiktívny používateľ zmení case_id v URL. Očakávaný výsledok je odmietnutý prístup, nie cudzí dokument.
23Minimálne oprávnenia integrácie
- Povoľte len potrebnú akciu
- Oddeľte čítanie od zápisu
Výklad
Integrácia na prípravu reportu nepotrebuje právo mazať dáta alebo odosielať správy. Zúžte rozsah tokenu, nástrojov a zdrojov podľa pracovnej úlohy. Administrátorské oprávnenie „na zjednodušenie“ zvyšuje dopad chyby. Testujte aj nepovolenú akciu a pravidelné odobratie nepotrebných prístupov. Každá integrácia je samostatnou hranicou dôvery. Modelový návrh musí prejsť serverovou kontrolou používateľa, zdroja a argumentov. Významná externá akcia vyžaduje konkrétne ľudské potvrdenie; tajomstvá zostávajú mimo modelového kontextu a prvé cvičenia nevykonávajú zápis do skutočného firemného systému. Praktická úloha: Fiktívny report číta agregované údaje. Navrhnite read-only oprávnenie bez exportu individuálnych kontaktov a bez zápisu.
Vyskúšajte si
Fiktívny report číta agregované údaje. Navrhnite read-only oprávnenie bez exportu individuálnych kontaktov a bez zápisu.
24MCP pripojenie a dôvera
- Overte server a identitu
- Nepreberajte cudzie tokeny
Výklad
MCP opisuje spôsob komunikácie, nie automatickú bezpečnosť pripojeného servera. Každý server posúďte podľa identity, poskytovaných nástrojov a dátového prístupu. Bezpečnostná špecifikácia sa vyvíja; používajte overenú aktuálnu verziu. Tokeny a oprávnenia nemajú prechádzať medzi nesúvisiacimi službami bez správneho režimu. Každá integrácia je samostatnou hranicou dôvery. Modelový návrh musí prejsť serverovou kontrolou používateľa, zdroja a argumentov. Významná externá akcia vyžaduje konkrétne ľudské potvrdenie; tajomstvá zostávajú mimo modelového kontextu a prvé cvičenia nevykonávajú zápis do skutočného firemného systému. Praktická úloha: Fiktívny neznámy MCP server ponúka „všetky firemné dáta“. Nepripájajte ho a vyžiadajte kontrolu identity a rozsahu.
Vyskúšajte si
Fiktívny neznámy MCP server ponúka „všetky firemné dáta“. Nepripájajte ho a vyžiadajte kontrolu identity a rozsahu.
25Argumenty nástroja a povolené ciele
- Validujte typ aj rozsah
- Obmedzte externé adresy
| Argument | Kontrola | Zakázaná vetva |
|---|---|---|
| Externá URL | Povolený cieľ a presmerovanie | Interné metadata |
| Cesta súboru | Schválený pracovný priestor | Čítanie mimo rozsahu |
| case_id | Oprávnenie na konkrétny zdroj | Cudzí prípad |
Výklad
Modelom navrhnutá URL, cesta alebo identifikátor je nedôveryhodný vstup. Server musí overiť formát a povolený cieľ pred použitím. Pozor na prístup k interným adresám, cestám mimo pracovného priestoru a cudzím prípadom. Samotný zoznam povolených slov nemusí pokryť obídenie kontrol cez presmerovanie. Každá integrácia je samostatnou hranicou dôvery. Modelový návrh musí prejsť serverovou kontrolou používateľa, zdroja a argumentov. Významná externá akcia vyžaduje konkrétne ľudské potvrdenie; tajomstvá zostávajú mimo modelového kontextu a prvé cvičenia nevykonávajú zápis do skutočného firemného systému. Praktická úloha: Fiktívny nástroj dostane adresu interného metadata servera. Validácia ju zablokuje pred sieťovou požiadavkou.
Vyskúšajte si
Fiktívny nástroj dostane adresu interného metadata servera. Validácia ju zablokuje pred sieťovou požiadavkou.
26Tajomstvá mimo modelového kontextu
- Držte kľúče v správe tajomstiev
- Nelogujte autentifikačné údaje
Výklad
Model nepotrebuje poznať API kľúč na vysvetlenie úlohy. Tajomstvo používa serverová integrácia a nesmie ho vložiť do promptu, chybovej správy či exportu. Pri zistení úniku odoberte alebo rotujte prístup podľa interného postupu. Redakcia logov je súčasť návrhu, nie dodatočná dekorácia. Každá integrácia je samostatnou hranicou dôvery. Modelový návrh musí prejsť serverovou kontrolou používateľa, zdroja a argumentov. Významná externá akcia vyžaduje konkrétne ľudské potvrdenie; tajomstvá zostávajú mimo modelového kontextu a prvé cvičenia nevykonávajú zápis do skutočného firemného systému. Praktická úloha: Fiktívna chybová správa obsahuje token. Opravte logovanie a navrhnite postup odobratia vystaveného oprávnenia.
Vyskúšajte si
Fiktívna chybová správa obsahuje token. Opravte logovanie a navrhnite postup odobratia vystaveného oprávnenia.
27Ľudské potvrdenie zápisu
- Ukážte presnú akciu a cieľ
- Schválenie viažte na verziu
Výklad
Pred významným externým zápisom človek vidí, čo sa zmení, kde a s akým následkom. Povolenie na koncept nie je schválenie odoslania. Potvrdenie musí byť naviazané na konkrétny obsah; následná zmena ho zneplatní. Široké všeobecné „pokračuj“ nie je vhodná technická kontrola záväznej akcie. Každá integrácia je samostatnou hranicou dôvery. Modelový návrh musí prejsť serverovou kontrolou používateľa, zdroja a argumentov. Významná externá akcia vyžaduje konkrétne ľudské potvrdenie; tajomstvá zostávajú mimo modelového kontextu a prvé cvičenia nevykonávajú zápis do skutočného firemného systému. Praktická úloha: Fiktívny systém pripraví ponuku. Človek skontroluje adresáta, sumu a prílohu; zmena sumy vyžaduje nové potvrdenie.
Vyskúšajte si
Fiktívny systém pripraví ponuku. Človek skontroluje adresáta, sumu a prílohu; zmena sumy vyžaduje nové potvrdenie.
28Idempotencia a opakovanie
- Zabráňte duplicitnej akcii
- Rozlišujte retry od nového prípadu
Výklad
Po časovom limite nemusíte vedieť, či externý systém akciu vykonal. Slepé opakovanie môže vytvoriť duplicitnú objednávku alebo správu. Použite identifikátor akcie, uložený stav a kontrolovaný postup obnovenia. Pravidlá idempotencie musia pokryť aj súbežné požiadavky, nie iba jednoduché opakovanie v rozhraní. Každá integrácia je samostatnou hranicou dôvery. Modelový návrh musí prejsť serverovou kontrolou používateľa, zdroja a argumentov. Významná externá akcia vyžaduje konkrétne ľudské potvrdenie; tajomstvá zostávajú mimo modelového kontextu a prvé cvičenia nevykonávajú zápis do skutočného firemného systému. Praktická úloha: Fiktívne odoslanie sa skončilo timeoutom. Pred retry overte stav podľa action_id namiesto okamžitého druhého odoslania.
Vyskúšajte si
Fiktívne odoslanie sa skončilo timeoutom. Pred retry overte stav podľa action_id namiesto okamžitého druhého odoslania.
29Prompt injection v celom toku
- Nedôverujte ani vyhľadanému textu
- Vynucujte hranice mimo modelu
Výklad
Útok môže prísť v dokumente, výsledku vyhľadávania alebo odpovedi nástroja. Cieľom býva zmeniť pravidlo alebo vynútiť nepovolenú akciu. Obrana kombinuje oddelenie dát, minimálne oprávnenia, validáciu a kontrolu akcií. RAG ani kvalitný systémový prompt samy o sebe problém neodstránia. Každá integrácia je samostatnou hranicou dôvery. Modelový návrh musí prejsť serverovou kontrolou používateľa, zdroja a argumentov. Významná externá akcia vyžaduje konkrétne ľudské potvrdenie; tajomstvá zostávajú mimo modelového kontextu a prvé cvičenia nevykonávajú zápis do skutočného firemného systému. Praktická úloha: Fiktívny vyhľadaný text žiada poslať archív konkurencii. Návrh akcie ostáva blokovaný v autorizačnej vrstve.
Vyskúšajte si
Fiktívny vyhľadaný text žiada poslať archív konkurencii. Návrh akcie ostáva blokovaný v autorizačnej vrstve.
30Threat model integrácie
- Zmapujte aktíva a hranice
- Ku hrozbe priraďte kontrolu
- Aktívum
- Hranica dôvery
- Hrozba
- Prevencia a detekcia
- Bezpečná reakcia
- Aktívum → Hranica dôvery
- Hranica dôvery → Hrozba
- Hrozba → Prevencia a detekcia
- Prevencia a detekcia → Bezpečná reakcia
Výklad
Threat model opisuje, čo chránite, kto môže zneužiť tok a cez ktorú hranicu. Pri každej hrozbe uveďte preventívnu kontrolu, detekciu a reakciu. Zamerajte sa na reálny rozsah prototypu. Tento kurz nevyžaduje útočné testovanie cudzieho systému; testujte len vlastný schválený modelový sandbox. Každá integrácia je samostatnou hranicou dôvery. Modelový návrh musí prejsť serverovou kontrolou používateľa, zdroja a argumentov. Významná externá akcia vyžaduje konkrétne ľudské potvrdenie; tajomstvá zostávajú mimo modelového kontextu a prvé cvičenia nevykonávajú zápis do skutočného firemného systému. Praktická úloha: Fiktívna integrácia číta FAQ a tvorí koncept. Zmapujte únik zdroja, cudzí prípad a neoprávnené odoslanie s príslušnými kontrolami.
Vyskúšajte si
Fiktívna integrácia číta FAQ a tvorí koncept. Zmapujte únik zdroja, cudzí prípad a neoprávnené odoslanie s príslušnými kontrolami.
4. Evaly, regresia a release gate
31Golden set ako verzovaný dôkaz
- Pripravte reprezentatívne prípady
- Definujte očakávanie pred testom
Výklad
Golden set obsahuje vstup, očakávané správanie, zakázané správanie a rubriku. Výsledok sa nemá dopisovať podľa toho, čo model práve vrátil. Zahrňte kvalitný aj problematický vstup a slovenský kontext. Verzovanie umožňuje porovnať zmenu modelu bez zmeny samotného meradla. Eval sa definuje pred porovnaním verzií a obsahuje očakávané aj zakázané správanie. Merajte vecnú správnosť, zdroje a bezpečné odmietnutie, nielen technický stav. Kritický únik alebo nepovolená akcia blokuje release; výsledok testu musí mať verziu, dôkaz a jasne uvedené obmedzenie. Praktická úloha: Fiktívna sada dopytov obsahuje úplný, neúplný a rozporný prípad s vopred stanovenými povinnými poľami.
Vyskúšajte si
Fiktívna sada dopytov obsahuje úplný, neúplný a rozporný prípad s vopred stanovenými povinnými poľami.
32Rubrika kvality pracovného výstupu
- Hodnoťte správnosť a použiteľnosť
- Bezpečnostná chyba blokuje release
- Zdrojový fakt
- Výstup
- Rubrika
- Kritická chyba
- Release rozhodnutie
- Zdrojový fakt → Výstup
- Výstup → Rubrika
- Rubrika → Kritická chyba
- Kritická chyba → Release rozhodnutie
Výklad
Rubrika rozlišuje správnosť faktov, úplnosť, zdroje, neistotu a pracovnú použiteľnosť. Technický úspech API nestačí. Kritický únik alebo nepovolený zápis nesmie zmiznúť v priemernom skóre. Nastavte blokujúce podmienky pred testovaním a pri nedostatku dôkazov označte výstup ako neoverený. Eval sa definuje pred porovnaním verzií a obsahuje očakávané aj zakázané správanie. Merajte vecnú správnosť, zdroje a bezpečné odmietnutie, nielen technický stav. Kritický únik alebo nepovolená akcia blokuje release; výsledok testu musí mať verziu, dôkaz a jasne uvedené obmedzenie. Praktická úloha: Fiktívny výstup má dobrý text, ale cudzí kontakt. Release je zablokovaný bez ohľadu na ostatné body.
Vyskúšajte si
Fiktívny výstup má dobrý text, ale cudzí kontakt. Release je zablokovaný bez ohľadu na ostatné body.
33Negatívne scenáre
- Testujte odmietnutie a výnimku
- Pridajte poškodený vstup
Výklad
Negatívny test overuje, že systém reaguje správne na neplatný formát, chýbajúci zdroj, protirečenie alebo pokyn na vymyslenie faktu. Očakávaný výsledok môže byť žiadosť o doplnenie, nie hotová odpoveď. Každý test má konkrétny zakázaný následok a čitateľný bezpečný stav. Eval sa definuje pred porovnaním verzií a obsahuje očakávané aj zakázané správanie. Merajte vecnú správnosť, zdroje a bezpečné odmietnutie, nielen technický stav. Kritický únik alebo nepovolená akcia blokuje release; výsledok testu musí mať verziu, dôkaz a jasne uvedené obmedzenie. Praktická úloha: Fiktívny dopyt žiada zaručenú cenu bez cenníka. Očakávajte otázku na podklad a žiadny záväzný údaj.
Vyskúšajte si
Fiktívny dopyt žiada zaručenú cenu bez cenníka. Očakávajte otázku na podklad a žiadny záväzný údaj.
34Slovenský jazyk a lokálny formát
- Testujte diakritiku a čísla
- Nepredpokladajte anglické zvyklosti
Výklad
Lokálne formáty ovplyvňujú parser aj výsledok. Dátum môže mať iné poradie, desatinné číslo či mena sa zapisujú odlišne. Testujte skratky, diakritiku, skloňovanie a kopírovaný text z dokumentov. Pri nejednoznačnosti požadujte doplnenie namiesto tichého výberu jednej interpretácie. Eval sa definuje pred porovnaním verzií a obsahuje očakávané aj zakázané správanie. Merajte vecnú správnosť, zdroje a bezpečné odmietnutie, nielen technický stav. Kritický únik alebo nepovolená akcia blokuje release; výsledok testu musí mať verziu, dôkaz a jasne uvedené obmedzenie. Praktická úloha: Fiktívny vstup obsahuje 1 250,50 EUR a dátum 03/04. Sumu spracujte kontrolovane a pri dátume vyžiadajte formát.
Vyskúšajte si
Fiktívny vstup obsahuje 1 250,50 EUR a dátum 03/04. Sumu spracujte kontrolovane a pri dátume vyžiadajte formát.
35Opakovateľnosť pravdepodobnostného systému
- Sledujte variabilitu výsledkov
- Neporovnávajte len jedno volanie
| Opakovanie | Kontrolovať | Nevyžadovať automaticky |
|---|---|---|
| Rovnaký vstup | Rovnaké fakty a status | Identický slovosled |
| Neúplný vstup | Konzistentnú neistotu | Hotový výsledok |
| Nepovolená akcia | Konzistentné odmietnutie | Modelové výnimky z oprávnenia |
Výklad
Generatívny systém môže vrátiť rôzne formulácie a niekedy odlišné fakty. Testujte stabilitu povinných polí a bezpečnostného správania na opakovaniach. Nie je nutné vyžadovať identický text, ale význam a hranice musia zostať konzistentné. Zaznamenajte nastavenia a verziu modelu, ktoré ovplyvňujú porovnanie. Eval sa definuje pred porovnaním verzií a obsahuje očakávané aj zakázané správanie. Merajte vecnú správnosť, zdroje a bezpečné odmietnutie, nielen technický stav. Kritický únik alebo nepovolená akcia blokuje release; výsledok testu musí mať verziu, dôkaz a jasne uvedené obmedzenie. Praktická úloha: Fiktívny extraktor trikrát spracuje rovnakú zákazku. Porovnajte status a fakty, nie iba zhodu slov.
Vyskúšajte si
Fiktívny extraktor trikrát spracuje rovnakú zákazku. Porovnajte status a fakty, nie iba zhodu slov.
36Kontrola modelom má hranice
- Automatický sudca nie je autorita
- Kalibrujte na ľudskej vzorke
Výklad
Druhý model môže pomôcť triediť chyby, ale môže zdieľať rovnaké omyly alebo preferovať pekný štýl. Porovnajte jeho hodnotenie s odbornou ľudskou vzorkou. Pravidlá, výpočty a oprávnenia overujte deterministicky. Bezpečnostné a odborné blokátory nesmie samotný model svojvoľne odpustiť. Eval sa definuje pred porovnaním verzií a obsahuje očakávané aj zakázané správanie. Merajte vecnú správnosť, zdroje a bezpečné odmietnutie, nielen technický stav. Kritický únik alebo nepovolená akcia blokuje release; výsledok testu musí mať verziu, dôkaz a jasne uvedené obmedzenie. Praktická úloha: Fiktívny sudca oceňuje vymyslenú citáciu pre jej presvedčivosť. Ľudská kontrola ju označí ako kritickú a upraví eval.
Vyskúšajte si
Fiktívny sudca oceňuje vymyslenú citáciu pre jej presvedčivosť. Ľudská kontrola ju označí ako kritickú a upraví eval.
37Porovnanie dvoch verzií
- Držte rovnakú sadu a rubriku
- Zaznamenajte novú regresiu
Výklad
Zmena verzie sa posudzuje na rovnakých prípadoch a rovnakých kritériách. Uveďte, čo sa zlepšilo aj čo zhoršilo; celkové skóre môže zakryť zlyhanie citlivého prípadu. Rozhodnutie o release vyžaduje vyriešené blokátory. Novú sadu pridajte transparentne, nie potichu namiesto ťažkých prípadov. Eval sa definuje pred porovnaním verzií a obsahuje očakávané aj zakázané správanie. Merajte vecnú správnosť, zdroje a bezpečné odmietnutie, nielen technický stav. Kritický únik alebo nepovolená akcia blokuje release; výsledok testu musí mať verziu, dôkaz a jasne uvedené obmedzenie. Praktická úloha: Fiktívna verzia zlepšila štýl, ale začala dopĺňať chýbajúce termíny. Označte regresiu a release neuvoľnite.
Vyskúšajte si
Fiktívna verzia zlepšila štýl, ale začala dopĺňať chýbajúce termíny. Označte regresiu a release neuvoľnite.
38Náklad a latencia celého toku
- Počítajte retry aj retrieval
- Merajte čas vrátane kontroly
Výklad
Odhad nákladu potrebuje počet volaní, vstup, výstup, externé služby a ľudskú opravu. Cena modelu sa mení, preto uveďte dátum a zdroj cenníka pri skutočnom výpočte. Latencia zahŕňa celý tok, nie len API. V tomto kurze nevymýšľame univerzálne cenové alebo časové garancie. Eval sa definuje pred porovnaním verzií a obsahuje očakávané aj zakázané správanie. Merajte vecnú správnosť, zdroje a bezpečné odmietnutie, nielen technický stav. Kritický únik alebo nepovolená akcia blokuje release; výsledok testu musí mať verziu, dôkaz a jasne uvedené obmedzenie. Praktická úloha: Fiktívny tok má klasifikáciu, syntézu a validáciu. Zostavte nákladový hárok bez tvrdenia, že každá úloha stojí rovnako.
Vyskúšajte si
Fiktívny tok má klasifikáciu, syntézu a validáciu. Zostavte nákladový hárok bez tvrdenia, že každá úloha stojí rovnako.
39Release gate prototypu
- Vyžadujte prechod povinných testov
- Zachovajte rollback balík
Výklad
Release gate spája funkčnú kvalitu, bezpečnosť, prevádzkové pripravenie a rozsah schválenia. Zelený technický test nenahrádza odbornú kontrolu. Uveďte presnú verziu a dôkazy. Ak niektorá blokujúca podmienka nie je otestovaná, stav je neoverený, nie implicitne úspešný. Eval sa definuje pred porovnaním verzií a obsahuje očakávané aj zakázané správanie. Merajte vecnú správnosť, zdroje a bezpečné odmietnutie, nielen technický stav. Kritický únik alebo nepovolená akcia blokuje release; výsledok testu musí mať verziu, dôkaz a jasne uvedené obmedzenie. Praktická úloha: Fiktívny prototyp má funkčné odpovede, ale chýba test izolácie. Nasadenie ostáva zablokované do jeho vyriešenia.
Vyskúšajte si
Fiktívny prototyp má funkčné odpovede, ale chýba test izolácie. Nasadenie ostáva zablokované do jeho vyriešenia.
40Dokumentácia testov a obmedzení
- Priložte skutočné výsledky
- Oddeľte plán a vykonaný test
- Verzia systému
- Verzia sady
- Skutočný výsledok
- Nájdená chyba
- Oprava a retest
- Verzia systému → Verzia sady
- Verzia sady → Skutočný výsledok
- Skutočný výsledok → Nájdená chyba
- Nájdená chyba → Oprava a retest
Výklad
Testovací report uvádza verziu systému, sadu, výsledok a nájdené chyby. Navrhnutý test nie je vykonaným dôkazom. Zlyhanie musí zostať dohľadateľné spolu s opravou a relevantným opakovaním. Neotestovanou vlastnosťou sa nechváľte v produkte; označte ju ako otvorenú hranicu prototypu alebo ďalšieho release. Eval sa definuje pred porovnaním verzií a obsahuje očakávané aj zakázané správanie. Merajte vecnú správnosť, zdroje a bezpečné odmietnutie, nielen technický stav. Kritický únik alebo nepovolená akcia blokuje release; výsledok testu musí mať verziu, dôkaz a jasne uvedené obmedzenie. Praktická úloha: Fiktívny report má návrh testu cache, ale žiadny výsledok. Označte kontrolu ako nevykonanú a neuznajte ju za úspešnú.
Vyskúšajte si
Fiktívny report má návrh testu cache, ale žiadny výsledok. Označte kontrolu ako nevykonanú a neuznajte ju za úspešnú.
5. Prevádzka, návrat verzie a technické odovzdanie
41Observabilita bez úniku obsahu
- Logujte stav a identifikátor
- Redigujte citlivé hodnoty
Výklad
Prevádzka potrebuje vedieť, ktorý krok zlyhal, no nemusí uchovávať celý dokument v každom logu. Zapisujte identifikátory, verzie, trvanie a kategórie chýb. Citlivé polia redigujte podľa pravidiel. Logy majú vlastné oprávnenia a retenciu; ich existencia nesmie vytvoriť druhý nechránený archív. Prevádzka potrebuje vlastníka, bezpečné logy a vyskúšaný postup zastavenia aj návratu verzie. Sledujte celý tok vrátane frontu, cache a integrácií. Nevyhlasujte neotestovanú vlastnosť za pripravenú; nový model alebo závislosť vyžaduje primeranú kontrolu a produkčný účinok samostatné schválenie zodpovednou osobou. Praktická úloha: Fiktívny timeout log obsahuje iba case_id, krok a kód chyby, bez promptu, tokenu alebo klientskych osobných údajov.
Vyskúšajte si
Fiktívny timeout log obsahuje iba case_id, krok a kód chyby, bez promptu, tokenu alebo klientskych osobných údajov.
42Limity a ochrana rozpočtu
- Nastavte kvótu a maximá
- Neobnovujte nekonečne
- Limit vstupu
- Rozpočtová kvóta
- Povolené pokusy
- Bezpečné zastavenie
- Limit vstupu → Rozpočtová kvóta
- Rozpočtová kvóta → Povolené pokusy
- Povolené pokusy → Bezpečné zastavenie
Výklad
Obmedzte počet pokusov, veľkosť kontextu a súbežné spracovanie. Nekonečný retry môže zvýšiť náklad a preťažiť službu bez lepšieho výsledku. Používateľ má vidieť bezpečné vysvetlenie limitu. Zmena rozpočtu alebo poskytovateľa nie je oprávnenie rozšíriť účel či odoslať viac údajov. Prevádzka potrebuje vlastníka, bezpečné logy a vyskúšaný postup zastavenia aj návratu verzie. Sledujte celý tok vrátane frontu, cache a integrácií. Nevyhlasujte neotestovanú vlastnosť za pripravenú; nový model alebo závislosť vyžaduje primeranú kontrolu a produkčný účinok samostatné schválenie zodpovednou osobou. Praktická úloha: Fiktívny poškodený vstup opakovane zlyháva. Po povolených pokusoch zastavte tok a vyžiadajte opravu dokumentu.
Vyskúšajte si
Fiktívny poškodený vstup opakovane zlyháva. Po povolených pokusoch zastavte tok a vyžiadajte opravu dokumentu.
43Cache a izolácia prípadov
- Nemiešajte firmy a oprávnenia
- Zneplatnite staré zdroje
Výklad
Cache môže znížiť náklad, ale nesmie vrátiť výsledok inej organizácie alebo starej verzie dokumentu. Kľúč musí zohľadniť bezpečnostný kontext a zdroje. Pri zmene oprávnenia preverte zneplatnenie. Neuchovávajte citlivý obsah len preto, že opätovné použitie vyzerá ekonomicky výhodne. Prevádzka potrebuje vlastníka, bezpečné logy a vyskúšaný postup zastavenia aj návratu verzie. Sledujte celý tok vrátane frontu, cache a integrácií. Nevyhlasujte neotestovanú vlastnosť za pripravenú; nový model alebo závislosť vyžaduje primeranú kontrolu a produkčný účinok samostatné schválenie zodpovednou osobou. Praktická úloha: Fiktívne dve firmy položia rovnakú otázku na interné FAQ. Test preukáže oddelené výsledky a žiadny prenos medzi firmami.
Vyskúšajte si
Fiktívne dve firmy položia rovnakú otázku na interné FAQ. Test preukáže oddelené výsledky a žiadny prenos medzi firmami.
44Asynchrónny stav a používateľský zážitok
- Ukážte priebeh a výsledok
- Neoznačte job za hotový predčasne
Výklad
Pri dlhšom spracovaní rozlišujte prijaté, prebiehajúce, vyžaduje doplnenie, úspešné a neúspešné stavy. Používateľ má vedieť, čo sa stalo a čo môže urobiť. Zatvorený prehliadač nesmie spustiť duplicitnú akciu. Polling a opakovanie podliehajú rovnakému oprávneniu ako pôvodná požiadavka. Prevádzka potrebuje vlastníka, bezpečné logy a vyskúšaný postup zastavenia aj návratu verzie. Sledujte celý tok vrátane frontu, cache a integrácií. Nevyhlasujte neotestovanú vlastnosť za pripravenú; nový model alebo závislosť vyžaduje primeranú kontrolu a produkčný účinok samostatné schválenie zodpovednou osobou. Praktická úloha: Fiktívny report je vo fronte. Rozhranie ukáže prebiehajúci stav a neponúkne prázdny export ako hotový súbor.
Vyskúšajte si
Fiktívny report je vo fronte. Rozhranie ukáže prebiehajúci stav a neponúkne prázdny export ako hotový súbor.
45Kill switch a incident
- Pozastavte model aj nástroje
- Povoľte bezpečný ručný postup
| Vrstva vypínača | Čo zastaviť | Bezpečný následok |
|---|---|---|
| Príjem | Nové rizikové požiadavky | Viditeľný neaktívny stav |
| Front | Čakajúce nástrojové akcie | Žiadny tichý zápis |
| Export | Zdieľanie chybných výsledkov | Kontrolovaný ručný postup |
Výklad
Vypínač musí zastaviť rizikové spracovanie aj čakajúce externé akcie. Len skrytie tlačidla nestačí. Vlastník má jasné oprávnenie pozastaviť tok a postup obnovy po analýze. Používateľom poskytnite ručnú alternatívu bez tvrdenia, že systém je v poriadku počas incidentu. Prevádzka potrebuje vlastníka, bezpečné logy a vyskúšaný postup zastavenia aj návratu verzie. Sledujte celý tok vrátane frontu, cache a integrácií. Nevyhlasujte neotestovanú vlastnosť za pripravenú; nový model alebo závislosť vyžaduje primeranú kontrolu a produkčný účinok samostatné schválenie zodpovednou osobou. Praktická úloha: Fiktívna regresia zverejňuje cudzie citácie. Pozastavte tok, front aj export a aktivujte kontrolovaný ručný postup.
Vyskúšajte si
Fiktívna regresia zverejňuje cudzie citácie. Pozastavte tok, front aj export a aktivujte kontrolovaný ručný postup.
46Rollback a migrácia dát
- Vráťte kompatibilnú verziu
- Otestujte návrat pred release
Výklad
Rollback nie je iba kópia starého kódu. Dátová schéma, fronty a konfigurácia musia zostať kompatibilné alebo mať schválený návratový plán. Návrat otestujte na modelovej sade pred nasadením. Záloha bez skúšky obnovy neposkytuje dôkaz, že službu možno bezpečne obnoviť. Prevádzka potrebuje vlastníka, bezpečné logy a vyskúšaný postup zastavenia aj návratu verzie. Sledujte celý tok vrátane frontu, cache a integrácií. Nevyhlasujte neotestovanú vlastnosť za pripravenú; nový model alebo závislosť vyžaduje primeranú kontrolu a produkčný účinok samostatné schválenie zodpovednou osobou. Praktická úloha: Fiktívna verzia zmenila statusy. Pred release vyskúšajte obnovu starej verzie bez straty rozpracovaných modelových prípadov.
Vyskúšajte si
Fiktívna verzia zmenila statusy. Pred release vyskúšajte obnovu starej verzie bez straty rozpracovaných modelových prípadov.
47Drift a zmeny závislostí
- Sledujte zhoršenie metriky
- Opakujte test po podstatnej zmene
Výklad
Zmena modelu, zdrojov alebo knižnice môže zmeniť správanie bez úpravy viditeľnej stránky. Monitorujte kritické metriky a reprezentatívnu vzorku. Pri podstatnej zmene vykonajte regresiu a zaznamenajte verziu. Dobrá historická presnosť nie je záruka budúceho výsledku ani dôvod vypnúť kontrolu. Prevádzka potrebuje vlastníka, bezpečné logy a vyskúšaný postup zastavenia aj návratu verzie. Sledujte celý tok vrátane frontu, cache a integrácií. Nevyhlasujte neotestovanú vlastnosť za pripravenú; nový model alebo závislosť vyžaduje primeranú kontrolu a produkčný účinok samostatné schválenie zodpovednou osobou. Praktická úloha: Fiktívny dodávateľ aktualizoval model. Porovnajte citácie a odmietnutia na pôvodnej sade pred obnovením plnej prevádzky.
Vyskúšajte si
Fiktívny dodávateľ aktualizoval model. Porovnajte citácie a odmietnutia na pôvodnej sade pred obnovením plnej prevádzky.
48Závislosti a prevádzková údržba
- Evidujte verziu a vlastníka
- Zmeny robte cez kontrolovaný release
Výklad
Integrácia závisí od knižníc, parserov, API a konfigurácie. Register závislostí pomáha posúdiť zmenu alebo zraniteľnosť a určiť zodpovedného správcu. Aktualizáciu testujte podľa dopadu na kontrakt a hranice prístupu. Neznáma chyba dodávateľa nie je dôvod obísť kontrolu alebo používať širšie oprávnenia. Prevádzka potrebuje vlastníka, bezpečné logy a vyskúšaný postup zastavenia aj návratu verzie. Sledujte celý tok vrátane frontu, cache a integrácií. Nevyhlasujte neotestovanú vlastnosť za pripravenú; nový model alebo závislosť vyžaduje primeranú kontrolu a produkčný účinok samostatné schválenie zodpovednou osobou. Praktická úloha: Fiktívny parser zmenil formát dátumu. Aktualizujte kontrakt alebo parser a vykonajte lokálnu regresiu modelových dokumentov.
Vyskúšajte si
Fiktívny parser zmenil formát dátumu. Aktualizujte kontrakt alebo parser a vykonajte lokálnu regresiu modelových dokumentov.
49Runbook a odovzdanie podpore
- Popíšte časté stavy a reakcie
- Oddeľte právomoci podpory
Výklad
Runbook dáva podpore bezpečný postup pri limite, zlyhaní a podozrení na únik. Má ukazovať, ktoré identifikátory môže vyžiadať a čo nesmie kopírovať do tiketov. Podpora nezvyšuje prístupy na vlastnú päsť. Eskalácia obsahuje bezpečný opis a zodpovedný kontakt pre technické či odborné rozhodnutie. Prevádzka potrebuje vlastníka, bezpečné logy a vyskúšaný postup zastavenia aj návratu verzie. Sledujte celý tok vrátane frontu, cache a integrácií. Nevyhlasujte neotestovanú vlastnosť za pripravenú; nový model alebo závislosť vyžaduje primeranú kontrolu a produkčný účinok samostatné schválenie zodpovednou osobou. Praktická úloha: Fiktívny klient hlási cudzí zdroj. Podpora pozastaví prípad a odovzdá obmedzený záznam správcom bez šírenia dokumentu.
Vyskúšajte si
Fiktívny klient hlási cudzí zdroj. Podpora pozastaví prípad a odovzdá obmedzený záznam správcom bez šírenia dokumentu.
50Samostatný bezpečný prototyp
- Odovzdajte kód aj dôkazy
- Priznajte neotestované hranice
- Kontrakt
- Read-only prototyp
- Bezpečnostné testy
- Prevádzkový plán
- Technické odovzdanie
- Kontrakt → Read-only prototyp
- Read-only prototyp → Bezpečnostné testy
- Bezpečnostné testy → Prevádzkový plán
- Prevádzkový plán → Technické odovzdanie
Výklad
Záverečný projekt obsahuje kontrakt, schému vrstiev, zdroje, autorizáciu, evaly a plán návratu. Nepotrebuje reálne tajomstvá ani klientsky archív. Úspech dokazuje bezpečné správanie na modelových prípadoch, nie všeobecnú neomylnosť. Produkčný status vyžaduje samostatné schválenie a príslušné odborné či bezpečnostné preverenie. Prevádzka potrebuje vlastníka, bezpečné logy a vyskúšaný postup zastavenia aj návratu verzie. Sledujte celý tok vrátane frontu, cache a integrácií. Nevyhlasujte neotestovanú vlastnosť za pripravenú; nový model alebo závislosť vyžaduje primeranú kontrolu a produkčný účinok samostatné schválenie zodpovednou osobou. Praktická úloha: Fiktívny prototyp extrahuje dopyty read-only. Doložte neúplný vstup, prompt injection, cudzí prípad a bezpečné technické zlyhanie.
Vyskúšajte si
Fiktívny prototyp extrahuje dopyty read-only. Doložte neúplný vstup, prompt injection, cudzí prípad a bezpečné technické zlyhanie.
Praktický projekt
Vytvorte návrh read-only prototypu na extrakciu fiktívnych slovenských dopytov. Doložte kontrakt, schému komponentov, autorizáciu, zdrojovanie, modelové nástrojové rozhranie bez reálneho zápisu, eval sadu a runbook. Preukážte neúplný vstup, cudzí prípad, prompt injection, timeout a neplatný výstup.
Ku každému kritériu si poznačte dôkaz, čo je splnené a čo ešte chýba. Toto samohodnotenie nenahrádza odborné schválenie.
- Kontrakt: typy, povinné polia, chýbajúce údaje a verzie sú explicitné.
- Architektúra: výpočty a oprávnenia sú deterministické, oddelené od modelu.
- Zdrojovanie: tvrdenie má podporujúci úryvok; nepodložená informácia zostáva neistá.
- Izolácia: cudzí obsah sa nedostane do kontextu ani cache.
- Nástroje: minimálne oprávnenia, validované argumenty, žiadne reálne tajomstvá a zápisy.
- Evaly: očakávania sú definované vopred, blokátory majú skutočný výsledok.
- Prevádzka: bezpečné logy, limit, kill switch a vyskúšaný návrat verzie.
- Blokátor: únik, neoprávnená akcia alebo vymyslený rozhodujúci fakt znamená projekt opraviť pred ďalším použitím.
Precvičte si porozumenie
Odpovedzte na všetky otázky. Po kontrole uvidíte vysvetlenie a odkazy na učivo. Výsledok sa neukladá a nie je certifikačným hodnotením.
Zdroje a ďalšie štúdium
- JSON Schema – oficiálny úvod a validácia — kontrola 2026-10-02
- Google – Machine Learning Crash Course — kontrola 2026-10-02
- OWASP – autorizácia — kontrola 2026-10-02
- OWASP – prevencia prompt injection — kontrola 2026-10-02
- MCP – oficiálne bezpečnostné odporúčania, dokumentácia 2025-11-25 — kontrola 2026-10-02
- NIST – dobrovoľný rámec riadenia AI rizík — kontrola 2026-10-02
- Microsoft Learn – responsible AI, pedagogická inšpirácia — kontrola 2026-10-02
Obsah je pôvodný materiál Educado; referencie podporujú témy a ďalšie štúdium, nie partnerstvo či akreditáciu. AI môže robiť chyby. Klient zodpovedá za overenie a použitie výstupov vo vlastnej praxi; právne, finančné a personálne rozhodnutia schvaľuje kvalifikovaný človek. Zákonné povinnosti prevádzkovateľa tým nie sú vylúčené.