Bezpečnosť, dôveryhodnosť, legislatíva
Bezpečnosť, dôveryhodnosť, legislatíva
Halucinácie
Model optimalizuje vierohodnosť, nie pravdivosť. Typy: vymyslené zdroje, nesprávne čísla, zastarané informácie, pravda z nesprávneho zdroja, „príliš ochotná“ odpoveď. Pomáha: citácie a ich overenie, grounding, výpočty nástrojom.
Rebrík kontroly
| Stupeň | Výstup | Kontrola |
|---|---|---|
| 1 | Interné koncepty | autor si overí sám |
| 2 | Podklady na rozhodnutie | overiť čísla a zdroje, uviesť použitie AI |
| 3 | Externé výstupy | druhá osoba + schválenie |
| 4 | Právne, finančné, bezpečnostné | AI len pripravuje, rozhoduje človek |
| STOP | Automatické rozhodnutia o ľuďoch, emócie | zakázané |
Grounding
Kvalita odpovede ≤ kvalita dokumentov. Pozor na oversharing – Copilot vidí všetko, k čomu má používateľ prístup.
Aké dáta do akého nástroja
| Dáta | Verejný AI chat | Copilot Chat | M365 Copilot / Cowork | Foundry (EÚ) |
|---|---|---|---|---|
| Verejné | ✓ | ✓ | ✓ | ✓ |
| Interné | ✕ | ✓ | ✓ | ✓ |
| Dôverné | ✕ | ! | ✓ | ✓ |
| Osobné údaje | ✕ | ! | ! | ! |
| Osobitné kategórie, bezpečnostne kritické | ✕ | ✕ | ! | ! |
Riziká agentov
- Prompt injection – EchoLeak (2025): e-mail so skrytými pokynmi mohol prinútiť M365 Copilot vyniesť dáta.
- Priveľa oprávnení – PocketOS, OpenClaw (2026).
- Nekontrolované náklady – platba podľa spotreby.
Kontroly mimo agenta: minimálne oprávnenia, schválenie nevratných krokov, audit, limity výdavkov, vypínač a register (Agent 365).
GDPR
Právny základ · transparentnosť · DPIA · čl. 22 (človek rozhoduje) · minimalizácia · zmluva so sprostredkovateľom. Dozor: Úrad na ochranu osobných údajov SR.
AI Act po Digital Omnibus
| Termín | Čo platí |
|---|---|
| 2/2025 | zákazy (napr. rozpoznávanie emócií na pracovisku) + AI gramotnosť |
| 8/2025 | modely na všeobecné účely |
| 8/2026 | transparentnosť (čl. 50) – chatboty, deepfaky |
| 12/2027 | vysoké riziko – príloha III (nábor, hodnotenie ľudí, bezpečnosť cestnej premávky) |
| 8/2028 | vysoké riziko – výrobky (príloha I) |
Väčšinou ste nasadzovateľ; s AI vo vlastných produktoch poskytovateľ. Nie je to právny výklad.
Vzor AI politiky nájdete v ťahákoch.