Jak používat IBM Watsonx pro správu a škálování umělé inteligence
Umělá inteligence se rozšiřuje rychleji než ochranná opatření, která ji mají omezovat.
Výzkum IBM „AI at the Core“ zjistil, že téměř 74 % dotazovaných organizací uvádí pouze mírné nebo omezené pokrytí ve svých rámcích pro řízení rizik a správu umělé inteligence, a to v oblasti technologických rizik, rizik spojených s třetími stranami i rizik modelů.
Jinými slovy, mnoho týmů uvádí modely do provozu, ale mnohem méně z nich dokáže s jistotou odpovědět na otázky, které se objeví hned poté:
🤔 Kdo to schválil, na základě čeho, s jakými důkazy a co se stane, když dojde k odchylce modelu v produkčním prostředí?
Právě na tyto otázky do značné míry odpovídá IBM Watsonx Governance. Pomáhá vám řídit, zabezpečit a monitorovat umělou inteligenci v průběhu celého životního cyklu pomocí pracovních postupů, monitorování a řízení rizik navržených tak, aby podporovaly odpovědné škálování.
V této příručce si ukážeme, jak pomocí nástroje Watsonx Governance dokumentovat případy použití, standardizovat procesy kontroly a schvalování, zaznamenávat správné údaje o modelech a sledovat modely v produkčním prostředí při škálování.
Co je IBM watsonx. governance?

IBM Watsonx Governance je platforma pro správu umělé inteligence na podnikové úrovni, kterou vyvinula společnost IBM jako součást své platformy Watsonx pro umělou inteligenci a data. Pomáhá organizacím zodpovědně řídit, spravovat, monitorovat a škálovat aktivity v oblasti umělé inteligence v průběhu celého životního cyklu umělé inteligence.
Slouží jako jednotné řešení pro správu jak tradičních modelů strojového učení (ML), tak moderních generativních modelů umělé inteligence (gen AI), včetně rozsáhlých jazykových modelů a aplikací, ať už jsou vytvořeny na platformě IBM Watsonx.ai, nebo nasazeny na podporovaných platformách třetích stran.
📚 Přečtěte si více: Nejlepší nástroje pro správu umělé inteligence k zajištění dodržování předpisů a transparentnosti
Jak funguje IBM Watsonx Governance
watsonx. governance je dodáván jako integrovaná sada funkcí, kterou IBM popisuje jako kombinaci:
OpenPages pro řízení rizik a dodržování předpisů
OpenPages je součást řešení watsonx. governance, která funguje jako váš centrální modul pro řízení rizik a dodržování předpisů. Je navržena tak, aby převáděla firemní zásady na konkrétní, sledovatelné metriky pro každý model umělé inteligence.
Získáte tak nástroje pro provádění formálních hodnocení rizik, přiřazování modelů ke konkrétním předpisům a vytváření neměnných auditních stop pro regulační orgány.
- Hodnocení rizik: Každému případu použití umělé inteligence můžete přiřadit a sledovat úroveň rizika na základě faktorů, jako je citlivost použitých dat nebo dopad jejích rozhodnutí.
- Mapování souladu s předpisy: To vám umožňuje přiřadit modely k regulačním rámcům, jako je zákon EU o umělé inteligenci nebo rámec NIST pro řízení rizik umělé inteligence, a sledovat důkazy o souladu a stav v rámci jednotlivých přezkumů
- Auditní stopy: OpenPages vede trvalý záznam o tom, kdo co a kdy schválil, což je nezbytné pro prokázání dodržování předpisů během auditu
OpenScale pro monitorování modelů
OpenScale je monitorovací nástroj v reálném čase, který dohlíží na vaše modely po jejich uvedení do provozu. Jedná se o systém včasného varování před problémy, které vznikají, když model interaguje s neuspořádanými a nepředvídatelnými daty reálného světa.
- Detekce odchylek: Tato funkce identifikuje, kdy se vstupy nebo výstupy modelu začínají lišit od dat, na kterých byl model trénován, což je známkou toho, že jeho výkonnost se může zhoršovat.
- Sledování spravedlnosti: Sleduje předpovědi napříč citlivými skupinami (například podle věku nebo pohlaví), aby odhalilo vznikající zaujatost umělé inteligence dříve, než se stane systémovým problémem.
- Vysvětlitelnost: V závislosti na typu a konfiguraci modelu dokáže generovat pro člověka srozumitelná vysvětlení chování modelu a jeho předpovědí, což je klíčové pro audity a dotazy zákazníků
- Ukazatele výkonu: Sleduje klíčové ukazatele výkonu, jako je přesnost a doba odezvy, a zajišťuje, že model i nadále splňuje obchodní požadavky.
Informační listy o umělé inteligenci pro sledování životního cyklu
Informační listy o umělé inteligenci jsou součástí správy životního cyklu dokumentů pro každý model. Informační listy automaticky sledují klíčové podrobnosti v každé fázi životního cyklu umělé inteligence, včetně:
- Metadata vývoje, jako jsou zdroje trénovacích dat a volba algoritmů
- Výsledky hodnocení, jako jsou testovací metriky a hodnocení zaujatosti
- Podrobnosti o nasazení, včetně informací o tom, kde se model spouští a kdo k němu má přístup
- Provozní historie, jako jsou trendy výkonu a minulé incidenty
🔍 ClickUp Brain MAX: Rychlejší testování více modelů před kontrolními body správy
Než se model, výzva nebo agent vůbec dostane do IBM Watsonx Governance, týmy obvykle potřebují místo, kde mohou bez překážek přemýšlet, testovat a porovnávat.
Právě v tom vyniká ClickUp Brain MAX .
Brain MAX je samostatná desktopová aplikace pro umělou inteligenci, která týmům umožňuje přepínat mezi několika předními modely (např. GPT, Claude, Gemini) v rámci stejného pracovního prostoru. Můžete spustit stejný podnět, rozhodovací logiku nebo návrh výstupu napříč modely vedle sebe, okamžitě porovnávat odpovědi a ukládat kompletní stopu uvažování společně s samotnou prací.
Díky tomu je Brain MAX obzvláště účinný pro:
- Porovnání modelů a podnětů v rané fázi před formálním hodnocením
- Výstupy zátěžových testů zaměřené na tón, kvalitu uvažování nebo okrajové případy napříč modely
- Zaznamenávání a ukládání důvodů „proč jsme zvolili tento přístup“ přímo vedle úkolů a dokumentů
Jakmile se týmy shodnou na správném postupu, podnětu nebo výběru modelu, stává se watsonx. governance systémem pro evidenci. Informační listy, schválení a monitorování pak odrážejí rozhodnutí, která již prošla zátěžovými testy, byla zdokumentována a odsouhlasena.
👉 V praxi Brain MAX urychluje učení a iteraci, zatímco watsonx. governance zajišťuje kontrolu a odpovědnost. Společně zabraňují tomu, aby správa brzdila inovace – nebo aby inovace obcházely správu.
Jak nastavit správu Watsonx pro váš tým
Nyní si krok za krokem nastavíme správu Watsonx pro váš tým 👇
1. Připojte databázi (datový sklad)
Otevřete URL adresu watsonx.governance pro váš region, poté přejděte do části Konfigurace → Databáze a vyberte typ databáze (Lite nebo vlastní DB2/PostgreSQL).

2. Nastavte případy použití umělé inteligence
- Přejít na Příklady použití umělé inteligence → Kompletní nastavení
- Tím se vytvoří ID služby: watsonx.governance_DO_NOT_DELETE
- Pokud nemáte výchozí inventář, budete vyzváni k jeho vytvoření, což je nutné pro správu externích modelů, příloh a zpráv o správě.
3. Vytvořte zásady přístupu (pozvěte svůj tým)
V IBM Cloud: Správa → Přístup (IAM) → Uživatelé → Pozvat uživatele → přiřaďte přístupovou politiku pro službu Watsonx, nastavte správu a její rozsah (účet/skupina zdrojů/konkrétní instance)
📌 Uživatelé potřebují oprávnění Reader/Writer+ pro přístup ke službě. Oprávnění Writer+ umožňuje zobrazit informace napříč projekty a prostory nasazení.
4. Správa uživatelů a rolí v Watsonx Governance
Přiřaďte role pro spolupráci při činnostech souvisejících s hodnocením (správce/editor/prohlížeč/operátor) podle toho, co má která osoba dělat.
👀 Věděli jste, že? Jediný moderní únik dat může mít rozsah celého stadionu! Záznam o úniku dat společnosti Under Armour přidaný v lednu 2026 uvádí 72,7 milionu postižených účtů.
Jak řídit životní cykly správy umělé inteligence pomocí ClickUp
IBM Watsonx Governance slouží jako oficiální systém správy umělé inteligence, v němž jsou modely, podněty, hodnocení a schválení formálně sledovány s ohledem na strukturu a sledovatelnost.
Správa však musí probíhat napříč odděleními. Někdo musí zachytit počáteční kontext, sledovat rozhodnutí, zajistit soulad důkazů a posouvat práci vpřed, aniž by se proces proměnil v bludiště předávání úkolů. To je příklad masivního rozšiřování pracovního rozsahu v praxi!
Vyzkoušejte ClickUp. Jako první konvergovaný pracovní prostor pro umělou inteligenci na světě propojuje operační vrstvu – dokumenty, úkoly, chat, pracovní postupy, znalosti, umělou inteligenci a přehled pro vedení – takže vaše týmy mohou celý životní cyklus správy provádět naprosto plynule.
Podívejme se, jak na to. 👇
Vytvářejte a dokumentujte případy použití umělé inteligence
Případy použití lze snadno zdokumentovat jednou. Těžší je udržet tuto dokumentaci soudržnou, když je daný nápad podroben zátěžovým testům ze strany týmů zabývajících se riziky, právními záležitostmi, bezpečností a dodávkami.
Vyřešte to pomocí ClickUp Docs. Například použijte šablonu ClickUp Doc pro každý nový případ použití umělé inteligence, aby každý projekt začínal se standardizovanými vstupními údaji:
- Cíl
- Zainteresované strany
- Kontext dat
- Očekávané výsledky
- Omezení
- Kritéria úspěchu

Dále zaznamenávejte diskuse o use casech a přijatá rozhodnutí přímo v dokumentu pomocí @zmínek a přiřazených komentářů v ClickUp. V průběhu revize převádějte další kroky na úkoly v ClickUp přímo z dokumentu.
Pokud to vyhovuje vašemu pracovnímu postupu, zapojte ClickUp Brain, abyste urychlili části, které obvykle zabírají nejvíce času. Využijte jej k upřesnění souhrnu, identifikaci předpokladů, které vyžadují ověření, nebo k vypracování prvního návrhu ohledně aspektů správy (např. kontrolních bodů týkajících se spravedlnosti nebo ochrany soukromí) na základě toho, co váš tým již napsal.
Jakmile je případ použití hotový, formalizujte jej v IBM Watsonx Governance, aby se stal řízeným základem pro sledování životního cyklu a dokumentaci v podobě informačních listů.
V nástroji watsonx.governance vytvořte případ použití umělé inteligence v inventáři:

- Přejděte do sekce Katalogy → Případy použití umělé inteligence
- Klikněte na Nový případ použití AI
- Zadejte název a vyberte inventář
- Vyplňte potřebná pole, například: Popis (obchodní problém + kontext) Úroveň rizika Podpůrná data Vlastník Stav Štítky
- Popis (obchodní problém + kontext)
- Úroveň rizika
- Podpůrná data
- Vlastník
- Stav
- Štítky
- Popis (obchodní problém + kontext)
- Úroveň rizika
- Podpůrná data
- Vlastník
- Stav
- Štítky
Odtud se případ použití stává místem, kde lze sledovat životní cyklus (Přehled/Životní cyklus/Přístup) a propojit spravovaná aktiva s jejich informačními listy.
Informační listy pak pomáhají zaznamenávat metadata týkající se správy a dodržování předpisů v průběhu celého životního cyklu, včetně účelu/kritičnosti a historie akcí provedených během vývoje a nasazení.
📮 ClickUp Insight: 53 % organizací nemá žádnou správu umělé inteligence nebo disponuje pouze neformálními pokyny. A když lidé nevědí, kam jejich data směřují – nebo zda daný nástroj může představovat riziko z hlediska dodržování předpisů –, váhají. Pokud je nástroj umělé inteligence mimo důvěryhodné systémy nebo má nejasné postupy nakládání s daty, stačí obava „Co když to není bezpečné?“ k tomu, aby se jeho zavedení zastavilo.
To však neplatí pro plně spravované a bezpečné prostředí ClickUp. ClickUp AI je v souladu s předpisy GDPR, HIPAA a SOC 2 a je držitelem certifikace ISO 42001, což zaručuje, že vaše data jsou soukromá, chráněná a zodpovědně spravovaná.
Externím poskytovatelům umělé inteligence je zakázáno trénovat na datech zákazníků ClickUp nebo je uchovávat a podpora více modelů funguje na základě jednotných oprávnění, nastavení ochrany soukromí a přísných bezpečnostních standardů. Správa umělé inteligence se tak stává součástí samotného pracovního prostoru, takže týmy mohou umělou inteligenci využívat s důvěrou a bez zvýšeného rizika.
Vyhodnocujte modely umělé inteligence a podněty
Hodnocení modelů je klíčovou, ale komplexní fází s mnoha proměnnými faktory. Musíte provádět testy výkonu, kontrolovat přítomnost zaujatosti a testovat režimy selhání, a to vše při souběžném informování řady zainteresovaných stran.
K vytvoření opakovatelných pracovních postupů použijte šablonu ClickUp DMAIC.
Vytvářejte hodnotící procesy s vlastními stavy rozdělenými do fází pomocí šablony ClickUp DMAIC
V rámci této šablony můžete vytvářet hodnotící procesy pomocí vlastních stavů ClickUp. To znamená, že tyto stavy mohou odrážet jednotlivé fáze hodnocení, jako jsou Čeká na hodnocení, Testování zaujatosti, Kontrola výkonu a Připraveno ke schválení.
Díky automatizacím ClickUp můžete také eliminovat ruční předávání úkolů. Například když se úkol přesune do fáze Testování zaujatosti, nastavená automatizace může práci přiřadit vašemu revizorovi dodržování předpisů a přidat komentář s kontrolním seznamem pro testování a odkazy.
Jakmile bude váš pracovní postup nastaven, můžete v Watsonx provést technické hodnocení:
- Pro šablony výzev a generativní AI: Spouštějte hodnocení výzev z knihovny šablon výzev, prohlížejte si skóre metrik a pomocí souhrnu hodnocení odhalujte překročení prahových hodnot
- Pro externí modely nebo modely nehostované společností IBM: Můžete vyhodnocovat „samostatné“ šablony výzev napříč podporovanými typy úkolů, jako jsou shrnutí, klasifikace, zodpovídání otázek, extrakce entit, generování obsahu a RAG, přičemž metriky se liší podle modelu a úkolu.
Schvalujte a nasazujte modely umělé inteligence
Využijte ClickUp Super Agents k automatizaci schvalovacího procesu od začátku do konce.
Jsou to AI-pohánění spolupracovníci, kteří pracují v plném kontextu Workspace a mohou bezpečně spouštět vícestupňové pracovní postupy. Navíc můžete konfigurovat jejich chování pomocí pokynů, spouštěčů, nástrojů a znalostí, abyste zajistili, že budou fungovat v rámci stanovených mezí.

Například po skončení hodnocení může Super Agent shromáždit vše, co recenzenti potřebují, na jednom místě (například kontext aktuálního případu použití, poznámky k rozhodnutí a odkazy na podklady, které podléhají správě).
Dále mohou panely ClickUp Dashboards převést data o úkolech v pracovním prostoru na přehledný vizuální obraz o pokroku, takže vedení může vidět, kolik modelů čeká na kontrolu, ve které fázi se hromadí nevyřízené úkoly a které modely již stárnou.
Vytvořte si vlastní řídicí panel pro správu projektů na ClickUp ⬇️
Poté můžete provozní pracovní postup propojit zpět s Watsonx:
- V rámci watsonx.governance poskytuje IBM pracovní postup „Model Lifecycle“, který provází model umělé inteligence několika fázemi a zainteresované strany až k schválení nasazení. Cílem je zajistit, aby řízený systém záznamů odrážel stejné kontrolní body, které váš tým provozně používá v ClickUp.
- Po schválení následuje monitorování. Watson OpenScale lze nakonfigurovat tak, aby pomocí monitorů vyhodnocoval nasazené prostředky podle vámi stanovených prahových hodnot (například prahové hodnoty spravedlnosti nebo přesnosti/odchylky).
🚀 Výhoda ClickUp: Vytvořte dashboard pro vedení a přidejte do něj AI karty ClickUp, které shrnují, co brání schválení (např. „Na co se čeká u právního oddělení?“ nebo „Které modely jsou v procesu schvalování nejdéle?“).

Omezení používání Watsonx pro správu a škálování umělé inteligence
Žádný nástroj není všelékem a předtím, než se pro něj rozhodnete, je důležité pochopit omezení dané platformy.
Zde je několik věcí, které je třeba zvážit při správě Watsonx 👀
| Omezení | Dopad |
| Zaměření na ekosystém IBM | Ačkoli podporuje modely třetích stran, nejhlubší integrace jsou s vlastními nástroji IBM. Týmy, které výrazně investovaly do jiných cloudových platforem, mohou čelit potížím. |
| Složitost pro menší týmy | Tato platforma je navržena pro provoz v podnikovém měřítku. Pro menší týmy mohou být náklady a složitost nadměrné. |
| Naučte se pracovat s OpenPages | Modul pro řízení rizik byl původně navržen pro finanční sektor, takže jeho koncepce a rozhraní nemusí být pro týmy zabývající se výhradně umělou inteligencí zcela intuitivní. |
| Omezení přizpůsobení | Předem připravené šablony pro dodržování předpisů jsou skvělým výchozím bodem, ale nemusí dokonale odpovídat specifickým nebo úzce specializovaným regulačním požadavkům vaší společnosti. |
| Správa generativní umělé inteligence se stále vyvíjí | Nástroje pro správu velkých jazykových modelů (LLM) se v celém odvětví rychle vyvíjejí a funkce správy se spolu s nově vznikajícími osvědčenými postupy neustále zdokonalují. |
Další alternativní nástroje, které lze použít
Pokud se vám IBM Watsonx Governance nezdá jako vhodná volba, máte k dispozici několik alternativ, a to v závislosti na tom, zda chcete cloud-nativní sadu nástrojů pro správu nebo monitorovací vrstvu nezávislou na cloudu.
- Amazon SageMaker Model Monitor + Amazon SageMaker Model Cards: Skvělá volba, pokud již využíváte AWS. Model Monitor se zaměřuje na monitorování produkčního prostředí (např. detekci problémů s kvalitou, jako jsou odchylky či anomálie, a zasílání upozornění), zatímco Model Cards vám pomohou standardizovaným způsobem dokumentovat podrobnosti o modelech pro účely auditů a reportingu v rámci správy.
- Azure Machine Learning Responsible AI: Ideální řešení, pokud již máte pracovní postupy v Azure a hledáte integrovaný způsob, jak v jediném rozhraní posuzovat modely z hlediska spravedlnosti, analyzovat chyby a posuzovat vysvětlitelnost (včetně analýzy „co by, kdyby“ a kontrafaktuální analýzy).
- Google Vertex AI Model Monitoring: Ekvivalent v Google Cloudu pro týmy nasazující řešení na platformě GCP. Zaměřuje se na spouštění monitorovacích úloh podle plánu nebo na vyžádání, sledování signálů kvality modelů a dat (jako jsou odchylky či asymetrie vlastností) a zasílání upozornění při překročení prahových hodnot.
- Fiddler AI + Arthur AI: Vhodné, pokud potřebujete vrstvu pozorovatelnosti nezávislou na dodavateli napříč modely – často se volí pro hlubší vysvětlitelnost, rychlejší analýzu příčin a konzistentní monitorování napříč týmy a prostředími
- MLflow: Ideální pro týmy, které chtějí flexibilitu open-source řešení. MLflow vám poskytuje pevný základ (sledování + registr modelů s metadaty/značkami a fázemi životního cyklu), ale obvykle budete potřebovat technické úsilí, abyste přidali prosazování zásad, kontroly/schvalování a řídicí pracovní postupy způsobem, který odpovídá vaší organizaci.
Zkonkretizujte správu umělé inteligence pomocí ClickUp
Platforma jako IBM Watsonx Governance vám může poskytnout technický základ pro řízení rizik a dodržování předpisů, ale správa funguje pouze tehdy, když týmy, které za ní stojí, jednají v souladu a nesou za svou činnost odpovědnost.
ClickUp propojuje tuto prováděcí vrstvu. Dokumenty standardizují zásady a záznamy o modelech. Dashboardy zviditelňují kontroly a úzká místa. A agenti AI zajišťují plynulý průběh schvalování a předávání, takže správa zůstává funkční, nikoli pouze teoretická.
A co je nejdůležitější, díky tomu se správa umělé inteligence mění z periodického přezkumu na živý systém. Systém, ve kterém jsou rozhodnutí dokumentována, akce sledovány a odpovědnost je jasně vymezena v každé fázi životního cyklu.
Začněte zdarma s ClickUp a spravujte své procesy řízení s přehledem od začátku do konce. ✅
Často kladené otázky
Jaký je rozdíl mezi správou IBM Watsonx a obecnými postupy správy umělé inteligence?
Obecná správa umělé inteligence se týká širokých zásad a politik, které organizace přijímá, zatímco Watsonx Governance je konkrétní softwarová platforma, která vám pomáhá tyto postupy implementovat a automatizovat.
Lze Watsonx Governance integrovat s nástroji jiných výrobců než IBM, jako jsou AWS nebo Azure?
Ano, platforma dokáže monitorovat a spravovat modely nasazené v jiných cloudových prostředích, jako jsou AWS SageMaker a Azure ML, i když integrace může vyžadovat více ruční konfigurace než u modelů nativních pro IBM.
Které role v týmu by se měly podílet na pracovních postupech správy umělé inteligence?
Účinná správa je týmová záležitost, do které se obvykle zapojují datoví vědci, inženýři strojového učení, pracovníci zajišťující dodržování předpisů, manažeři rizik, obchodní zainteresované strany a odborníci na IT bezpečnost, aby pokryli celý životní cyklus.
