Как да използвате IBM Watsonx за управление и мащабиране на изкуствения интелект
AI & Automation

Как да използвате IBM Watsonx за управление и мащабиране на изкуствения интелект

11 minute read

Изкуственият интелект се разраства по-бързо от защитните мерки около него.

Изследването на IBM „AI at the Core“ установи, че близо 74% от анкетираните организации отчитат само умерено или ограничено покритие в своите рамки за управление на риска и изкуствения интелект по отношение на технологичните рискове, рисковете, свързани с трети страни, и рисковете, свързани с моделите.

С други думи, много екипи пускат модели, но далеч по-малко от тях могат с увереност да отговорят на въпросите, които възникват веднага след това:

🤔 Кой е одобрил това, на какво основание, с какви доказателства и какво се случва, когато моделът се отклони по време на производството?

Това е основната цел на IBM Watsonx Governance. То ви помага да управлявате, защитавате и наблюдавате изкуствения интелект през целия му жизнен цикъл, като предлага работни потоци, мониторинг и управление на риска, предназначени да подпомагат отговорното мащабиране.

В това ръководство ще разгледаме как да използвате Watsonx Governance, за да документирате случаи на употреба, да стандартизирате процесите на преглед и одобрение, да събирате необходимата информация за моделите и да наблюдавате моделите в производствена среда при мащабиране.

Какво представлява IBM watsonx. governance?

Как да използвате IBM Watsonx за управление и мащабиране на изкуствения интелект
чрез IBM watsonx.governance

IBM Watsonx Governance е платформа за управление на изкуствения интелект на корпоративно ниво, разработена от IBM като част от платформата за изкуствен интелект и данни Watsonx. Тя помага на организациите да насочват, управляват, наблюдават и мащабират дейностите, свързани с изкуствения интелект, по отговорен начин през целия им жизнен цикъл.

Той служи като унифицирано решение за управление както на традиционните модели за машинно обучение (ML), така и на съвременните модели за генеративен изкуствен интелект (gen AI), включително големи езикови модели и приложения, независимо дали са създадени на IBM watsonx.ai или са внедрени на поддържани платформи на трети страни.

Как работи IBM Watsonx Governance

watsonx.governance е представен като интегриран набор от възможности, които IBM описва като комбинация от:

OpenPages за управление на риска и съответствието

OpenPages е компонентът в рамките на Watsonx Governance, който действа като вашия централен механизъм за управление на риска и съответствието. Той е проектиран да превръща политиките на вашата компания в конкретни, проследими показатели за всеки модел на изкуствен интелект.

Това ви предоставя инструменти за извършване на формални оценки на риска, съпоставяне на моделите с конкретни нормативни изисквания и създаване на неизменни одитни следи за регулаторните органи.

  • Оценка на риска: Можете да присвоявате и проследявате ниво на риск за всеки случай на използване на изкуствен интелект въз основа на фактори като чувствителността на използваните данни или въздействието на взетите решения
  • Картографиране на съответствието: Това ви позволява да съпоставите моделите с регулаторни рамки като Закона за изкуствения интелект на ЕС или Рамката за управление на риска при изкуствения интелект на NIST, както и да проследявате доказателствата за съответствие и статуса им по време на прегледите
  • Аудиторски следи: OpenPages поддържа постоянен регистър на това кой какво е одобрил и кога, което е от съществено значение за доказване на съответствието по време на одит

OpenScale за мониторинг на модели

OpenScale е механизъм за мониторинг в реално време, който следи вашите модели след пускането им в експлоатация. Това е вашата система за ранно предупреждение за проблеми, които възникват, когато даден модел взаимодейства с неорганизираните и непредсказуеми данни от реалния свят.

  • Откриване на отклонения: Тази функция установява кога входните или изходните данни на даден модел започват да се различават от данните, върху които е бил обучен – признак, че неговата ефективност може да се влошава
  • Мониторинг на справедливостта: Той проследява прогнозите за чувствителни групи (като възраст или пол), за да открива възникващи пристрастия в изкуствения интелект, преди те да се превърнат в системни проблеми
  • Обяснимост: Може да генерира разбираеми за човека обяснения за поведението и прогнозите на модела, в зависимост от типа и конфигурацията на модела, което е от решаващо значение за одити и запитвания от клиенти
  • Показатели за ефективност: Системата следи основните показатели за ефективност, като точност и време за отговор, като гарантира, че моделът продължава да отговаря на бизнес изискванията

Информационни листове за изкуствения интелект за проследяване на жизнения цикъл

Информационните листове за изкуствен интелект са част от управлението на жизнения цикъл на документите за всеки модел. Информационните листове автоматично проследяват ключови подробности на всеки етап от жизнения цикъл на изкуствения интелект, включително:

  • Метаданни за разработката, като източници на данни за обучение и избор на алгоритми
  • Резултати от оценки, като показатели от тестове и оценки на пристрастността
  • Подробности за внедряването, включително къде се изпълнява моделът и кой има достъп до него
  • Оперативна история, като тенденции в производителността и минали инциденти

🔍 ClickUp Brain MAX: По-бързо тестване на множество модели преди етапите на управление

Преди даден модел, подсказка или агент да достигне до IBM Watsonx Governance, екипите обикновено се нуждаят от място, където да мислят, тестват и сравняват без пречки.

Именно в това се отличава ClickUp Brain MAX .

Brain MAX е самостоятелно настолно приложение за изкуствен интелект, което позволява на екипите да превключват между няколко водещи модела (например GPT, Claude, Gemini) в рамките на едно и също работно пространство. Можете да изпълнявате един и същ промпт, логика за вземане на решения или чернова на резултата успоредно в различните модели, да сравнявате отговорите незабавно и да запазвате пълната верига от разсъждения заедно със самата работа.

Това прави Brain MAX особено ефективен за:

  • Сравнение на модели и подсказки в ранен етап преди официалната оценка
  • Резултати от стрес-тестове за тон, качество на разсъжденията или крайни случаи в различните модели
  • Записване и съхраняване на „защо избрахме този подход“ директно до задачите и документите

След като екипите се споразумеят за подходящото поведение, подсказката или избора на модел, watsonx.governance се превръща в система за регистриране. Информационните листове, одобренията и мониторингът отразяват решения, които вече са били подложени на тестове под натиск, документирани и одобрени.

👉 На практика Brain MAX ускорява обучението и итерацията, докато watsonx. governance осигурява контрол и отчетност. Заедно те предотвратяват управлението да забави иновациите — или иновациите да заобиколят управлението.

Как да настроите управлението на Watsonx за вашия екип

Сега нека настроим управлението на Watsonx за вашия екип, стъпка по стъпка 👇

1. Свържете база данни (data mart)

Отворете URL адреса на watsonx.governance за вашия регион, след което отидете в Конфигуриране → База данни и изберете тип база данни (Lite или ваша собствена DB2/PostgreSQL).

watsonx_Как да използвате IBM Watsonx за управление и мащабиране на изкуствения интелект
чрез watsonx.governance

2. Настройте сценарии за използване на изкуствен интелект

  • Отидете на Примери за използване на изкуствен интелект → Пълна настройка
  • Това създава идентификатор на услугата: watsonx.governance_DO_NOT_DELETE
  • Ако нямате инвентар по подразбиране, ще ви бъде предложено да създадете такъв, който е необходим за управлението на външни модели, прикачени файлове и отчети за управление

3. Създайте политики за достъп (поканете екипа си)

В IBM Cloud: Управление → Достъп (IAM) → Потребители → Покани потребител → задайте политика за достъп за услугата watsonx, както и определете обхвата ѝ (акаунт/група ресурси/конкретен инстанс)

📌 Потребителите се нуждаят от права „Reader/Writer+“ за достъп до услугата. Потребителите с права „Writer+“ могат да виждат информация от различни проекти и пространства за внедряване.

4. Управление на потребители и роли в Watsonx Governance

Разпределете роли за сътрудничество при дейности, свързани с оценката (администратор/редактор/зрител/оператор), в зависимост от задачите на всеки участник.

👀 Знаете ли, че... Едно-единствено съвременно нарушение на сигурността може да засегне толкова хора, колкото побира един стадион! Вписаното през януари 2026 г. нарушение на сигурността на Under Armour посочва 72,7 милиона засегнати акаунта.

Как да управлявате циклите на управление на изкуствения интелект с ClickUp

IBM Watsonx Governance служи като основна система за управление на изкуствения интелект, в която моделите, подсказките, оценките и одобренията се проследяват официално по структуриран начин и с възможност за проследяване.

Но управлението все пак трябва да обхваща всички отдели. Е, някой трябва да улови първоначалния контекст, да проследява решенията, да поддържа съгласуваност на доказателствата и да движи работата напред, без процесът да се превърне в лабиринт от прехвърляния на отговорности. Това е масивно разрастване на работата в действие!

Запознайте се с ClickUp. Като първото в света конвергентно работно пространство за изкуствен интелект, то свързва оперативното ниво – документи, задачи, чат, работни потоци, знания, изкуствен интелект и прозрачност за ръководството – така че вашите екипи да могат да изпълняват цикъла на управление по безпроблемен начин.

Нека видим как. 👇

Създавайте и документирайте примери за използване на изкуствен интелект

Примерите за употреба се документират лесно веднъж. По-трудното е да се поддържа съгласуваността на тази документация, докато идеята се подлага на тестове под натиск от екипите по риск, правни въпроси, сигурност и доставка.

Решете този проблем с ClickUp Docs. Например, използвайте шаблон на ClickUp Doc за всеки нов случай на използване на изкуствен интелект, така че всеки проект да започва със стандартизирани входни данни:

  • Цел
  • Заинтересовани страни
  • Контекст на данните
  • Очаквани резултати
  • Ограничения
  • Критерии за успех
Документация на ClickUp_Как да използвате IBM Watsonx за управление и мащабиране на изкуствения интелект
Използвайте ClickUp Docs, за да съхранявате цялата си информация на едно място

Освен това, водете дискусиите и вземайте решенията по конкретните случаи на употреба в документа, като използвате @споменавания и присвоени коментари в ClickUp. С напредването на прегледа превръщайте следващите стъпки в задачи в ClickUp директно от документа.

Ако това се вписва във вашия работен процес, включете ClickUp Brain, за да ускорите частите, които обикновено забавят работата. Използвайте го, за да прецизирате изпълнителното резюме, да идентифицирате предположенията, които се нуждаят от валидиране, или да изготвите първоначален вариант на съображенията за управление (например контролни точки за справедливост или поверителност) въз основа на това, което вашият екип вече е написал.

След като приложението е напълно готово, формализирайте го в IBM Watsonx Governance, за да се превърне в управляван ориентир за проследяване на жизнения цикъл и документация на информационните листове.

В watsonx.governance създайте сценарий за използване на изкуствен интелект в инвентара:

Таблица с примери за използване на изкуствен интелект с колони за статус и отговорник
  1. Отидете в Каталози → Примери за използване на изкуствен интелект
  1. Кликнете върху Нов случай на приложение на изкуствения интелект
  2. Въведете име и изберете инвентар
  3. Попълнете необходимите полета, като например: Описание (бизнес проблем + контекст) Ниво на риск Подкрепящи данни Собственик Статус Етикети
  4. Описание (бизнес проблем + контекст)
  5. Ниво на риск
  6. Подкрепящи данни
  7. Собственик
  8. Статус
  9. Етикети
  • Описание (бизнес проблем + контекст)
  • Ниво на риск
  • Подкрепящи данни
  • Собственик
  • Статус
  • Етикети

Оттам нататък конкретният случай на употреба се превръща в мястото, където можете да преглеждате проследяването на жизнения цикъл (Общ преглед/Живот/Достъп) и да свързвате управляваните активи с техните информационни листове.

Информационните листове помагат за събирането на метаданни за управлението и съответствието през целия жизнен цикъл, включително цел/критичност и произход на действията, предприети по време на разработката и внедряването.

📮 ClickUp Insight: 53% от организациите нямат управление на изкуствения интелект или разполагат само с неформални насоки. А когато хората не знаят къде отиват данните им – или дали даден инструмент може да създаде риск за несъответствие с изискванията – те се колебаят. Ако даден инструмент за изкуствен интелект се намира извън надеждни системи или има неясни практики за работа с данни, страхът от въпроса „Ами ако това не е безопасно?“ е достатъчен, за да спре внедряването му на място.

Това не е така с напълно управляваната и сигурна среда на ClickUp. ClickUp AI е в съответствие с GDPR, HIPAA и SOC 2 и притежава сертификат по ISO 42001, което гарантира, че вашите данни са поверителни, защитени и се управляват отговорно.

На външните доставчици на изкуствен интелект е забранено да обучават или съхраняват каквито и да било данни на клиенти на ClickUp, а поддръжката на множество модели функционира съгласно унифицирани разрешения, контрол на поверителността и строги стандарти за сигурност. Тук управлението на изкуствения интелект става част от самата работна среда, така че екипите могат да използват изкуствения интелект с увереност, без допълнителен риск.

Оценявайте модели и подсказки за изкуствен интелект

Оценката на моделите е критичен, но сложен етап с много променливи фактори. Трябва да провеждате тестове за производителност, да проверявате за пристрастност и да тествате за режими на отказ, като същевременно държите в течение множество заинтересовани страни.

За да създадете повтаряеми работни потоци, използвайте шаблона ClickUp DMAIC.

Създавайте процеси за оценка с персонализирани статуси, разделени на етапи, като използвате шаблона DMAIC на ClickUp

Създавайте процеси за оценка с персонализирани статуси, разделени на етапи, като използвате шаблона DMAIC на ClickUp

В този шаблон можете да създавате процеси за оценка, като използвате персонализирани статуси на ClickUp. Това означава, че статусите могат да отразяват етапите на вашата оценка, като например В очакване на оценка, Тестване за пристрастност, Преглед на производителността и Готов за одобрение.

Можете също така да премахнете ръчните прехвърляния с помощта на ClickUp Automations. Например, когато задачата премине към Тестване за пристрастност, настроената от вас автоматизация може да възложи работата на вашия проверяващ за съответствие и да добави коментар с контролния списък за тестване и съответните връзки.

След като работният ви процес е установен, можете да извършите техническата оценка в Watsonx:

  • За шаблони за подсказки и genAI: Извършвайте оценки на подсказки от ресурса с шаблони за подсказки, преглеждайте показателите и използвайте обобщението на оценката, за да откривате нарушения на праговите стойности
  • За външни модели или модели, които не се хостват от IBM: Можете да оценявате „независими“ шаблони за подсказки за поддържаните типове задачи, като обобщаване, класифициране, отговаряне на въпроси, извличане на ентитети, генериране на съдържание и RAG, като показателите варират в зависимост от модела и задачата

Одобрявайте и внедрявайте модели за изкуствен интелект

Използвайте ClickUp Super Agents, за да автоматизирате процеса на одобрение от начало до край.

Те са сътрудници, задвижвани от изкуствен интелект, които работят в пълния контекст на Workspace и могат безопасно да изпълняват многоетапни работни потоци. Нещо повече, можете да конфигурирате поведението им чрез инструкции, тригери, инструменти и знания, за да гарантирате, че работят в рамките на установените ограничения.

agents_Как да използвате IBM Watsonx за управление и мащабиране на изкуствения интелект
Използвайте канали за одобрение с ClickUp Super Agents

Например, при приключването на дадена оценка, Super Agent може да събере на едно място всичко необходимо за оценителите (например контекста на текущия случай на употреба, бележките по взетите решения и връзки към управляваните доказателства).

Освен това, таблата за управление на ClickUp могат да преобразуват данните за задачите в работната среда в визуализация на високо ниво, показваща напредъка, така че ръководството да може да види колко модели очакват преглед, кой етап е закъснял и кои модели изтичат.

Създайте свой собствен табло за управление на проекти в ClickUp ⬇️

След това можете да свържете оперативния работен поток обратно с Watsonx:

  • В watsonx.governance IBM предоставя работен процес „Животният цикъл на модела“, който води AI модела през множество етапи и заинтересовани страни до Одобрение за внедряване. Целта е да се гарантира, че управляваната система за регистриране отразява същите етапи, които вашият екип изпълнява оперативно в ClickUp
  • След одобрението идва ред на мониторинга. Watson OpenScale може да бъде конфигуриран с монитори, които оценяват внедрените ресурси спрямо зададени от вас прагове (например прагове за справедливост или точност/отклонение)

🚀 Предимство на ClickUp: Създайте табло за ръководството и добавете AI карти на ClickUp, които обобщават какво пречи на одобренията (например: „Какво чака одобрение от правния отдел?“ или „Кои модели са в процес на преглед от най-дълго време?“).

Документ за управление на изкуствения интелект до табло с показатели за моделите
Обобщавайте пречките за одобрение и прегледите с AI картите на ClickUp в таблата на ClickUp

Ограничения при използването на Watsonx за управление и мащабиране на изкуствения интелект

Няма инструмент, който да е панацея, и е важно да разберете ограниченията на дадена платформа, преди да се ангажирате с нея.

Ето няколко неща, които трябва да имате предвид при управлението с Watsonx 👀

ОграничениеВъздействие
Наклон към екосистемата на IBMВъпреки че поддържа модели на трети страни, най-задълбочената интеграция е с инструментите на самата IBM. Екипите, които са инвестирали значително в други облачни платформи, може да срещнат затруднения.
Сложност за по-малки екипиПлатформата е създадена за операции в корпоративен мащаб. За по-малките екипи разходите и сложността може да се окажат по-големи, отколкото им е необходимо.
Крива на обучение за OpenPagesМодулът за управление на риска първоначално е бил разработен за финансовия сектор, поради което неговите концепции и интерфейс може да не изглеждат интуитивни за екипи, работещи изцяло с изкуствен интелект.
Ограничения при персонализиранетоГотовите шаблони за съответствие са чудесна отправна точка, но може да не отговарят напълно на уникалните или специфичните регулаторни изисквания на вашата компания.
Управлението на генеративния изкуствен интелект все още е в процес на развитиеИнструментите за управление на големи езикови модели (LLM) се развиват бързо в цялата индустрия, а възможностите за управление продължават да се усъвършенстват успоредно с възникващите най-добри практики

Други алтернативни инструменти, които можете да използвате

Ако IBM Watsonx Governance не ви се струва подходящ вариант, имате няколко алтернативи, в зависимост от това дали искате стек за управление, специфичен за облака, или слой за мониторинг, независим от облака.

  • Amazon SageMaker Model Monitor + Amazon SageMaker Model Cards: Отличен избор, ако вече използвате AWS. Model Monitor се фокусира върху мониторинга в производствена среда (например, откриване на проблеми с качеството като отклонения/аномалии и изпращане на предупреждения), докато Model Cards ви помагат да документирате подробностите за моделите по стандартизиран начин за целите на одити и отчети за управление
  • Azure Machine Learning Responsible AI: Най-подходящо, когато вашите работни потоци вече са в Azure и искате вграден начин за оценка на моделите по отношение на справедливост, анализ на грешки и обяснимост (плюс „what-if“/контрафактуален анализ) в единен интерфейс
  • Google Vertex AI Model Monitoring: Еквивалентът на Google Cloud за екипи, които разгръщат решения в GCP. Той е насочен към изпълнение на задачи за мониторинг по график или при поискване, проследяване на сигнали за качеството на моделите/данните (като отклонения/асиметрия на характеристиките) и изпращане на предупреждения при превишаване на праговете
  • Fiddler AI + Arthur AI: Подходящи, когато искате независим от доставчика слой за наблюдаемост за всички модели — често се избират за по-задълбочена обяснимост, по-бърз анализ на основните причини и последователност в мониторинга между екипите и средите
  • MLflow: Най-подходящ за екипи, които търсят гъвкавостта на отворения код. MLflow ви осигурява солидна основа (проследяване + регистър на модели с метаданни/етикети и етапи от жизнения цикъл), но обикновено ще са необходими инженерни усилия, за да добавите прилагане на политики, прегледи/одобрения и работни потоци за управление по начин, който съответства на вашата организация

Превърнете управлението на изкуствения интелект в реалност с ClickUp

Платформа като IBM Watsonx Governance може да ви предостави техническата основа за контрол на риска и спазване на изискванията, но управлението функционира само когато екипите, които стоят зад него, са съгласувани и носят отговорност.

ClickUp свързва този изпълнителен слой. Документите стандартизират политиките и записите за моделите. Таблата за управление правят прегледите и пречките видими. А AI агентите поддържат процеса на одобрения и предаване на задачи, така че управлението остава оперативно, а не теоретично.

Най-важното е, че това превръща управлението на изкуствения интелект от периодична проверка в динамична система. Система, в която решенията се документират, действията се проследяват, а отговорността е ясна на всеки етап от жизнения цикъл.

Започнете безплатно с ClickUp и управлявайте процеса си на управление с яснота от начало до край. ✅

Често задавани въпроси

Каква е разликата между управлението с IBM Watsonx и общите практики за управление на изкуствения интелект?

Управлението на изкуствения интелект в общ смисъл се отнася до широките принципи и политики, които дадена организация възприема, докато watsonx. governance е конкретна софтуерна платформа, която ви помага да внедрите и автоматизирате тези практики.

Може ли Watsonx Governance да се интегрира с инструменти, които не са на IBM, като AWS или Azure?

Да, платформата може да наблюдава и управлява модели, внедрени в други облачни платформи като AWS SageMaker и Azure ML, въпреки че интеграцията може да изисква повече ръчна конфигурация, отколкото при моделите, разработени от IBM.

Кои роли в екипа трябва да бъдат включени в работните потоци за управление на изкуствения интелект?

Ефективното управление е колективна дейност, в която обикновено участват специалисти по данни, инженери по машинно обучение, служители по съответствие, мениджъри по риска, заинтересовани страни от бизнеса и ИТ-сигурността, за да се обхване целия жизнен цикъл.