Бібліотека промптів для управління ШІ за ISO 42001

Create an inventory of our AI systems per ISO 42001:

AI systems we develop/use/provide:
[List AI applications: chatbots, recommendation engines, predictive models, computer vision, NLP, automated decision systems, etc.]

For each AI system, document:
- System name and description
- AI techniques used (machine learning, deep learning, NLP, computer vision, generative AI)
- Purpose and use case
- Development status (research, development, production, retired)
- Internal vs. external use (internal tooling, customer-facing, embedded in products)
- Risk classification (high-risk per EU AI Act, limited risk, minimal risk)
- Data sources and training data
- Stakeholders affected (employees, customers, public)
- Lifecycle stage (design, development, deployment, monitoring, retirement)

Create an AI system register template suitable for ongoing management and regulatory compliance.

Develop a comprehensive AI Management System policy per ISO 42001:

Organization: [name, industry, AI maturity]
AI use cases: [describe key AI applications]

Policy sections aligned with ISO 42001:

1. Управління та нагляд за ШІ
- Етичні принципи ШІ (справедливість, прозорість, підзвітність, безпека, конфіденційність)
- Структура управління (рада з нагляду за ШІ, комітет з етики ШІ, ролі відповідального ШІ)
- Зобов’язання керівництва щодо відповідального ШІ

2. Управління ризиками (Розділ 6 ISO 42001)
- Методологія оцінки ризиків, специфічних для ШІ
- Обробка ризиків та заходи контролю
- Інтеграція з корпоративним управлінням ризиками

3. Управління життєвим циклом системи ШІ
- Життєвий цикл розробки (проєктування, дані, навчання, тестування, розгортання, моніторинг)
- Контроль змін для моделей ШІ та даних
- Контроль версій та реєстр моделей

4. Прозорість та пояснюваність
- Вимоги до документації для систем ШІ
- Механізми пояснюваності (картки моделей, інформаційні листи, інструменти інтерпретації)
- Розкриття інформації зацікавленим сторонам (коли ШІ приймає рішення)

5. Справедливість, упередженість та запобігання дискримінації
- Виявлення та пом’якшення упередженості в даних і моделях
- Метрики справедливості та тестування
- Робота з захищеними атрибутами
- Різноманітні та репрезентативні навчальні дані

6. Конфіденційність та захист даних
- Мінімізація даних для навчання та висновків ШІ
- Згода та законна підстава (узгодження з GDPR)
- Права суб’єктів даних у контексті ШІ (право на пояснення, право не бути об’єктом автоматизованих рішень)
- Техніки збереження конфіденційності (федеративне навчання, диференційна конфіденційність, синтетичні дані)

7. Безпека, захищеність та надійність
- Захист від атак та стійкість до зловмисних дій
- Безпека моделей (крадіжка моделей, отруєння, обхід)
- Тестування безпеки та валідація
- Механізми відмовостійкості та людський нагляд для високоризикових систем ШІ

8. Людський нагляд та контроль
- Людина в циклі для критичних рішень
- Механізми перевизначення
- Моніторинг продуктивності та рішень системи ШІ

9. Компетентність та обізнаність (Розділи 7.2-7.3 ISO 42001)
- Навчання з ШІ для розробників, користувачів та керівництва
- Програма підвищення обізнаності щодо відповідального ШІ

10. Управління інцидентами
- Типи інцидентів, специфічних для ШІ (інциденти упередженості, дрейф моделі, атаки зловмисників, ненавмисні шкоди)
- Реагування на інциденти та сповіщення
- Аналіз після інциденту та перенавчання моделі

Address ISO 42001 Annex A controls relevant to your AI risk profile.

Conduct an AI risk assessment per ISO 42001 Section 6 for [AI system name]:

AI system details:
- Description: [what the AI does]
- AI technique: [ML model type, architecture]
- Data sources: [training data, inference data]
- Use case: [how it's used, who it affects]
- Deployment: [production, pilot, development]

AI-specific risks to assess:

1. Ризики упередженості та справедливості
- Упередженість навчальних даних (історична упередженість, упередженість вибірки, упередженість вимірювання)
- Алгоритмічна упередженість (модель посилює диспропорції)
- Вплив на захищені групи (дискримінація за расовою, гендерною, віковою ознаками тощо)
- Метрики справедливості: [демографічний паритет, вирівняні шанси, диспропорційний вплив]

2. Ризики прозорості та пояснюваності
- Моделі "чорної скриньки" (відсутність інтерпретованості)
- Неможливість пояснити рішення користувачам/регуляторам
- Відповідність праву на пояснення (Стаття 22 GDPR)

3. Ризики конфіденційності
- Реідентифікація з анонімізованих навчальних даних
- Атаки інверсії моделі (вилучення навчальних даних з моделі)
- Визначення членства (чи були дані в навчальному наборі)
- Витік даних або ненавмисне запам’ятовування

4. Ризики безпеки та надійності
- Помилки моделі та некоректні прогнози
- Атаки зловмисників (обхід, отруєння, бекдори)
- Дрейф моделі та деградація з часом
- Крайні випадки та зсув розподілу
- Відмови в системах безпеки (в автономних системах, медичному ШІ тощо)

5. Ризики безпеки
- Крадіжка або вилучення моделі
- Отруєння даних під час навчання
- Зловмисні вхідні дані під час висновків
- Ризики ланцюга постачання (отруєні набори даних, скомпрометовані бібліотеки)

6. Етичні та суспільні ризики
- Ненавмисні шкоди або негативні наслідки
- Зловживання системою ШІ
- Вплив на довкілля (вуглецевий слід навчання великих моделей)
- Маніпуляція або обман (дипфейки, дезінформація)

7. Ризики відповідності та правові ризики
- Недотримання нормативних вимог (Закон ЄС про ШІ, GDPR, галузеві нормативи)
- Відповідальність за рішення ШІ
- Питання інтелектуальної власності (навчання на захищених авторським правом даних) — див. підхід ISMS Copilot до відповідності інтелектуальної власності

For each risk, assess:
- Likelihood (based on data quality, model complexity, deployment context)
- Impact (severity of harm if materialized)
- Existing controls and mitigations
- Residual risk and treatment plan

Create AI risk register and treatment plan aligned with ISO 42001 risk management requirements.

Create a responsible AI development procedure covering the full AI lifecycle:

1. Проєктування та визначення обсягу (контролі ISO 42001 6.2, A.2.1)
- Визначення мети та вимог до системи ШІ
- Виявлення зацікавлених сторін
- Визначення критеріїв справедливості та продуктивності
- Оцінка нормативних вимог (клас ризику за Законом ЄС про ШІ, застосовність GDPR)
- Документування передбачуваного використання та обмежень

2. Збір та підготовка даних (контролі A.3.x)
- Визначення вимог до даних (обсяг, якість, репрезентативність)
- Джерела даних (внутрішні, зовнішні, синтетичні, ліцензовані)
- Оцінка упередженості при зборі даних
- Забезпечення якості даних (повнота, точність, узгодженість)
- Маркування та анотування даних (контроль якості, навчання анотаторів, узгодженість між анотаторами)
- Техніки збереження конфіденційності (анонімізація, диференційна конфіденційність)
- Документування даних (картки даних, описи наборів даних)

3. Розробка та навчання моделі (контролі A.4.x)
- Вибір моделі (вибір алгоритму, проєктування архітектури)
- Інженерія ознак та їх вибір
- Методологія навчання та валідації (розбиття на тренувальну/валідаційну/тестову вибірки, крос-валідація)
- Налаштування гіперпараметрів
- Виявлення та пом’якшення упередженості під час навчання
- Оцінка продуктивності (точність, прецизійність, повнота, F1, AUC, метрики справедливості)
- Документування моделі (картки моделей, інформаційні листи)

4. Тестування та валідація (контролі A.5.x)
- Функціональне тестування (чи працює як задумано?)
- Тестування справедливості (аналіз диспропорційного впливу, продуктивність підгруп)
- Тестування надійності (зловмисні приклади, крайні випадки, дані поза розподілом)
- Тестування безпеки (режими відмов, небезпечні виходи)
- Валідація пояснюваності (чи можемо пояснити рішення?)
- Тестування відповідності нормативним вимогам (відповідність вимогам Закону ЄС про ШІ, якщо застосовно)

5. Розгортання (контролі A.6.x)
- Планування та затвердження розгортання
- Навчання користувачів та документація
- Налаштування моніторингу та оповіщень
- Механізми людського нагляду
- Процедури відкату
- Поетапне розгортання (канарейкове тестування, A/B-тестування)

6. Моніторинг та обслуговування (контролі A.7.x)
- Моніторинг продуктивності (точність, затримка, час безвідмовної роботи)
- Моніторинг упередженості (постійні метрики справедливості)
- Виявлення дрейфу моделі (дрейф даних, дрейф концепції)
- Виявлення інцидентів (аномальні прогнози, помилки)
- Тригери та процедури перенавчання
- Управління версіями моделей

7. Виведення з експлуатації та декомісування
- Критерії прийняття рішення про завершення життєвого циклу
- Зберігання або видалення даних
- Інформування користувачів
- Планування переходу (заміна системою, ручні процеси)

For our AI development context: [describe teams, tools, platforms, methodologies]

Include checkpoints, approvals, and documentation requirements at each stage per ISO 42001.

Create a model card for [AI model name] per ISO 42001 transparency requirements:

Model card sections:

1. Деталі моделі
- Назва та версія моделі
- Тип та архітектура моделі: [наприклад, нейронна мережа, випадковий ліс, трансформер]
- Алгоритм навчання та фреймворк: [TensorFlow, PyTorch, scikit-learn]
- Розробники моделі та контактна особа
- Дата моделі та етап життєвого циклу
- Ліцензія та обмеження використання

2. Передбачуване використання
- Основні випадки використання та користувачі
- Випадки використання поза межами (для чого її НЕ слід використовувати)
- Етичні міркування та відомі обмеження

3. Фактори (релевантні характеристики)
- Розглянуті групи або фактори (демографічні, географічні, контексти використання)
- Фактори інструментарію та середовища

4. Метрики
- Метрики продуктивності моделі: [точність, прецизійність, повнота, F1, AUC тощо]
- Метрики справедливості та упередженості: [демографічний паритет, вирівняні шанси тощо]
- Пороги прийняття рішень та компроміси

5. Навчальні дані
- Опис та джерело набору даних
- Попередня обробка даних та інженерія ознак
- Розмір навчальних даних та розбиття
- Відомі упередженості або обмеження в даних

6. Дані оцінки
- Використані набори даних для оцінки
- Обґрунтування вибору набору даних
- Застосована попередня обробка

7. Кількісні аналізи
- Загальні результати продуктивності
- Продуктивність у підгрупах (аналіз справедливості)
- Довірчі інтервали або кількісна оцінка невизначеності

8. Етичні міркування
- Потенційні шкоди та виявлені упередженості
- Застосовані стратегії пом’якшення
- Чутливі випадки використання та фактори ризику

9. Застереження та рекомендації
- Відомі обмеження та режими відмов
- Рекомендації щодо відповідального використання
- Рекомендації щодо моніторингу та обслуговування

Our model: [provide details for each section based on your AI system]

Use this model card template for all AI systems to meet ISO 42001 documentation and transparency requirements.

Conduct a fairness assessment for [AI system name]:

System context:
- Тип рішення: [класифікація, ранжування, рекомендація, прогнозування]
- Зачеплені особи: [клієнти, співробітники, заявники на кредит, студенти тощо]
- Захищені атрибути: [раса, стать, вік, інвалідність тощо — відповідно до чинного антидискримінаційного законодавства]
- Потенційні шкоди: [відмова в обслуговуванні, несправедливе ціноутворення, дискримінація, репутаційна шкода]

Fairness assessment methodology:

1. Визначення захищених груп
- Визначення чутливих атрибутів та груп (наприклад, стать: чоловіча/жіноча/небінарна; раса: категорії)
- Визначення, чи існують проксі-ознаки для захищених атрибутів у даних (поштовий індекс → раса, ім’я → стать)

2. Вибір метрик справедливості (виберіть відповідні для випадку використання)
- Демографічний паритет: Рівні показники позитивних результатів у групах
- Вирівняні шанси: Рівні показники істинно позитивних та хибно позитивних результатів у групах
- Прогностичний паритет: Рівна прецизійність (позитивна прогностична цінність) у групах
- Індивідуальна справедливість: Схожі особи отримують схожі результати
- Калібрування: Прогнозовані ймовірності відповідають фактичним результатам у групах

3. Вимірювання справедливості
- Розрахунок обраних метрик для кожної захищеної групи
- Порівняння з порогами справедливості (наприклад, правило 4/5 для диспропорційного впливу)
- Виявлення диспропорцій та патернів упередженості

4. Аналіз першопричин упередженості
- Упередженість даних: Недостатня репрезентативність, історична упередженість, упередженість вимірювання в навчальних даних
- Алгоритмічна упередженість: Модель перенавчається на більшості групи, ознаки корелюють із захищеними атрибутами
- Упередженість розгортання: Різні патерни використання в групах

5. Стратегії пом’якшення
- Попередня обробка: Перезважування навчальних даних, усунення упередженості з даних, балансування наборів даних
- Під час обробки: Алгоритми навчання з урахуванням справедливості, змагальне усунення упередженості, регуляризація
- Після обробки: Коригування порогів прийняття рішень для кожної групи, рекалібрування прогнозів
- Структурні: Видалення або маскування захищених атрибутів, використання обмежень справедливості

6. Аналіз компромісів
- Компроміси між точністю та справедливістю (пом’якшення упередженості може знизити загальну точність)
- Конфлікти метрик справедливості (неможливо задовольнити всі визначення справедливості одночасно)
- Рішення щодо прийнятних компромісів на основі етичних принципів та правових вимог

Document fairness assessment results, mitigation measures, and residual bias for ISO 42001 compliance and regulatory inquiries.

Our AI system: [describe system, decision context, and protected groups]

Test AI model robustness against adversarial attacks:

AI model: [name and type]
Attack surface: [inference API, model file, training pipeline]

Adversarial threat scenarios:

1. Атаки обходу (під час висновків)
- Зловмисні приклади: Ретельно створені вхідні дані, що призводять до помилкової класифікації
- Методи тестування: FGSM, PGD, C&W атаки
- Захист: Змагальне навчання, санітизація вхідних даних, сертифікована надійність

2. Атаки отруєння (під час навчання)
- Отруєння даних: Впровадження шкідливих зразків у навчальні дані
- Методи тестування: Перевертання міток, впровадження бекдорів
- Захист: Валідація даних, виявлення аномалій, стійкі алгоритми навчання

3. Викрадення/крадіжка моделі
- Атаки запитів для реплікації моделі
- Методи тестування: Викрадення моделі через API-запити
- Захист: Обмеження кількості запитів, збурення вихідних даних, водяні знаки

4. Інверсія моделі
- Відновлення навчальних даних з моделі
- Методи тестування: Визначення членства, визначення атрибутів
- Захист: Диференційна конфіденційність, округлення вихідних даних, обмеження запитів

5. Ін'єкція промптів (для LLM/генеративного ШІ)
- Шкідливі промпти для обходу фільтрів безпеки або вилучення конфіденційної інформації
- Методи тестування: Промпти для джейлбрейкінгу, непряма ін'єкція
- Захист: Фільтрація промптів, захисні бар'єри вихідних даних, модерація контенту

Robustness testing procedure:
- Generate adversarial examples using attack libraries (Adversarial Robustness Toolbox, CleverHans, Foolbox)
- Measure model accuracy on adversarial inputs
- Assess transferability of attacks across models
- Document vulnerabilities and mitigation measures
- Integrate into CI/CD (automated adversarial testing)

Create robustness test suite and acceptance criteria: [e.g., model accuracy >X% on adversarial examples].

Address ISO 42001 control A.5.3 (robustness evaluation) and A.6.5 (security of AI system).

Implement continuous monitoring for AI systems per ISO 42001 control A.7.3:

AI system: [name]
Deployment: [production environment]

Monitoring dimensions:

1. Моніторинг продуктивності
- Точність, прецизійність, повнота, F1-показник (порівняно з базовим рівнем)
- Затримка прогнозування та пропускна здатність
- Показники помилок та їх типи
- Відгуки користувачів та виправлення

2. Моніторинг дрейфу даних
- Зміни розподілу вхідних даних (коваріаційний зсув)
- Статистичні тести: KL-дивергенція, тест Колмогорова-Смирнова, індекс стабільності популяції (PSI)
- Виявлення дрейфу ознак
- Сповіщення при перевищенні порогів дрейфу

3. Моніторинг дрейфу моделі (дрейф концепції)
- Погіршення продуктивності моделі з часом
- Зміни в розподілі істинних значень
- Порівняння прогнозів з фактичними результатами
- Тригери для перенавчання моделі

4. Моніторинг справедливості
- Постійні метрики справедливості за демографічними групами
- Моніторинг диспропорційного впливу
- Сповіщення про погіршення справедливості

5. Моніторинг безпеки та аномалій
- Вхідні дані поза розподілом (виявлення OOD)
- Аномальні прогнози (пороги впевненості, оцінки невизначеності)
- Небезпечні або шкідливі виходи (модерація контенту, класифікатори безпеки)

6. Моніторинг безпеки
- Виявлення атак зловмисників
- Незвичайні патерни запитів (потенційне викрадення моделі)
- Контроль доступу та автентифікація до API моделей

7. Моніторинг пояснюваності
- Відстеження наданих користувачам пояснень
- Моніторинг прогнозів з низькою впевненістю, що потребують людського розгляду
- Дрейф важливості ознак

Monitoring implementation:
- Логування та телеметрія (прогнози, вхідні дані, метадані)
- Дашборди та візуалізація (Grafana, спеціальні дашборди)
- Правила та пороги сповіщень
- Автоматизовані відповіді (автоматичні вимикачі, перехід на простішу модель, ескалація до людини)
- Регулярні оглядові зустрічі (щотижневі/щомісячні огляди стану моделі)

Create monitoring playbook: what to monitor, thresholds, alert recipients, response procedures.

Integration with incident management: AI-specific incidents (bias discovered, model drift, adversarial attack) → incident response procedure.

Develop an AI incident response procedure per ISO 42001 control A.8.1:

AI-specific incident types:

1. Інциденти упередженості або справедливості
- Виявлення дискримінаційних результатів
- Шкода захищеним групам
- Перевищення порогів диспропорційного впливу

2. Погіршення продуктивності моделі
- Точність опускається нижче прийнятного рівня
- Виявлено дрейф моделі
- Систематичні помилки в прогнозах

3. Інциденти конфіденційності
- Витік навчальних даних
- Атака інверсії моделі або визначення членства
- Реідентифікація осіб

4. Інциденти безпеки
- Небезпечні або шкідливі виходи ШІ
- Система ШІ спричиняє фізичну або психологічну шкоду
- Відмова ШІ в критично важливій сфері

5. Інциденти безпеки
- Успішна атака зловмисників
- Крадіжка або вилучення моделі
- Виявлено отруєння даних

6. Етичні або репутаційні інциденти
- Зловживання ШІ або ненавмисні наслідки
- Громадський резонанс або увага ЗМІ
- Розслідування регуляторних органів

Incident response workflow:

1. Виявлення та звітування
- Автоматичне виявлення (сповіщення моніторингу)
- Звіти користувачів (механізми зворотного зв’язку, гарячі лінії)
- Внутрішнє виявлення (аудити, огляди, тестування)

2. Первинна оцінка та тріаж
- Класифікація за ступенем тяжкості (критичний/високий/середній/низький)
- Масштаб та зачеплені користувачі
- Чи потрібне негайне стримування? (вимкнення системи ШІ, повернення до ручного процесу)

3. Стримування та пом’якшення
- Вимкнення системи ШІ за необхідності
- Відкат до попередньої версії моделі
- Впровадження тимчасових компенсаційних заходів (людський розгляд, фільтрація виходів)

4. Розслідування та аналіз першопричин
- Вивчення навчальних даних, поведінки моделі, прогнозів
- Виявлення джерела упередженості, вади моделі або вектора атаки
- Документування висновків

5. Усунення
- Перенавчання моделі з виправленими даними або обмеженнями справедливості
- Застосування патчів або захисних заходів
- Оновлення процедур для запобігання повторенню

6. Комунікація
- Сповіщення зачеплених осіб (прозорість)
- Сповіщення регуляторних органів, якщо потрібно
- Внутрішня комунікація (керівництво, юридичний відділ, PR)
- Публічне розкриття інформації (якщо доречно)

7. Відновлення та винесення уроків
- Повторне розгортання виправленої системи ШІ
- Посилений моніторинг на випадок повторення
- Оновлення оцінок ризиків та заходів контролю
- Аналіз після інциденту та документування

Create incident response playbooks for each AI incident type with roles, timelines, and communication templates.

Ensure alignment with organizational incident management and ISO 42001 requirements.

Map our AI systems to EU AI Act requirements and align with ISO 42001:

AI system inventory: [list AI systems]

For each AI system, assess:

1. Класифікація ризиків за Законом про ШІ
- Заборонений ШІ: [біометрична категоризація, соціальне оцінювання, шкідлива маніпуляція, недискримінаційне сканування] → Не можна розгортати
- Високоризиковий ШІ: [скринінг резюме, кредитний скоринг, правоохоронні органи, критична інфраструктура, медичні пристрої, біометрична ідентифікація, оцінка в освіті/працевлаштуванні, основні послуги] → Суворі вимоги
- Обмежений ризик: [чат-боти, дипфейки, розпізнавання емоцій] → Зобов’язання щодо прозорості
- Мінімальний ризик: [відеоігри з ШІ, фільтри спаму] → Добровільні кодекси поведінки

2. Вимоги до високоризикового ШІ (якщо застосовно)
- Система управління ризиками: Розділи 6, 8.1 ISO 42001 → Оцінка та обробка ризиків ШІ
- Управління даними: Контроль A.3 ISO 42001 → Якість навчальних даних, пом’якшення упередженості
- Технічна документація: Контролі A.2.2, A.4.5 ISO 42001 → Документація системи, картки моделей
- Ведення записів та логування: Контроль A.7.1 ISO 42001 → Автоматизовані журнали для аудиту
- Прозорість для користувачів: Контролі A.6.3, A.6.4 ISO 42001 → Інформація для користувачів, пояснюваність
- Людський нагляд: Контроль A.6.7 ISO 42001 → Механізми "людина в циклі"
- Точність, надійність, кібербезпека: Контролі A.5.x, A.6.5 ISO 42001 → Тестування та заходи безпеки

3. Вимоги до ШІ загального призначення (GPAI)
- Якщо ми надаємо базові моделі або GPAI: Прозорість, відповідність авторському праву, розкриття енергоспоживання
- Моделі системного ризику (великомасштабні): Змагальне тестування, звітування про серйозні інциденти, оцінка моделі

4. Зобов’язання щодо прозорості (усі системи ШІ)
- Інформування користувачів про взаємодію з ШІ (Стаття 52 Закону про ШІ)
- Маркування дипфейків
- Розкриття інформації про розпізнавання емоцій або біометричну категоризацію

Create compliance mapping table: AI system | AI Act classification | Applicable requirements | ISO 42001 controls addressing | Compliance status | Gaps

Develop AI Act compliance roadmap aligned with ISO 42001 implementation.

Note: EU AI Act enforcement begins phased in 2024-2026. Track implementation timelines for your AI systems.