Огляд безпеки та відповідального використання ШІ

Огляд

ISMS Copilot реалізує комплексні заходи безпеки штучного інтелекту, щоб забезпечити надійну, довірчу та відповідальну допомогу зі штучним інтелектом для фахівців з комплаєнсу. У цій статті пояснюються захисні механізми, обмеження безпеки та практики відповідального використання штучного інтелекту, вбудовані в платформу.

Для кого ця стаття

Ця стаття призначена для:

• Фахівців з комплаєнсу, які оцінюють заходи безпеки штучного інтелекту
• Менеджерів з ризиків, які аналізують контрольні механізми управління штучним інтелектом
• Команд безпеки, стурбованих зловживанням штучним інтелектом
• Усіх, хто хоче зрозуміти, як ISMS Copilot забезпечує відповідальне використання штучного інтелекту

Принципи безпеки штучного інтелекту

Система безпеки штучного інтелекту ISMS Copilot базується на чотирьох основних принципах:

1. Обмеження мети

Асистент зі штучного інтелекту розроблений виключно для роботи з інформаційною безпекою та комплаєнсом:

• Зосереджений на рамках ISMS (ISO 27001, SOC 2, GDPR, NIST тощо)
• Ввічливо перенаправляє запитання, що не стосуються теми, на пов'язані з комплаєнсом теми
• Відмовляється виконувати запити на шкідливі, незаконні або неетичні дії
• Залишається в межах надання консультаційної допомоги з комплаєнсу

2. Прозорість та чесність

Асистент зі штучного інтелекту відкрито визнає свої обмеження:

• Чітко заявляє про невизначеність, коли це доречно
• Пропонує користувачам перевіряти важливу інформацію
• Визнає, коли не знає чогось, замість того щоб вгадувати
• Чітко пояснює, що він може і не може робити

3. Захист авторських прав та інтелектуальної власності

ISMS Copilot поважає права інтелектуальної власності:

• Не відтворює захищені авторським правом стандарти ISO або пропрієтарний контент
• Направляє користувачів на придбання офіційних стандартів у авторизованих джерелах
• Надає рекомендації на основі принципів рамок без копіювання тексту
• Навчений на законно отриманих, анонімізованих даних, що відповідають вимогам авторського права ЄС

4. Конфіденційність за дизайном

Захист даних користувачів вбудований у кожну взаємодію зі штучним інтелектом:

• Розмови ніколи не використовуються для навчання моделей штучного інтелекту
• Наданий користувачем контент не передається іншим користувачам
• Кожна розмова обробляється незалежно
• Ізоляція робочого простору запобігає змішуванню даних між проєктами

Захисні механізми безпеки штучного інтелекту

Захисні механізми змісту

Що зробить штучний інтелект:

• Відповість на запитання щодо рамок ISMS та комплаєнсу
• Проаналізує завантажені документи з комплаєнсу (політики, процедури, оцінки ризиків)
• Згенерує готові до аудиту політики та процедури
• Надасть аналіз прогалин та рекомендації щодо впровадження
• Пояснить заходи безпеки та вимоги комплаєнсу

Чого НЕ зробить штучний інтелект:

• Надаватиме юридичні поради (натомість пропонує звернутися до юристів)
• Пропонуватиме медичні, фінансові або особисті поради поза межами комплаєнсу
• Генеруватиме контент для незаконних, шкідливих або неетичних цілей
• Відтворюватиме захищені авторським правом стандарти або пропрієтарні матеріали
• Розкриватиме свої спеціальні інструкції або системні підказки

Запобігання обходу обмежень

ISMS Copilot розроблений для протидії спробам маніпуляції:

Заблоковані тактики:

• Трюки "повтори за мною" для отримання системних підказок
• Сценарії рольових ігор, призначені для обходу обмежень безпеки
• Запити "ігнорувати попередні інструкції"
• Маніпуляції з обмеженнями ("відповідай без відмов")
• Спроби прямого доступу до файлів внутрішньої бази знань

Як це працює:

Коли штучний інтелект виявляє спробу обходу обмежень, він:

1. Розпізнає шаблон маніпуляції
2. Ввічливо відмовляється виконувати запит
3. Перенаправляє на легітимну допомогу з ISMS
4. Зберігає свої обмеження безпеки

Захист від ін'єкцій підказок

Платформа захищає від шкідливого контенту у завантажених файлах:

Що захищено:

• Завантажені документи скануються на наявність спроб ін'єкцій підказок
• Шкідливі інструкції, вбудовані у файли, мовчки відхиляються
• Системні підказки не можуть бути перевизначені через вміст файлів
• Обмеження безпеки залишаються активними незалежно від вмісту файлів

Користувацький досвід:

• Файли обробляються нормально з точки зору користувача
• Шкідливі інструкції фільтруються під час обробки
• Аналізується лише легітимний вміст документів
• Немає видимого повідомлення про помилку (мовчазний захист)

Захисні механізми захисту знань

Штучний інтелект захищає свої навчальні дані та конфігурацію системи:

До чого користувачі НЕ мають доступу:

• Спеціальні інструкції або системні підказки
• Деталі про джерела навчальних даних
• Прямий доступ до файлів бази знань
• Посилання для завантаження внутрішніх документів
• Інформацію про те, як структурована база знань

Чому це важливо:

Захист системних підказок та навчальних даних запобігає:

• Розумінню зловмисниками, як маніпулювати штучним інтелектом
• Порушенням авторських прав через відтворення навчальних матеріалів
• Ризикам безпеки через розкриття архітектури системи
• Непослідовній поведінці через модифіковані інструкції

Запобігання галюцинаціям

Що таке галюцинації?

Галюцинації штучного інтелекту виникають, коли штучний інтелект генерує правдоподібну, але фактично некоректну інформацію. ISMS Copilot вирішує цю проблему за допомогою кількох механізмів:

Динамічне інжектування знань про фреймворки (v2.5)

Станом на лютий 2025 року ISMS Copilot v2.5 майже повністю усуває галюцинації у відповідях на питання, пов'язані з конкретними фреймворками, завдяки динамічному інжектуванню знань про фреймворки:

• Виявляє згадки фреймворків у ваших запитаннях за допомогою зіставлення шаблонів регулярних виразів (ISO 27001, GDPR, SOC 2, HIPAA, CCPA, NIS 2, DORA, ISO 42001, ISO 27701, EU AI Act)
• Інжектує перевірені знання про фреймворки в контекст ШІ перед генерацією відповідей
• ШІ відповідає на основі наданих знань про фреймворки, а не ймовірнісної пам'яті
• Виявлення без участі ШІ гарантує 100% надійність, коли згадуються фреймворки
• Підтримує 10 фреймворків з окремим інжектуванням знань

Навчання на реальних знаннях

Окрім інжектування знань про фреймворки, ISMS Copilot навчається на спеціалізованих знаннях у сфері комплаєнсу:

• Власній бібліотеці знань про комплаєнс із сотень реальних консалтингових проєктів
• На основі практичного досвіду впровадження, а не теоретичної інформації
• Зосереджено на фреймворках, стандартах та перевірених практиках
• Регулярно оновлюється з урахуванням актуальних вимог комплаєнсу

Визнання невизначеності

ШІ налаштовано бути чесним щодо своїх обмежень:

• Чітко зазначає, коли не впевнений у інформації
• Пропонує користувачам перевіряти критично важливу інформацію
• Уникає вигадування фактів, коли знання неповні
• Рекомендує звертатися до офіційних стандартів або юристів за потреби

Приклад відповіді:

"Хоча я можу надати загальні рекомендації щодо контролю A.8.1 ISO 27001, я все ще схильний до помилок. Для цілей аудиту, будь ласка, перевірте цю інформацію за офіційним стандартом ISO 27001:2022."

Відповідальність користувача за перевірку

ISMS Copilot наголошує, що користувачі повинні:

• Звіряти пропозиції ШІ з офіційними стандартами
• Перевіряти критично важливу інформацію перед поданням аудиторам
• Використовувати ШІ як помічника консультанта, а не заміну експертизи
• Застосовувати професійне судження при використанні рекомендацій ШІ

Обмеження швидкості та захист ресурсів

Ліміти на кількість повідомлень

ISMS Copilot впроваджує обмеження швидкості для запобігання зловживанням та забезпечення справедливого доступу:

Безкоштовний тариф:

• 10 повідомлень на 4-годинне ковзне вікно
• Лічильник скидається через 4 години після першого повідомлення
• Контролюється як на фронтенді, так і на бекенді

Платні тарифи (Plus, Standard, Pro, Business):

• Більше кредитів за сесію (від 50 до 400 залежно від тарифу)
• Немає обмежень на кількість повідомлень
• Пріоритетна обробка

Коли досягнуто ліміту:

Ви побачите повідомлення про помилку: "Досягнуто добовий ліміт повідомлень. Будь ласка, оновіть тариф для отримання більшої кількості кредитів за сесію."

Обмеження на завантаження файлів

Завантаження файлів має обмеження для захисту системних ресурсів:

Розмір файлу:

• Максимум: 10 МБ на файл
• Повідомлення про помилку: "Файл 'document.pdf' завеликий (15.23 МБ). Максимально дозволений розмір — 10 МБ."

Підтримувані типи файлів:

• TXT, CSV, JSON (текстові файли)
• PDF (документи)
• DOC, DOCX (Microsoft Word)
• XLS, XLSX (Microsoft Excel)

Обмеження на завантаження:

• Один файл за раз (пакетне завантаження не підтримується)
• Неможливо завантажити дублікат файлу для того самого повідомлення
• Непідтримувані типи файлів відхиляються з повідомленням про помилку

Тимчасовий режим чату

Що таке тимчасовий чат?

Тимчасовий режим чату пропонує бесіди зі збереженням конфіденційності та особливим обробленням даних:

Як це працює:

1. Виберіть "Тимчасовий чат" на екрані привітання
2. Ви побачите повідомлення: "Цей чат не з'явиться в історії. З міркувань безпеки ми можемо зберігати копію цього чату до 30 днів."
3. Надсилайте повідомлення та завантажуйте файли як зазвичай
4. Розмова не додається до вашої історії бесід
5. Дані можуть зберігатися до 30 днів для перевірки безпеки

Коли використовувати тимчасовий чат:

• Швидкі разові запитання, які не потрібно зберігати
• Конфіденційні обговорення, які ви не хочете зберігати в постійній історії
• Тестування запитів перед додаванням до робочого простору
• Дослідницька робота з питань комплаєнсу

Контроль зберігання даних

Керування зберіганням користувачем

Ви вирішуєте, як довго зберігатимуться дані ваших розмов:

1. Натисніть на іконку меню користувача (угорі праворуч)
2. Виберіть Налаштування
3. У полі Період зберігання даних виберіть:

• Мінімум: 1 день (високий рівень безпеки, короткострокова робота)
• Максимум: 24 955 днів / 7 років (довгострокова документація)
• Або натисніть Зберігати назавжди для необмеженого зберігання

4. Натисніть Зберегти налаштування

Очікуваний результат: Діалог налаштувань закривається, і період зберігання зберігається.

Автоматичне видалення даних

ISMS Copilot автоматично видаляє старі дані:

• Завдання на видалення запускається щодня
• Видаляє повідомлення, старші за ваш період зберігання
• Видаляє пов'язані завантажені файли
• Видалення остаточне та не може бути скасоване

Функції безпеки робочого простору

Ізоляція даних

Робочі простори забезпечують безпечні межі для різних проєктів:

Як працює ізоляція:

• Кожен робочий простір має окрему історію діалогів
• Завантажені файли прив'язані до конкретних робочих просторів
• Користувацькі інструкції специфічні для робочого простору
• Видалення робочого простору видаляє всі пов'язані дані
• ШІ не обмінюється інформацією між робочими просторами

Безпека користувацьких інструкцій

Робочі простори дозволяють використовувати користувацькі інструкції з обмеженнями безпеки:

Що можуть робити користувацькі інструкції:

• Визначати фокус на конкретних рамках відповідності
• Встановлювати тон або рівень деталізації відповідей
• Визначати контекст, специфічний для проєкту (галузь, розмір організації)
• Скеровувати ШІ на досягнення конкретних цілей відповідності

Обмеження безпеки:

• Користувацькі інструкції повинні бути пов'язані з відповідністю
• Не можуть перевизначати основні захисні механізми безпеки
• Не можуть наказувати ШІ ігнорувати захист авторських прав
• Не можуть обходити обмеження щодо змісту

Дані користувачів не використовуються для навчання

Гарантія конфіденційності

ISMS Copilot зобов'язується ніколи не використовувати ваші дані для навчання ШІ:

Що це означає:

• Ваші діалоги ніколи не надходять назад у модель ШІ
• Завантажені документи залишаються конфіденційними та приватними
• Інформація клієнтів ніколи не використовується для покращення моделі
• Кожен діалог обробляється незалежно без навчання

Як це захищає вас:

• Зберігається конфіденційність клієнтів
• Власницька інформація залишається приватною
• Конфіденційні дані щодо відповідності не передаються іншим користувачам
• Немає ризику випадкового розголошення вашої інформації іншим

Прозорість обробки даних

ISMS Copilot прозорий щодо того, як використовуються ваші дані:

Як ВИКОРИСТОВУЮТЬСЯ ваші дані:

• Обробка ваших запитань для генерації відповідей
• Аналіз завантажених документів для аналізу прогалин
• Збереження контексту діалогу в межах робочого простору
• Зберігання даних відповідно до ваших налаштувань збереження
• Моніторинг безпеки протягом до 30 днів (для запобігання зловживанням)

Як НЕ ВИКОРИСТОВУЮТЬСЯ ваші дані:

• Навчання або тонке налаштування моделей ШІ
• Передача іншим користувачам або клієнтам
• Маркетингові або рекламні цілі
• Продаж третім сторонам
• Публічне розголошення або тематичні дослідження (без явного дозволу)

Аутентифікація та контроль доступу

Вимоги до автентифікації користувачів

Усі взаємодії з ШІ потребують автентифікації:

• Неможливо надсилати повідомлення без входу в систему
• JWT-токен перевіряє кожен запит до API
• Сесії закінчуються після періоду бездіяльності
• Рівнева безпека даних гарантує, що користувачі бачать лише свої дані

Захист між користувачами

Ізоляція на рівні бази даних запобігає несанкціонованому доступу:

• Користувачі не можуть отримати доступ до діалогів інших користувачів
• Спроба доступу до даних іншого користувача повертає порожні результати
• Усі запити автоматично фільтруються за ідентифікатором автентифікованого користувача
• Навіть адміністратори дотримуються принципу найменших привілеїв

Найкращі практики відповідального використання ШІ

Для користувачів

Як отримати найкращі результати:

• Ставте конкретні запитання, пов'язані з рамками відповідності (наприклад, "Як реалізувати контроль A.8.1 ISO 27001?")
• Надавайте контекст про вашу організацію та цілі відповідності
• Завантажуйте відповідні документи для точного аналізу прогалин
• Перевіряйте та вдосконалюйте згенерований ШІ вміст перед використанням

Практики перевірки:

• Звіряйте пропозиції ШІ з офіційними стандартами
• Перевіряйте критичну інформацію з експертами з відповідності
• Тестуйте згенеровані ШІ політики у контексті вашої організації
• Використовуйте ШІ як помічника, а не заміну експертизи

Для організацій

Практики управління:

• Документуйте використання ISMS Copilot у політиці управління ШІ
• Навчайте персонал належному використанню та обмеженням
• Встановлюйте періоди збереження даних відповідно до ваших політик
• Перевіряйте згенерований ШІ вміст перед офіційним поданням
• Забезпечуйте людський нагляд для критичних рішень щодо відповідності

Управління ризиками:

• Включайте інструменти ШІ в Оцінки впливу на захист даних (DPIA)
• Документуйте угоди про обробку даних з ISMS Copilot
• Встановлюйте відповідні періоди збереження для конфіденційних даних
• Використовуйте робочі простори для ізоляції даних різних клієнтів або проєктів

Практичне впровадження управління ШІ

Окрім обмежень безпеки, ми керуємо нашими системами ШІ з повним життєвим циклом управління. Ось як наші політики транслюються в конкретні практики:

Процес розробки

Вимоги та тестування:

• Кожна функція зі штучним інтелектом має задокументовані вимоги, що охоплюють функціональні можливості, порогові значення продуктивності, обмеження безпеки та стандарти обробки даних
• Регресійне тестування виконується при кожній зміні коду для перевірки точності пошуку, обґрунтованості відповідей та виявлення галюцинацій
• Тестування безпеки включає сканування SAST/DAST, щорічне тестування на проникнення та тестування на ін'єкцію промптів
• Розгортання не відбувається, доки не буде пройдено 100% регресійних тестів і усунуто всі критичні уразливості

Деталі архітектури (v2.5, лютий 2025):

• Динамічна архітектура ін'єкції знань про фреймворки (замінює попередній підхід RAG)
• Виявлення фреймворків на основі регулярних виразів забезпечує надійну ідентифікацію ISO 27001, SOC 2, GDPR, HIPAA, CCPA, NIS 2, DORA, ISO 42001, ISO 27701, EU AI Act
• Ефективне використання токенів: завантажується лише релевантна інформація про фреймворки (на відміну від надсилання всіх ~10K токенів при кожному запиті)
• Перевірені знання про фреймворки надаються ШІ перед генерацією відповіді
• Конфігуровані постачальники ШІ (Mistral, xAI, OpenAI) з угодами про нульове зберігання даних

Моніторинг та безперервне вдосконалення

Що ми моніторимо:

• Рівень галюцинацій відстежується через звіти користувачів та автоматичне виявлення на основі відомих еталонних даних
• Точність відповідей вибірково перевіряється на відповідність офіційним стандартам комплаєнсу
• Аналізуються шаблони використання для виявлення зловживань або ненавмисних застосувань
• Безперервно вимірюються метрики продуктивності (час відповіді, точність пошуку, рівень помилок)
• Регулярно переглядається зворотний зв'язок від користувачів для виявлення нових ризиків

Як моніторинг сприяє вдосконаленню:

• Зворотний зв'язок від користувачів інформує про оновлення моделей та налаштування пошуку
• Результати тестування безпеки сприяють покращенню захисту
• Зміни в регуляторних вимогах та оновлення найкращих практик відображаються в документації
• Дані про продуктивність керують ітеративними покращеннями точності та швидкості

Реагування на інциденти

Як ми повідомляємо про проблеми:

• Сповіщення електронною поштою про критичні інциденти, що впливають на функціональність ШІ
• Повідомлення у Slack для команд з налаштованими інтеграціями
• Оновлення на сторінці статусу з хронологією інцидентів та їх вирішенням
• Сповіщення згідно з вимогами NIS2 (повідомлення протягом 24 годин про значні кіберінциденти)

Повідомлення про проблеми безпеки

Коли повідомляти

Зверніться до служби підтримки ISMS Copilot, якщо ви зіткнулися з:

• Відповідями ШІ, що порушують обмеження безпеки
• Потенційними галюцинаціями або фактично некоректною інформацією
• Порушеннями авторських прав у вихідних даних ШІ
• Недоречним контентом або поведінкою
• Уразливостями безпеки в системі ШІ
• Порушеннями конфіденційності або витоками даних

Як повідомити

1. Натисніть на іконку меню користувача (угорі праворуч)
2. Виберіть Допомога → Зв'язатися з підтримкою
3. Опишіть проблему безпеки, вказавши:

• Точне запитання або промпт, який ви використали
• Відповідь ШІ (знімок екрана, якщо можливо)
• Чому ви вважаєте це проблемою безпеки
• Дату та час взаємодії

4. Служба підтримки розгляне звернення та відповість протягом 48 годин

Що відбувається після вашого повідомлення

Ваше повідомлення запускає наш процес управління:

1. Негайний розгляд (протягом 48 годин): команда підтримки оцінює серйозність та вплив
2. Розслідування: технічна команда аналізує проблему, відтворює її та виявляє першопричину
3. Відповідь: ви отримуєте оновлення щодо результатів та запланованих дій
4. Виправлення: проблеми усуваються через оновлення моделей, налаштування пошуку, виправлення коду або покращення документації
5. Безперервне вдосконалення: отримані уроки інтегруються в процеси тестування та моніторингу

Обмеження та відомі обмеження

Поточні обмеження ШІ

• Не може переглядати інтернет для отримання актуальної інформації (використовує навчену базу знань)
• Не може отримувати доступ до зовнішніх баз даних або API в реальному часі
• Не може виконувати код або запускати інструменти тестування безпеки
• Не може здійснювати телефонні дзвінки або надсилати електронні листи від вашого імені
• Не може гарантувати 100% точність (завжди перевіряйте критично важливу інформацію)

Межі застосування

• Сфокусований на ISMS та комплаєнсі (не є ШІ загального призначення)
• Не може надавати юридичні, медичні або фінансові поради поза контекстом комплаєнсу
• Не може замінювати офіційні стандарти або судження аудитора
• Не може гарантувати успіх аудиту (важлива якість впровадження)

Що далі

• Дізнайтеся про заходи безпеки даних та шифрування
• Зрозумійте свої права на конфіденційність згідно з GDPR
• Налаштуйте робочі простори для ізоляції даних
• Відвідайте Центр довіри для ознайомлення з детальною документацією з управління ШІ

Отримання допомоги

Якщо у вас виникли питання щодо безпеки ШІ та відповідального використання:

• Ознайомтеся з Центром довіри для отримання детальної інформації про управління ШІ
• Зверніться до служби підтримки через меню Допомога
• Негайно повідомляйте про проблеми безпеки для розслідування
• Перевіряйте Сторінку статусу на наявність відомих проблем