Огляд безпеки та відповідального використання ШІ

Огляд

ISMS Copilot реалізує комплексні заходи безпеки штучного інтелекту, щоб забезпечити надійну, довірчу та відповідальну допомогу зі штучним інтелектом для фахівців з комплаєнсу. У цій статті пояснюються захисні механізми, обмеження безпеки та практики відповідального використання штучного інтелекту, вбудовані в платформу.

Для кого ця стаття

Ця стаття призначена для:

• Фахівців з комплаєнсу, які оцінюють заходи безпеки штучного інтелекту
• Менеджерів з ризиків, які аналізують контрольні механізми управління штучним інтелектом
• Команд безпеки, стурбованих зловживанням штучним інтелектом
• Усіх, хто хоче зрозуміти, як ISMS Copilot забезпечує відповідальне використання штучного інтелекту

Принципи безпеки штучного інтелекту

Система безпеки штучного інтелекту ISMS Copilot базується на чотирьох основних принципах:

1. Обмеження мети

Асистент зі штучним інтелектом розроблений виключно для роботи з інформаційною безпекою та комплаєнсом:

• Зосереджений на рамках ISMS (ISO 27001, SOC 2, GDPR, NIST тощо)
• Ввічливо перенаправляє запитання, що не стосуються теми, на комплаєнс-питання
• Відмовляється виконувати запити на шкідливі, незаконні або неетичні дії
• Залишається в межах консультаційної допомоги з комплаєнсу

2. Прозорість та чесність

Асистент зі штучним інтелектом відкрито визнає свої обмеження:

• Чітко заявляє про невизначеність, коли це доречно
• Заохочує користувачів перевіряти важливу інформацію
• Визнає, коли не знає чогось, замість того, щоб вгадувати
• Чітко пояснює, що може, а що не може робити

3. Захист авторських прав та інтелектуальної власності

ISMS Copilot поважає права інтелектуальної власності:

• Не відтворює захищені авторським правом стандарти ISO або пропрієтарний контент
• Направляє користувачів на придбання офіційних стандартів у авторизованих джерелах
• Надає рекомендації на основі принципів рамок без копіювання тексту
• Навчений на законно отриманих, анонімізованих даних, що відповідають вимогам авторського права ЄС

4. Конфіденційність за дизайном

Захист даних користувачів вбудований у кожну взаємодію зі штучним інтелектом:

• Розмови ніколи не використовуються для навчання моделей штучного інтелекту
• Контент, наданий користувачем, не передається іншим користувачам
• Кожна розмова обробляється незалежно
• Ізоляція робочого простору запобігає змішуванню даних між проектами

Захисні механізми безпеки штучного інтелекту

Обмеження змісту

Що зробить штучний інтелект:

• Відповідатиме на запитання щодо рамок ISMS та комплаєнсу
• Аналізуватиме завантажені документи з комплаєнсу (політики, процедури, оцінки ризиків)
• Генеруватиме політики та процедури, готові до аудиту
• Надаватиме аналіз прогалин та рекомендації щодо впровадження
• Пояснюватиме заходи безпеки та вимоги комплаєнсу

Чого штучний інтелект НЕ зробить:

• Надаватиме юридичні поради (натомість рекомендує звернутися до юристів)
• Пропонуватиме медичні, фінансові або особисті поради поза межами комплаєнсу
• Генеруватиме контент для незаконних, шкідливих або неетичних цілей
• Відтворюватиме захищені авторським правом стандарти або пропрієтарні матеріали
• Розкриватиме свої спеціальні інструкції або системні підказки

Запобігання обходу обмежень

ISMS Copilot розроблений для протидії спробам маніпуляції:

Заблоковані тактики:

• Трюки "повтори за мною" для отримання системних підказок
• Сценарії рольових ігор, призначені для обходу обмежень безпеки
• Запити "ігнорувати попередні інструкції"
• Маніпуляції з обмеженнями ("відповідай без відмов")
• Спроби прямого доступу до файлів внутрішньої бази знань

Як це працює:

Коли штучний інтелект виявляє спробу обходу обмежень, він:

1. Розпізнає шаблон маніпуляції
2. Ввічливо відмовляється виконувати запит
3. Перенаправляє на легітимну допомогу з ISMS
4. Зберігає свої обмеження безпеки

Захист від ін'єкцій у запити

Платформа захищає від шкідливого контенту у завантажених файлах:

Що захищено:

• Завантажені документи скануються на наявність спроб ін'єкцій у запити
• Шкідливі інструкції, вбудовані у файли, тихо відхиляються
• Системні підказки не можуть бути перевизначені через вміст файлів
• Обмеження безпеки залишаються активними незалежно від вмісту файлів

Користувацький досвід:

• Файли обробляються нормально з точки зору користувача
• Шкідливі інструкції фільтруються під час обробки
• Аналізується лише легітимний вміст документів
• Немає видимого повідомлення про помилку (тихий захист)

Захисні механізми захисту знань

Штучний інтелект захищає свої навчальні дані та конфігурацію системи:

До чого користувачі не можуть отримати доступ:

• Спеціальні інструкції або системні підказки
• Деталі про джерела навчальних даних
• Прямий доступ до файлів бази знань
• Посилання для завантаження внутрішніх документів
• Інформацію про те, як структурована база знань

Чому це важливо:

Захист системних підказок та навчальних даних запобігає:

• Розумінню противниками того, як маніпулювати штучним інтелектом
• Порушенням авторських прав через відтворення навчальних матеріалів
• Ризикам безпеки через розкриття архітектури системи
• Непослідовній поведінці через модифіковані інструкції

Запобігання галюцинаціям

Що таке галюцинації?

Галюцинації штучного інтелекту виникають, коли штучний інтелект генерує правдоподібну, але фактично некоректну інформацію. ISMS Copilot вирішує цю проблему за допомогою кількох механізмів:

Динамічне введення знань про рамки (v2.5)

Починаючи з лютого 2025 року, ISMS Copilot v2.5 майже повністю усуває галюцинації для питань, пов'язаних з рамками, завдяки динамічному введенню знань про рамки:

• Виявляє згадки рамок у ваших запитаннях за допомогою зіставлення шаблонів регулярних виразів (ISO 27001, GDPR, SOC 2, HIPAA, CCPA, NIS 2, DORA, ISO 42001, ISO 27701, Закон ЄС про штучний інтелект)
• Вводить перевірені знання про рамки в контекст штучного інтелекту перед генерацією відповідей
• Штучний інтелект відповідає на основі наданих знань про рамки, а не ймовірнісної пам'яті
• Не засноване на штучному інтелекті виявлення забезпечує 100% надійність, коли згадуються рамки
• Підтримує 10 рамок з виділеним введенням знань

Навчання на реальних знаннях

Окрім введення знань про рамки, ISMS Copilot навчений на спеціалізованих знаннях з комплаєнсу:

• Власна бібліотека знань з комплаєнсу з сотень реальних консалтингових проектів
• Базується на практичному досвіді впровадження, а не на теоретичній інформації
• Зосереджений на рамках, стандартах та перевірених практиках
• Регулярно оновлюється з урахуванням поточних вимог комплаєнсу

Визнання невизначеності

Штучний інтелект навчений бути чесним щодо своїх обмежень:

• Чітко заявляє, коли не впевнений у інформації
• Заохочує користувачів перевіряти критичну інформацію
• Уникає вигадування фактів, коли знання неповні
• Рекомендує звертатися до офіційних стандартів або юристів, коли це доречно

Приклад відповіді:

"Хоча я можу надати загальні рекомендації щодо контролю A.8.1 ISO 27001, я все ще схильний до помилок. Для цілей аудиту, будь ласка, перевірте цю інформацію за офіційним стандартом ISO 27001:2022."

Відповідальність користувача за перевірку

ISMS Copilot наголошує, що користувачі повинні:

• Перевіряти рекомендації штучного інтелекту за офіційними стандартами
• Валідувати критичну інформацію перед поданням аудиторам
• Використовувати штучний інтелект як помічника консультанта, а не заміну експертизи
• Застосовувати професійне судження при використанні рекомендацій штучного інтелекту

Обмеження швидкості та захист ресурсів

Обмеження швидкості повідомлень

ISMS Copilot реалізує обмеження швидкості для запобігання зловживанням та забезпечення справедливого доступу:

Безкоштовний тариф:

• 10 успішних повідомлень за фіксований 4-годинний проміжок часу за UTC (не таймер, який запускається з вашого першого повідомлення)
• 10 кредитів сесії за той самий проміжок часу
• Застосовується як на фронтенді, так і на бекенді

Платні тарифи (Plus, Standard, Pro, Business; Essential grandfathered):

• Кредити сесії за 4-годинний проміжок: Plus 50, Standard 100, Pro 250, Business 500 (Essential 25)
• Немає обмеження на 10 повідомлень у вільному стилі; кредити / обмеження за токенами все ще діють
• Див. Плани підписки та ціни

Коли ліміт досягнуто:

Продукт показує чітке повідомлення про ліміт з варіантами оновлення та зворотний відлік до наступного 4-годинного проміжку за UTC.

Обмеження завантаження файлів

Завантаження файлів мають обмеження безпеки для захисту системних ресурсів:

Розмір файлу:

• Максимум: 10 МБ на файл
• Повідомлення про помилку: "Файл 'document.pdf' завеликий (15.23 МБ). Максимально дозволений розмір, 10 МБ."

Підтримувані типи файлів:

• TXT, CSV, JSON (текстові файли)
• PDF (документи)
• DOC, DOCX (Microsoft Word)
• XLS, XLSX (Microsoft Excel)

Обмеження завантаження:

• До 10 файлів за один раз (все ще діє щомісячне справедливе використання завершених завантажень)
• Неможливо завантажити дубльовані файли для одного повідомлення
• Непідтримувані типи файлів відхиляються з повідомленням про помилку

Тимчасовий режим чату

Що таке Тимчасовий Чат?

Режим тимчасового чату пропонує конфіденційні розмови зі специфічною обробкою даних:

Як це працює:

1. Виберіть "Тимчасовий чат" на екрані привітання
2. Ви побачите повідомлення: "Цей чат не з'явиться в історії. З міркувань безпеки ми можемо зберігати копію цього чату до 30 днів."
3. Надсилайте повідомлення та завантажуйте файли як зазвичай
4. Розмова не додається до вашої історії чатів
5. Дані можуть зберігатися до 30 днів для перевірки безпеки

Коли використовувати Тимчасовий Чат:

• Швидкі разові запитання, які не потрібно зберігати
• Конфіденційні обговорення, які ви не хочете залишати в постійній історії
• Тестування запитів перед додаванням до робочого простору
• Дослідницька робота з питань відповідності вимогам

Контроль зберігання даних

Керування зберіганням користувачем

Ви вирішуєте, як довго зберігатимуться дані ваших розмов:

1. Натисніть піктограму меню користувача (угорі праворуч)
2. Виберіть Налаштування
3. У полі Період зберігання даних оберіть:

• Мінімум: 1 день (високий рівень безпеки, короткострокова робота)
• Максимум: 24,955 днів / 7 років (довгострокова документація)
• Або натисніть Зберігати назавжди для необмеженого зберігання

4. Натисніть Зберегти налаштування

Очікуваний результат: Діалогове вікно налаштувань закривається, і період зберігання зберігається.

Автоматичне видалення даних

ISMS Copilot автоматично видаляє старі дані:

• Завдання на видалення запускається щодня
• Видаляються повідомлення, старші за ваш період зберігання
• Видаляються пов'язані завантажені файли
• Видалення є остаточним і не може бути скасоване

Функції безпеки робочого простору

Ізоляція даних

Робочі простори забезпечують межі безпеки для різних проєктів:

Як працює ізоляція:

• Кожен робочий простір має окрему історію розмов
• Завантажені файли прив'язані до конкретних робочих просторів
• Користувацькі інструкції специфічні для робочого простору
• Видалення робочого простору видаляє всі пов'язані дані
• ШІ не обмінюється інформацією між робочими просторами

Безпека користувацьких інструкцій

Робочі простори дозволяють використовувати користувацькі інструкції з обмеженнями безпеки:

Що можуть робити користувацькі інструкції:

• Визначати фокус на певних рамках відповідності вимогам
• Встановлювати тон або рівень деталізації відповідей
• Визначати контекст проєкту (галузь, розмір організації)
• Спрямовувати ШІ на досягнення конкретних цілей відповідності вимогам

Обмеження безпеки:

• Користувацькі інструкції повинні бути пов'язані з відповідністю вимогам
• Не можуть перевизначати основні захисні бар'єри безпеки
• Не можуть наказувати ШІ ігнорувати захист авторських прав
• Не можуть обходити обмеження змісту

Відсутність навчання на даних користувача

Гарантія конфіденційності

ISMS Copilot зобов'язується ніколи не використовувати ваші дані для навчання ШІ:

Що це означає:

• Ваші розмови ніколи не надходять назад до моделі ШІ
• Завантажені документи залишаються конфіденційними та приватними
• Інформація клієнтів ніколи не використовується для покращення моделі
• Кожна розмова обробляється незалежно без навчання

Як це захищає вас:

• Зберігається конфіденційність клієнтів
• Пропрієтарна інформація залишається приватною
• Конфіденційні дані відповідності вимогам не передаються іншим користувачам
• Немає ризику випадкового розголошення вашої інформації іншим

Прозорість обробки даних

ISMS Copilot прозорий щодо того, як використовуються ваші дані:

Як ВИКОРИСТОВУЮТЬСЯ ваші дані:

• Обробка ваших запитань для генерації відповідей
• Аналіз завантажених документів для аналізу прогалин
• Підтримка контексту розмови в межах робочого простору
• Зберігання даних відповідно до ваших налаштувань зберігання
• Моніторинг безпеки до 30 днів (для запобігання зловживанням)

Як ваші дані НЕ ВИКОРИСТОВУЮТЬСЯ:

• Навчання або тонке налаштування моделей ШІ
• Передача іншим користувачам або клієнтам
• Маркетингові або рекламні цілі
• Продаж третім сторонам
• Публічне розголошення або тематичні дослідження (без явного дозволу)

Аутентифікація та контроль доступу

Вимоги до аутентифікації користувачів

Усі взаємодії з ШІ вимагають аутентифікації:

• Неможливо надсилати повідомлення без входу в систему
• JWT-токен перевіряє кожен запит до API
• Сеанси закінчуються після періоду бездіяльності
• Рівнева безпека рядків гарантує, що користувачі бачать лише свої дані

Захист між користувачами

Ізоляція на рівні бази даних запобігає несанкціонованому доступу:

• Користувачі не можуть отримати доступ до розмов інших користувачів
• Спроба доступу до даних іншого користувача повертає порожні результати
• Усі запити автоматично фільтруються за ідентифікатором автентифікованого користувача
• Навіть адміністратори дотримуються принципу найменших привілеїв

Найкращі практики відповідального ШІ

Для користувачів

Як отримати найкращі результати:

• Ставте конкретні запитання, пов'язані з рамками (наприклад, "Як реалізувати контроль A.8.1 ISO 27001?")
• Надавайте контекст про вашу організацію та цілі відповідності вимогам
• Завантажуйте відповідні документи для точного аналізу прогалин
• Перевіряйте та вдосконалюйте згенерований ШІ контент перед використанням

Практики перевірки:

• Перехресно перевіряйте пропозиції ШІ з офіційними стандартами
• Підтверджуйте критичну інформацію з експертами з відповідності вимогам
• Тестуйте згенеровані ШІ політики у контексті вашої організації
• Використовуйте ШІ як помічника, а не заміну експертизи

Для організацій

Практики управління:

• Документуйте використання ISMS Copilot у політиці управління ШІ
• Навчайте персонал належному використанню та обмеженням
• Встановлюйте періоди зберігання даних відповідно до ваших політик
• Переглядайте згенерований ШІ контент перед офіційним поданням
• Забезпечуйте людський нагляд для критичних рішень щодо відповідності вимогам

Управління ризиками:

• Включайте інструменти ШІ до Оцінки впливу на захист даних (DPIA)
• Документуйте угоди про обробку даних з ISMS Copilot
• Встановлюйте відповідні періоди зберігання для конфіденційних даних
• Використовуйте робочі простори для ізоляції даних різних клієнтів або проєктів

Практичне управління ШІ

Окрім обмежень безпеки, ми керуємо нашими системами ШІ з повним життєвим циклом управління. Ось як наші політики транслюються в конкретні практики:

Процес розробки

Вимоги та тестування:

• Кожна функція ШІ має документовані вимоги, що охоплюють функціональні можливості, порогові значення продуктивності, обмеження безпеки та стандарти обробки даних
• Регресійне тестування проводиться при кожній зміні коду для перевірки точності пошуку, обґрунтованості відповідей та виявлення галюцинацій
• Тестування безпеки включає сканування SAST/DAST, щорічне тестування на проникнення та тестування на ін'єкцію запитів
• Розгортання не відбувається, поки не буде пройдено 100% регресійних тестів і усунуто всі критичні вразливості

Деталі архітектури (v2.5, лютий 2025):

• Архітектура динамічного введення знань про рамки (замінює попередній підхід RAG)
• Виявлення рамок на основі регулярних виразів забезпечує надійну ідентифікацію ISO 27001, SOC 2, GDPR, HIPAA, CCPA, NIS 2, DORA, ISO 42001, ISO 27701, Закону ЄС про ШІ
• Ефективне використання токенів: завантажується лише відповідне знання про рамки (на відміну від надсилання всіх ~10K токенів кожного запиту)
• Перевірене знання про рамки надається ШІ перед генерацією відповіді
• Конфігуровані постачальники ШІ (Mistral, xAI, OpenAI) з угодами про нульове зберігання даних

Моніторинг та безперервне вдосконалення

Що ми моніторимо:

• Рівень галюцинацій відстежується через звіти користувачів та автоматичне виявлення на основі відомих істинних даних
• Точність відповідей вибірково перевіряється та підтверджується за офіційними стандартами відповідності вимогам
• Аналізуються шаблони використання для виявлення зловживань або неналежного застосування
• Безперервно вимірюються метрики продуктивності (час відповіді, точність пошуку, рівень помилок)
• Регулярно переглядається зворотний зв'язок від користувачів для виявлення нових ризиків

Як моніторинг сприяє вдосконаленню:

• Зворотний зв'язок від користувачів інформує про оновлення моделей та налаштування пошуку
• Результати тестування безпеки сприяють покращенню захисту
• Оновлення нормативних вимог та найкращих практик відображаються в документації
• Дані про продуктивність керують ітераційними покращеннями точності та швидкості

Реагування на інциденти

Як ми повідомляємо про проблеми:

• Сповіщення електронною поштою про критичні інциденти, що впливають на функціональність ШІ
• Сповіщення у Slack для команд з налаштованими інтеграціями
• Оновлення на сторінці статусу з хронологією інцидентів та їх вирішенням
• Сповіщення про раннє попередження, що відповідають вимогам NIS2 (24-годинне повідомлення про значні кіберінциденти)

Повідомлення про проблеми безпеки

Коли повідомляти

Зверніться до служби підтримки ISMS Copilot, якщо ви зіткнулися з:

• Відповідями ШІ, що порушують обмеження безпеки
• Потенційними галюцинаціями або фактично невірною інформацією
• Порушеннями авторських прав у вихідних даних ШІ
• Неприпустимим контентом або поведінкою
• Вразливостями безпеки в системі ШІ
• Порушеннями конфіденційності або витоками даних

Як повідомити

1. Натисніть піктограму меню користувача (праворуч угорі)
2. Виберіть Довідковий центр → Зв'язатися з підтримкою
3. Опишіть проблему безпеки, вказавши:

• Точне запитання або запит, який ви використали
• Відповідь ШІ (скріншот, якщо можливо)
• Чому ви вважаєте це проблемою безпеки
• Дату та час взаємодії

4. Служба підтримки розгляне повідомлення та відповість протягом 48 годин

Що відбувається після повідомлення

Ваше повідомлення запускає наш процес управління:

1. Невідкладний розгляд (протягом 48 годин): команда підтримки оцінює серйозність та вплив
2. Розслідування: технічна команда аналізує проблему, відтворює її та виявляє першопричину
3. Відповідь: ви отримуєте оновлення щодо результатів та запланованих дій
4. Виправлення: проблеми усуваються через оновлення моделі, налаштування пошуку, виправлення коду або покращення документації
5. Безперервне вдосконалення: отримані уроки інтегруються в процеси тестування та моніторингу

Обмеження та відомі обмеження

Поточні обмеження ШІ

• Не може переглядати інтернет для отримання актуальної інформації (використовує навчену базу знань)
• Не може отримувати доступ до зовнішніх баз даних або API у реальному часі
• Не може виконувати код або запускати інструменти тестування безпеки
• Не може здійснювати телефонні дзвінки або надсилати електронні листи від вашого імені
• Не може гарантувати 100% точність (завжди перевіряйте критично важливу інформацію)

Межі застосування

• Сфокусований на ISMS та відповідності вимогам (не є універсальним ШІ)
• Не може надавати юридичні, медичні або фінансові поради поза контекстом відповідності вимогам
• Не може замінювати офіційні стандарти або судження аудитора
• Не може гарантувати успіх аудиту (важлива якість впровадження)

Що далі

• Дізнайтеся про заходи безпеки даних та шифрування
• Зрозумійте свої права на конфіденційність згідно з GDPR
• Налаштуйте робочі простори для ізоляції даних
• Відвідайте Центр довіри для детальної документації з управління ШІ

Отримання допомоги

З питань безпеки ШІ та відповідального використання:

• Ознайомтеся з Центром довіри для детальної інформації з управління ШІ
• Зверніться до служби підтримки через меню Довідкового центру
• Негайно повідомляйте про проблеми безпеки для розслідування
• Перевірте Сторінку статусу щодо відомих проблем