Штучна інтелектуальна система біля ноутбукаРозумні системи все частіше допомагають у редагуванні матеріалів, скороченні обсягів тексту та виконанні професійних завдань. Однак, користувачі нерідко надають чат-ботам набагато більше даних, аніж це необхідно для реалізації запиту. Експерти провели аналіз запитів до штучного інтелекту і виявили серед переданих матеріалів програмний код, бази даних клієнтів та внутрішню документацію компаній, повідомляє LRT.
Яка інформація може бути передана ШІ
Проблема часто виникає через просту звичку: якщо потрібно скоротити або відредагувати документ, користувач копіює весь файл, не видаляючи інформацію, яка безпосередньо не стосується завдання.Керівниця напряму аналізу даних та аналітики клієнтів Tele2 Інга Рудінскайте зазначає, що разом із текстом до ШІ можуть потрапляти дані, які для виконання запиту взагалі не потрібні.
20 професій, які не замінить ШІ — рейтинг
«Людина хоче лише виправити стиль листа чи вкоротити документ, тому просто копіює весь текст. Разом із цим у систему штучного інтелекту потрапляють імена, номери телефонів, адреси, фінансові дані чи інша інформація, яка для виконання самого завдання взагалі не потрібна», — пояснила вона.Ризик становлять не лише паролі чи реквізити банківських карток. Звичайний робочий лист або чернетка договору також можуть містити деталі переговорів, цінові умови чи іншу внутрішню інформацію. Окремі фрагменти можуть здаватися неважливими, але разом вони здатні розкрити багато інформації про людину або компанію.
Що не варто передавати чат-ботам без потреби:
- паспортні дані та номери документів;
- банківські рахунки та фінансові дані;
- медичну інформацію;
- імена, номери телефонів та адреси клієнтів;
- клієнтські бази;
- внутрішню документацію компанії;
- конфіденційні договори та деталі переговорів;
- програмний код, якщо він не призначений для публічного доступу.
Як захистити дані під час роботи з ШІ
Перед завантаженням документа фахівці радять поставити собі просте запитання: чи було б вам комфортно, якби ця інформація стала публічною? Якщо відповідь негативна, такі дані краще не передавати чат-боту.Окремо варто враховувати різницю між публічними чат-ботами та корпоративними рішеннями на базі ШІ. Корпоративні інструменти можуть давати компаніям більше можливостей контролювати обробку даних і те, чи використовуються вони для навчання моделей.Місце для вашої рекламиЩе один спосіб зменшити ризики — заздалегідь анонімізувати документ. Наприклад, паспортні номери, банківські рахунки та медичні дані можна видалити, а реальні імена замінити на «Клієнт А» або «Компанія X».У такому разі ШІ зможе виконати необхідне завдання, не отримуючи зайвої чутливої інформації.За матеріалами: Телеканал 24# ШІМісце для вашої реклами