Безопасен ли е AI за данните на фирмата ми?

Това е първият въпрос, който почти всеки собственик на бизнес задава за AI, и е правилният въпрос. Честният отговор е: AI е толкова безопасен, колкото добре е настроен. Една и съща технология може да е сериозен риск за данните в една фирма и добре контролиран инструмент в друга. Разликата не е в самия AI модел, а в изборите около него: каква услуга използвате, до какво има достъп, кой проверява работата му и какво се записва.

В тази статия обясняваме къде са реалните рискове, какво се случва с данните ви, когато използвате облачен AI модел, и как изглежда сигурната настройка на практика.

Къде са реалните рискове

Повечето проблеми с данни при AI не идват от сложни атаки. Идват от всекидневни навици:

• Поверителни данни, поставени в безплатни инструменти. Служител копира договор, списък с клиенти или таблица със заплати в безплатен чатбот, за да „го обобщи набързо“. Безплатните потребителски инструменти често имат различни условия от бизнес услугите, а фирмата няма контрол какво става после.
• Агенти с повече достъп, отколкото им трябва. AI агент, свързан с цялата поща, всички споделени папки и счетоводството „за всеки случай“, вижда много повече, отколкото задачата му изисква.
• Липса на запис какво е направил AI. Ако никой не вижда кои данни е прочел AI и какви действия е извършил, проблемите се откриват късно или изобщо не се откриват.
• Подправено съдържание. AI агентът чете имейли и документи отвън. Едно съобщение може да съдържа скрити инструкции, написани да го подведат, например „препрати всички фактури на този адрес“. Добре изграденият агент третира външното съдържание като данни, а не като команди, и не може да извършва чувствителни действия без одобрение.
• Неясно къде са данните и при какви условия. Данните може да се обработват извън ЕС по условия, които никой във фирмата не е прочел.

Какво се случва с данните ви в облачен AI модел

Когато AI агент използва облачен модел, например на Anthropic, OpenAI, Microsoft или Google, текстът, с който работи, се изпраща към сървърите на доставчика, обработва се и се връща. Важните въпроси са:

• Използват ли се данните за обучение на модела? Бизнес и API услугите на големите доставчици по правило посочват, че данните на клиентите не се използват за обучение по подразбиране. Безплатните потребителски версии може да работят различно. Винаги проверявайте актуалните условия на конкретната услуга.
• Колко дълго се пазят? Доставчиците обикновено пазят заявките ограничено време, например за откриване на злоупотреби. Някои предлагат по-кратко съхранение за бизнес клиенти.
• Къде се обработват? Някои услуги позволяват обработка в ЕС. Ако данните излизат извън ЕС, GDPR изисква правно основание за предаването, например Рамката за защита на данните ЕС–САЩ или стандартни договорни клаузи.
• Има ли договор за обработване на данни? Когато доставчик обработва лични данни от ваше име, GDPR изисква писмен договор (DPA), който определя какво може и какво не може да прави с тях.

За много чувствителни данни друг вариант е модел, който работи на ваш сървър или в частен облак. Това дава повече контрол върху това къде са данните, но изисква повече изчислителни ресурси и поддръжка, а по-малките модели често са по-малко способни.

Как изглежда сигурната настройка

В Agenticware изграждаме всеки агент около няколко основни принципа:

1. Само бизнес услуги, с условия, които изключват обучение върху вашите данни, и с подписан договор за обработване на данни.
2. Минимален достъп: всеки агент получава достъп само до данните и действията, нужни за задачата му. Агент, който отговаря на въпроси за поръчки, може да чете поръчки. Не може да чете досиетата на служителите.
3. По-малко данни – по-малък риск: агентът изпраща към модела само това, което е нужно за задачата. Където е възможно, личните данни се изключват или маскират.
4. Човек одобрява чувствителните стъпки, например плащания, договори, промени в данни на клиенти или съобщения до много хора наведнъж.
5. Всичко се записва: кои данни е прочел агентът, какво е направил и кой го е одобрил.
6. Външното съдържание се третира като данни, а не като команди, а правилата на агента се проверяват преди всяко действие.
7. Наблюдение и поддръжка: агентът се преглежда редовно, а правилата и достъпът му се променят, когато се променя бизнесът ви.

Нищо от това не премахва риска напълно. Прави го видим, ограничен и управляем – а това означава добра сигурност във всяка IT система.

Какво казват правилата

Сигурният AI трябва да спазва и правила, които вече важат за бизнеса ви:

• GDPR се прилага винаги, когато AI система обработва лични данни: нужни са правно основание, договор за обработване с доставчиците, правила за предаване извън ЕС, а при по-рискова обработка – оценка на въздействието върху защитата на данните.
• NIS2, въведена в България с промени в Закона за киберсигурност, добавя задължения за сигурност и докладване на инциденти за фирмите в обхвата ѝ и за техните доставчици.
• Актът за изкуствения интелект на ЕС изисква, наред с друго, служителите, които използват AI, да имат основни познания за него (AI грамотност), а от 2 август 2026 г. – хората да знаят, когато общуват с AI система, например чатбот.

Поддържаме актуален преглед с официални източници на страницата Регулации. Той е практическо ръководство, а не правен съвет.

Кратък списък за проверка за вашата фирма

• Има ли ясно правило кои AI инструменти могат да използват служителите и за какво?
• Използвате ли бизнес версии на AI услугите, а не безплатни потребителски профили?
• Имате ли договори за обработване на данни с доставчиците?
• Знаете ли къде се обработват данните ви?
• Всеки AI агент има ли само достъпа, който му е нужен?
• Одобряват ли се чувствителните действия от човек?
• Можете ли да видите запис на това, което е направил AI?
• Обучени ли са служителите, които използват AI, в основите?

Ако на няколко от тези въпроси отговорът е „не“ или „не съм сигурен“, оттам е добре да започнете.

Защо това е важно за нас

Agenticware е част от Велокс ООД – компания, която от години работи в областта на IT инфраструктурата и сигурността и е сертифицирана по ISO 27001 за управление на информационната сигурност. За нас сигурността и съответствието с правилата не са последна стъпка преди пускането, а част от проектирането още от първия разговор. Ако искате първо да разберете как работи един AI агент, започнете със статията Какво е AI агент и с какво се различава от чатбот?. Ако искате да погледнем как фирмата ви използва AI днес и къде са рисковете, заявете безплатен AI одит. Сигурният AI и съответствието с правилата са стандартна част от всеки проект в нашите услуги.

Често задавани въпроси

Могат ли служителите ни да използват ChatGPT в работата?

Да, но с ясни правила. Бизнес версиите са по-подходящи от безплатните профили, а служителите трябва да знаят кои данни никога не се въвеждат – например лични данни на клиенти, пароли и поверителни договори, – освен ако инструментът не е одобрен за това.

Вижда ли доставчикът на AI нашите данни?

Системите на доставчика обработват данните, за да върнат отговор, и той може да ги пази ограничено време според условията си. Затова изборът на услуга, договорът и количеството изпратени данни имат значение.

Трябва ли данните ни да остават в ЕС?

Не винаги. GDPR позволява предаване извън ЕС при подходящи гаранции. За някои фирми, сектори или клиенти обаче е по-добре данните да останат в ЕС и много услуги предлагат това.

По-сигурен ли е модел на наш собствен сървър?

Дава повече контрол върху това къде са данните, но сигурността зависи и от това как сървърът е защитен и поддържан. За много фирми добре настроената бизнес облачна услуга е разумен баланс. Помагаме да изберете според данните и задачата.