От години казвам на собствениците на бизнес, че най-големият риск при внедряването на ИИ в малкия бизнес, пред който са изправени, не е да бъдат заменени от робот — а да бъдат изпреварени от конкурент, който използва ИИ по-добре. Но напоследък се появи една по-тъмна реалност. Същите генеративни инструменти, които използваме за писане на имейли и код, се превръщат в оръжие в ръцете на злонамерени лица за създаване на висококачествени, синтетични измами. Ако все още не сте обмислили концепцията за „Защитен ИИ“ (Defensive AI), вие на практика оставяте вратата на трезора си широко отворена, докато се фокусирате върху подобряването на осветлението в офиса.
Повечето малки и средни предприятия (МСП) оперират в това, което наричам „Зоната на Златокоска“ за измами. Имате достатъчно паричен поток и дигитален обем, за да бъдете печеливша мишена, но ви липсват центровете за операции по сигурността за £50k на месец, които защитават компаниите от FTSE 100. Точно в тази празнина процъфтяват фишингът, задвижван от ИИ, и фактурирането чрез дийпфейк. В това ръководство ще ви покажа как да затворите тази празнина, без да надвишавате бюджета си.
Възходът на синтетичната измама
💡 Искате Пени да анализира вашия бизнес? Тя картографира кои роли може да замени AI и изгражда поетапен план. Започнете своя безплатен пробен период →
Излизаме от ерата на имейлите от „Нигерийския принц“ с развален английски. Днешната среда на заплахи е доминирана от синтетичната измама. Използвайки големи езикови модели (LLM), измамникът може да извлече данни от вашия профил в LinkedIn, уебсайта на компанията ви и публичните ви интервюта, за да генерира имейл, който звучи точно като вас.
Още по-плашещ е възходът на аудио и видео дийпфейковете. През последния месец разговарях с двама собственици на бизнес, които са получили „гласови съобщения“ от свои бизнес партньори с искане за спешни промени в данните за плащане. Гласовете са били перфектни. Каденцата е била правилна. Единствената причина, поради която не са платили, е било вътрешно усещане, че искането е малко извън обичайния характер на човека. Разчитането на „вътрешно усещане“ не е мащабируема стратегия за сигурност.
Многоканалният мандат: Нова рамка за доверие
В свят, в който ИИ е на първо място, трябва да приемем една сурова истина: Дигиталната идентичност вече се фалшифицира тривиално. Ако дадена заявка пристигне чрез един дигитален канал (имейл, Slack или WhatsApp), тя трябва да се третира като непотвърдена по подразбиране.
Застъпвам се за това, което наричам Многоканален мандат. Това е процедурна рамка, при която всяко действие с голямо въздействие — промяна на банкови детайли, одобряване на голям банков превод или споделяне на чувствителни данни за служители — изисква проверка чрез два несвързани комуникационни канала.
Как да внедрите работни процеси за проверка
- Правилото Out-of-Band (извън основния канал): Ако промяна във фактура дойде по имейл, тя трябва да бъде потвърдена чрез известен телефонен номер или предварително уговорена физическа среща.
- Споделени тайни: Откажете се от въпросите за сигурност, базирани на публично достъпна информация. Използвайте „вътрешни пароли“ за вашия финансов екип, които се сменят на тримесечие.
- Визуални токени: Когато сте във видео разговор, поискайте от другия човек да завърти главата си или да помаха със специфичен предмет. Настоящите дийпфейкове в реално време често се затрудняват с профилни изгледи и закриване на части от лицето.
Изграждането на тези работни процеси не изисква скъп софтуер, но изисква културна промяна. Често можете да постигнете значителни спестявания от правни услуги и съответствие чрез заздравяване на тези вътрешни процеси преди да възникне пробив, вместо да плащате за последващото отстраняване на щетите.
Изграждане на вашия технологичен пакет за защита
Въпреки че процесът е вашата първа линия на защита, вие също се нуждаете от инструменти, които могат да забележат това, което човешкото око пропуска. Когато разглеждаме разходите за ИТ поддръжка, трябва да търсим доставчици, които предлагат сигурност на имейла, управлявана от ИИ. Инструменти като Abnormal Security или Darktrace използват „Защитен ИИ“, за да изградят базова линия на това как изглежда „нормалната“ комуникация за вашия бизнес. Когато пристигне имейл, който съвпада с тона на вашия изпълнителен директор, но идва от необичаен IP адрес или съдържа фина лингвистична промяна, ИИ го маркира още преди да е попаднал в пощенската ви кутия.
Работният процес за фактури „Нулево доверие“
Повечето измами с фактури се случват, защото вярваме на документа пред нас. Фактура, генерирана от ИИ, може да изглежда идентично с оформлението на вашия доставчик. Една стабилна стратегия за внедряване на ИИ в малкия бизнес трябва да включва автоматизирано съпоставяне на фактури. Инструменти, които използват OCR (оптично разпознаване на знаци), за да сравняват всяко поле в входяща фактура с „главния запис“ на предишни транзакции, могат да уловят фини промени в IBAN номерата, които зает човек би могъл да пропусне.
Икономика на риска: Застраховка срещу превенция
Вярвам в радикалната честност: никога няма да бъдете 100% в безопасност. Ето защо трансферът на риск е основна част от стратегията. Пазарът на бизнес застраховане обаче се променя. Застрахователите вече питат конкретно за вашите мерки за защита срещу ИИ. Ако не можете да демонстрирате „Многоканален мандат“ или процес на проверка „Out-of-Band“, може да откриете, че премиите ви скачат до небето — или по-лошо, че искът ви е отхвърлен поради „груба небрежност“, ако станете жертва на дийпфейк.
Парадоксът на тревожността от автоматизацията
Има повтарящ се модел, който виждам: предприятията, които се колебаят най-много да внедрят ИИ за растеж, често са тези, които са най-уязвими към ИИ за измами. Защо? Защото те все още разчитат на ръчни, повърхностни процеси, които са невероятно лесни за имитиране от ИИ.
Чрез приемането на ИИ инструменти за вашите собствени операции — като автоматизирано счетоводство и сигурни комуникационни платформи — вие всъщност укрепвате бизнеса си. Преминавате от модел, базиран на „доверие“ (който е крехък), към модел, базиран на „проверка“ (който е устойчив).
Вашият план за действие за понеделник сутрин
Не позволявайте на сложността на ИИ да ви парализира. Започнете с тези три конкретни стъпки:
- Одитирайте процеса си на плащане: Кой има право да променя банкови данни? Уверете се, че проверката „Out-of-Band“ е писмена политика, а не просто предложение.
- Обучете екипа си относно „Синтетичното отклонение“: Покажете им примери за дийпфейк аудио. Уверете се, че знаят, че „звученето като шефа“ вече не е доказателство за самоличност.
- Проверете вашия ИТ пакет: Говорете с вашия ИТ доставчик за „Откриване и отговор на заплахи за идентичността“ (ITDR). Ако те не знаят какво е това, може би е време да потърсите нов партньор.
Прозорецът за преминаване от „сляпо доверие“ към „проверени операции“ се затваря бързо. Злонамерените лица вече са внедрили ИИ. Време е и вие да направите същото — защитно.