1. Постојат две фундаментално различни категории на AI закани
Нападите кои користат AI, вклучително генерирање злонамерен код, креирање phishing пораки и координирање упади, се различен проблем од нападите кои се насочени кон AI системи, модели и агенти. Мешањето на овие две категории доведува до погрешно поставени приоритети и неефикасни реакции. Затоа, првиот чекор во заштитата од AI закани е да се знае со која категорија на закана всушност се соочувате.
2. Нападите кои користат AI се пред сè проблем на обем и брзина
Кога напаѓачите користат AI за создавање phishing содржини, пишување скрипти или автоматизирано извидување (reconnaissance), основните техники најчесто се веќе познати. Она што се менува е брзината и обемот – повеќе кампањи, повеќе варијанти и побрзо прилагодување. AI овозможува пониска бариера за влез и за помалку искусни напаѓачи. Постоечките детекциски стекови (detection stacks) сè уште можат да откријат голем дел од овие активности, но главниот предизвик за безбедносните тимови е темпото со кое нападите се менуваат и повторно се извршуваат, а не нужно новитетот на самата техника.
3. Нападите насочени кон AI се проблем на доверба и управување
Кога заканата е компромитиран агент за програмирање кој внесува злонамерна зависност, компромитиран AI модел или противнички влез (adversarial input) дизајниран да ги манипулира AI резултатите, одговорот изгледа значително поинаку.
Ова првенствено не е предизвик за детекција, туку прашање на:
- интегритет на синџирот на снабдување (supply chain integrity),
- политики за управување со AI (AI governance),
- начинот на кој организацијата ги контролира опсегот и дозволите на AI алатките што ги користи.
Многу компании брзо воведуваат AI решенија, но без соодветни рамки за управување и контрола кои треба да го следат тоа воведување.
4. Постоечките рамки не ги покриваат целосно двете категории
Најпознатиот заеднички јазик за размена на информации за AI закани – MITRE ATLAS – првенствено се фокусира на напади насочени кон AI системи. Тоа е важно, но значи дека нападите кои користат AI често остануваат на периферијата на постоечките рамки, наместо да бидат нивен централен дел. Проблемот со терминологијата не е ограничен само на една организација; тоа е празнина на целата индустрија со која безбедносните рамки постепено се усогласуваат. Во меѓувреме, безбедносните тимови имаат потреба од побрз слој за почетна проценка и приоритизација (triage).
5. Јазикот што го користите ги менува одлуките што ги носите
Изјавата „AI инцидентите се зголемени“ нема голема вредност ако во истата бројка се мешаат:
- phishing порака напишана со помош на GPT,
- и AI агент за програмирање кој внел backdoor зависност во продукциски систем.
Прецизни ознаки како:
- AI-generated – генерирано со AI,
- AI-augmented – подобрено или потпомогнато со AI,
- AI-orchestrated – координирано со AI,
- напади врз AI системи,
им овозможуваат на безбедносните тимови побрзо да стигнат до соодветен одговор и му даваат на раководството попрецизна слика за реалната изложеност на ризик.
Во област која толку брзо се развива, јасноста не е само добра практика – таа е конкурентска предност.
Јасноста е предност во одбраната
Целта не е создавање совршена таксономија (класификација). Целта е воспоставување дисциплина во начинот на категоризација. Sophos X-Ops ја создаде оваа рамка за кога ќе се појави инцидент, безбедносните тимови да имаат брза и недвосмислена ознака – која јасно разликува кој користи што, против кого и како, овозможувајќи податоците сами да ја покажат реалната слика. Како што усвојувањето на AI се забрзува на двете страни од заканувачкиот пејзаж, оваа јасност не е само корисна. Таа е неопходна.
Прочитајте го целиот блог од истражувачите на Sophos X-Ops, Rafe Pilling, Ryan Westman и Colin Cowie. → https://www.sophos.com/en-us/blog/a-double-edged-bleeding-edge-classifying-ai-threats