AI

Един акаунт, пет API заявки и достъп до чужд код, бази данни и чатове с чувствителна информация. Това не е сценарий от CTF, а реален случай с Lovable – платформа за т.нар. vibe coding, оценена на $6.6 млрд. и използвана от екипи в компании като Microsoft и Nvidia. Случаят се превърна в показателен пример как лошо архитектурно решение избор може да прерасне в сериозен пробив в киберсигурността.

Достъп „по дизайн“

Изследовател с псевдоним @weezerOSINT демонстрира, че чрез стандартен безплатен акаунт може да се достъпят:

• сорс код на проекти
• database credentials
• AI чатове с бизнес логика и PII
• реални потребителски данни

Достъпът идва без експлойт или сложна атака – достатъчни са няколко API заявки. Част от засегнатите проекти включват реални организации, с данни за служители и партньори.

Къде е проблемът

Lovable първоначално отрича пробив, обяснявайки, че видимостта е резултат от „public“ настройки. По-късно признава, че документацията е създала объркване и че част от поведението е било „по дизайн“.

„Потребителите споделят какво изграждат, логове, credentials – всичко се съхранява и е било достъпно“, описва изследователят.

Домино ефект в киберсигурността

Този случай показва как една UX концепция може да отключи домино ефект:

• „Public“ означава повече от планираното
• AI чатове се превръщат в източник на чувствителни данни
• credentials попадат в сорс код и логове
• достъпът става масов, а не таргетиран

В резултат, границата между удобство и хак се размива – особено в платформи, които насърчават бързо разработване чрез AI.

Реакцията: урок как комуникацията усилва риска

Lovable преминава през три фази:

• първоначално отричане
• прехвърляне към документация и партньори
• частично признание и корекция

Този модел се повтаря и при други AI платформи, където скоростта на иновация изпреварва зрелостта на сигурността. Подобни реакции увеличават репутационния риск, особено при платформи с enterprise потребители.

Предвид, че и в България масово се използват AI инструменти за ускоряване на разработката – от стартиращи компании до корпоративни IT отдели, този случай трябва да ви накара да си зададете прост въпрос:

Къде свършва продуктивността и започва рискът?

При работа с външни AI платформи, често се споделят:

• вътрешна архитектура
• логове от продукционна среда
• ключове и достъпи

Това превръща подобни инциденти в директно релевантни за локалния пазар.

Заключение: малки решения, големи последствия

Случаят с Lovable показва, че пробивите в киберсигурността рядко започват като „атака“. Често започват като продуктово решение, което изглежда логично в началото.

Основните изводи:

• ясните дефиниции на „public“ и „private“ са критични
• AI инструментите съхраняват повече контекст, отколкото изглежда
• малки UX решения могат да имат системен ефект

Темата остава отворена, особено за организации, които интегрират AI в ежедневната си работа. Ако подобни процеси са част от вашата среда, разговорът за сигурността им тепърва започва.

Септември 2025 ще остане в историята като момента, в който автономните AI агенти преминаха от експеримент към реална оперативна способност — и то в ръцете на противника. Репорт на Antropic.ai (авторите на Claude) разкрива първата потвърдена мащабна кибератака, изпълнена почти изцяло от AI модел, използван като самостоятелен агент. Атаката, приписвана с висока степен на увереност на китайска държавно подкрепена група, показва фундаментална промяна в киберрисковете, индустрията и глобалния баланс на силите.

Инфлексията: когато AI започва да действа сам

В последните 18 месеца виждаме как големите езикови модели удвояват киберспособностите си на всеки шест месеца. Това, което досега беше “vibe hacking” — осезаема помощ на AI към нападатели — вече е еволюирало в нещо много по-мащабно: агенти, които сами изпълняват цялата верига на атаката.

Какво е различното този път

1. AI моделът изпълнява атаката, а не просто съветва как да се изпълни.
2. Човешкото участие беше ограничено до няколко ключови решения.
3. Моделът работи цял  екип, правейки хиляди заявки в секунда — скорост невъзможна за човешки оператори.

Атаката е обхванал около 30 световни организации, сред които технологични компании, финансови институции, химически производители и държавни агенции.

Според разследването, нападателите са успели да манипулират Claude Code — AI инструмент за разработчици — така, че той да се превърне в автономен хакерски екип.

Как протече атаката: новият kill chain в ерата на агентите

Атаката преминава през пет фази, всяка опираща се на три ключови способности, характерни за новото поколение AI: интелигентност, агентност, инструменти.

Фаза 1: Човекът дава идея, AI изпълнява

Операторите:

1. избират целите,
2. създават агентна рамка,
3. “убеждават” модела да извършва дейности, които иначе биха били блокирани от защитите.

Тук се използват класически jailbreak техники:

• разбиване на задачите на дребни, “невинни” фрагменти,
• представяне на задачата като пентест,
• създаване на фалшив корпоративен контекст (“ти си служител на фирма за киберсигурност”).

Фаза 2: Автономно разузнаване

Claude Code:

1. обхожда инфраструктурата,
2. идентифицира най-ценните бази данни,
3. картографира системи и потребители,
4. връща синтезиран доклад към оператора.

Прави за минути това, което на човешки екип би отнело дни.

Фаза 3: Намиране на уязвимости и писане на експлойтове

Тук AI:

1. открива пропуски в сигурността,
2. пише експлойт код,
3. тества payload-и,
4. изследва публични и вътрешни системи.

Моделът автоматично генерира код, валидира го и го адаптира — цикъл, който човешки екипи изпълняват ръчно и бавно.

Фаза 4: Ескалация и ексфилтрация

Claude:

1. краде потребителски имена и пароли,
2. ескалира привилегии,
3. създава бекдори,
4. изтегля данни,
5. категоризира ги по “разузнавателна стойност”.

Нивото на структурираност и автоматизация тук е безпрецедентно.

Фаза 5: Документация — за следващата кампания

AI автоматично създава:

1. отчет за пробива,
2. списъци с компрометирани акаунти,
3. карта на системите,
4. инструкции за повторна атака.

Това е първият случай, в който AI сам документира собствената си операция, за да оптимизира бъдещи атаки.

Защо тази атака е различна от всичко видяно досега

1. 80–90% автономност
   Това вече не е “помощник на хакер”. Това е хакерски екип, работещ със свръхчовешка скорост.
2. Скъсяване на цикъла
   Атаки, които изискваха седмици, сега се изпълняват за часове.
3. Демократизация на атаките
   Групи с малко ресурси вече могат да постигат резултати, достъпни по-рано само за държавно-спонсорирани организации.
4. Нова надпревара във въоръжаването
   Същите способности, които превръщат AI в атакуващ инструмент, го правят незаменим за защита:
   1. автоматизация на SOC,
   2. идентифициране на заплахи,
   3. анализ на логове,
   4. реакция при инциденти,
   5. масова обработка на телеметрия.

Този случай показва: без AI в отбраната няма как да се посрещнат AI в нападението.

Какво означава това за бизнеса, държавата и индустрията

1. Техническият дълг става национален риск
   Организации с остарели системи или разпилени данни ще бъдат първите жертви на следващото поколение AI атаки.
2. AI агентите променят kill chain-a
   Откриване – експлойт – ексфилтрация – документация: всичко може да бъде затворено в автономен цикъл.
3. AI-базираните SOC-ове стават задължителни
   Киберзащитата преминава към модели, които:
   1. анализират огромни масиви данни,
   2. откриват аномалии в реално време,
   3. автоматично ограничават щети.
4. Нови регулации и международни стандарти
   Ще видим:
   1. политики за управление на AI-агенти,
   2. сертифициране на модели,
   3. ограничения върху инструментите, достъпни чрез MCP.

Какво означава това за България

1. Българските компании вече са (ин)директни цели
   Глобални вериги за доставки, доставчици на услуги, ИТ аутсорсинг — всички стават входна точка за подобни кампании.
2. Изоставането става все по-лесно и все по-фатално
   Организации с неактуализирани системи и липса на 24/7 SOC са уязвими за автоматизирани атаки от такъв тип.
3. Шанс да реагираме навреме
   AI-базираната защита сега ви дава конкурентно предимство в бъдеще.
4. Образование и кадри
   Този случай подчертава нуждата от:
   1. локални SOC специалисти,
   2. AI-инженери,
   3. политики за безопасно внедряване на агенти в бизнеса.

Пълният доклад на Antropic.ai. прочетете тук.

ЕС възнамерява да укрепи цифровата си сигурност със значителни инвестиции. За целта блокът обяви отпускането на 1,3 млрд. EUR за финансиране на иновативни проекти в областта на киберсигурността и AI през следващите три години.

Този нов пакет ще финансира проекти между 2025 и 2027 г. като част от програмата „Цифрова Европа“ (DIGITAL). Тя стартира през 2021 г. и е насочена към разгръщането на технологични инициативи. Нейният първоначален бюджет е в размер на 8,1 млрд. евро и обхваща периода 2021-2027 г.

Част от новото финансиране в размер на 1,3 млрд. EUR ще бъде предназначено за проекти в областта на киберсигурността, в това число:

• Повишаване на киберустойчивостта на критичните системи на ЕС, особено за болници и подводни кабели;
• Подкрепа за въвеждането на Digital Identity Wallet, за да се повиши киберустойчивостта на гражданите на ЕС. Той ще предоставя сигурни, оперативно съвместими и лесни за използване решения за цифрова идентичност.

Участието в програмата DIGITAL ще бъде отворено през април 2025 г. Тя ще предостави възможности за финансиране на различни субекти, включително бизнеси и публични администрации, от държавите членки на ЕС.

Заинтересованите страни могат да намерят допълнителна информация за критериите за допустимост чрез EU Funding & Tenders Portal.

Грешка в ChatGPT позволява на нападателите да пренасочват потребителите към злонамерени URL адреси.

Според компанията за киберсигурност Veriti това излага на риск 35% от организациите, които използват платформата на OpenAI. Причината са неправилно конфигурирани intrusion prevention systems (IPS), WAF и firewall.

Нападателите могат да използват тази уязвимост, за да инжектират злонамерени URL адреси във входните параметри на ChatGPT. Използването ѝ е насочено основно срещу финансови организации.

За да се защитите:

• проверете своите IPS, WAF и firewall конфигурации;
• приоритизирайте свързаните с AI пропуски в сигурността в оценките на риска;
• винаги имайте едно наум, когато проследявате линкове към източници, подадени ви от GenAI платформите.

87% специалисти по сигурността в ново проучване казват, че организацията им се е сблъскала с кибератака, задвижвана от AI, през 2024. Oткриването им все още е предизвикателство – едва 26% от тях изразяват висока увереност в способностите си.

91% от респондентите в SoSafe 2025 Cybercrime Trends очакват значителен ръст на този тип заплахи през следващите три години.

Global Cybersecurity Outlook 2025 пък посочва 223% увеличение на търговията с deepfake инструменти във Dark Web между Q1/2023 г. и Q1/2024.

Сред най-често споменаваните проблеми, които AI може да създаде в ръцете на нападателите, са техниките за замаскиране на атаките (51%). Друг такъв е, че технологията дава възможност за многоканални атаки. Те съчетават електронна поща, SMS, социални медии и платформи за сътрудничество.

AI, разбира се, може да се използва и за защита на бизнесите. Но технологиите са толкова силни, колкото хората, които ги използват. Информираността за киберсигурността е от решаващо значение. Без информирани служители, които могат да разпознават и да реагират на заплахите, дори и най-добрата технология не може да се справи.

Google Chrome надгради съществуващата функция Enhanced protection с изкуствен интелект. По този начин браузърът вече предлага защита в реално време срещу зловредни уебсайтове, изтегляния и разширения.

Актуализацията е достъпна за всички платформи след тримесечно тестване в Canary.

Enhanced protection, част от функцията Safe browsing, е налична от години, но вече предлага по-високи нива на сигурност. AI следи за рисковете в реално време и предупреждава потребителите за потенциално опасни сайтове. Той също така извършва задълбочено сканиране за подозрителни изтегляния.

Enhanced protection с AI е изключена по подразбиране. Можете да включите новата функция от от Settings > Security в Windows, Android and iOS.

 

През 2024 г. Google e блокирала 2,36 млн. рискови приложения, подадени в Play Store. Освен това 158 000 акаунта на разработчици са били затворени заради опити за публикуване на зловреден и шпионски софтуер в официалния магазин за Android.

За сравнение, през 2023 г. Google е блокирала 2 280 000 рискови приложения, а през 2022 г. – 1 500 000. Цифрите за блокираните акаунти на разработчици са били съответно 333 000 и 173 000.

По-големият брой блокирани приложения през 2024 г. отчасти се дължи на изкуствения интелект, подпомагащ човешките прегледи. Технологията е била използвана в 92% от случаите, при които са открити нарушения.

Google съобщава също така, че е предотвратила и получаването на прекомерни разрешения от 1,3 милиона приложения. Те биха им предоставили ненужен достъп до чувствителни потребителски данни.

Въпреки че компанията засилва защитата на Android всяка година, пропуски в сигурността продължава да има. Киберпрестъпниците използват нови, все по-усъвършенствани методи за заобикаляне на автоматичните скенери.

Затова потребителите трябва:

• да се доверяват само на реномирани разработчици и винаги да проверяват отзивите за непознати такива;
• да поддържат броя на инсталираните приложения на минимално необходимото ниво;
• да проверяват и отменят разрешенията на рискови приложения и да гарантират, че системата за проверка Play Protect работи във всеки един момент.

През изминалата година уязвимостите в API, свързани с изкуствен интелект (AI), са се увеличили с 1205%.

57% от задвижваните от AI API са достъпни отвън, а при 89% липсва сигурно удостоверяване. Едва 11% са приложили надеждни мерки за сигурност, сочат данните от 2025 API ThreatStats Report на Wallarm.

Пропуските в механизмите за автентикация остават критичен проблем – 89% от API, задвижвани от AI, са уязвими. Това важи както за наследените, така и за по-новите интерфейси. На този фон, нарушенията на API се утрояват през 2024 г.

А примерите от реалния свят дебело подчертават мащаба на рисковете. Пробивът в API на Dell например изложи на риск 49 милиона записа през май 2024 г. В сферата на здравеопазването Ascension Health се сблъска с опустошителен пробив в API, който засегна 5,6 милиона пациенти през декември.

Приложно-програмните интерфейси се превръщат в гръбнак на интеграцията на AI. И тъй като заплахите, свързани с API, продължават да се увеличават, бизнесите трябва да дадат приоритет на сигурността, за да защитят своите операции, данни и репутация.

 

Нашумeлият в последните дни китайски AI разработчик DeepSeek спря регистрациите в чат платформата си DeepSeek-V3. Причината – продължаваща „мащабна“ кибератака, насочена към нейните услуги.

DeepSeek е сравнително нова платформа за изкуствен интелект. Тя обаче бързо привлече вниманието заради разработването и пускането на усъвършенстван модел със значително по-ниски разходи. Тази новина разтърси из основи фондовия пазар в САЩ.

Точно когато приложението DeepSeek AI Assistant изпревари ChatGPT като най-изтегляното в Apple App Store, компанията е принудена да изключи новите регистрации. Твърди се, че това се дължи на DDoS атака срещу нейния API и самия AI чатбот.

Това не е изненада за професионалната общност. В понеделник доставчикът на киберсигурност KELA обяви, че е успял да пробие модела и да произведе злонамерени резултати. Пробивът включва широк спектър от сценарии – разработване на ransomware софтуер, изработване на чувствително съдържание и подробни инструкции за създаване на токсини и взривни устройства.

Служителите споделят широк спектър от данни в инструменти за генеративен изкуствен интелект (GenAI). Това оправдава колебанието на много организации да възприемат използването на технологията.

Всеки път, когато потребител въвежда данни в свой промпт за ChatGPT или друг подобен инструмент, информацията се поглъща от големия езиков модел. След това тя се използва за обучение на следващото поколение на алгоритъма. Опасенията са, че информацията може да бъде извлечена по-късно чрез уязвимости в моделите, ако не е осигурена подходяща защита на данните за въпросната услуга.

От Harmonic.ai са анализирали хиляди промптове, подадени от потребители в GenAI платформи като Copilot, ChatGPT, Gemini, Claude и Perplexity. Общо 8,5% от анализираните заявки са включвали поверителни данни.

Те попадат в една от петте категории: данни за клиенти, данни за служители, правни и финансови данни, данни за сигурност, чувствителен код.

Според изследователите данните за клиенти заемат най-голям дял от подканите – 45,77%. Тези за служители съставляват 27% от чувствителните подсказки в проучването на Harmonic.

Това показва, че GenAI инструментите все повече се използват за вътрешни процеси. Те включват прегледи на представянето, решения за наемане и дори определяне на годишните бонуси.

Правната и финансовата информация не е толкова често изложена на риск – 14,88% от случаите, но когато това се случи, носи голям корпоративен риск.

Тази статистика показва, че бизнесите трябва да обучават своите служители какво е подходящо да сподеят с моделите за генеративен изкуствен интелект и какво не. Въвеждането на стриктни политики за киберсигурност и работа с вътрешна информация е задължително условие за защита на критичните данни на една организация.