Trend Micro: как киберпрестъпниците ползват генеративен изкуствен интелект

В скорошен доклад на Trend Micro експертите разглеждат увеличеното използване на генеративен изкуствен интелект от киберпрестъпници, подчертавайки както текущите му приложения, така и потенциалните бъдещи заплахи. Основната злоупотреба включва пренасочване на съществуващи AI технологии, а не създаване на нови форми на AI зловреден софтуер.

Престъпниците „освобождават“ (jailbreak) AI модели, променяйки ги да работят извън техните етични ограничения. Това включва създаването на дълбоки фалшификации за манипулиране на финансови системи или измами с имитация на личности.

Интересно е, че инструменти за AI се адаптират за подобряване на фишинг схеми, като ги правят по-сложни чрез персонализиране на атаките с информация, събрана от уеб пространството. Има също така увеличение в съдържанието, генерирано от AI, което поддържа кампании за дезинформация или манипулира социалните медии, което затруднява разграничаването между легитимни и злонамерени комуникации.

Анализът на Trend Micro показва нарастваща тенденция към автоматизация на кибер атаките. AI се използва за сканиране на системни уязвимости или автоматизиране на хакерски процеси, което увеличава мащаба и скоростта на атаките. Възможността за AI да генерира полиморфен зловреден софтуер, който може да променя своя код, за да избегне откриване, е особено тревожна. Това може да доведе до възход на ефективни атаки с нулев ден (—експлоатиране на досега неизвестни уязвимости—представляващи значителни предизвикателства за защитите в киберсигурността.

Докладът подчертава необходимостта от адресиране на тези заплахи. Призовава се за международно сътрудничество за установяване на стандарти и регулации, които ограничават злоупотребата с AI технологии, докато се насърчават техните ползи. Промишлеността се призовава да разработи специфични за AI решения, които могат да предвиждат и да противодействат на заплахите, задвижвани от AI, предлагайки по-проактивни механизми за киберзащита.

За пълен анализ и допълнителни подробности за това как технологиите AI променят пейзажа на кибер заплахите, можете да прочетете пълния доклад на уебсайта на Trend Micro тук.