Все повече организации обмислят пълномащабната интеграция на системи с изкуствен интелект (AI). В малко от тях обаче в този процес са въвлечени екипите за киберсигурност.
45% от респондентите в ново проучване на ISACA посочват, че не участват в разработването, внедряването или прилагането на решения за AI. В същото време едва 35% от 1800 специалисти казват, че участват в разработването на подобни решения и политики.
AI се използва от различни звена в една организация, а хакерите вече разработват набори от инструменти за използването му като входна точка за кибератаки. Така че тази тенденция крие много рискове, между които:
- отравяне на данни, което компрометира процеса на обучение на AI;
- вграждане на „задни вратички“ в моделите, които позволяват неоторизиран достъп впоследствие;
- атаки към компонентите, участващи в разработването и внедряването на AI модели;
- кражба на модели, при която нападателите използват слабостите на системата, за да деактивират защитните ѝ механизми.
Затова е задължително киберсигурността винаги да бъде основна част от процеса на имплементация на подобни системи.
Свързани материали
-
-
-
-
-
