Microsoft’s Copilot+ Recall: Иновативен инструмент или нож с две остриета

Като професионалист в киберсигурността, смятам че критичния анализ на новите технологии, особено тези със значителни последици за потребителската поверителност и сигурност, е важен и най-вече нужен подход за подобряване на цялостната киберсигурност, както и добра насока за разработчиците на тези нововъведения. Наскоро Microsoft представи функция за Windows 11, наречена Copilot+ Recall. Тази функция, описана от главния изпълнителен директор на Microsoft Сатя Надела като „фотографска памет на вашия PC живот,“ непрекъснато прави скрийншотове на екрана и ги събира в база данни, в която лесно може да се търси информация. Въпреки че това звучи доста иновативно и удобно, тази новост предизвика значителни опасения сред потребителите и експертите по киберсигурността. В тази статия ще разгледам практическите аспекти на Copilot+ Recall, неговото възприемане и дълбоките проблеми със сигурността и поверителността, които носи със себе си.

На хартия, Copilot+ Recall изглежда като благодат за производителността. За мениджъри и професионалисти, които жонглират с множество задачи, възможността да търсят през всичко, което са „видели“ на своя компютър, може да ускори работните процеси и да гарантира, че никоя идея няма да бъде загубена. Инструмента използва Azure AI за обработка на скрийншотове локално на устройството, превръщайки ги в индексиран текст с помощта на оптично разпознаване на символи (OCR). Идеята е, че потребителите могат бързо да си припомнят всеки документ, уеб страница или имейл, с които са взаимодействали, без значение колко назад във времето това се е случило.

Личното вече не е толкова лично

Въпреки потенциалните си предимства, въвеждането на Copilot+ Recall беше посрещнато с преобладаваща отрицателна обратна връзка. Тази реакция, макар и изненадваща за Microsoft, е съвсем предвидима за тези извън „балона“ на технологичния гигант. Основният проблем е в основната промяна, която тази функция налага върху възприятието за личното използване на компютъра.

За повечето потребители техният компютър е лично пространство. Те го използват за игри, сърфиране в интернет, гледане на видеоклипове и понякога за дейности, които предпочитат да останат лични. Идеята да има „фотографска памет“ на всичко, което правят на своя компютър, което потенциално може да бъде достъпно за други, е обезпокоителна. Потенциалът на функцията да изложи чувствителна информация на неупълномощени потребители е значителен проблем за сигурността.

Тази негативна реакцията към Copilot+ Recall подчертава и един друг по-широк проблем в Microsoft: ефекта на ехото. Това явление се появява, когато вътрешната култура и процесите на вземане на решения в компанията стават изолирано, водейки до разрив между възприятието на компанията за нейните продукти и реалността, която срещат във възприемането на промяна на съществуващи или въвеждането на нови продукти или функционалности. Според мен, в този случай Microsoft изглежда „малко“ е надценил привлекателността на Copilot+ Recall и е подценил опасенията за сигурността, които ще възникнат. Тук ще добавя и една малко конспиративна теория която също ми се струва доста възможна, а именно възможността по-лесно да се следят потебителите от агенции като NSA, ЦРУ или там която трибуквена шпионска агенция си изберете.

Тъмната страна на монетата

Въвеждането на Copilot+ Recall има дълбоки последствия за киберсигурността, които не мога да игнорирам и препоръчвам вие също да не ги подминавате с лека ръка, дори и да не сте експерти по киберсигурност. Въпреки обещанието на инструмента за локална обработка на данни, използвайки Azure AI върху локалната машина, това нововъведение си остава уязвимо на различни видове заплахи за сигурността и прави така че вашето лично пространство се превръща в доста не-лично. Един от най-значителните проблеми е, че въпреки че данните се обработват локално и се криптират в покой, веднъж след като потребителят влезе в системата, данните се декриптират и на практика стават достъпни за всички имащи достъп до машината. За съжаление Microsoft не са предприели никакви допълнителни мерки за да подсигурят критичността на данните, освен да ги криптират като всеки един друг файл върху системата с BitLocker.

Един елементарен пример би бил модифициран InfoStealer троянец, който е таргетиран да извлече данни от базата на Recall. Крадците на лична информация и сега се огромен проблем и с този ход Microsoft ни връщат с поне десетилетиe назад обезсмисляйки всички мерки, които до тук сме прилагали за да смекчим този проблем. Също така това директно противоречи на твърденията, че хакерите и зловредният софтуер не могат да достъпят данните. Криптирането защитава данните в покой, ако някой физически открадне устройството. но какво би станало при заразяване съв зловреден софтуер или успешна отдалечена атака? След като устройството е в употреба, данните на практика са декриптирани и сравнително лесно достъпни.

Друго противоречие с което се сблъскваме в твърденията на Microsoft, е че друг потребителски акаунт на същото устройство не може да достъпи базата данни на Recall. Функцията прави скрийншотове на всеки няколко секунди, обработва ги чрез OCR и съхранява получения текст в SQLite база данни в потребителската папка. Тази база данни съдържа запис на всичко, което потребителят е видял на своя компютър в чист текст. Тези файлове се съхраняват в папката AppData под нова директория, наречена CoreAIPlatform и на практика е сравнително лесно достъпна.

Към допълнение към горното, данните са достъпни за всеки в контекста на логнат потребител дори и без администраторски права, което още веднъж оспорва твърдението, че тя е сигурна.

Нищо не остава скрито

Сигурно вече си мислите, че вероятно Microsoft са предвидили опция в която Recall изключва автоматично събирането на чувствителна информация като финансови данни. За съжаление НЕ. Всичко, което е видимо на екрана, се улавя и съхранява, независимо от неговата чувствителност. Това представлява още един незащитен слой на чуствителна информация и значителен риск за поверителността, отново поради факта че лична и конфиденциална информация може лесно да бъде достъпни.

Самата база данни е компактна и се компресира се добре. Данни за няколко дни могат да заемат около 90 KB, което прави лесно извличането им дори през не толкова бърза комуникационна връзка. Търсенето върху устройството е много бързо, предоставяйки почти мигновени резултати, което, макар и удобно, също улеснява злонамерените актьори да ексфилтрират данните.

В един от постовете си в Twitter, Кевин Баумон тества успешно автоматизирано извличането на неговата Recall база данни, създавайки инструмент за търсене в нея. Това демонстрира леснотата, с която чувствителни данни могат да бъдат компрометирани. Такива възможности позволяват на нападателите да извлекат подробна информация от компютъра на потребителя, включително чувствителни корпоративни данни, лична информация и частни комуникации.

Практическите рискове, представени от Copilot+ Recall, са значителни и широкообхватни. Един от най-тревожните сценарии е потенциалът за масово изтичания на данни. Recall може да позволи на нападателите да автоматизират извличането на данни от компютъра на служители в различни бизнеси, събирайки подробна информация за потребителите и клиентите, без засегнатите компании да са наясно, кога и как това се е случило, като това може да доведе тежки последствия за отделни лица и организации. На практика корпоративният шпионаж става по-лесен от когато и да е било и компании, използващи устройства с Windows и включен Recall, могат неволно да изложат чувствителна корпоративна информация. Това представлява значителен риск за бизнес конфиденциалността и конкурентното предимство, тъй като кибершпиони могат да получат достъп до чуствителна информация, търговски тайни и стратегически планове.

Допълнително, функции като Recall могат да противоречат на регулации като GDPR, които изискват стриктен контрол върху обработката и съхранението на лични данни. Организациите трябва внимателно да обмислят правните последици от използването на такава технология. Неспазването може да доведе до тежки глоби и увреждане на репутацията им.

Дела трябват

За да адресира тези проблеми, Microsoft трябва да предприеме незабавни и решителни действия.

На първо място, според мен тази функция не трябва да бъде пускана или поне на първо време да остане опционална а не активирана по-подразбиране както се очаква когато бъде публично активирана. Цялата архитектура на инструмента трябва да бъде преработена, за да осигурят надеждни мерки за сигурност и поверителност, включвайки внедряване на по-строги контроли за достъп, подобряване на механизмите за криптиране и предоставяне на ясни потребителски контроли за управление на събирането и съхранението на данни.

Прозрачността е от решаващо значение. Microsoft трябва да бъде открит относно начина, по който работи Recall и потенциалните рискове, свързани с него. Ясната комуникация с потребителите е от съществено значение за изграждане на доверие и осигуряване на информирано вземане на решения. Потребителите трябва да разбират последиците от използването на Recall и да имат възможност да се откажат, ако имат опасения.

Освен това, Microsoft трябва да гарантира, че Recall отговаря на всички релевантни регулации за защита на данните. Това може да включва работа с регулаторни органи за разрешаване на проблеми със съответствието. И гарантиране, че функцията не нарушава законите за конфиденциалност.

Като професионалист в сигурността, виждам въвеждането на Copilot+ Recall като значителна грешка за Microsoft. Въпреки че функцията има потенциални предимства, липсата на подходящи мерки за сигурност и преобладаващите опасения за конфиденцалонстта не могат да бъдат игнорирани. Microsoft трябва да действа бързо, за да адресира тези проблеми, гарантирайки, че доверието на потребителите в техните продукти не е непоправимо увредено. Уроците, научени от тази ситуация, трябва да служат като напомняне на всички технологични компании за важността на приоритизирането на киберсигурността и конфиденциалността в разработването на продукти.