Ръководител на киберагенцията на САЩ качил чувствителни документи в ChatGPT

Временно изпълняващият длъжността директор на Cybersecurity and Infrastructure Security Agency (CISA) – Madhu Gottumukkala – е качил чувствителни договорни документи в публичната версия на ChatGPT, което е задействало автоматични предупреждения в мрежите на Department of Homeland Security, съобщава POLITICO. Документите не са били класифицирани, но са маркирани „For Official Use Only“, т.е. предназначени само за служебна употреба.

Според публикацията, използваната публична услуга означава, че подадената информация може да бъде обработвана от системите на компанията собственик – OpenAI – което поставя въпроси за начина, по който държавните институции управляват достъпа до AI инструменти и чувствителна информация.

Извод за бизнеса и организациите: ако използвате AI инструменти за анализ или обработка на документи, данните задължително трябва да бъдат предварително анонимизирани. Чувствителни договори, клиентски данни, вътрешна документация и служебна информация нямат място в публични AI модели, освен ако не се използват защитени, вътрешни или специално конфигурирани среди.