ИИ начинает помнить. А значит, появляется возможность менять его память.

Именно это показали исследователи, представившие атаку GhostWriter.

Она не пытается взломать модель напрямую.

Она меняет информацию, которую ассистент считает своими воспоминаниями.

Это принципиально новый уровень угроз.

Если раньше мы защищали данные, то теперь придется защищать еще и контекст, накопленный искусственным интеллектом.

В новой статье разбираю:

— что такое долговременная память ИИ;

— почему она появилась;

— как работает GhostWriter;

— какие риски возникают для пользователей и бизнеса.

ИИ с памятью действительно делает жизнь удобнее, но одновременно создаёт новый класс угроз. Главный вывод здесь простой: чем умнее помощник, тем внимательнее нужно относиться к тому, что он запоминает и на что опирается в будущем.

Шабалин Илья - эксперт по нейросетям

Полная статья доступна по ссылке