Шабалин Илья

  ИИ начинает помнить. А значит, появляется возможность менять его память. Именно это показали исследователи, представившие атаку GhostWriter. Она не пытается взломать модель напрямую. Она меняет информацию, которую ассистент считает своими воспоминаниями. Это принципиально новый уровень угроз. Если раньше мы защищали данные, то теперь придется защищать еще и контекст, накопленный искусственным интеллектом. В новой статье разбираю: — что такое долговременная память ИИ; — почему она появилась; — как работает GhostWriter; — какие риски возникают для пользователей и бизнеса. ИИ с памятью действительно делает жизнь удобнее, но одновременно создаёт новый класс угроз. Главный вывод здесь простой: чем умнее помощник, тем внимательнее нужно относиться к тому, что он запоминает и на что опирается в будущем. Шабалин Илья - эксперт по нейросетям Полная статья доступна по ссылке

 О чем мечтает нейросеть?  Большинство современных нейросетей обучаются на огромных массивах данных. Но реальный мир далек от идеального: изображения бывают переэкспонированными, информация противоречивой, а данные — неполными. Недавнее исследование предлагает интересное решение этой проблемы. Авторы разработали новую версию алгоритма «Центрированное мечтание», вдохновленного работой человеческой памяти. Вместо того чтобы хранить все подряд, модель учится выделять действительно значимые признаки и игнорировать информационный шум. Разобрал исследование простым языком и объяснил, почему подобные работы могут оказаться важнее появления очередной большой языковой модели. Читайте полную статью: " Зачем ИИ учить мечтать по-новому? "