Двойная жизнь LLM

Привет! Меня зовут Евгений, я специалист по безопасности приложений в Naumen. Моя работа — поиск и устранение уязвимостей в продуктах и инфраструктуре.

За последние несколько лет искусственный интеллект из экспериментальной технологии превратился в повседневный рабочий инструмент. Сегодня LLM помогают разработчикам писать код, аналитикам готовить документы, а сотрудникам — быстрее находить информацию.

Но есть и обратная сторона. Те же самые технологии используют злоумышленники для фишинга, разведки инфраструктуры и автоматизации атак. Более того, сами языковые модели уже становятся целью для новых типов атак.

В этой статье разберем, как ИИ используют атакующие, чем он помогает специалистам по безопасности и какие угрозы возникают для самих LLM.

Читать далее