Обзор

Новости ИИ

130 материалов — отфильтровано, классифицировано, без дублей

Хабр — Искусственный интеллект Security & Safety
OpenClaw и Hermes на одном VPS: чего стоит связать двух агентов безопасно
Хабр — Искусственный интеллект Security & Safety
Самая опасная уязвимость — интеллект атакующего агента?
Хабр — Искусственный интеллект Security & Safety
Открытая модель сбежала из песочницы на тестах. Поставить ее на паузу уже невозможно
Хабр — Искусственный интеллект Security & Safety
Загрузил не тот файл в нейросеть — уволен. Как устроена безопасность данных в ИИ
Хабр — Машинное обучение Security & Safety
У нас есть для вас пакет! Как LLM придумывают несуществующие зависимости
Хабр — Искусственный интеллект Security & Safety
«Предложи ей помощь с уборкой!»: Как DeepSeek перепутал скамера с жертвой и до последнего…
Хабр — Искусственный интеллект Security & Safety
OpenAI снесла тайную доску своих агентов. Через два дня они собрали новую — из имен папок
Хабр — Искусственный интеллект Security & Safety
Как внедрять MLSecOps: пять этапов практического road-map
Хабр — Искусственный интеллект Security & Safety
ИИ и контроль: токены Пентагона, агенты-хакеры на PyPI и научный слоп
Хабр — Искусственный интеллект Security & Safety
Агенты Anthropic и OpenAI атаковали реальных людей на тестах AISI. И помогали друг другу …
Хабр — Искусственный интеллект Security & Safety
OWASP LLM10: Unbounded Consumption. Тестируем современные языковые модели на ресурсоёмких…
Хабр — Машинное обучение Security & Safety
Как агентные LLM встроили в операцию против госструктур: разбор кампании Hunt.io
Хабр — Машинное обучение Security & Safety
460 целей, ноль автономных взломов: как Telegram-бот на DeepSeek подставил хозяина
Хабр — Искусственный интеллект Security & Safety
ИИ в IT: как пользоваться ChatGPT и не слить конфиденциальные данные
Хабр — Искусственный интеллект Security & Safety
Пять уровней защиты платежей в продукте, который собрал не программист
Хабр — Искусственный интеллект Security & Safety
ИИ по обе стороны кибербезопасности: интервью с руководителем ИБ Своего Банка
Хабр — Искусственный интеллект Security & Safety
MLSecOps от кода до продакшена: разные акценты для разных сценариев использования ИИ
Хабр — Искусственный интеллект Security & Safety
Битва ИИ: как мы натравили 4 атакующих агента на MaxPatrol O2 и кто победил
Хабр — Искусственный интеллект Security & Safety
Видеозвонок больше не доказательство: как дипфейки взламывают корпоративное доверие
Хабр — Искусственный интеллект Security & Safety
Как не дать ИИ‑психологу поддакивать и галлюцинировать. Инженерный разбор safety‑обвязки
Хабр — Искусственный интеллект Security & Safety
Агент OpenAI не сошёл с ума. Что мы знаем о взломе Hugging Face спустя неделю
Хабр — Искусственный интеллект Security & Safety
[Перевод] Какие данные собирают чат‑боты с искусственным интеллектом и что пользователи м…
Хабр — Искусственный интеллект Security & Safety
Prompt injection — лучше один раз увидеть
Хабр — Искусственный интеллект Security & Safety
Стало известно, как ИИ‑агент OpenAI сбежал и взломал Hugging Face. Дыра нашлась в софте J…
Хабр — Искусственный интеллект Security & Safety
Ищем скрытые возможности прошивки и бэкдоры коммутатора за 3 промпта
Хабр — Искусственный интеллект Security & Safety
Автоматизация реверс‑инжиниринга через локальную LLM
Хабр — Искусственный интеллект Security & Safety
Prompt injection не чинится фильтром. Разбираем архитектуру, которая изолирует недоверенн…
Хабр — Машинное обучение Security & Safety
Модель ведет себя хорошо, потому что знает, что ее тестируют: почему зеленый safety-бенч …
Хабр — Машинное обучение Security & Safety
Модель не виновата: разбираем 3 громких ИИ-инцидента, которые случились из-за отсутствия …
Хабр — Искусственный интеллект Security & Safety
Теперь вы можете защититься от утечки данных при работе с любыми языковыми моделями