CaseScan

CaseScan — это специализированный слой детектирования, созданный для поиска материалов с насилием над детьми (CSAM), которые могут пропустить другие инструменты модерации. Он не заменяет ваш текущий стек модерации, а работает параллельно с ним, сканируя изображения и видео в момент их загрузки на вашу платформу. Инструмент сочетает перцептивный хешинг с визуальным анализом на базе ИИ, чтобы идентифицировать известный CSAM, измененные версии известных файлов, недавно созданный контент и даже CSAM, созданный ИИ. Он разработан для платформ с масштабными потоками пользовательского контента: социальных сетей, облачных хранилищ, сервисов обмена файлами и корпоративных сообществ.

Как это работает? Контент поступает через API или SDK в точке загрузки, будь то прямая загрузка файла, стрим, изображение аватара или вложение в чате. Модели ИИ и алгоритмы хеширования CaseScan анализируют медиафайлы в реальном времени, после чего выдают оценку риска, рекомендуемое действие и структурированный файл с доказательствами, который может напрямую передаваться в рабочие процессы блокировки, проверки человеком, эскалации или удаления. Компания подчеркивает, что одного сопоставления хешей недостаточно — многие файлы CSAM изменяются или создаются заново, поэтому компонент ИИ занимает центральное место в поиске того, что не встречалось ранее. Инструмент также поддерживает параллельные оценки: вы можете запустить CaseScan вместе с вашим текущим провайдером, чтобы сравнить охват детектирования, скорость и уровень ложноположительных срабатываний, используя собственный контент и политики.

Для кого это? Для команд Trust and Safety на платформах с пользовательским контентом, провайдеров облачных хранилищ и крупных онлайн-сообществ. Если ваша платформа обрабатывает загрузки изображений и видео в больших масштабах и вы беспокоитесь, что CSAM может проскользнуть через универсальный набор инструментов модерации, CaseScan предлагает выделенный слой, сфокусированный исключительно на этой категории высокого риска. Он также полезен организациям, которые хотят провести бенчмаркинг своего текущего детектирования — функция контролируемой оценки позволяет точно измерить, что именно упускает ваш существующий рабочий процесс до того, как произойдет инцидент.