OpenAI выпустила инструмент для поиска детской порнографии
Новый классификатор изображений поможет следствию быстрее находить материалы с насилием над детьми. Система умеет распознавать даже те кадры, которые были созданы нейросетями.
Инструмент анализирует визуальные признаки насилия и присваивает изображениям баллы. Это помогает модераторам расставлять приоритеты при проверке контента. В отличие от старых методов, работающих по хеш-суммам, новый классификатор находит новые и синтетические изображения. Он также содержит специальный сигнал, указывающий на ИИ-генерацию.
Источники · 6
- OpenAI wants to stop deepfakes from overwhelming child abuse tiplines
- OpenAI、児童性的虐待コンテンツ(CSAM)検出ツールを公開 ChatGPTで探すと24時間アカウント停止の警告も
- OpenAI 推出儿童性虐待内容检测工具,加强儿童网络安全防护
- OpenAIが児童ポルノ検出ツールを開発し監視団体に提供開始
- OpenAI rolls out CSAM detection tool and new child safety measures
- 오픈AI, 아동 성착취물 탐지 AI 공개...챗GPT 경고·24시간 이용 정지 기능도 도입
