최고의 콘텐츠 모더레이션 API: 텍스트·이미지·동영상 비교

최고의 콘텐츠 모더레이션 API를 가르는 것은 정확도 홍보 문구보다 네 가지 단순한 사실입니다. 어떤 미디어를 읽는지, 어떤 카테고리를 반환하는지, 어떻게 과금하는지, 직접 운영할 수 있는지입니다. OpenAI의 omni-moderation-latest는 무료이고 텍스트와 이미지를 읽지만^[1][2], 이미지에는 13개 카테고리 중 6개만 적용하고 오디오는 분류하지 않습니다^[2]. Amazon Rekognition은 동영상을 분 단위로 모더레이션합니다^[3]. Mistral은 멀티모달 모더레이션 모델의 오픈 웨이트를 공개합니다^[4]. 선택을 좌우하는 것은 어떤 벤치마크보다 이런 차이입니다.

이 비교는 11개 선택지를 다루며, 각각 2026년 10월에 벤더의 공식 문서와 가격 페이지로 확인했습니다. 각 API가 무엇을 다루고 어떻게 과금하는지에 집중합니다. 항목별 실제 가격과 비용 계산 예시는 OpenAI Moderation API는 무료인가?를 참고하세요.

TL;DR

• 적은 예산으로 텍스트와 이미지: OpenAI 모더레이션 엔드포인트. OpenAI API 사용자는 무료, 13개 카테고리^[1][2].
• PII·탈옥 탐지가 필요한 텍스트: Mistral Moderation 2. 무료로 표시, 텍스트 카테고리 11개^[5][6].
• 동영상: Amazon Rekognition(저장 동영상과 스트리밍 동영상, 분 단위 과금) 또는 Sightengine(유료 플랜에서 동영상, Pro에서 라이브 스트림)^[3][7].
• 세밀한 이미지 라벨: 최상위 카테고리 10개를 둔 Rekognition의 3단계 분류 체계, 또는 Sightengine의 120개 이상 이미지 클래스^[8][7].
• 셀프 호스팅: Mistral의 Shieldstral 1.0(Apache 2.0 웨이트, 퍼블릭 프리뷰) 또는 약정 플랜의 Azure 연결 끊김(disconnected) 컨테이너^[4][9].
• 신규 구축에서는 피할 것: Perspective API. 2026년 12월 31일 이후 서비스가 종료됩니다^[10].

콘텐츠 모더레이션 API를 가르는 기준

대부분의 모더레이션 API는 같은 형태의 답을 돌려줍니다. 카테고리 목록과 각 카테고리의 점수 또는 심각도입니다. 실제 운영에서 중요한 차이는 다른 곳에 있습니다.

모달리티. 텍스트 전용 API는 업로드된 사진에 도움이 되지 않고, 이미지 API는 캡션을 읽지 않습니다. 동영상은 더 드뭅니다. 아래 선택지 중 동영상 모더레이션을 내세우는 것은 Amazon Rekognition, Sightengine, Hive뿐이며, Hive는 문의 양식을 통해 활성화합니다^[3][7][11].

카테고리 설계. OpenAI는 13개 유해 카테고리를 불리언과 01 점수로 반환합니다^[2]. Azure는 4개 카테고리(혐오, 성적, 폭력, 자해)를 반환하며 심각도는 텍스트가 07, 이미지가 0·2·4·6입니다^[12]. Google Natural Language는 16개 속성을 반환하는데, Health, Finance, Politics, Legal처럼 여러 개는 유해성보다는 민감한 주제입니다^[13]. 정책이 작성된 방식에 맞는 설계를 고르세요.

과금 단위. 벤더마다 문자 수, 텍스트 레코드, 요청, 이미지, 분, 또는 '오퍼레이션'을 세며, 단위에 따라 저렴한 입력이 달라집니다. 50자 댓글은 Hive에서는 요청 1건이지만 Amazon Comprehend에서는 300자로 과금됩니다^[11][14]. 각 단위는 가격 비교에서 설명합니다.

어디에서 실행되는가. 모든 호스팅 API는 사용자 콘텐츠를 제3자에게 보냅니다. 그것이 허용되지 않는다면 후보는 다운로드 가능한 웨이트나 컨테이너가 있는 선택지로 좁혀집니다.

최고의 콘텐츠 모더레이션 API 비교표

오디오는 별도의 요구입니다. OpenAI 모델은 오디오를 분류하지 않습니다^[2]. Hive는 오디오 모더레이션을 분 단위로 과금하고, Sightengine은 Pro 플랜에 포함합니다^[11][7].

사용 사례별 최고의 콘텐츠 모더레이션 API 고르기

채팅, 댓글, LLM 프롬프트

채팅 앱, 댓글 영역, LLM 파이프라인의 텍스트라면 무료 선택지부터 시작하세요. OpenAI 엔드포인트는 괴롭힘, 혐오, 불법 행위, 자해, 성적, 폭력 계열과 하위 카테고리를 다루며^[2], Responses API는 모델의 입력과 출력에 대한 모더레이션 점수를 같은 호출에서 돌려줄 수 있습니다^[2]. Mistral Moderation 2는 OpenAI에 없는 카테고리를 더합니다. PII, 탈옥, 그리고 맞춤형 의료·금융·법률 조언 요청입니다^[6]. 프롬프트 인젝션이나 개인정보를 캐내려는 사용자가 걱정이라면 이 목록이 더 잘 맞습니다.

확률 대신 단계별 심각도가 필요하거나 사용자 정의 카테고리(프리뷰)를 만들어야 한다면 Azure를 고르세요^[12][20]. Azure Content Safety 모델은 8개 언어로 학습·테스트되었고, 다른 언어에서도 동작하지만 품질은 들쭉날쭉할 수 있습니다^[20]. Amazon Comprehend의 유해성 탐지는 영어만 지원합니다^[15].

사용자가 업로드한 이미지

범용 모델은 이미지에서 더 얇습니다. OpenAI는 이미지에 자해, 성적, 폭력 계열만 적용하고 괴롭힘, 혐오, 불법 행위는 텍스트 전용입니다^[2]. Azure는 4개 카테고리를 이미지에도 적용합니다^[12].

정책에 수영복, 술, 도박, 마약, 무례한 제스처, 혐오 상징 같은 항목이 있다면 이미지 전문 서비스를 쓰세요. Rekognition은 이것들을 최상위 카테고리로 두고 있고^[8], Sightengine은 120개 이상의 이미지 클래스를 제공합니다^[7]. 이미지 입력, 임계값, 코드는 이미지 모더레이션 API 가이드에서 더 자세히 다룹니다.

동영상과 라이브 스트림

Rekognition은 Amazon S3에 저장된 동영상과 스트리밍 동영상 이벤트를 분석하며 처리한 분 단위로 과금합니다^[3]. Sightengine은 Starter에서 최대 50 MB, Pro에서 최대 500 MB 동영상 파일과 라이브 스트림을 처리합니다^[7]. Hive는 문의 양식으로 동영상을 활성화한 뒤 사용자가 정한 샘플링 빈도로 프레임을 추출합니다^[11].

인프라 밖으로 나가면 안 되는 데이터

Mistral의 Shieldstral 1.0은 Apache 2.0으로 공개된 38억 파라미터 모델로, 자연어로 쓴 정책 질문에 따라 텍스트와 이미지 입력을 분류하며 컨텍스트는 32k 토큰입니다. 현재 퍼블릭 프리뷰입니다^[4]. Azure는 Content Safety를 수억 레코드 규모의 연간 약정 단계로 연결 끊김 컨테이너 형태로 판매하며^[9], 소규모 팀보다는 대기업에 맞습니다.

이미 Perspective API를 쓰고 있다면

Jigsaw는 Perspective를 종료합니다. 서비스는 2026년 12월 31일까지 운영되고, 신규 사용·할당량 요청은 2026년 2월까지만 받았으며, 마이그레이션 지원은 없습니다^[10]. 지금 이전을 계획하세요. 유해성 유형의 속성이 필요하다면 Google Natural Language Text Moderation이 16개 속성 중 Toxic, Insult, Profanity를 반환합니다^[13].

reAPI에서 생성과 모더레이션을 함께

이미 reAPI로 이미지, 동영상, 텍스트를 생성하고 있다면 Content Moderation은 같은 키, 같은 크레딧 잔액, 같은 태스크 계약으로 omni-moderation-latest를 실행합니다. 비동기 방식으로 /api/v1/moderations에 제출한 뒤 태스크를 폴링합니다^[21]. OpenAI의 동기 응답과 다르기 때문에 OpenAI SDK 통합을 그대로 대체할 수는 없습니다. 모더레이션 유닛 단위로 과금되며 현재 요금은 모델 페이지에 있습니다^[19].

OpenAI Moderation API로 충분한가?

이 질문은 개발자 포럼에서 그대로 나온 것이고, 답은 "많은 텍스트 작업에는 충분하다"입니다. 무료이고, 13개 카테고리를 다루며, 문자열 배치를 받습니다^[1][2]. 한계가 문서화되어 있으니 자신의 사례와 대조해 볼 수 있습니다.

• 7개 카테고리는 이미지를 보지 않으므로 이미지 중심 플랫폼은 부분적인 커버리지만 얻습니다^[2].
• 오디오는 분류하지 않으며, OpenAI가 문서화한 입력은 텍스트와 이미지뿐입니다^[2].
• OpenAI는 모델을 계속 업그레이드하므로 category_scores 기반 임계값은 "may need recalibration"입니다^[2].
• CSAM 탐지용으로 설계되지 않았으며, OpenAI는 그런 자료를 보내지 말라고 안내합니다^[2].
• 처리량은 사용 티어로 제한되며 Free 티어는 하루 5,000건부터입니다^[22].

이 중 어느 것에도 걸리지 않는다면 기본 선택입니다. 하나라도 걸린다면 위 표에서 그 빈틈을 메우는 API를 찾을 수 있습니다.

자주 묻는 질문

OpenAI Moderation API로 충분한가요?

13개 카테고리 안의 텍스트 모더레이션이라면 대체로 충분하며 비용도 들지 않습니다^[1]. 오디오나 동영상, 자해·성적·폭력 계열을 넘어서는 이미지 검사, PII나 탈옥 같은 카테고리가 필요하다면 부족합니다^[2][6].

Azure 콘텐츠 모더레이션 API

Azure의 현재 제품은 Azure AI Content Safety로, Analyze Text와 Analyze Image라는 별도 API가 혐오, 성적, 폭력, 자해를 심각도 단계와 함께 평가합니다^[20][12]. Prompt Shields, 보호 자료 탐지, 사용자 정의 카테고리도 제공합니다^[20]. 무료 티어는 매월 텍스트 레코드 5,000건과 이미지 5,000장입니다^[9].

Google 콘텐츠 모더레이션 API

Google은 모더레이션을 두 API로 나눕니다. 이미지용 Cloud Vision SafeSearch(가능성 카테고리 5개)^[16]와 텍스트용 Cloud Natural Language Text Moderation(속성 16개)입니다^[13]. 둘 다 월간 무료 한도가 있습니다^[17][18].

Amazon Rekognition 콘텐츠 모더레이션 API

Rekognition은 DetectModerationLabels로 이미지를 모더레이션하고, 저장 동영상과 스트리밍 동영상도 모더레이션합니다^[3]. 라벨은 3단계 분류 체계를 따르며 최상위 카테고리는 Explicit, Violence부터 Gambling, Hate Symbols까지 10개입니다^[8]. AWS에서 텍스트를 다루려면 Amazon Comprehend의 유해성 탐지가 별도의 영어 전용 선택지입니다^[15].

Mistral 모더레이션 API

Mistral은 /v1/moderations에서 mistral-moderation-2603(Mistral Moderation 2)을 제공하며, 컨텍스트는 128k이고 가격은 무료로 표시되어 있습니다^[5]. PII와 탈옥을 포함한 11개 카테고리로 텍스트를 분류합니다^[6]. 오픈 웨이트 형제 모델인 Shieldstral 1.0은 이미지도 읽습니다^[4].

동영상 모더레이션 API

동영상 모더레이션을 내세우는 곳은 Amazon Rekognition, Sightengine, Hive입니다. 이 비교에 포함된 OpenAI, Azure Content Safety, Google, Mistral의 모더레이션 API는 텍스트나 이미지 입력만 문서화하고 있습니다^[3][7][11]. 텍스트·이미지 API를 쓴다면 직접 프레임을 추출해 이미지로 보내는 방법이 있으며, Hive도 자사 동영상 처리를 이렇게 설명합니다^[11].

최고의 이미지 모더레이션 API

술, 도박, 혐오 상징 같은 라벨까지 포함하는 폭넓은 이미지 정책이라면 Rekognition이나 Sightengine입니다^[8][7]. 성적, 폭력, 자해만 다룬다면 OpenAI의 무료 엔드포인트도 이미지를 지원합니다^[2]. 자세한 내용은 이미지 모더레이션 API 가이드를 참고하세요.

오픈소스 모더레이션 API

Mistral의 Shieldstral 1.0은 Apache 2.0 웨이트로 공개되었고 텍스트와 이미지를 처리하며, 현재 퍼블릭 프리뷰입니다^[4]. Azure 모델을 자체 인프라에서 써야 한다면 Azure가 Content Safety를 연간 약정 단계의 연결 끊김 컨테이너로 판매합니다^[9].

우리 스택에 맞는 최고의 콘텐츠 모더레이션 API 고르기

검사해야 할 미디어에서 출발하세요. 텍스트 전용 제품은 OpenAI 무료 엔드포인트나 Mistral Moderation 2로 시작해, 심각도 단계나 사용자 정의 카테고리가 필요해지면 Azure로 옮길 수 있습니다. 이미지 중심 제품은 라벨 깊이 때문에 Rekognition이나 Sightengine을 살펴봐야 하고, 동영상이 있다면 Rekognition, Sightengine, Hive로 좁혀집니다. 콘텐츠가 서버 밖으로 나가면 안 된다면 Shieldstral의 오픈 웨이트가 현실적인 길입니다.

남은 후보 사이에서는 대개 가격이 결정하며, 그 숫자는 모더레이션 API 가격 비교에 있습니다. 다른 reAPI 모델과 같은 비동기 계약으로 omni-moderation-latest를 쓰고 싶다면 Content Moderation 모델 페이지를 보세요. 어떤 경우든 최고의 콘텐츠 모더레이션 API는 실제로 적용하는 정책과 카테고리가 맞는 API입니다.

참고 자료

1. OpenAI. Is the Moderation endpoint free to use? 2026년 10월 조회: help.openai.com/en/articles/4936833-is-the-moderation-endpoint-free-to-use
2. OpenAI. Moderation guide. 2026년 10월 조회: developers.openai.com/api/docs/guides/moderation
3. Amazon Web Services. Amazon Rekognition pricing. 2026년 10월 조회: aws.amazon.com/rekognition/pricing
4. Mistral AI. Shieldstral 1.0 model card. 2026년 10월 조회: docs.mistral.ai/models/shieldstral-1-0
5. Mistral AI. Mistral Moderation 2 model card. 2026년 10월 조회: docs.mistral.ai/models/mistral-moderation-26-03
6. Mistral AI. Moderation and guardrailing. 2026년 10월 조회: docs.mistral.ai/studio/conversations/moderation
7. Sightengine. Pricing. 2026년 10월 조회: sightengine.com/pricing
8. Amazon Web Services. Using the image and video moderation APIs, Amazon Rekognition Developer Guide. 2026년 10월 조회: docs.aws.amazon.com/rekognition/latest/dg/moderation-api.html
9. Microsoft Azure. Content Safety pricing. 2026년 10월 조회: azure.microsoft.com/en-us/pricing/details/content-safety
10. Jigsaw. Perspective API sunset announcement. 2026년 10월 조회: perspectiveapi.com
11. Hive. Pricing. 2026년 10월 조회: thehive.ai/pricing
12. Microsoft Learn. Harm categories in Azure AI Content Safety. 2026년 10월 조회: learn.microsoft.com/en-us/azure/ai-services/content-safety/concepts/harm-categories
13. Google Cloud. Moderate text, Cloud Natural Language API. 2026년 10월 조회: docs.cloud.google.com/natural-language/docs/moderating-text
14. Amazon Web Services. Amazon Comprehend pricing. 2026년 10월 조회: aws.amazon.com/comprehend/pricing
15. Amazon Web Services. Trust and safety, Amazon Comprehend Developer Guide. 2026년 10월 조회: docs.aws.amazon.com/comprehend/latest/dg/trust-safety.html
16. Google Cloud. Detect explicit content (SafeSearch). 2026년 10월 조회: docs.cloud.google.com/vision/docs/detecting-safe-search
17. Google Cloud. Cloud Vision API pricing. 2026년 10월 조회: cloud.google.com/vision/pricing
18. Google Cloud. Cloud Natural Language pricing. 2026년 10월 조회: cloud.google.com/natural-language/pricing
19. reAPI. Content Moderation model page. reapi.ai/models/content-moderation
20. Microsoft Learn. What is Azure AI Content Safety? 2026년 10월 조회: learn.microsoft.com/en-us/azure/ai-services/content-safety/overview
21. reAPI. Content Moderation API docs. reapi.ai/docs/content-moderation
22. OpenAI. omni-moderation model page. 2026년 10월 조회: developers.openai.com/api/docs/models/omni-moderation-latest