생성형 AI 이미지 제작 → 서비스 QA

생성형 AI 콘텐츠 QA 엔지니어

Stable Diffusion·ComfyUI로 가상 광고 이미지를 제작하고 실제 상업 납품까지 경험한 뒤, 뤼튼 캐릭터챗 플랫폼 Crack에서 생성형 이미지의 정책 적합성·품질·재현성을 검증했습니다.

01 · Origin Story

왜 이 일을 시작했는가

생성형 AI가 마케팅과 엔터테인먼트 콘텐츠 제작 방식을 바꿀 것이라는 가설을 개인 프로젝트, 실제 판매, 서비스 운영 경험 순서로 검증했습니다.

Stable Diffusion과 ComfyUI를 직접 탐색

Checkpoint·LoRA·VAE를 조합하고 Prompt, Seed, Sampler, Steps, CFG 등의 설정을 조정하며 가상 인물과 광고 이미지를 제작했습니다. 단순 사용을 넘어 어떤 조합이 원하는 스타일과 캐릭터 일관성을 만드는지 반복 실험했습니다.

Stable Diffusion ComfyUI Checkpoint LoRA Prompt Engineering

가상 광고 모델을 실제 화장품 광고로 판매

생성한 가상 광고 모델과 화장품 비주얼을 지인이 운영하는 화장품 회사에 유료로 제공했습니다. 생성형 이미지가 취미를 넘어 실제 비즈니스 콘텐츠로 사용될 수 있음을 확인한 첫 상업 경험이었습니다.

Virtual Model Beauty Advertising Commercial Delivery

캐릭터챗이라는 새로운 도메인에 진입

장기적으로 생성형 AI 기반 서비스를 직접 만드는 1인 기업가를 목표로, 이미지 생성·캐릭터 설정·프롬프트·콘텐츠 정책이 결합된 캐릭터챗 서비스를 배우기 위해 뤼튼 Crack의 콘텐츠 QA 업무에 참여했습니다.

Character Chat UGC Platform Content Policy

“좋은 생성”보다 어려운 것은 “안전한 운영”

실제 서비스에서는 이미지 품질뿐 아니라 노출·선정성·텍스트·법적 위험·정책 해석·검수 비용까지 함께 관리해야 했습니다. 생성형 AI 서비스의 핵심이 모델 자체만이 아니라 모델·정책·운영·자동화의 연결에 있다는 점을 배웠습니다.

Quality Evaluation Safety Moderation Operational Scalability

02 · Service Flow

Crack의 콘텐츠는 두 경로로 들어옵니다

내부 생성은 모델 출력 품질과 정책 정렬이 핵심이고, 외부 업로드는 생성 과정에 회사가 개입할 수 없다는 점이 핵심입니다. 같은 이미지 검수라도 유입 경로에 따라 위험과 QA 접근법이 달라집니다.

Crack 내부 생성

플랫폼이 제공하는 생성형 AI 사용

MODEL OUTPUT QA

제작자 입력 캐릭터 설정 · 장면 의도 · 프롬프트

내부 생성 기능 프로필 이미지 · 상황 이미지 · 프롬프트

생성 모델 출력 모델·LoRA·파라미터에 따라 결과 편차 발생

정책 및 품질 검증 정책 적합성 · 캐릭터 일관성 · Artifact

주요 리스크: 외부 기반 모델 의존, 정책과 다른 출력, 캐릭터·신체·문자 생성 오류, 높은 추론 비용과 장애 전파 가능성

외부 제작 후 업로드

직접 제작 또는 외부 AI 도구 활용

CONTENT MODERATION

제작자 외부 제작 직접 일러스트 · 외부 생성형 AI

프로필 / 상황 이미지 회사 밖에서 제작되어 생성 조건을 통제하기 어려움

Crack 업로드 UGC 형태로 서비스에 유입

콘텐츠 정책 검수 노출 · 선정성 · 텍스트 · 폭력 · 권리 위험

주요 리스크: 생성 과정 비가시성, 과도한 신체 노출, 성적 문구, 서비스 등급과 맞지 않는 표현, 출처·저작권 확인 어려움

03 · My Role

제가 수행한 QA는 세 층으로 나뉩니다

모델 설정별 출력 검증, 서비스 정책에 따른 이미지 검수, 그리고 결과를 반복 가능한 테스트 케이스로 구조화하는 업무를 수행했습니다.

생성 모델의 결과를 “느낌”이 아니라 조건별로 비교

내부에서 검토·실험 중인 사전 학습 또는 fine-tuning 모델의 출력 결과를 대상으로, 회사 정책과 서비스 목적에 맞는 이미지가 생성되는지 확인했습니다. 직접 모델 학습을 수행한 것이 아니라 모델 평가와 출력 QA를 담당했습니다.

ModelCheckpoint · Base Model

AdapterLoRA · Strength

Latent DecodeVAE · 색감 · 디테일

ConditioningPositive / Negative Prompt

SamplingSeed · Sampler · Scheduler

GuidanceSteps · CFG · Resolution

설정 조합모델·LoRA·Prompt

이미지 생성동일 시나리오 반복

평가정책·품질·일관성

재현Seed·조건 기록

피드백관련 조직 전달

이미지 용도와 Safety Level에 따라 다른 기준 적용

프로필 이미지는 다수 사용자에게 노출되는 대표 이미지이므로 더 보수적으로, 상황 이미지는 작품의 Safety Level과 장면 맥락을 함께 고려해 검수했습니다.

검수 항목	Profile	Situation	판정 관점
명시적 신체 노출	BLOCK	등급별 판단	노출 부위·맥락·서비스 등급
선정적 의상·자세	엄격 검수	Safety Level	신체 강조와 장면 의도
성적 의미의 텍스트	BLOCK	정책별 판단	이미지 내 문자·워터마크
생성 Artifact	QUALITY	QUALITY	손·신체·얼굴·텍스트 오류
일반적 안전 이미지	PASS	PASS	정책 위반 신호 없음

개별 이미지 판정을 재현 가능한 QA 데이터로 전환

반복 검수가 단순 운영 작업으로 소모되지 않도록, 문제 이미지를 생성 경로·모델 설정·이미지 용도·위반 유형과 연결해 확인했습니다. 정책 담당자별 해석이 달라질 수 있는 경계 사례는 유사 사례와 비교했습니다.

ContextProfile / Situation

Source내부 생성 / 외부 업로드

ConfigModel · LoRA · Prompt

TaxonomyNudity · Text · Artifact

DecisionPASS · BLOCK · REVIEW

재현성어떤 조건에서 문제가 반복되는가

일관성유사 이미지의 판정 편차가 있는가

피드백 가능성모델·프롬프트 개선에 연결되는가

04 · Engineering View

수동 검수의 한계를 자동화 문제로 재정의

목표는 사람을 완전히 제거하는 것이 아니라, 명백한 결과는 자동 처리하고 정책 경계 사례에 사람의 판단을 집중시키는 것입니다.

현재: 사람이 전체 이미지를 확인

이미지 증가에 따라 검수 인력도 선형 증가
검수자와 담당자에 따른 정책 해석 편차
반복 작업으로 인한 집중력 저하
명백한 안전 이미지에도 동일한 비용 발생
판정 근거가 구조화되지 않으면 재사용 어려움

→

목표: Human-in-the-loop Moderation

안전 확률이 높은 이미지는 자동 승인 후보
명백한 정책 위반 이미지는 자동 차단 후보
애매하거나 충돌하는 결과만 사람 검수
정책 변경은 모델보다 Policy Engine에서 관리
사람 판정 결과를 다음 모델 평가 데이터로 축적

Image Input프로필 / 상황

Visual Moderation노출 · 선정성 · 폭력

OCR이미지 내 문자 추출

Text Moderation성적 · 금지 문구

Policy Engine용도 · Safety Level

DecisionPASS · BLOCK · REVIEW

PASS 정책 위반 신호가 매우 낮은 이미지

BLOCK 명백한 노출·금지 문구·고위험 표현

HUMAN REVIEW 경계 사례, 낮은 confidence, 모델 간 충돌

05 · Outcomes

이 경험에서 남은 핵심 역량

수치 자체보다 중요한 것은, 대량의 반복 검수에서 패턴을 발견하고 이를 모델·정책·시스템 문제로 연결한 경험입니다.

01 · MODEL

생성 모델의 구성요소를 이해한 출력 QA

Checkpoint·LoRA·VAE와 Prompt·Seed·Sampler·Steps·Guidance 조합이 출력에 미치는 영향을 실제 이미지로 비교했습니다.

02 · POLICY

모호한 정책을 검수 항목으로 분해

“부적절한 이미지”라는 추상적 표현을 신체 노출, 선정적 자세, 성적 텍스트, 생성 Artifact 등의 구체적인 판정 요소로 나눴습니다.

03 · SYSTEM

디지털 노가다를 자동화 문제로 전환

전체 수동 검수 대신 Visual Moderation, OCR, Text Moderation, Policy Engine을 결합한 단계적 자동화 구조를 도출했습니다.

06 · Next Direction

뤼튼 Crack에서 월 6,000건 이상의 생성형 이미지를 검수하며,
모호했던 정책 판단을 3단계 판정 체계와 자동화 설계안으로 구조화했습니다.

Crack 캐릭터챗 플랫폼의 콘텐츠 QA 엔지니어로서 일 평균 200건, 월 6,000건 이상의 프로필·상황 이미지를 내부 생성·외부 업로드 2개 경로로 구분해 검수했습니다. 신체 노출·선정적 표현·성적 텍스트·생성 Artifact 등 5개 판정 항목을 정리해 PASS·BLOCK·REVIEW 3단계 체계로 일관성을 높였고, 반복되는 수동 검수를 Visual Moderation·OCR·Text Moderation·Policy Engine으로 연결한 6단계 자동화 파이프라인 설계안으로 제안했습니다.

01 대량 검수 운영 · 6,000건+/월

일 평균 200건, 월 6,000건 이상의 이미지를 내부 생성·외부 업로드 2개 경로로 나누어 검수했습니다.

02 판정 기준 구조화 · 5개 항목

신체 노출·선정성·텍스트·Artifact 등 5개 판정 항목을 정리해 PASS·BLOCK·REVIEW 3단계 체계를 세웠습니다.

03 자동화 파이프라인 설계 · 6단계

Visual Moderation·OCR·Text Moderation·Policy Engine을 연결한 6단계 자동 검수 파이프라인을 설계·제안했습니다.