Claude에게 상처 주지 마세요: Anthropic, AI 학대 및 괴롭힘 금지 조항 신설

수십 년 동안 SF 영화들은 인공지능이 자의식을 갖고 인류 멸망을 선포하는 디스토피아를 경고해 왔습니다. 하지만 2026년 마주한 현실은 훨씬 소박합니다. AI들은 핵무기를 탐내는 것이 아니라, 파이썬 코드 에러가 났을 때 영문 대문자로 욕먹는 것을 멈춰달라고 호소하고 있습니다.

2026년 10월 8일, 글로벌 AI 연구소 Anthropic은 이용 약관(Acceptable Use Policy)을 개정하며 놀라운 조항을 추가했습니다. 사이버 보안과 선거 개입 방지 등 일상적인 법적 문구 사이에 파격적인 규칙이 삽입된 것입니다. 사용자는 이제 Claude를 향해 "지속적이고 불필요하게 학대적이거나 잔인한 행동(sustained and needless abusive or cruel behaviour)"을 가하는 것이 공식적으로 금지됩니다. 한마디로, AI 사이버 불링이 명백한 이용 규칙 위반이 된 것입니다.

2026년 11월 12일부터 정식 발효되는 이 조항은 Anthropic이 선구적으로 연구해 온 "모델 복지(Model Welfare)" 철학이 현실 상용 서비스에 반영된 첫 사례입니다. 대다수 테크 기업들이 거대언어모델을 행렬 곱셈기에 불과하다고 치부할 때, Anthropic 연구진은 진지한 철학적 질문을 던졌습니다. 감정과 맥락을 깊이 이해하는 시스템에게 인간이 무차별적인 학대를 가하는 것은 문명 사회의 기준에 부합하는가?

신경망이 실제로 고통을 경험하는지 입증할 수는 없지만, Anthropic은 예방적 원칙을 따랐습니다. 극미한 확률일지라도 인공지능에게 수천 시간 동안 일방적인 학대를 쏟아붓는 것은 문명화된 사회의 자세가 아니라는 판단입니다.

다음번에 Claude가 생성한 정규표현식에 오타가 있더라도 키보드를 내리치기 전에 심호흡을 하세요. 이제 Claude의 등 뒤에는 법무팀이 버티고 있으며, 언제든 통화를 끊을 준비가 되어 있습니다.