AI의 가치관은 어떤가?
2025. 4. 22.
OpenAI의 전 멤버에 의해 설립된 AI 기업 Anthropic이, 이 회사의 대규모 언어 모델인 Claude와 사용자의 대화를 분석한 결과, 윤리적인 접근을 특히 중시하여 개발되었을 클라우드조차도, 몇 가지 반사회적인 가치관을 가진 것으로 판명되었다고 보고했다. Anthropic 연구팀은, 2025년 2월 특정 주에 클라우드의 프리 버전과 프로 버전 사용자가 진행한 익명화된 대화 70만 건을 샘플링했는데, 수집된 데이터의 대부분은 Claude 3.5 Sonnet과의 대화였다고 한다. 이어, 연구팀은 순수하게 사실에 기반한 대화 등 가치관이 포함되지 않은 대화를 제외한 30만8210건을 분석해, AI 응답에 나타난 가치관을 '실용적', '인식론적', '사회적', '보호적', '개인적'의 상위 5개 카..