ConstitutionalAI1 AI 안전성 정렬(AI Safety Alignment) 구조·아키텍처와 RLHF·RLAIF·AI 레드팀 기술사 학습노트›AI / 빅데이터›AI 안전성 & 정렬AI / Big Data · 정보관리기술사 / 컴퓨터시스템응용기술사AI 안전성 및 정렬 문제 상세 정리생성형 AI와 자율형 AI 시스템이 인간 의도, 법·윤리 기준, 조직의 위험 허용 범위 안에서 동작하도록 설계·평가·운영하는 기술 체계를 정리한다.정보관리기술사컴퓨터시스템응용기술사AI안전성AI정렬RLHFRLAIFConstitutionalAIAI레드팀적대적공격AI거버넌스Ⅰ. 개요 및 등장배경가. AI 안전성의 개념AI 안전성은 AI 시스템이 의도한 목적과 사회적으로 허용 가능한 범위 안에서 동작하도록 위험을 식별하고, 모델 학습·추론·배포·운영 전 과정에서 통제 장치를 두는 기술 및 관리 활동이다. 전통적인 소프트웨어 품질은 요구사항 충족, 결함 감소,.. 2026. 3. 26. 이전 1 다음
