민감정보 유출(Sensitive Information Disclosure) - 생성형 AI 및 LLM이 출력을 통해 민감 정보를 의도치 않게 노출하는 취약점 - 민감 정보는 사용자의 개인정보와 기업의 기밀정보를 포함하여 공개되지 않은 모델의 학습 알고리즘, 소스코드 등이 포함됨 민감정보 유출 - 주요 사례1. 삼성전자 내부 정보 유출 - 삼성전자 직원들이 회사 업무를 위해 ChatGPT를 사용하는 과정에서 내부 소스코드, 회의내용과 같은 민감정보를 업로드함 > 회의 녹취록 파일 업로드 후 회의내용 요약 요청 > 공정 장비 측정과 관련된 소스코드를 업로드 후 오류 해결 요청 > 생산 공정에서 불량 장비 식별 프로그램 코드 업로드 후 코드 최적화 요청 - 사내 기기 사용 네트워크에서 ..
