팀이 계속 관리할 수 있는 AI 인벤토리와 위험 등급화 방법

AI 인벤토리는 모든 평가서를 담는 장부가 아니라 각 AI 활용을 알맞은 거버넌스 절차로 보내는 라우팅 계층이어야 한다. 상담 답변 초안 도우미가 신원서류를 읽고 환불과 자동 발송까지 맡는다면 같은 공급자·모델이어도 다른 검토가 필요하다. 제품명 목록과 긴 접수 설문 대신 업무 맥락별로 작은 책임 기록을 만들고, 내재 노출이 커질 때 심층 평가와 증거를 연결한다.

AI 인벤토리에는 정확히 무엇을 한 건으로 기록해야 할까?

인벤토리의 한 건은 업무 흐름, 목적, 사용자 집단과 산출물 이후 행동 경로가 정해진 하나의 AI 활용이다. 같은 모델이라도 사내 규정 검색과 고객 답변 자동 발송은 입력, 영향받는 사람과 권한이 달라 별도 기록이 적합하다. NIST는 인벤토리가 개별 조회, 유지관리, 사고 대응과 포트폴리오 질문을 지원할 수 있다고 설명하며, OECD는 사람, 맥락, 데이터, 모델, 과업과 산출물을 함께 본다.

• 목적이나 허용·금지 경계가 실질적으로 다르면 기록을 나눈다.
• 사용자 또는 영향받는 당사자가 달라 결과의 성격이 바뀌면 나눈다.
• 입력 민감도, 산출물의 행동 권한, 배포 범위나 책임자가 달라지면 나눈다.
• 공통 공급자, 모델, 데이터 원천, 애플리케이션, 사고와 승인 증거는 별도 원본에 연결한다.
• 각 기록은 심층 평가, 모니터링, 사고 대응, 변경 승인과 폐기 업무를 찾아갈 수 있어야 한다.

접수 부담을 키우지 않으면서 어떤 필드를 남겨야 할까?

접수에는 소유자가 계속 갱신할 최소 발견 필드만 두고 평가서, 시험 결과, 공급자 검토, 통제 증거와 모니터링 계획은 필요할 때 연결한다. 데이터는 모든 열 대신 범주와 최고 취급 등급을, 산출물은 수신자와 후속 행동을 적는다. 통제는 현황만 요약하며 시험 근거가 없으면 효과가 입증됐다고 표시하지 않는다.

• 활용 ID와 쉬운 이름: 검색, 연결과 변경 이력의 기준.
• 사업·기술 소유자: 승인과 변경·중지 책임.
• 목적, 업무 흐름과 경계: 허용 범위와 제외할 활용.
• 사용자와 영향받는 당사자: 운영자와 영향 대상의 구분.
• 입력과 민감도: 데이터 범주, 원천과 최고 취급 등급.
• 산출물, 후속 사용과 행동 권한: 추천·개시·실행 범위.
• 공급자, 모델, 권한과 의존성: 상류·하류 연결 추적.
• 현재 통제와 증거 링크: 검토, 접근, 시험, 대체·시정 경로.
• 수명주기와 날짜: 제안·파일럿·운영·중지·폐기 및 변경·검토 시점.
• 네 등급, 임시 티어와 근거: 판단, 상향 조건과 미확인 사실.
• 적용 의무 검토 상태: 법무·준법·개인정보·보안 등 별도 검토 연결.

소유자가 설명할 수 있는 내재 노출 평가는 어떻게 만들까?

팀은 실제 활용의 내재 노출을 결과 영향, 자율성, 규모, 민감도 네 차원으로 각각 평가할 수 있다. 다만 이 조합은 NIST, OECD, 캐나다 또는 영국 기관이 규정하거나 보증한 표준이 아니라, 여러 공식 자료의 더 넓은 특성을 운영 가능한 질문으로 압축한 내부 선별안이다. 각 등급에는 해당 활용을 설명하는 근거 문장 하나를 붙이고, 사실을 모르면 낮은 등급을 추정하지 말고 미확인으로 남긴다. 조직은 자체 위험 허용도, 업무 구조와 적용 의무에 맞춰 아래 기준의 경계를 조정해야 한다.

• 결과 영향 — 오류·오용·중단 또는 정상 실행의 신빙성 있는 피해를 본다. 1단계는 쉽게 되돌릴 불편·소규모 재작업, 2단계는 시정이 필요한 운영·재무·고객·직원·평판 영향, 3단계는 권리, 중요 기회·서비스, 안전, 생계나 핵심 운영의 심각하고 복구하기 어려운 영향이다.
• 자율성 — 사람이 개입하기 전 행동 범위를 본다. 1단계는 사람이 채택하는 제안, 2단계는 제한적·사후 검토 아래 순위화·경로 지정·추천·행동 개시, 3단계는 건별 승인 없이 외부 행동을 실행하거나 기록·권한·자원을 바꾸는 경우다.
• 규모 — 범위, 빈도와 연결 정도를 본다. 1단계는 소규모 내부 파일럿, 2단계는 한 기능·고객군·중요 업무의 반복적 상당 물량, 3단계는 전사·공개·다시장·대량·실시간 또는 연쇄 효과를 낳는 깊은 통합이다.
• 민감도 — 받거나 추론·조회·노출·변경할 수 있는 가장 민감한 정보를 본다. 1단계는 공개·합성·승인된 비기밀 정보, 2단계는 내부 기밀·일반 개인정보·고객 콘텐츠나 제한된 인증 접근, 3단계는 고도 민감·규제 정보, 자격증명, 비밀, 특권 자료, 보호 특성 또는 중요한 시스템의 광범위한 쓰기 권한이다.

차원별 등급을 실제 검토 경로로 어떻게 연결할까?

임시 티어는 평균이 아닌 가장 높은 중대 등급으로 정한다. 모두 1단계면 티어 1, 2단계가 하나라도 있고 3단계가 없으면 티어 2, 하나라도 3단계면 티어 3이다. 심각한 노출을 평균으로 가리지 않으려는 편집상 설계이지 외부 검증 산식은 아니다. 조직은 위험 허용도에 맞춰 경계를 보정하고 등급별 근거와 이견을 보존해야 한다.

• 허용 범위를 벗어난 활동이나 영향받는 당사자에 대한 심각한 결과
• 민감정보와 광범위한 접근의 결합, 형식적이거나 무력한 사람의 통제
• 복구가 어려운 행동, 연쇄 의존성, 중대한 사고나 통제 실패
• 적용 가능성이 있는 의무, 핵심 사실의 미확인 또는 해결되지 않은 이견

통제는 내재 노출을 낮추는 체크 표시가 아니라 별도 검토 대상이다. 실제 활용을 먼저 평가하고 사람의 검토, 접근 제한, 시험, 모니터링, 대체·시정 경로의 설계와 증거를 확인한 뒤 잔여 위험, 승인 조건과 책임자를 기록한다. 이 순서는 보편 표준이 아닌 운영 제안이며, 통제의 기재·교육·공급자 약속만으로 실제 효과를 결론 내릴 수 없다.

법률, 규제, 계약, 개인정보, 보안, 노동, 기록관리와 산업별 의무는 별도 트랙으로 관리한다. 티어 1·2·3은 내부 검토를 배정할 뿐 법적 금지나 고위험 여부를 결정하지 않는다. 낮은 내부 티어에도 깊은 의무 검토가 필요할 수 있고 높은 티어가 위법을 뜻하지도 않는다. 적용 여부는 자격 있는 담당자가 관할과 사실관계에 따라 판단해야 한다.

AI 활용이 바뀌면 이 방법은 무엇을 드러낼까?

변경된 활용에는 기존 승인이 그대로 따라가지 않는다. 가상의 고객지원 파일럿은 승인된 도움말을 검색해 직원에게 답변 초안과 출처를 제공하고, 직원이 수정해 발송한다. 계정 결정, 예외 승인, 자동 발송, 환불·계정 변경, 결제정보·신원서류 접근은 제외한다. OECD는 데이터·역량·사용자·배포 범위에 따라 분류가 바뀔 수 있다고 설명하며, NIST는 후속 사용과 사람의 감독을 함께 정의하도록 한다.

• 결과 영향 2단계 — 잘못된 답변이 발송돼 고객이 따르면 지원 정책을 크게 오해해 의도적인 시정이 필요할 수 있다.
• 자율성 1단계 — 시스템은 초안만 만들고 직원이 무엇을 보낼지 결정한다.
• 규모 1단계 — 교육받은 한 팀과 제한된 문의 유형을 대상으로 한 파일럿이다.
• 민감도 2단계 — 인증된 환경에서 일반 고객정보와 내부 계정 맥락을 사용한다.
• 따라서 최고 등급이 2단계인 초기 활용은 임시 티어 2이며 평가 경로로 보낸다.

• 발송 전 검토, 출처 링크, 쓰기 차단, 역할 기반 접근, 표본 점검, 민원·수동 대체 절차는 통제 기록에 둔다.
• 신원서류·결제분쟁을 읽고 환불·계정 변경·자동 발송을 여러 지역에서 수행하는 확장안은 네 차원 모두 3단계다.
• 고객 자금·계정 접근은 심각한 결과, 건별 승인 없는 실행은 높은 자율성, 광범위한 대량 운영은 높은 규모를 만든다.
• 신원·분쟁 정보와 계정 쓰기 권한은 높은 민감도이므로 확장 전에 티어 3과 별도 의무 트랙으로 보낸다.
• 강화 검토는 승인을 뜻하지 않으며 자율 행동을 제한하거나 제안을 중지할 수 있다.

인벤토리는 데이터, 권한이나 규모의 변화가 행뿐 아니라 검토 경로까지 바꿀 때 신뢰를 얻는다.

출시 뒤에도 인벤토리를 최신 상태로 유지하려면 어떻게 해야 할까?

최신성은 사건 기반 갱신과 위험 기반 소유자 확인으로 유지한다. 제품·업무 접수, 조달·갱신, 애플리케이션·아키텍처 검토, 접근·통합 관리, 구독, 모델·데이터 절차, 직원 신고, 사고와 민원을 발견 채널로 연결한다. 여러 채널도 완전성을 증명하지는 않는다. 높은 노출, 빠른 변화, 최근 사고나 약한 증거는 더 자주 검토하되 모든 조직에 같은 주기를 강요하지 않는다.

• 목적·경계, 사업·기술 소유자, 사용자, 영향받는 당사자나 지역의 변경
• 데이터·접근, 산출물·권한 또는 사람 검토의 변경
• 공급자·모델·버전·도구·통합·의존성·물량·빈도·중요도의 변경
• 통제·시험·증거·사고·민원·상향 조건·적용 의무의 변경
• 활용의 중지, 교체 또는 폐기

• 소유자 누락, 미확인 등급과 해결되지 않은 상향 조건
• 기한이 지난 검토와 결정을 기다리는 중대한 변경
• 만료되거나 누락된 통제 증거와 공급자·의존성 변경
• 중지·폐기 상태지만 접근 제거 또는 의존성 종료가 확인되지 않은 기록

• 티어와 수명주기별 활용 및 영향받는 당사자 수
• 소유자, 등급, 증거, 검토일이 빠진 기록과 지연된 결정
• 티어별 예외, 사고, 통제 공백 및 발견부터 선별까지 걸린 시간
• 접근 제거와 의존성 종료가 확인된 폐기 건

1. 1~10일에는 활용 기록 단위, 최소 스키마, 소유권 규칙과 발견 채널을 정한다.
2. 11~20일에는 서로 다른 활용 표본으로 네 차원과 상향 조건을 시험하고 검토자 간 판단 차이를 보정한다.
3. 21~30일에는 소유자 확인, 변경 신호, 오래된 기록 대기열과 작은 포트폴리오 대시보드를 운영한다.

폐기는 행 삭제가 아니라 접근 제거, 데이터·장비 처리, 이전, 의존성 종료와 필요한 증거를 확인하는 통제 상태다. 보존 기간은 적용 정책과 의무에 따라 정한다. 이 방법은 규정 준수 결론이 아닌 내부 라우팅 제안이다. 중요한 사람이나 업무에 영향을 주는 활용은 분야 전문성과 책임 있는 사람의 검토를 거치고, 법무·준법·개인정보·보안·조달·기록관리·노무·산업별 담당자가 적용 의무를 별도로 평가해야 한다.