XAI 실전 연습을 위한 데이터 예제.
Jaehyun Ahn (sogosonnet@gmail.com)
<<XAI 설명 가능한 인공지능, 인공지능을 해부하다>> 도서가 2020년 세종도서 학술부문 기술과학도서 72 종 중 하나로 선정되었습니다.
감사합니다. (링크: http://bookapply.kpipa.or.kr/front/board/noticeView.do?seq=48)
데이터는 loanData.csv에 저장되어 있다. loanData는 19개의 칼럼으로 되어 있으며, 첫 번째 칼럼부터 18번째 칼럼까지는 대출 신청을 위한 사용자 정보가 저장되어 있으며 19번째 칼럼에는 대출 승인 여부가 이진(binary) 형태로 저장되어 있다.
데이터 칼럼이 의미하는 내용은 다음과 같다.
- id: 고객 아이디
- gender: 대출 신청자 성별
- age: 대출 신청자 나이
- married: 결혼 유무
- dependents: 가족 수
- education: 학력
- self_employed: 자영업 유무
- business_type: 국세청 기준 대출 신청인 업종 코드
- applicant_income: 대출 신청인 수입
- applicant_work_period: 대출 신청인 근무 기간
- coapplicant_income: 배우자 수입
- credit_history: 금융서비스(대출) 이용 횟수
- credit_amount: 대출중인 금액
- property_area: 주거지 종류(Urban: 도시, Semiurban: 준도시, Rural: 시골)
- property_type: 주거지 소유 여부(1: 자가, 2: 월세, 3: 전세, 4: 기타)
- credit_rate: 신용등급
- loan_amount: 대출 금액
- loan_term: 대출 상환 기간
- loan_status: 대출 승인 여부
8번 칼럼의 국세청 업종 코드는 이곳에서 확인할 수 있다.
JAFFE 감정분석 데이터 중 놀람(SUP)에 대응하는 이미지 한 장.
JAFFE(The Japanese Femail Facial Expression) 데이터베이스는 일본인 여성(학생들)의 얼굴 사진과 감정을 정량적인 수치로 표시한 데이터베이스다.
JAFFE 데이터베이스는 연구 목적으로만 자유롭게 사용될 수 있으며, 각 사용자들은 모두 라이센스에 동의해야 한다. 라이센스에 대한 동의는 이 링크에서 하고 다운 받을 수 있다.
위 링크에서 라이센스 사용에 대한 동의를 한 이후 이미지를 다운 받고 "./Ch2.emotion/jaffe"라는 하위폴더에 이미지를 삽입한다.
이미지에 대응하는 데이터 칼럼이 텍스트파일 형태로 저장되어 있다. 텍스트파일은 "./Ch2.emotion/jaffe/jaffe_labels.txt"에 저장되어 있다.
데이터의 첫 번째와 두 번째 행은 이미지에 대한 설명이다. 이후 행에 대하여 각 칼럼별로 의미하는 바는 다음과 같다.
- id: 이미지 고유값
- HAP: 행복
- SAD: 슬픔
- SUR: 놀람
- ANG: 분노
- DIS: 실망
- FEA: 두려움
- PIC: 이미지 이름
JAFFE 이미지 라이센스는 Michel J. Lyons 교수에게 있다. 이미지를 다운받은 사용자들의 이미지 사용에 대한 책임은 전적으로 이용자에게 있음을 고지한다.
Michael J. Lyons, Shigeru Akemastu, Miyuki Kamachi, Jiro Gyoba. Coding Facial Expressions with Gabor Wavelets, 3rd IEEE International Conference on Automatic Face and Gesture Recognition, pp. 200-205 (1998).
구글 코랩(Google Colab)은 브라우저에서 파이썬을 작성하고 실행할 수 있는 클라우드 기반 주피터 노트북 개발 환경입니다. 코랩과 인터넷만 있으면 예제 코드를 직접 따라하고 실행할 수 있습니다.
| 단원 | 내용 | URL |
|---|---|---|
| 04 | 의사 결정 트리 | http://bit.ly/391EmTS |
| 05 | 대리 분석 | http://bit.ly/2RNP6zv |
| 06 | 필터 시각화 | http://bit.ly/37M96YV |
| 07 | LRP | http://bit.ly/37SDpwX |
| 08 | 실전 분석1: 의사 결정 트리와 XAI | http://bit.ly/2vBcYxB 또는 현재 Github Repo의 Ch1.Loan 참고 |
| 09 | 실전 분석2: LRP와 XAI | 현재 Github Repo의 Ch2.Emotion 참고 |
| 페이지 | 타입 | 내용 | 정정사항 | 제보 |
|---|---|---|---|---|
| 36 | 보충 | 집합 C에 대한 설명이 빠져있는 것 같다. 집합 S가 부분 의존성 정도를 알고 싶은 피처인 것처럼 집합 C또한 명확한 설명이 필요하다. | 집합 S는 피처공간 X의 의존성 정도를 알고 싶은 피처입니다. 집합 C는 X\S로써 피처공간 X에서 S 집합을 제외한 피처로, 본문에는 ' S∩C=Ø, S∪C=X' 라는 표현과 ' 피처 벡터 xs 와 xc는 전체 피처 공간 X의 부분집 합이다 '라는 표현으로 존재합니다. | 익명님 |
| 36 | 보충 | f^{x_s} (x_s) = E{x_c} [f^(x_s, x_c)] = Integral [ f^(x_s, x_c) dP(x_c) ]"는 x_s에 관한 식 같으나, 두번째 E_{x_c}[...]에서 x_c에 대한 기대값으로 바뀌었는데, 보충 설명이 필요합니다. | s에 대한 PDP를 그리기 위해서는 x_s 피처를 고정시키고, x_c에 대한 모든 값을 모델에 반영하여 평균(Expectation)하게 되면 피처 x_s가 모델 f^에 미치는 영향력을 판단할 수 있습니다.따라서 공식 왼쪽부터 각 3항은 x_s의 피처 영향력을 구하기 위한 공식이고, 좌항에서 두 번째, 세 번째 항은 피처 x_s가 모델 f^에 미치는 영향력을 측정하기 위한 average function입니다. 이 공식은 x_s에 대한 주변확률 분포(marginal probability density) 전개입니다. | 익명님 |
| 36 | 정정 | 우항에 있는 변수 x_s는 관심 있는 피쳐들이다. x_s^i는 관심 없는 피쳐들의 집합이다. | x_s^i 는 x_c^i여야 관심 없는 피처가 됩니다. 수식 변동이 필요합니다. | 최혁근님 |
| 29 | 정정 | CrossEntropy에 대한 Marginal Probability | CrossEntropy를 구할 때 공식 중 1/2이 잘못되었습니다. 클래스간 전체 엔트로피 감소를 관찰해야하므로 좌항에는 3/16이, 우항에는 13/16을 곱해야합니다. 결과값은 0.9812가 나옵니다. | 김현규님 |
| - | 보충 | 데이터를 알고리즘에 학습시키기 위하여 전처리 과정 중 Normalisation이나 Standardisation으로 스케일링을 하는 데, 이후 학습된 Deep Neural Network 모델을 LIME이나 SHAP을 적용하여 설명을 추출할 때 원래 데이터로 복구하여 해석해야 사람에게 더 이해하기 쉬운 설명이 될 것으로 생각됩니다. 스케일링된 학습데이터를 원래 데이터로 복구하여 설명할 수 있는 쉬운 방법이 있나요? 물론, 스케일링 된 데이터만으로 분석하더라도 어떤 feature가 중요하고 원하는 예측결과가 나오기 위하여 특정 feature value를 증가시켜야 할 지, 감소시켜야 할 지는 파악할 수 있지만 스케일이 달라서 얼마만큼 증감을 시켜야 할 지는 알 수 가 없습니다. 아무리 구글링으로 관련 자료를 찾아봐도 스케일링과 XAI technique 관련 내용은 찾기가 어렵습니다. | 스케일링 방법론이 모델의 직관적인 해석에 방해가 된다는 말씀으로 이해됩니다. 다른 예제를 보았을 때는 이런 과정 없이 바로 데이터를 학습에 활용하다보니 해석이 용이한데, 위에서 말한 Scaling 기법들은 한 번 더 역변환을 해 주어야 하기 때문에 직관적이지 않은 해석법이 아닌지 하는 의문이신 것 같습니다. Scaling은 ‘역변환’이 가능할 때 해석력을 갖습니다. 만약 scaling 이후에 원래대로 복원되지 않는다면 스케일링은 기법은 리얼월드와 접점을 잃습니다. 저희가 예제로 자주 사용하는 scipy는 스케일링 메서드에 ‘변환->역변환’ 코드도 함께 잘 구현해두었습니다. 보통은 .inverse_transform(X)라는 메서드로 함께 제공됩니다. 그리고 메일에서 언급하신 Standard Scaler는 inverse_transform()을 제공합니다. 이렇게 되면 머신러닝의 해석 결과로 나온 scale을 역변환 함으로써 실제로는 어느정도의 영향을 미치는지 파악할 수 있을 것입니다. 저희가 아는 다수의 스케일러들은 역변환을 제공합니다. 몇몇 Scaling은 역변환이 불가하기도 합니다. 버케팅 기법 같이 미분 불가능한 커널을 스케일러로 사용한 경우가 될 테지요. 이 경우에는 원본 데터에 대한 데이터 구간 추론은 가능하나 데이터의 원상 복구는 불가합니다. |
권민오님 |
Copyright(c)2019 Jaehyun Ahn and Wikibooks All rights reserved.