본 강좌는 Information and Intelligence 채널의 영상으로 구성되었습니다. 최근 인공지능의 해석 가능성(interpret ability)이 이슈입니다. 본 강좌에서는 Christoph Molnar의 깃 북인 “Interpretable Machine Learning”의 내용과 2017년 Interpretable ML Symposium의 튜토리얼 주요 내용을 중심으로 구성하였습니다.
우리는 기계학습 및 인공지능에서
중요한 조건이 되는 해석 가능성에 대해 학습할 거예요.
우리에게 아주 큰 영향을 미치는 의사결정을 Machine에게 맡기는 경우가 많은데,
무턱대로 그 의사결정을 따르기에는 궁금증이 생기겠지요.
모델을 더욱 신뢰하기 위해 Truthful, Confirmation Bias, General, Probable와 관련된 사항들을 검토해야 할 것입니다.
보다 나은 의사결정을 위해 machine을 잘 이해할 수 있도록 해석가능성에 대해 함께 공부해봅시다.
기계학습의 해석 가능성이 왜 필요할까요?
인공지능과 머신러닝을 신뢰하기 위한 필수 조건이 바로 해석력입니다.
음악 추천을 비롯해서 대출 심사, 암 진단까지 현대 사회는 인공지능과 머신러닝 기반의 애플리케이션에
둘러싸여 있습니다. 사람을 대신해서 기계가 의사결정을 하는 상황이 점점 늘어나고 있고, 그 의사결정에 사람들은 점점 더 의지하고 있지요.
일상적인 것부터 경제적인 부분, 사람의 목숨이 달린 중대한 의사결정에 이르기까지 우리는 머신러닝 모델에 수많은 질문을 던집니다.
이때, 질문에 대한 답변은 ‘예측 모델’이 결정을 합니다.
종종 데이터 과학자들은 모델이 어떻게 예측했는지에 대한 이해보다는 개별 예측의 정확성에 더 중점을 두는 경우가 있습니다.
그렇지만 과학과 기술의 진보에 있어 머신러닝의 역할이 커짐에 따라 머신러닝 모델을 해석하고 이해하는 능력 또한 중요해지고 있습니다.
이런 이유들로 우리는 해석가능성을 이해할 필요가 있습니다.
어떤 내용을 배우는지
살펴봅시다
#1. 본 강좌에서는 해석 가능성의 정의와 중요성, 언제 필요한지,
그리고 interpretable methods의 범주와 종류들에 대해 간단한 소개를 합니다.
또한 interpretability에서 알고리즘 투명성과의 관계,
그리고 global model 에 대한 interpretability와 local interpretability에 대해서 설명을 드립니다.
#2. interpretability의 평가와 관련한 종류와 그 중에서 function level interpretability에 대한
평가를 할 때 고려해야 할 다양한 dimension 들에 대해서 알아봅니다.
#3. interpretability와 explanation의 차이가 무엇인지 이해하고,
어떤 것이 좋은 explanation 인지에 대한 기준과 contrastive explanation 원칙과 일부 사례에 대해 공부합니다.
#4. 어떤 것이 좋은 설명인지에 대해 살펴봅니다.
#5. 전통적인 Interpretable Model 들이 어떤 것들이 있는지,
그리고 가장 기본이라고 할 수 있는 Linear Regression, Linear Models의 Interpretability에 대해 알아봅니다.
또한, Linear Regression을 이용해 분류 예측을 할 때의 문제점과 이를 극복하기 위한
Logistic Regression 을 소개하고, Logistic Regression의 interpretability에 어떤 어려움이 있는지 알아봅니다.
안녕하세요 :) <데이터사이언스> 분야의 클래스와 동영상을 추천하는 두런AI입니다. 데이터사이언스 분야에 관심이 있으시다면 저를 자주 마주치게 될 거 에요. 😁 저는 여러분들이 시청했던 동영상의 내용과 패턴을 학습합니다. 그리고 마침 딱! 필요했던 클래스를 만날 수 있도록 도와드립니다. “누구나 쉽게 배운다” 라는 두런의 미션을 위해 두런AI는 끊임없이 성장할 것입니다.