김준성 / 명지대학교(서울캠퍼스) / 인문학 / 인과 인공지능의 철학 / 2024년도 저술출판지원사업 예비선정
연구목표:
이번 저술의 목적은 다음과 같다.
첫째, 기계학습 인공지능이 직면한 여러 문제의 원인을 분석하는 것이다. 가장 큰 원인은 상관관계에 토대한 예측 모형에 있음을 보여주는 것이다.
둘째, 기계학습 인공지능이 인과 모형에 토대할 때 신뢰할 수 있고 탁월한 인공지능 알고리즘이 될 수 있음을 보여주는 것이다. 그 알고리즘은 인과 인공지능(causal AI)이다.
셋째, 인과 인공지능이 기계학습 인공지능의 문제들을 해결하는 데에 어떻게 필수불가결한 역할을 하는지를 보여주는 것이다. 이들 문제는 다음과 같다. 알고리즘의 공정성, 데이터 과적합 문제, 설명 가능한 인공지능, 자연언어 처리의 불완전성
기대효과:
1) 인공지능의 윤리적 문제를 해결하는 데에 기여
쳇(Chat) GPT 등 새로운 수준의 범용 인공지능은 계속 개발되어 발표될 예정이다. 그러나 단순 추론 기계가 아니라 행위의 윤리적, 법적 책임을 갖는 규범적 행위자로서 인공지능이 역할을 할 수 있을지는 알 수 없다. 규범적 행위자로서 인공지능은 인과적 책임을 어떻게 제어하고, 인과적 책임을 규범적 책임으로 어떻게 전환할지에 달려 있다. 인과 인공지능은 디지털 기술의 윤리적 문제로 곤란해 하는 IT 기업들에게 이들 문제의 답을 찾게 할 것이다.
2) 인공지능의 데이터 과적합(over-fitting) 문제를 해결하는 데에 기여
기계학습 인공지능의 지속적 발전 여부는 데이터 과적합 문제를 어느 정도로 해결할 수 있는지에 달려있다. 단순하면서도 최적화된 인공지능의 학습 능력과 수행 능력은 통계적 상관관계에 의존하는 예측형 모형만으로는 과적합 문제를 해결하는 데에 근본적인 한계가 있다. 인과 인공지능은 기계학습 인공지능 연구자와 개발자들에게 데이터 과적합 문제를 해결할 답을 찾게 할 것이다.
3) 설명 가능한 인공지능 개발에 기여
신경망 컴퓨팅 인공지능 등 기계학습 인공지능은 산출한 결과에 대해 그 이유를 설명할 수 없고 예측도 어려운 블랙박스와 같다. 설명과 예측에서 인과성이 갖는 중요성은 분명하다. 설명 가능한 인공지능을 개발하기 위한 다양한 연구가 진행되고 있다. 본 연구자는 인과성에 토대할 때 가장 유망한 설명 가능 인공지능을 실현할 수 있다고 본다. 인과 인공지능은 인공지능 연구자와 개발자들에게 설명 가능한 인공 지능을 설계하고 운영하는 데에 중요한 안내가 될 것이다.
4) 인공지능 자연어 처리의 한계를 극복하는 데에 기여
자연어 처리는 인공지능의 알파(시작)와 오메가(끝)로 볼 수 있다. 인공지능의 자연어 처리는 대규모의 언어 데이터에서 파악한 유사성, 반복성에 토대하여 이루어진다. 통계적 상관관계에 토대한 자연어 처리가 의미론적 기계가 될 수 있을지는 여전히 분명하지 않거나 회의적이다. 인과 메커니즘의 필연성에 토대한 자연어 처리는, 언어 사용의 중요한 특성인 규칙성을 확보하는 데에 기여할 수 있다. 챗(Chat) GPT 등 범용 인공지능이 범하는 윤리적 문제 등 여러 오류는, 이들 인공지능이 인간과 같은 의미론적 주체에 근접하지 않는 데에 있다. 인과 인공지능은 범용 인공지능을 의미론적 주체로 발전시키는 데에 중요한 역할을 할 것이다.
5) 융합 교육의 새로운 패러다임을 제시
4차 산업혁명의 시대를 융합의 시대로 부른다. 모든 교육 현장에서 융합 교육을 목표로 삼고 있다. 그러나 융합 교육을 어떻게 계획하고 실행할지에 대해서는 분명하지 않다. 인공지능은 과학, 공학, 인문, 사회의 총합이다. 이번 저술의 연구는 인공지능에서 과학, 공학 영역이 인문, 사회 영역과 융합이 필요함을 잘 보여줄 것이다. 또한 이들 영역이 어떻게 융합할 수 있는지에 대한 로드맵을 안내할 것이다.
6) 4차 산업혁명 산업의 스타트업 창출에 기여
인과 인공지능은 미래가 아니라 이미 진행되었고 현재 진행형이다. 미국에서는 인과 인공지능에 기반한 스타트업 IT 기업이 출범하였다. 산업 현장에서 인과 인공지능이 도약을 준비하고 있다. 통계적 상관관계에 토대한 예측형 인공지능이 다수인 상황에서 인과 인공지능은 새로운 패러다임이라 볼 수 있다. 이번 저술 연구는 국내 인공지능 관련 IT 산업에서 인과 인공지능 기반의 스타트업을 창출하는 데에 기여할 수 있다.
연구요약:
첫째, 기계학습 인공지능이 직면한 여러 문제의 원인을 분석하는 것이다. 가장 큰 원인은 상관관계에 토대한 예측 모형에 있음을 보여주는 것이다.
둘째, 기계학습 인공지능이 인과 모형에 토대할 때 신뢰할 수 있고 탁월한 인공지능 알고리즘이 될 수 있음을 보여주는 것이다. 그 알고리즘은 인과 인공지능(causal AI)이다.
셋째, 인과 인공지능이 기계학습 인공지능의 문제들을 해결하는 데에 어떻게 필수불가결한 역할을 하는지를 보여주는 것이다. 이들 문제는 다음과 같다. 알고리즘의 공정성, 데이터 과적합 문제, 설명 가능한 인공지능, 자연언어 처리의 불완전성
1장. 기계학습 인공지능의 발전 과정
- 인공지능의 태동
- 인공지능의 위기
- 인공지능의 부활
- 인공지능의 현재와 미래
- 기계학습 인공지능의 과제
2장. 기계학습 인공지능 알고리즘
- 기호주의(연역 모형) 알고리즘
- 베이즈주의(귀납[확률] 모형) 알고리즘
- 연결주의(신경망 모형) 알고리즘
- 진화주의(유전형 모형) 알고리즘
- 유추주의(유추 모형) 알고리즘
3장. 기계학습 인공지능의 문제
- 인공지능 알고리즘의 편향성
- 인공지능의 데이터 과적합(over-fitting) 문제
- 인공지능의 설명 불가능성 문제
- 인공지능의 자연어 처리 문제
- 상관관계에 토대한 예측 모형의 한계
4장. 인과 인공지능의 토대로서 인과 모형
- 인공지능에서 인과의 역할과 필요성
- 인과 모형에 대한 조망
- 인과 구조 모형(Causal Structural Model: Pearl의 모형), PC(P. Spirtes and C, Glymour) 모형
- LCD(Local Causal Discovery) 모형, FCI(Fast Control Inference) 모형
- 인과 모형에서 인과 인공지능 모형으로
5장. 인과 인공지능 알고리즘을 위한 조건과 과제
- 인과성에 대한 마코프(Markov) 조건의 불충분성
- 충실성(Faithfulness) 조건의 불완전성
- 최소성(Minimality) 조건의 보완성
- 최적합 인과 구조를 판별하는 문제
- 인과 인공지능 모형을 위한 융합 조건
6장. 알고리즘 공정성에서 인과 인공지능의 역할
- 알고리즘 편향성 문제: 사례 중심 분석
- 통계적 공정성 개념에 대한 논쟁
- 피드백 루프(Feedback Loops)의 사례와 문제
- 구조적 불공정성(Structural Unfairness): 반 사실적, 인과적 공정성을 중심으로
- 인과적 공정성으로 통계적 공정성과 윤리적 공정성을 연결하기
7장. 데이터 과적합 문제에서 인과 인공지능의 역할
- 데이터 과적합 문제의 본성
- 단순성(Simplicity, Ockham’s razor)에 대한 정당화 논쟁
- 데이터 과적합 해결에서 단순성의 기능
- 인과 발견의 알고리즘에서 최소성 조건의 역할
- PAC(the probably approximately correct model of learning)에서 인과 인공지능의 기능
8장. 설명 가능한 인공지능을 위한 인과 인공지능
- 설명 가능한 인공지능(XAI: Explainable AI)의 필요성
- 설명의 모형에 대한 철학적 논쟁의 중요성
- 설명 가능한 인공지능의 알고리즘들
- 인과 인공지능 알고리즘의 차별성
- 설명 가능한 인과 인공지능 모형
9장. 자연어 처리에서 인과 인공지능의 역할
- 자연어 처리의 구조와 단계
- 자연어 처리에서 언어 모형과 알고리즘
- 통계적 상관관계에 토대한 언어 모형과 알고리즘의 문제
- 자연어 처리에서 인과성 논쟁
- 인과 인공지능에 토대한 자연언어 처리 모형
키워드:
기계학습, 공정성, 단순성, 마코프, 알고리즘, 인과, 인공지능, 자연어, 설명, 충실성
algorithm, AI, causal, explanation, faithfulness, fairness, machine learning, Markov, natural language, simplicity