허유선 / 한밭대학교 / 인문학 / 인공지능 시대의 공공성 위기와 인공지능 윤리 / 2024년도 인문사회학술연구교수(A유형) 예비선정
연구목표:
◯ 연구 목적
인공지능 곧, 자동화된 알고리즘 시대의 공공성 위기를 해명하고, 우리 시대의 공공성을 위한 인공지능 및 윤리의 과제 및 실천 방안을 제안한다.
◯ 연구 배경
팬데믹 이후 화상미팅앱 등 인공지능 기반 비대면 상호작용이 일상화되었다. 이는 디지털트윈, 스마트도시, 공간 컴퓨팅의 발전과 함께 더욱 활성화될 것으로 전망된다(박원재, 2020). 새로운 디지털 기술은 공간적 경계를 허물고 물리적 제약을 완화하며, 새로운 공간을 창출함으로써 높은 접근성과 자유로운 상호작용의 확대를 약속한다. 반면 이 기술들은 그 낙관적 기대와 다르게, 공간 격차·불평등을 재생산하고 공공 공간의 위기를 야기할 수 있다. 펜데믹 기간 중 비대면 상호작용의 기회조차 불균등하게 배분되어, 디지털 격차 등 기존의 사회 격차가 더욱 심화되었다는 사실이 이를 뒷받침한다. 이는 자유로운 출현과 교류의 장場이라는 공공성의 조건을 위협한다.
궁극적인 문제는 자동화된 알고리즘의 특성과 효과가 사람들의 판단과 행동에 앞서 선제적이고 비가시적인 ‘환경’과 같이 작용한다는 것이다. 자동화된 알고리즘을 통해 우리 삶의 공간은 디지털-물리 공간의 이원론을 넘어서 혼합화(플로리디, “온라이프onlife”)되지만, 기술 특성상, 공공성 위기에 대한 인지 및 저항은 더욱 어려워진다. 따라서 우리 시대 공공성을 위해서는 물리적-디지털 공간의 이원론을 넘어서, 자동화된 기술에 의한 혼합-공공 공간을 조망하고 공공성의 위기를 해명하며, 그에 대응하는 자동화된 알고리즘 윤리를 제안하는 것이 요청된다.
◯ 연구 단계
문제 제기/현상 분석→ 근본 원인 분석 → 대응 모색
1단계: 인공지능 기반 기술이 이원화된 공간론을 넘어서 디지털과 물리적 공간이 연합환경(혹은 온라이프onlife)을 창출하며, 동시에 이것이 ‘드러남’의 공간으로서 공적 영역, 공론장을 모두 포함한 공공 공간(Public Space)을 위협하고 있음을 해명한다.
2단계: 그 핵심 원인으로서 자동화된 알고리즘의 특성을 지목하며, 자동화된 알고리즘의 특성이 공공성 위기를 어떻게 심화하는지를 분석한다. 이로부터 인공지능 윤리의 이슈들이 공공성 관점에서 재조망되어야 함을 밝힌다.
3단계: 최종적으로 연구는 공공성을 위한 자동화된 알고리즘의 윤리, 곧 인공지능 윤리의 과제와 대응 방안을 제안한다.
기대효과:
◯ 학문적 기여
● 공공성 관점에서 인공지능 윤리를 조망하는 최초의 논의
● 인공지능 기술 시대 공공성의 토대와 특성 해명
● 인공지능과 차별의 새로운 문제 영역 제시: 공간 불평등과 공공공간의 위기
● 디지털-물리 공간이 혼합되는 새로운 생활공간 규명
● 새로운 정보통신기술과 공공성의 구체적 관계 해명
● 철학적, 윤리적 관점에서 기술 사회 해석 및 전망
● 후속 연구로의 확장
– 인공지능 시대의 공공성과 자율성(예정)
– 다양한 학문 분과의 논의 자료로 활용: 국내 인공지능 기술 현안에 대한 경험적 연구, 유사 주제를 다루는 미디어론, 거버넌스, 정책 연구 및 제안 등
◯ 교육적 기여
● 대학 강좌 커리큘럼 반영, 기획: **대학교 전공 교과목, ‘인공지능 시대의 윤리’
● 미디어 콘텐츠 제작: 연구자가 운영 중인 팟캐스트 에피소드 제작
● 대중 강연: 인공지능 윤리 교육
– 초·중등 : 중앙대학교 지역인문학 센터 교육
– 대학생: 창원대, 강원대, 동국대 등 특강
– 시민 대상: 한국여성민우회, 서강 도서관, 양재 도서관 등
● 공무원 교육프로그램
– 경기도가족여성 재단
● 공공성 가치와 기술 현안에 대한 학술서 및 교양서 발간
◯ 사회적·산업적·정책적 기여
● 공공성을 위한 인공지능 가이드라인 제시
● 인공지능 시대의 공공성에 관한 미래 이슈 전망, 정책 과제 제시
● 인공지능 법안 등 공공성 지향 인공지능 기술 거버넌스를 위한 근거 마련
● 인공지능 활용의 행위 주체별(이용자, 개발자, 공급자 등)를 위한 행위 지침 제시
연구요약:
◯ 연구 목적
연구의 핵심 물음은‘자동화된 알고리즘 기반 상호작용의 시대의 공공성 위기는 무엇이며, 그에 대응할 수 있는 인공지능 윤리란 무엇인가?’이다. 연구는 인공지능 곧, 자동화된 알고리즘 시대의 공공성 위기를 해명하고, 우리 시대의 공공성을 위한 인공지능 윤리의 과제 및 실천 방안을 제안한다.
◯ 연구 필요성
1) 인공지능 시대의 공공성 고찰 및 실천 필요
공공성(Ọ̈ffentlichkeit)은 현대 사회의 주요 문제이다. 공공성은 크게 세 가지 의미, 곧 국가와 관련된 공적인(official) 것, 특정 개인 및 집단의 이해관심에 국한되지 않고 모든 사람과 관계된 공통적인(common) 것, 비밀이나 프라이버시와 대조적인 보편적인 공개가능성으로서 개방성이라는 맥락에서 논의된다. 공공성은‘사적인 것(the private)’과 구분되는 것으로서 공적인 것(the public)을 전제할 때 가능하지만, 이 같은 구분은 공적인 것의 담론 형성 과정에 의존하는 유동적인 것이다(사이토 준이치, 2009). 그러므로 공공성은 우리 시대라는 조건 속에서 매번 새로이 사유되고 실천되어야 하는 것이다.
오늘날 우리는 자동화된 알고리즘, 곧 인공지능 기반 디지털 기술과 물리 공간이 혼합된 환경에서 살아간다. 따라서 이를 기반으로, 우리 시대 공공성의 문제 및 조건을 검토하며 그 실천을 도모하는 연구가 요청된다.
2) 인공지능 기반 디지털 기술과 공공성의 위기
공공성은 드러남(appearance)의 공간을 필수 조건으로 요청한다(아렌트, 2002). 이 공간은 물리적 공공 공간과 공론장을 모두 포함한다. 그러나 인공지능 기반 기술은 가짜뉴스, 세금 부정 청구, 인종 차별 및 젠더 차별, 선거 조작 등 물리적 공간과 디지털 공간을 넘나들며, 공공성 기반을 침식하고 있다.
3) 비가시적인 알고리즘 환경 분석 필요
자동화된 알고리즘의 도입은 공공성을 위협하는 새로운 형태의 배제와 격리를 낳는다. 자동화된 알고리즘 시스템은 사건의 발생에 ‘앞서’ 그리고 ‘매단계’마다 유연하게 개입한다. 결과적으로, 우리는 공적인 것에 참여하기 위한 출현 및 접근·참여의 기회를 배제하고 박탈하는 형식을 인지·저항하기에 더욱 어려워진다. 따라서 공공성의 관점에서 자동화된 알고리즘의 특성 및 효과의 영향을 분석할 필요가 있다.
4) 공공성-자동화 알고리즘-인공지능 윤리를 조망하는 선행 연구 전무
5) 공공성 지향하는 인공지능 윤리의 과제 및 방안 제시
대한민국의 인공지능 윤리 기준은 공공성을 지향하며, 법률안 제정까지 논의되고 있으나, 그 구체적인 과제 및 방안에 대한 논의는 미흡한 실정이다. 본 연구는 새로운 시대의 공공성을 위한 주요 가치 및 실천 방안 제안하여 인공지능 법안 마련의 이론적 토대를 제공한다.
◯ 연구 내용
연구 크게 현상 분석 및 문제화, 근본 원인 고찰, 3단계는 문제의 대안으로서 실천 과제 및 방안을 제시한다.
- 1년차 연구: 인공지능 기술 시대의 공공성, 특히 디지털 공간과 물리적 공간의 혼합 공간으로서 공공 공간이 어떻게 위협받고 있는지를 규명한다.
- 2년차 연구: 자동화된 알고리즘의 기술적 특성과 효과가 공공성의 위기를 어떻게 심화하는지를 분석하고, 인공지능 윤리의 이슈들을 공공성 관점에서 재조망한다. 자동화된 알고리즘의 특성이 디지털과 물리적 공간이 혼합된 오늘날의 생활공간에 더욱 효과적으로 개입하는‘환경’임을 논하고, 이것이 인공지능 윤리의 실천의 어려움과 닿아있음을 지적한다.
- 3~6년차 연구: 자동화된 알고리즘이 환경처럼 작동하는 우리 시대에 공공성을 지향하는 인공지능 윤리의 과제와 대안을 제시한다.
◯ 연구 방법
연구는 문헌 연구와 사례 분석을 중심으로 이루어진다.
키워드:
공지능, 생성형 인공지능, 딥페이크, 인공지능 윤리, 자동화된 알고리즘, 디지털 플랫폼, 플랫폼 도시주의, 사회적 상호작용, 환경(milieu), 온라이프, 연합환경, 공공성, 공공 공간, 드러남의 공간, 차별, 배제, 격리, 인공지능 윤리 권고, 공간 공간의 사유화, 디지털 액티비즘
Automated Algorithms, Generative AI, Deep Fake, AI Ethics, Digital Platforms, Platform Urbanism, Social Interactions, Milieu, Associated milieu, Onlife, Ethics of Artificial Intelligence, Publicness, Public Space, Space of apperance, Discrimination, Exclusion, Isolation, Recommendations for Ethics of Artificial Intelligence, Privatization of Public Space, Digital Activism