광운대 인간-AI 거버넌스 연구소, 서울특별시의회 공식 AI 시민권리 정책토론회 공동주관

- 11월 6일 서울특별시의회 개최… “AI가 당신을 판단할 때, 누가 그 판단을 바로잡는가?” -

- 권덕철 전 보건복지부 장관 등 보건복지·공공 AI·행정정책 전문가 지정토론 -

- 미국 USC 등 4개국 연구자 5명 학술 기고… AI 감정해석과 인간의 판단 권한 논의 -

광운대학교 경영대학원 인간-AI 거버넌스 연구소가 오는 11월 6일(금) 오후 3시부터 5시까지 서울특별시의회 제1대회의실에서 개최되는 「AI 감정해석과 시민권리 보호를 위한 정책적 과제 토론회」를 공동주관한다.

이번 행사는 서울특별시의회가 주최하고, 서울특별시의회 김길영 의원실과 광운대학교 인간-AI 거버넌스 연구소가 공동주관하는 공식 정책·학술 토론회다. 프랑스 파리 소재 Ryan Research Institute(RRI)와 보건의료신문이 협력하며, 국내 정책 전문가와 국제 연구자들의 학술 의견을 연결한다.

토론회의 핵심 질문은 “AI가 당신을 판단할 때, 누가 그 판단을 바로잡는가?”이다. 최근 생성형 인공지능은 단순히 이용자의 질문에 답하는 도구를 넘어, 사람의 감정과 심리적 상태를 추론하고 상담·교육·복지·돌봄·민원 등 다양한 서비스의 판단을 지원하는 기술로 발전하고 있다.

이러한 변화에 따라 AI가 사람의 감정을 얼마나 정확하게 추론하는가를 넘어, 그 해석이 개인이나 공공기관의 의사결정에 영향을 미칠 경우 어떤 기준과 절차로 검증하고 바로잡을 것인가가 중요한 정책적 문제로 떠오르고 있다.

특히 AI가 특정 시민의 심리적 상태를 판단했을 때 당사자가 그 해석에 동의하지 않는다면, 해당 판단을 누가 재검토하고 정정할 수 있는지, 그 결과에 대한 최종적인 책임은 누구에게 있는지를 검토할 필요가 있다.

이번 토론회는 이러한 문제를 심리학, AI 안전성, 정신건강, 보건복지정책 및 공공행정의 관점에서 종합적으로 논의하고, 서울시 공공 AI 활용에 필요한 시민권리 보호와 행정적 책임체계의 정책 과제를 도출하기 위해 마련됐다.

지난 10월 8일 보건복지부와 대한신경정신의학회가 발표한 「정신건강 목적 생성형 AI 이용 가이드라인」과도 연결하여, AI 이용자의 안전을 넘어 공공기관이 AI 시스템을 도입·운영할 때 요구되는 검증, 인간 재검토, 설명 책임 및 이의제기 절차를 함께 살펴볼 예정이다.

행사는 김길영 서울특별시의회 의원의 개회사와 이경일 광운대학교 인간-AI 거버넌스 연구소 설립위원장의 환영사로 시작된다.

이어 김상백 광운대학교 연구교수이자 Ryan Research Institute(RRI) 소장이 「AI 감정해석과 해석 권한의 이동」을 주제로 단독 기조발제를 진행한다.

김상백 교수는 인공지능과 인간의 감정적 상호작용, 감정주권(Affective Sovereignty), 해석 권한(Interpretive Authority) 등을 연구해 왔으며, Springer Nature와 Elsevier 등 국제 학술출판사를 통해 관련 연구 성과를 발표해 왔다.

이번 발제에서는 AI의 예측 정확성과 그 예측에 부여되는 판단 권한을 구분하고, AI가 인간의 감정과 심리 상태를 해석하는 과정에서 개인의 자기해석권과 공공기관의 책임을 어떻게 보장할 것인지에 관한 구체적인 정책적 검토 원칙을 제시할 예정이다.

특히 AI의 판단에 관한 사전 고지, 판단 근거의 기록, 인간에 의한 독립적인 재검토, 시민의 정정·이의제기, 취약계층 보호, 기관의 최종 책임 등을 주요 의제로 다룬다.

기조발제에 이어 박태훈 광운대학교 경영대학원 교수이자 인간-AI 거버넌스 연구소장이 좌장을 맡아 전문가 지정토론을 진행한다.

지정토론은 이경일 연구소 설립위원장, 권덕철 전 보건복지부 장관, 문인철 서울연구원 연구위원, 주성환 서울AI재단 AI혁신사업본부장, 최소영 한국보건사회연구원 연구원, 육명렬 전 강원지방기상청장 등 6명으로 구성하는 방향으로 준비되고 있다.

토론에서는 국가 보건복지정책과 정신건강 AI 이용자 보호, 서울시 공공 AI의 실제 운영 및 정책 설계, 행정기관의 의사결정 책임, 시민의 권리와 공공서비스 접근성 등을 다각적으로 검토한다.

특히 이번 행사는 국내 정책 전문가들의 현장 토론뿐 아니라 미국·이탈리아·일본·호주 연구자들의 학술적 견해가 함께 참여한다는 점에서도 주목된다.

현재 국제 학술 기고에는 이탈리아 Sapienza University of Rome의 Tiziana Catarci 교수와 University of Foggia의 Aldo Pisano 연구자가 공동으로 참여했으며, 일본 Kansai University의 Keito Inoshita 연구자, 호주 Curtin University의 Warren Mansell 교수, 미국 University of Southern California(USC)의 Norbert Schwarz 교수가 각각 서면 의견을 제공했다.

총 4개국, 연구자 5명으로부터 확보한 4건의 학술 기고는 AI의 감정 해석과 윤리적 권한, 인간의 심리적 자율성, 감정 경험의 기억과 재구성, AI 기반 정신건강 서비스의 설계 등 다양한 학문적 관점을 포함하고 있다.

특히 미국 USC의 Norbert Schwarz 교수는 이번 토론회 주제에 맞춰 「When AI labels feelings, what are the consequences? Some conjectures」라는 별도의 학술 논평을 작성했다. 이 글에서는 AI가 감정에 부여하는 이름이 현재의 감정 경험 자체뿐 아니라 과거 감정의 기억과 재구성, 이후의 평가와 선택에 어떤 영향을 미칠 수 있는지를 실험적으로 검증 가능한 가설로 제시했다.

해외 연구자들의 의견은 각 연구자의 독립적인 학술 기고이며, 소속 대학의 공식 공동주최나 기관 차원의 참여를 의미하지 않는다. 기고문은 저자별 허용 범위와 자료집 편집 일정에 따라 공식 토론회 자료에 반영하는 방안을 협의하고 있다.

광운대학교 인간-AI 거버넌스 연구소는 이번 토론회를 통해 AI 기술의 성능과 정확성에 집중해 온 기존 논의를 인간의 해석 권한과 시민의 제도적 보호 문제로 확장하고자 한다.

또한 파리의 RRI와 국내외 연구자들의 학술적 교류를 서울특별시의회의 정책 논의와 연결함으로써 심리학, AI 안전성, 공공행정 및 시민권리를 포괄하는 학제간 연구 협력의 기반을 강화할 계획이다.

토론회에서 도출된 주요 쟁점은 서울시 공공 AI 사업의 기획, 도입, 조달, 운영 및 사후평가 과정에서 검토할 정책 질문과 책임체계를 정리하는 기초자료로 활용될 수 있다.

이번 행사는 관계 전문가와 초청 참석자 등 약 40명이 참여하는 규모로 준비되고 있으며, 마지막 순서에는 참석자 질의응답과 주요 정책 쟁점 정리가 진행될 예정이다.

[행사 개요]

행사명: AI 감정해석과 시민권리 보호를 위한 정책적 과제 토론회

대외 명칭: 2026 인간-AI 거버넌스 정책·학술 토론회

핵심 주제: AI가 당신을 판단할 때, 누가 그 판단을 바로잡는가?

일시: 2026년 11월 6일(금) 15:00~17:00

장소: 서울특별시의회 제1대회의실

주최: 서울특별시의회

주관: 서울특별시의회 김길영 의원실, 광운대학교 인간-AI 거버넌스 연구소

협력: Ryan Research Institute(RRI), 보건의료신문

참석 규모: 약 40명

[주요 프로그램]

15:00~15:20 개회, 김길영 의원 개회사 및 이경일 설립위원장 환영사

15:20~15:45 기조발제

김상백 광운대학교 연구교수

「AI 감정해석과 해석 권한의 이동」

15:45~16:40 전문가 지정토론

좌장: 박태훈 광운대학교 경영대학원 교수

지정토론자:

이경일 - 인간-AI 거버넌스 연구소 설립위원장

권덕철 - 전 보건복지부 장관

문인철 - 서울연구원 연구위원

주성환 - 서울AI재단 AI혁신사업본부장

최소영 - 한국보건사회연구원 연구원

육명렬 - 전 강원지방기상청장

16:40~16:55 참석자 질의응답 및 의견 청취

16:55~17:00 주요 정책 쟁점 정리 및 폐회

[국제 학술 기고]

Tiziana Catarci - Sapienza University of Rome, Italy

Aldo Pisano - University of Foggia, Italy

Keito Inoshita - Kansai University, Japan

Warren Mansell - Curtin University, Australia

Norbert Schwarz - University of Southern California, USA