서울대학교 인공지능신뢰성 연구센터(CTAI)가 주최하는 Trustworthy & Responsible Agentic AI 심포지엄에 여러분을 초대합니다.
AI 안전성 논의의 무게중심이 이동하고 있습니다. ‘모델이 무엇을 생성하는가’의 시대에서, 이제는 ‘에이전트가 무엇을 계획하고 행동하는가’로의 전환입니다. 스스로 판단하고 장기적 목표를 수행하는 에이전틱 AI 앞에서, 기존의 안전·신뢰 프레임워크는 근본적인 재설계를 요구받고 있습니다.
서울대학교 인공지능신뢰성 연구센터(CTAI)가 이 질문을 정면으로 다루는 자리를 마련했습니다. 에이전틱 AI의 신뢰성·책임성 문제를 기술적·사회적·법경제적 관점에서 국내외 최고 권위자들을 모시고 다각도로 조명하는 자리에 여러분을 초대합니다. 많은 분들의 관심과 참여를 부탁드립니다. 감사합니다.
발표 및 토론 세션
세션 1 — 인간·시장·법제
S. Shyam Sundar (Pennsylvania State University, Evan Pugh University Professor)
에이전틱 AI가 심화시키는 과신·과소신뢰의 문제를 HAII-TIME 이론 기반의 어포던스 접근법으로 분석합니다. Center for Socially Responsible AI 소장이자 국제커뮤니케이션학회(International Communication Association) 펠로우인 Sundar 교수는 '인터랙티브 투명성'이라는 해법을 제안합니다.
고학수 (서울대 법학전문대학원 교수 · 전 개인정보보호위원회 위원장)
에이전트가 검색·비교·협상·거래를 대행하는 시대, 시장 구조는 어떻게 재편되는가? MCP·A2A 같은 신흥 프로토콜이 가져올 경쟁 촉진과 플랫폼 권력 집중의 양면을 법경제학적으로 분석합니다. 고학수 교수는 UN AI 고위급 자문기구 위원을 역임한 국내 최고 데이터법 전문가입니다.
토론: 김세웅 카카오 AI 시너지 부사장 (과학기술정보통신부 에이전틱 AI 얼라이언스 생태계 분과 위원장)
세션 2 — 알고리즘·산업 전략
Masashi Sugiyama (도쿄대 교수 · RIKEN 혁신지능통합연구센터 소장)
불완전 피드백 환경에서의 보상 모델링—전이 학습과 약지도 학습을 결합한 새로운 강화학습 프레임워크를 소개합니다. Sugiyama 교수는 NeurIPS·AISTATS·ACML 프로그램 체어를 역임한 강화학습·기계학습 이론의 세계적 권위자입니다.
김유철 (LG AI리서치 전략 부문장 · VP)
LG AI리서치의 EXAONE 에이전트 리스크 분류 체계와 함께, 안전한 모델이 안전한 에이전트의 필요조건임을 넘어 어떻게 충분조건이 될 수 있는지를 논합니다. 김유철 부문장은 2024년 대통령 표창 수훈자이며, OECD·UNESCO·프랑스 AI 액션 서밋·인도 AI 임팩트 서밋 연사로 초대됐습니다.
토론: 윤상두 네이버클라우드 네이버 AI Lab 연구소장
< 사전신청 Registration>
참석을 원하시는 분은 아래의 링크 또는 QR코드를 통해 사전 참가신청(선착순) 부탁드립니다. 별도의 ICML 2026 참가 등록 없이 무료로 참석 가능합니다.
https://docs.google.com/forms/d/e/1FAIpQLSeNn_loxPz9MPJCElYjXwi-0c2gBk0gRvPWxRVug6xgYwPTWQ/viewform?usp=dialog
