AI 신뢰성에 대한 기술적 담론
— 오류의 발생 원인과 해결 방향

AI가 틀린다는 사실보다 곤란한 것은, 그 오류가 어디서 오는지 모른다는 점입니다.
파운데이션 모델을 기반으로 한 AI 시스템이 사실과 다른 답변을 그럴듯하게 제시하거나 사용자의 견해에 과도하게 동조하는 현상은
과연 개발사의 부주의만으로 설명할 수 있을까요? 이번 강연에서는 그 원인이 인간의 의도와 선호를 수치화한 보상 함수로 AI를 학습
시키는 방식 자체에 있음을 짚고, 이러한 구조적 취약성이 여러 유형의 오류로 어떻게 나타나는지 살펴봅니다.
환각, 아첨, 보상 해킹 등 AI 신뢰성 문제의 여러 층위를 따라가며, 오류가 어떤 조건에서 발생하고 증폭되는지, 오류 유형에 따라 왜
다른 대응이 필요한지를 기술적 관점에서 논의하는 시간이 될 것입니다.
AI를 연구의 도구이자 대상으로 마주하는 대학원생들과 신뢰할 수 있는 활용의 조건을 함께 탐색하는 「SHINE AI: 통찰과 성찰」
첫 번째 여정에 여러분을 초대합니다.

■ 한보형 교수(서울대학교 전기‧정보공학부)
· 한국과학기술한림원 정회원 (2026)
· 과학기술정보통신부 「이달의 과학기술인상」 수상 (2025.10.)
· Google DeepMind 방문연구원 (2024–2025)