AI 신뢰성에 대한 기술적 담론 — 오류의 발생 원인과 해결 방향AI가 틀린다는 사실보다 곤란한 것은, 그 오류가 어디서 오는지 모른다는 점입니다. 파운데이션 모델을 기반으로 한 AI 시스템이 사실과 다른 답변을 그럴듯하게 제시하거나 사용자의 견해에 과도하게 동조하는 현상은 과연 개발사의 부주의만으로 설명할 수 있을까요? 이번 강연에서는 그 원인이 인간의 의도와 선호를 수치화한 보상 함수로 AI를 학습 시키는 방식 자체에 있음을 짚고, 이러한 구조적 취약성이 여러 유형의 오류로 어떻게 나타나는지 살펴봅니다. 환각, 아첨, 보상 해킹 등 AI 신뢰성 문제의 여러 층위를 따라가며, 오류가 어떤 조건에서 발생하고 ...

법, 인문학, 인공지능 스터디 그룹 에레혼 (Erewhon: An Interdisciplinary Reading Group on Law, Humanities, and AI) #22 모임을 진행하니 많은 관심과 참여 부탁드립니다.이번 에레혼은 “생성형 AI(Generative AI) 스터디 세션”으로 진행됩니다.생성형 AI가 야기하는 공정성 문제 안성수 연구원 (광주과학기술원 AI학과, 석사과정) 생성형 AI 시스템에서 발생하는 공정성 침해의 개념을 정의하고, 이와 관련된 법적 및 기술적 규제 동향을 분석한 연구로 국내외의 법령, 가이드라인, 주요 기술적 완화 전략을 포괄적으로 검토하며, 인공지능이 ...

법, 인문학, 인공지능 스터디 그룹 에레혼 (Erewhon: An Interdisciplinary Reading Group on Law, Humanities, and AI) #21 모임을 진행하니 많은 관심과 참여 부탁드립니다.제목: Weights, Context, and Harness meet Safety강연 내용: AI 산업의 발전 흐름은 모델의 Weights를 직접 학습∙조정하는 단계에서, Context를 구성하고 제어하는 단계로, 나아가 AI Agent를 실제 업무와 시스템에 연결하는 Harness 단계로 확장되고 있습니다. 이에 따라 AI 안전성 확보 역시 각 층위에서 상이하게 요구되며, Weights에서는 ...

서울대학교 인공지능신뢰성 연구센터(CTAI)가 주최하는 Trustworthy & Responsible Agentic AI 심포지엄에 여러분을 초대합니다.일시: 2026년 7월 6일(월) 14:00–17:30 (포스터 세션 13:30~) 장소: 오크우드 프리미어 코엑스센터, 오크·프리미어 룸, 5층 (오프라인 전용 · AI 실시간 통역 제공)AI 안전성 논의의 무게중심이 이동하고 있습니다. ‘모델이 무엇을 생성하는가’의 시대에서, 이제는 ‘에이전트가 무엇을 계획하고 행동하는가’로의 전환입니다. 스스로 판단하고 장기적 목표를 수행하는 에이...

서울대학교 인공지능 정책 이니셔티브(SAPI)가 주관하고 법과경제연구센터와 인공지능신뢰성 연구센터가 공동으로 주최하는 올해 네 번째 SAPI 콜로퀴엄에 여러분을 초대합니다.이번 콜로퀴엄에서는 미국 컬럼비아 로스쿨의 Shyamkrishna Balganesh 교수가 “AI 저자권에 대한 금기: 그 한계와 극복 방안(Overcoming the AI Authorship Taboo)”에 관하여 발표합니다. Balganesh 교수는 컬럼비아 로스쿨에서 과학·기술·지식재산권법 프로그램(STIPL)을 관장하며, Kernochan 법·미디어·예술 센터의 공동 소장...

AI 거버넌스의 현 모습을 진단하고 그 나아갈 방향을 모색하는 서울 인공지능 정책 컨퍼런스(SAIPCON) 2026에 여러분을 초대합니다.상세 프로그램: https://www.saipcon.com/2026-program/올해 SAIPCON에서는 Nataliya Kosmyna (MIT 미디어 랩), Rebecca Portnoff (Thorn), Brian Merchant (Blood in the Machine), Paul Scharre (CNAS), Gregory C. Allen (Decision Tree Research)를 포함하여 AI 거버넌스 연구 및 정책을 선도하는 80여명의 글로벌 전문가들이 양일간 15개의 세션...

서울대학교 인공지능 정책 이니셔티브(SAPI)가 주관하고 서울대학교 법과경제연구센터와 서울대학교 인공지능신뢰성센터가 공동으로 주최하는 올해 세 번째 SAPI 콜로퀴엄에 여러분을 초대합니다.이번 콜로퀴엄은 보스턴대학교 로스쿨의 국제 프로그램 디렉터인 Maureen Tracy Leo 박사로부터 “AI 시대의 법학도가 갖추어야 할 윤리적 감수성(Ethical Issues for Law Students in the Age of AI)”을 발표하는 자리입니다. Leo 박사는 보스턴대학교 로스쿨의 최고 영예인 코헨상(Cohen Ward)을 수상했으며, 학생 지원 서비스 이외에 ‘지적재산권법 및 정보...

서울대학교 인공지능신뢰성 연구센터(Center for Trustworthy AI)가 주관하는 2026년 월례세미나 시리즈 - 신뢰할 수 있는 인공지능 만들기의 세 번째 세미나에 여러분을 초대합니다.- 연사: 박혜진 교수(한양대학교 법학전문대학원) - 일시: 2026년 5월 26일(화) 12:00–13:00 - 장소: 서울대학교 근대법학백주년기념관 최종길홀(84동 101호) * 이전 월례세미나를 진행한 공간과는 다른 장소에서 개최되오니 오프라인 참가자 분들은 유의하시기 바랍니다.이번 세미나에서는 한양대학교 법학전문대학원 박혜진 교수가 “사법절차에서 인공지능의 신뢰성”이라는 주제로 발표할 예...

서울대학교 인공지능신뢰성 연구센터(Center for Trustworthy AI)가 주관하는 2026년 월례세미나 시리즈 - 신뢰할 수 있는 인공지능 만들기의 두 번째 세미나에 여러분을 초대합니다.- 연사 : 한보형 교수 (서울대학교 전기정보공학부) - 일시 : 2026년 4월 28일(화) 12:00–13:00 - 장소 : 서울대학교 정보화본부 (102동) 203호이번 세미나에서는 서울대학교 전기정보공학부 한보형 교수가 “신뢰성 있는 인공지능: 기술적 이슈”라는 주제로 발표할 예정입니다. 한보형 교수는 Google DeepMind 방문 연구원, POSTECH 컴퓨터공학과 조교수 및 부교수...

서울대학교 인공지능신뢰성연구센터(Center for Trustworthy AI)가 주관하는 2026년 월례세미나 시리즈 - 신뢰할 수 있는 인공지능 만들기의 첫 번째 세미나에 여러분을 초대합니다.- 연사 : 고학수 교수 (서울대학교 법학전문대학원) - 일시 : 2026년 3월 24일(화) 12:00–13:00 - 장소 : 서울대학교 정보화본부 (102동) 203호이번 세미나에서는 서울대학교 법학전문대학원 고학수 교수가 “글로벌 AI 거버넌스 논의의 흐름: UN 고위급 인공지능 자문기구 경험을 중심으로”라는 주제로 발표할 예정입니다. 고학수 교수는 개인정보보호위원회 위원장과 UN 고위급 인...

서울대학교 인공지능 정책 이니셔티브(SAPI)가 주관하고 서울대학교 법과경제연구센터와 서울대학교 인공지능신뢰성센터가 공동으로 주최하는 올해 두 번째 SAPI 콜로퀴엄에 여러분을 초대합니다.이번 콜로퀴엄은 Meta(이전 Facebook)의 최고 정보보호 책임자(CPO)인 Erin Egan(Meta 공공정책 부문 부사장 겸임)과 “AI 3대 강국으로의 도약”을 주제로 하는 대담으로 진행합니다. Egan 부사장은 Meta의 글로벌 개인정보 보호 및 데이터 정책 팀을 이끌면서 전세계 전문가들과의 협업 하에 AI, 데이터 활용 등에 관한 법정책의 발전에 기여하는 한편 Meta의 Data For Good 활동...

서울대학교 인공지능 정책 이니셔티브(SAPI)가 주관하고 서울대학교 법과경제연구센터와 서울대학교 인공지능신뢰성센터가 공동으로 주최하는 올해 첫 SAPI 콜로퀴엄에 여러분을 초대합니다.이번 콜로퀴엄은 Neurorights Foundation의 대표(executive director)인 Stephen Damianos 박사가 “AI가 뇌를 만나면: 전 세계 신경권리 운동(When AI Meets the Brain: The Global Neurorights Movement)”을 주제로 발표하는 자리입니다. Damianos 박사는 신경기술이 사회적 선을 위해 활용되고 오용으로부터 보호되기 위한 전 세계적 노...

서울대학교 인공지능신뢰성 연구센터에서 인공지능의 신뢰성 향상 관련 연구를 함께 수행할 역량 있는 연구원을 아래와 같이 모집합니다. 관심 있는 분들의 많은 지원 바랍니다.1. 채용 분야 및 인원소속 : 인공지능신뢰성 연구센터 채용구분 : 연구원 및 박사후연구원 채용인원 : 1-2명 연구분야 : 인공지능 신뢰성(Trustworthy AI)과 관련한 다양한 분야(공학, 자연과학, 의학, 사회과학, 인문학, 법학 등 학문 분야 불문. 융합연구 경험자 환영)2. 지원 자격관련 분야 박사학위 소지자(임용일 기준 최근 5년 이내 취득자 또는 임용일까지 학위 취득 예정자). 단, 변호사 등 전문자격이나 전문기술을 보유한 경우 석사...

- 일시 : 2025년 10월 14일 (화) 13:30 ~ 14:30 - 장소 : 온라인(줌) - 주최 : 서울대학교 AI연구원 건강·돌봄 AI 센터 - 사전신청 링크 : https://forms.gle/qhWfdRnzC2RGBksv7 - 발표 제목 : 인공지능 편향성 문제와 이를 해결하는 방법론들인공지능이 발전되면서 보건의료, 금융, 채용 등 우리의 삶과 밀접한 관련이 있는 분야의 의사결정도 인공지능이 대체해가고 있다. 하지만, 학습한 데이터에 포함되어 있는 편향성으로 인하여 인공지능도 특정한 집단을 선호하는 편향성을 보일 수 있다. 대출시 남성우대, 가석방시 백인 우대 등의 현상이 곳곳에서 보고되고 있다...