센터장 인사말

센터장 인사말

​​​​​​​

안녕하세요

인공지능신뢰성연구센터(Center for Trustworthy AI, 이하 “CTAI”) 센터장

서울대학교 언론정보학과 이은주입니다. 

​​​​​​​​​​​​​​​​​​​인공지능이 인류에게 막대한 편익을 제공할 것이라는 기대가 더욱 높아지고 있습니다.
그런데 이와 동시에 인공지능이 편향이나 차별 등 여러 사회 문제를 유발하면서, 인공지능 기술 및 산업 전반에 대한 불신이 증가하여 인공지능 산업의 안정적이고 지속적인 발전에 걸림돌이 될 것이라는 우려도 존재합니다.

CTAI는 이러한 문제 의식을 바탕으로, ‘신뢰할 수 있는 AI’를 위한 기술적, 윤리적, 사회적 기초를 마련하기 위하여 출범하였습니다.

CTAI의 연구 목표는 다음과 같이 크게 네 가지로 정리할 수 있습니다.

첫째,
​​​​​​​
​​​​​​​‘신뢰할 수 있는 인공지능 (Trustworthy AI)’의 개념 (공정성, 안전성, 설명가능성/투명성, 견고성/보안/프라이버시) 및 평가지표를 제안하고, 이를 검증하고 구현하는 데 필요한 표준적 절차를 규정한 기술문서를 개발하는 것입니다.

둘째​​​​​​​
​​​​​​​
AI 모델이 이러한 개념 및 평가지표를 충족하는지 검증하고, 기술적으로 가능한 범위 내에서 이를 교정하기 위한 원천기술을 연구하여 논문으로 발표하고자 합니다.

셋째​​​​​​​
​​​​​​​
이러한 기술을 구체적으로 실행하는 솔루션을 개발할 계획입니다.

넷째​​​​​​​
​​​​​​​
위와 같은 과정과 더불어 융합인재양성 교육 프로그램을 개발, 활성화하는 것입니다.

이러한 연구 목표를 달성하기 위하여, CTAI에서는 공학, 통계학, 언론정보학, 법학, 철학 등 다양한 분야의 연구자들이 모여 초학제적 융복합연구를 수행하고 있습니다. 이와 같은 연구활동을 가능하게 해 주신 한국연구재단에 감사드리며, 신뢰 가능하고 안전한 인공지능 활용을 위한 사회적 기반을 조성하는 데 기여하겠습니다.

감사합니다.

SNS Share 페이스북 공유하기트위터 공유하기카카오스토리 공유하기네이버 공유하기