안녕하세요
인공지능신뢰성연구센터(Center for Trustworthy AI, 이하 “CTAI”) 센터장
서울대학교 언론정보학과 이은주입니다.
인공지능이 인류에게 막대한 편익을 제공할 것이라는 기대가 더욱 높아지고 있습니다.
그런데 이와 동시에 인공지능이 편향이나 차별 등 여러 사회 문제를 유발하면서, 인공지능 기술 및 산업 전반에 대한 불신이 증가하여 인공지능 산업의 안정적이고 지속적인 발전에 걸림돌이 될 것이라는 우려도 존재합니다.
CTAI는 이러한 문제 의식을 바탕으로, ‘신뢰할 수 있는 AI’를 위한 기술적, 윤리적, 사회적 기초를 마련하기 위하여 출범하였습니다.
CTAI의 연구 목표는 다음과 같이 크게 네 가지로 정리할 수 있습니다.
첫째,
‘신뢰할 수 있는 인공지능 (Trustworthy AI)’의 개념 (공정성, 안전성, 설명가능성/투명성, 견고성/보안/프라이버시) 및 평가지표를 제안하고, 이를 검증하고 구현하는 데 필요한 표준적 절차를 규정한 기술문서를 개발하는 것입니다.
둘째,
AI 모델이 이러한 개념 및 평가지표를 충족하는지 검증하고, 기술적으로 가능한 범위 내에서 이를 교정하기 위한 원천기술을 연구하여 논문으로 발표하고자 합니다.
셋째,
이러한 기술을 구체적으로 실행하는 솔루션을 개발할 계획입니다.
넷째,
위와 같은 과정과 더불어 융합인재양성 교육 프로그램을 개발, 활성화하는 것입니다.
이러한 연구 목표를 달성하기 위하여, CTAI에서는 공학, 통계학, 언론정보학, 법학, 철학 등 다양한 분야의 연구자들이 모여 초학제적 융복합연구를 수행하고 있습니다. 이와 같은 연구활동을 가능하게 해 주신 한국연구재단에 감사드리며, 신뢰 가능하고 안전한 인공지능 활용을 위한 사회적 기반을 조성하는 데 기여하겠습니다.
감사합니다.
