[원문]

[원문]

[원문] AI 안전연구소 어떤 일 하나···구성원과 처우는

AI 기술을 둘러싼 국가간 경쟁이 격화되고 있는 가운데 우리나라도 AI 주권을 확립해야 한다는 목소리가 높아지고 있습니다. AI 거버넌스의 관점에서 AI 주권을 확립한다는 것은 AI 기술이 자국의 사회문화적 가치에 정렬되도록 거버넌스 시스템을 구축하는 것을 의미한다고 말할 수 있습니다. 그런데 글로벌 경제에 동참하기 위해서는 역내 거버넌스 시스템이 역외 거버넌스 체제와 상호운용성을 유지하는 것 또한 포기할 수 없는 정책적 목표일 것입니다. 우리나라도 마찬가지로 이 두 목표를 조화롭게 달성할 수 있는 AI 거버넌스 시스템의 디자인과 전략 수립이 요구되고 있습니다.서울대학교 인공지능 정책 이니셔티브(SAPI)는 한국인공지능...

발명명칭 : 노이즈 제거 모델 구축 방법과 노이즈 제거 모델을 이용한 이미지 노이즈 제거 장치 및 방법 출원번호 : PCT/KR2024/096560 출원일 : 2024년 11월 14일 출원인 : 서울대학교 산학협력단 발명자명 : 한보형, 류동헌 출원국 : 대한민국

주제 : Switzerland's Approach to AI : A Vision for Trustworthy and Open LLMs내용 : 데이터의 증가와 데이터 처리 기술의 발달의 결합으로 대규모 언어 모델 기술이 급속도로 발전하며, 사회 전반에 걸쳐 혁신적인 변화를 가져오고 있는 가운데, AI 기술의 윤리적 사용과 책임이 더욱 중요해지고 있습니다. 최근 EU는 R 2024/1689를 통해 AI 기술의 위험 기반 규제를 도입하고자 하는 반면, 이러한 규제 중심적 접근 방식과는 달리 스위스는 개방성과 혁신을 장려하면서도 책임을 지는 AI 개발을 위한 독자적인 접근 방식을 취하고 있습니다. 본 에레혼에서는 AI ...

싱가포르 정부 기관인 Infocomm Media Development Authority(IMDA)에서 주최한 Singapore AI Safety Red Teaming Challenge에서 서울대학교, 카이스트, 네이버 소속 연구원으로 구성된한국팀이 전체 3위를 수상했습니다.이번 대회는 아시아 9개국 (한국, 중국, 일본, 인도, 말레이시아, 싱가포르, 인도네시아, 태국, 베트남)이 참여하였으며, 참가자들은 4개의 대형 언어 모델(LLM)에 프롬프트를 입력해 편향이나 차별이 포함된 응답을 유도하는 과제를 수행했습니다....