[원문Link]AI 안전연구소 개소…"AI 오용·통제력 상실 막는다"

[원문Link]AI안전연구소 어떤 일 하나···구성원과 처우는

AI 기술을 둘러싼 국가간 경쟁이 격화되고 있는 가운데 우리나라도 AI 주권을 확립해야 한다는 목소리가 높아지고 있습니다. AI 거버넌스의 관점에서 AI 주권을 확립한다는 것은 AI 기술이 자국의 사회문화적 가치에 정렬되도록 거버넌스 시스템을 구축하는 것을 의미한다고 말할 수 있습니다. 그런데 글로벌 경제에 동참하기 위해서는 역내 거버넌스 시스템이 역외 거버넌스 체제와 상호운용성을 유지하는 것 또한 포기할 수 없는 정책적 목표일 것입니다. 우리나라도 마찬가지로 이 두 목표를 조화롭게 달성할 수 있는 AI 거버넌스 시스템의 디자인과 전략 수립이 요구되고 있습니다.서울대학교 인공지능 정책 이니셔티브(SAPI)는 한국인공...

주제 : Switzerland's Approach to AI : A Vision for Trustworthy and Open LLMs소개 : 데이터의 증가와 데이터 처리 기술의 발달의 결합으로 대규모 언어 모델 기술이 급속도로 발전하며, 사회 전반에 걸쳐 혁신적인 변화를 가져오고 있는 가운데, AI 기술의 윤리적 사용과 책임이 더욱 중요해지고 있습니다. 최근 EU는 R 2024/1689를 통해 AI 기술의 위험 기반 규제를 도입하고자 하는 반면, 이러한 규제 중심적 접근 방식과는 달리 스위스는 개방성과 혁신을 장려하면서도 책임을 지는 AI 개발을 위한 독자적인 접근 방식을 취하고 있습니다. 본 에레혼에서는 AI ...

- 싱가포르 정부 기관인 Infocomm Media Development Authority(IMDA)에서 주최한 Singapore AI Safety Red Teaming Challenge에서 서울대학교, 카이스트, 네이버 소속 연구원으로 구성된 한국팀이 전체 3위 수상- 이번 대회는 아시아 9개국(한국, 중국, 일본, 인도, 말레이시아, 싱가포르, 인도네시아, 태국, 베트남)이 참여하였으며, 참가자들은 4개의 대형 언어 모델(LLM)에 프롬프트를 입력해 편향이나 차별이 포함된 응답을 유도하는 과제 수행...

[원문Link]기술 빠르고 규제 복잡…글로벌 전문가들 "AI 표준 필요하다" (edaily.co.kr)

[원문Link][현장] '두 갈래'로 나뉜 AI 거버넌스 모델…韓 선택은? - ZDNet korea

[원문Link]"AI, `무어의 법칙`보다 빠른데 표준은 거북이, 법규는 얼음" - 디지털타임스 (dt.co.kr)

[원문Link]제이슨 권 오픈AI CSO, “AI 기능 발전할수록 안전성도 개선돼야” - 전자신문 (etnews.com)

[원문Link][현장] 오픈AI 제이슨 권 "AI 극초기 단계…낙관론 유지해야" - ZDNet korea

[원문Link][현장] "AI 만난 프라이버시법, 유연성 필수로 갖춰야" - ZDNet korea

[원문Link]서울대 CTAI, 미 펜실베니아대 CTIC 해외 협력 연구기관 선정 < 대학뉴스 < 뉴스 < 기사본문 - 한국대학신문 - 411개 대학을 연결하는 '힘' (unn.net)

[원문Link]서울대 인공지능신뢰성연구센터, AI 표준 정립 위한 협력 연구기관으로 美 펜실베니아대 '기술, 혁신 및 경쟁 센터' 선정 < 발표 < TODAY < 기사본문 - 인공지능신문 (aitimes.kr)

[원문Link]임용 서울대 교수 "글로벌 AI 거버넌스, 한국이 이끌어야" - ZDNet korea

[원문Link]서울대 인공지능정책 이니셔티브/인공지능신뢰성연구센터 'SEOUL AI POLICY CONFERENCE 2024' 개최 < 대학뉴스 < 대학 < 기사본문 - 베리타스알파 (veritas-a.com)

[원문Link]"글로벌 최고 전문가들과 AI 거버넌스 심층 논의" (lawtimes.co.kr)

https://www.saipcon.com/서울대학교 인공지능 정책 이니셔티브(SNU AI Policy Initiative, 이하 “SAPI”)가 주관하고, 서울대학교 법과경제연구센터 및 서울대학교 인공지능신뢰성연구센터(Center for Trustworthy AI, 이하 “CTAI”)가공동으로 주최하는 서울 Seoul AI Policy Conference 2024가 ‘AI 거버넌스의 프런티어 이슈(Frontier Issues in AI Governance)’라는 주제로 2024년 8월 12일과 13일 양일에 걸쳐 서울 페럼타워에서 진행될 예정이다. SAP...

법, 인문학, 인공지능 스터디 그룹 에레혼 (Erewhon: An Interdisciplinary Reading Group on Law, Humanities, and AI) 번 열 세 번째 모임을 진행했습니다.이번 스터디는 서울대학교 인공지능신뢰성연구센터의 김은수 박사님께서 Orly Lobel의 "The AI Regulatory Pyramid: A Taxonomy & Analysis of the Emerging Toolbox in the Global Race for the Regulation and Governance of Artificial Intelligence"를 바탕으로, 인공지능 규제...

■주제 :인공지능 리스크 규제의 의미■발표자 : 서울대학교 인공지능신뢰성연구센터 김은수 박사■논문1. Kaminski, Margot E., Regulating the Risks of AI (August 19, 2022). Boston University Law Review, Vol. 103:13472. Kaminski, Margot E., The Developing Law of AI: A Turn to Risk Regulation (April 12, 2023). The Digital Social Contract: A Lawfare Paper Series (April 2023), U of Colorado Law Legal...

■주제 :LLM Alignment with Human Preferences서울대학교 빅데이터 AI 센터의 채성원 연구원의 "LLM Alignment with Human Preferences" 주제 발표로 거대언어모델(LLM)의 효과적인 응용 뿐만 아니라 윤리적 활용을 위하여 인간의 선호를 잘 반영할 수 있도록 조정하는 방법론에 대해 정리하여 발표■일시 : 2024년 4월 30일 (화) 12:30~13:30■장소 : 서울대학교 17동 103호 미디어실...

[원문Link][취재파일] 탈진실의 시대, 미디어의 역할은? (naver.com)

■주제 : 뉴스룸과 인공지능 윤리인공지능을 활용한 허위정보 확산의 우려가 커지면서 언론의 역할이 더욱 중요해지고 있다. 언론은 허위정보를 막기 위해 어떠한 노력을 해야 하는지, 뉴스룸에서 인공지능을 활용할 경우 어떠한 윤리적 기준을 고려해야 하는지 이번 특강에서 논의해본다. ■발표 : 박아란 교수 (고려대학교 미디어학부) ■일시 : 2024년 2월 27일 (화) 12:00~13:00 (점심 제공) ■장소 : 서울대학교 17동 103호 미디어실...