‘대한민국 AI안전컨소시엄’ MOU 체결도… 정책연구·기술협력 등
|
과학기술정보통신부는 27일 판교 글로벌R&D센터에서 'AI안전연구소' 개소식을 개최했다고 밝혔다.
개소식에는 류광준 과기부 과기혁신본부장, 염재호 국가AI위원회 부위원장, 이경우 대통령실 AI·디지털 비서관 등 정부 주요인사와 오승필 KT CTO, 오혜연 카이스트 AI연구원장, 이은주 서울대 AI신뢰성 연구센터장, 방승찬 ETRI 원장 등 AI 분야 산·학·연 핵심관계자 40여 명이 참석했다.
과기부는 지난 5월 'AI서울정상회의'에서 10개국 정상이 AI안전연구소 설립과 안전한 AI에 대한 글로벌 협력을 강조한 이후 연구소 조직·예산·인력·기능에 대한 사전준비를 진행해 왔다.
AI안전연구소는 AI의 기술적 한계, 인간의 AI기술 오용, AI 통제력 상실 등으로 발생하는 다양한 AI 관련 위험에 체계적·전문적으로 대응하기 위한 AI 안전연구 전담조직으로, 산·학·연 기관이 AI 안전분야 연구 협력과 정보 교류를 할 수 있는 대한민국 AI 안전연구 허브다.
연구소는 '국제 AI안전연구소 네트워크'의 일원으로서 안전한 AI를 위한 글로벌 연대의 역할을 수행한다는 방침이다. 이를 통해 AI 안전 분야의 경쟁력 있는 기술·인력을 육성하고, 과학적 연구데이터에 근거한 AI 안전 관련정책의 개발·선진화를 추진한다는 계획이다.
이날 행사에서는 '대한민국 AI안전컨소시엄' 협약식이 진행됐다. 협약식에서는 AI 분야 국내 대표 산·학·연 기관 총 24곳이 참여하는 AI 안전에 관한 정책연구, 평가, 연구개발의 상호협력을 위한 업무협약(MOU)이 체결됐다.
이를 통해 AI안전연구소와 컨소시엄 참여기관이 함께 AI 안전 프레임워크(위험 식별·평가·완화) 연구·개발·실증, AI 안전 관련 국제규범 대응 등 정책연구, AI 안전 관련 기술 협력 등을 중점적으로 추진한다는 계획이다. 참여 기관들은 향후 컨소시엄의 세부 연구주제와 운영방안을 구체화해 나갈 예정이다.
AI안전연구소 초대 소장으로 임명된 김명주 소장은 '연구소 비전 및 운영계획' 발표를 통해 "AI 활용으로 발생할 수 있는 제반위험 평가와 이를 예방·극소화하기 위한 정책·기술을 개발·보급하고, 국내외 연대를 강화해 나갈 것"이라며 "연구소는 규제기관의 성격이 아니라, 국내 AI 기업들이 글로벌 경쟁력을 확보하는데 장애가 되는 위험요소들을 최소화하도록 지원하는 협력기관으로 역할을 하겠다"고 강조했다.
