AI 안전 도구와 활용 경험 공유
개인정보보호위원회가 글로벌 기업과 함께 오픈소스 AI 생태계와 개인정보 보호를 논의하는 국제 협력의 장을 열었다.
개인정보보호위원회는 15일 인공지능 개발과 도입에 필수적인 오픈소스 활용을 안전하게 하기 위한 국제 논의의 장 ‘오픈소스 데이’를 개최했다고 밝혔다. 이번 행사는 16일 개막하는 ‘글로벌 프라이버시 총회(GPA)’의 사전 부대 행사로 열렸다.
행사에는 구글, 메타, 마이크로소프트, 오픈AI, 셀렉트스타, 에임 인텔리전스 등 글로벌 오픈소스 AI 기업과 국내 연구자, 해외 감독기구 관계자 등 120여 명이 참석해 오픈소스 AI 생태계와 프라이버시 문제를 집중 논의했다.
개인정보위는 올해 초 열린 간담회에서 산업계가 오픈소스 기반 AI에 높은 관심을 보였다는 점을 확인하고, 프라이버시 가드레일 마련 필요성을 제기한 바 있다. 이번 행사에서도 오픈소스 모델 활용 경험과 안전성 고려 비율이 각각 62%, 77%에 달한다는 설문조사 결과를 공유했다.
글로벌 기업들은 자사의 오픈소스 생태계 운영 사례를 발표했다. 구글은 ‘버텍스AI’를 통한 LLM 품질 평가 도구와 프롬프트 최적화 기능을 소개했고, 마이크로소프트는 ‘애저 AI 파운드리’를 활용한 고객사의 에이전트 AI 구축 사례를 공유했다. 네이버는 자체 모델 ‘하이퍼클로바X’와 안전성 프레임워크, 공개 데이터셋을 공개하며 오픈소스 신뢰성 확보 방안을 제시했다.
영국·이탈리아·브라질 등 4개국 개인정보 감독기구도 라운드테이블에 참여해 “개방성과 투명성에 기반한 신뢰할 수 있는 AI 구현”의 필요성을 강조했다.
최장혁 개인정보위 부위원장은 “이번 오픈소스 데이는 혁신 서비스의 기반이 되는 오픈소스 AI와 개인정보 보호를 함께 논의한 첫 공개의 장으로 의미가 크다”며 “기업과 연구자들이 안심하고 오픈소스를 활용할 수 있도록 현장의 목소리를 정책에 적극 반영하겠다”고 말했다.
[저작권자ⓒ 도시경제채널. 무단전재-재배포 금지]
