[도시경제채널 = 김학영 기자] 서울시가 인공지능(AI) 기술의 급속한 확산 속에서 시민이 안심하고 신뢰할 수 있는 행정을 구현하기 위해 발 빠르게 ‘서울형 AI 윤리 지침’인 「서울특별시 인공지능 활용 윤리 지침」을 제정해 시행한다고 4일 밝혔다.
이번 지침은 2026년 1월부터 서울시 공공행정 전 분야에 본격 적용되며, AI 활용에 있어 공공성·공정성·투명성·책임성·안전성이라는 5대 원칙을 기준으로 삼아 시민의 권익을 보호하고 행정의 신뢰성을 높이는 데 초점을 맞췄다.
서울시는 AI를 단순한 효율성 도구가 아닌 시민 삶의 질을 높이는 공공 수단으로 규정하고, 알고리즘 편향 최소화와 설명 가능성을 확보해 누구나 차별 없이 행정서비스를 이용할 수 있도록 했다. 또한 AI 활용 과정에서 인간의 감독과 책임을 명확히 하고, 개인정보 보호와 시스템 보안을 강화해 안전한 이용 환경을 마련했다.
이는 국가 차원의 ‘인공지능기본법’과 행정안전부의 윤리원칙을 반영하면서도 서울시 행정 환경에 맞게 구체화한 점에서 의미가 크다.
특히 서울시는 본청과 자치구뿐 아니라 투자·출연기관, 위탁·용역 수행기관까지 지침 적용 범위를 확대해 실효성을 높였다. 서울AI재단과 국제인공지능윤리협회 등 전문기관과 협력해 타당성 연구를 진행하고 다양한 의견을 반영한 것도 눈에 띈다.
강옥현 서울시 디지털도시국장은 “윤리와 신뢰를 기반으로 한 AI 행정을 통해 서울이 인공지능 선도 도시로 나아갈 것”이라며, 시대 변화에 맞춘 책임 있는 정책 추진을 강조했다.
[ ‘서울형 AI 윤리’ 5대원칙 전문]
○ 첫째, 인공지능을 단순히 행정 효율을 높이는 도구가 아니라, 시민 전체의 삶의 질을 높이는 공공의 수단으로 활용해야 한다는 점을 분명히 했다. 서울시는 AI 도입 여부와 활용 방식에 있어, 항상 공공 목적과 시민의 복리 증진에 기여하는지를 우선 기준으로 삼도록 했다.
○ 둘째, 인공지능 기반 행정서비스가 특정 계층이나 집단에 불리하게 작용하지 않도록 알고리즘 편향을 최소화하고, 누구나 차별 없이 접근하고 이용할 수 있도록 공정성과 형평성을 중요한 원칙으로 제시했다.
○ 셋째, AI가 활용되는 과정과 결과에 대해 시민이 이해할 수 있도록 설명 가능성을 확보하는 것도 핵심 원칙으로 명확히 했다. AI가 어떤 역할을 했는지, 판단의 근거는 무엇인지에 대해 가능한 범위 내에서 정보를 제공함으로써 행정의 투명성과 신뢰를 높이겠다는 취지다.
○ 넷째, AI 활용 전 과정에는 항상 인간의 감독과 책임이 전제되어야 한다는 점을 분명히 했다. 인공지능은 의사결정을 보조하는 수단일 뿐, 최종 판단과 책임은 행정을 담당하는 사람이 지도록 해 책임 있는 운영 체계를 유지하도록 했다.
○ 다섯째, 개인정보 보호와 시스템 보안을 강화해 시민이 안심하고 행정서비스를 이용할 수 있는 안전한 AI 이용환경을 조성하는 것도 중요한 원칙으로 담았다.
[저작권자ⓒ 도시경제채널. 무단전재-재배포 금지]
