▲ 서울시 생성형 AI 윤리 가이드라인 기본원칙

서울디지털재단(이사장 강요식)은 서울시민 인공지능(AI) 일상화 3대 프로젝트 중 하나인 서울시 생성형 AI 윤리 가이드라인을 발표했다.

이번 윤리 가이드라인은 생성형 AI 특성과 서울시 핵심가치를 기반으로 연구한 것이 특징이며, 이용자를 중심으로 운영자ㆍ개발자가 산ㆍ학ㆍ연 여러 전문가의 의견을 수차례 수렴하여 윤리 가이드라인에 대한 추진방향 및 3대 기본원칙을 도출하였고, 이를 바탕으로 9대 핵심요건을 제시하였다.

윤리 가이드라인은 ‘이용자 중심, 위험예방, 지속가능성’을 3대 기본원칙으로 선정하였다.

윤리 가이드라인은 3대 기본원칙을 바탕으로 ‘이용자의 검증 역량, 책임성, 데이터 권리와 책임, 사용가능성 확보, AI 학습데이터 안전성, AI 윤리 소양, 공공성, 생태적 지속가능성, 보안성’을 9대 핵심요건으로 제시하였다.

또한, 이해관계자(이용자ㆍ운영자ㆍ개발자)가 윤리 가이드라인의 핵심요건을 준수하기 위해 알아야 할 핵심요건별 위험유형과 실제사례와 함께 배경과 주의사항이 ‘가이드라인’에 제시된다.

강요식 서울디지털재단 이사장은 “생성형 AI가 확산되는 가운데, 가짜뉴스, 개인정보 침해 등 AI 위험 우려도 커지는 상황이다. 이에 재단은 시민의 안전을 위해 선제적으로 지자체 최초의 생성형 AI 윤리 가이드라인을 발표하게 되었다”며, “이를 통해 시민들이 안전하고 편리하게 AI를 활용하기를 기대하며, 우리 재단도 시민교육, 윤리문화 확산 활동을 통해 건전한 AI 활용문화 조성을 위해 노력할 것”이라고 밝혔다.