한국 딜로이트 그룹(대표 홍종성)이 딜로이트 아시아태평양규제전략센터(ACRS)의 ‘아시아 태평양 지역의 생성형 AI 적용 및 규제’ 국문본 보고서를 발간했다.

이번 보고서는 아시아 태평양 지역의 기술 및 규제 관련 딜로이트 글로벌 전문가 12명과의 인터뷰를 통해, 정책 및 규제 당국이 기술 발전에 따라 기존 AI 프레임워크를 어떻게 재평가하는지 분석하고, 금융기업들이 규제 변화에 따른 미래 환경에 선제적으로 대비할 수 있는 방안을 제시한다.

오픈 AI의 ‘챗GPT(ChatGPT)’와 구글의 ‘바드(Bard)’와 같은 서비스는 AI 기술 개발 혁신과 함께 생성형 AI의 대중화를 이끌었다. 이에 따라 아시아 태평양 규제 당국의 공통 위험에 대한 원칙도 빠르게 진화하고 있다. 보고서는 규제 당국이 지적재산 침해, 잠재적 편향 등 AI로 인한 여러 위험 요소들을 고려해 기술 혁신을 통한 이익과 소비자 안전 사이의 균형을 찾아야 한다고 강조한다.

특히 개인정보의 유출, 재정적 위험 등 민감한 잠재 리스크를 가진 금융 서비스의 경우 규제 당국의 관심과 압박이 가시화될 수 있기 때문에, 생성형 AI 시대의 금융산업은 중대한 변화와 혼란의 시기를 지나고 있다고 볼 수 있다.

보고서는 금융업계가 AI 관련 위험을 식별 및 관리하기 위해 ▲향후 규제 준수와 위험 관리 지원을 위한 AI 거버넌스 프레임워크 개발 ▲학력, 소득 등 고객의 취약성에 대한 생성형 AI의 편향 또는 차별 발생 방지 조치 구축 ▲고객 개인정보 등 데이터 보호 의무 준수 ▲지적 재산의 부주의한 노출이나 저작권 침해를 방지하기 위한 통제장치 구축 ▲생성형 AI 기술 관련 인재 확보 투자 및 기존 임∙직원 대상 AI 기술 교육 제공 등 권고 사항을 제시한다.

마쓰야마 아키히로 딜로이트 아시아태평양 리스크 자문 리더는 “AI 규제 및 법안은 아직 대부분의 국가에서 개발 또는 시행 초기 단계에 있지만, 금융회사는 가능한 한 빠르게 자체 AI 거버넌스 프레임워크를 구축하고 AI 관련 위험에 대응하기 위한 조치를 준비하는 등 신중한 접근 방식이 필요하다”며, “민간 부문은 규제 기관 및 입법 당국자와의 적극적인 대화를 통해 업계의 지식 및 경험을 공유해 규칙 제정 절차를 원활하게 하고, AI의 미래 경로에 대한 공감대를 이끌어내는 것이 필수적”이라고 말했다.

장형수 한국 딜로이트 그룹 금융산업통합서비스그룹 고객산업 리더는 “생성형 AI 도입으로 업무 효율성 향상과 고객 경험 최적화와 같은 업무성장동력을 확보하고 경쟁력 우위를 부각하려는 금융회사는 편향성과 지적 재산권 침해, 규제 위험에 직면할 수 있다”며, “딜로이트는 ‘신뢰할 수 있는 인공지능’ 프레임워크를 통해 윤리적이고 합법적인 방식으로 업계를 선도할 수 있는 솔루션을 제시한다”고 강조했다.