보험연구원 “챗봇 등 기술 도입 활발, 보험사 자체 AI 리스크 대비도 필요”

[보험매일=김은주 기자] 최근 챗봇 ‘이루다’가 성차별 및 사회적 약자 혐오 발언을 하여 논란이 된 가운데 브랜드 훼손 등 기업들의 AI 리스크 대응을 위한 관련 보험 개발·활용 필요성이 점점 커지고 있다.

기존 사이버 보험은 AI 알고리즘 결함으로 인한 신체 상해, 브랜드 훼손, 물적 손실 등의 손해를 보장하지 않고 있어 앞으로는 AI 리스크에 특화된 AI 전용보험을 개발 할 필요가 있다는 지적이다.

17일 보험연구원 김윤진 연구원은 ‘AI 리스크와 전용보험의 필요성’ 보고서를 통해 “AI 기술 도입이 단기간에 급격하게 증가함에 따라, AI 오작동 및 오류로 인해 이전에는 예상할 수 없었던 새로운 종류의 사고들이 발생하기 시작하고 있다”며 이같이 밝혔다.

보고서에 따르면 미국에서는 승차공유업체 우버(Uber)의 자율주행차 알고리즘 오작동으로 보행자가 신체상해를 입고 사망한 사건이 발생했고, 마이크로소프트사가 개발한 트윗봇 테이(Tay)의 인종차별 및 정치편향적 트윗 업로드로 회사 브랜드 이미지가 훼손된 사례가 발생했다.

또한 최근 국내에서도 한 스타트업 회사가 개발한 챗봇 ‘이루다’가 잘못된 알고리즘 데이터 학습으로 인해 성차별 및 사회적 약자 혐오 발언을 하여 논란이 했다. 결국 해당 회사는 출시 24일 만에 해당 서비스를 폐기하기로 결정했다.

이처럼 AI 기술이 개인과 기업에 미칠 잠재적인 부정적 결과를 ‘AI 리스크’라고 정의하며, 이는 기술수행, 정보보안, 경제·사회, 윤리 등 여러 측면에서 이미 현실화되고 있어 AI 기술 발전에 따라 더욱 다양한 형태로 진화될 것으로 예상된다.

문제는 기업들의 AI 리스크 인식과 대응수준은 여전히 낮다는 점이다. 따라서 기업들이 효율적으로 AI 리스크에 대응할 수 있도록 관련 보험을 개발하고 활용할 필요가 있다는 주장이다.

앞서 지난해 9월 우리나라 국회입법조사처 또한 AI 알고리즘 사전설계 및 사후 감독체계에서 의도하지 않았던 위험이 발생한 경우의 피해보상 혹은 누구에게도 책임을 돌릴 수 없는 손해의 배상을 위한 보험제도 도입을 검토해 볼 필요가 있다고 주장한 바 있다.

김윤진 연구원은 “현재 국내외 일부 보험회사에서 AI 관련 보험이 개발되고 있으나 이들 보험은 AI 리스크 중 일부만을 보장하고 있기 때문에 보험회사는 고객이 AI 리스크를 종합적으로 보장받을 수 있도록 보장범위를 확대할 필요가 있다”고 말했다.

뿐만 아니라 보험회사 자체적으로 AI 리스크에 대비해야 한다는 지적도 제기됐다. 우리나라 보험회사들도 AI 챗봇을 고객상담에 활용하고 보험사기 예방을 위해 AI 기술을 적용하는 등 다양한 분야에서 AI 기술 도입이 증가하고 있기 때문이다.

김 연구원은 “보험회사의 AI 기술 활용 증가는 보험회사 자체의 AI 리스크를 확대할 수 있기 때문에 사회 전반에 걸친 AI 리스크 보장 확대와 더불어 보험회사의 자체적인 AI 리스크 관리 방안을 마련할 필요가 있다”고 분석했다.

▲ (자료제공=보험연구원)
저작권자 © 보험매일 무단전재 및 재배포 금지