바야흐로 '인공지능(Artificial Intelligence, AI)' 시대다. 자동차 자율주행시스템, 자동 물류시스템, 주식 투자를 판단하는 자동알고리즘, X-레이·CT·MRI 등 메디컬 이미지를 자동 분석하는 의료 플랫폼까지 불과 몇 년 전까지만 해도 아주 먼 얘기인 것처럼 들렸던 미래기술들이 우리 앞에 바짝 다가온 것이다.

인간의 인위적인 개입 없이 인간이 의도하는 바를 '알아서' 처리해 주는 AI는 인간의 편리를 위해 지속적인 발전을 거듭하고 있다. 하지만 AI가 오판했을 때 야기되는 사회적 문제들에 대해 우리는 얼마만큼 대처하고 있을까?

자동차 자율주행 오판이 인명사고를, 물류센터 자동화 프로그램 오류가 물류 대란을, 자동 알고리즘의 잘못된 판단이 주식 투자자들에게 손실을 끼치는 것처럼 AI의 잘못된 판단은 사회 혼란을 야기 시킬 수 있다.

뿐만 아니라 AI는 편향성, 차별 등 다양한 문제들도 내재되어 있다. 해외에서는 성별에 따라 신용 한도를 차별 적용하기도 하고 국내에서는 AI 챗봇 '이루다'의 성희롱 같은 사례가 발생하기도 했다.

이러한 AI의 문제에 대해 XAI 프레임워크 개발기업 가치랩스의 안기옥 대표는 "AI 시대가 도래하면 AI 판단이 인간의 판단을 대체할 가능성은 높아지지만 그렇다고 인간의 의사 결정이 없어지는 것은 아니다"라며 "왜냐하면 AI는 윤리적 판단이나 가치관에 대한 판단은 할 수 없기 때문이다. AI 판단을 사람이 이해할 수 있어야 진정한 AI"라고 지적했다.

아울러 "현재 AI는 판단의 근거라고 할 수 있는 알고리즘의 복합성(‘블랙박스’ 명명)으로 인해 근거와 결과에 도달하는 과정의 타당성을 알 수 있는 방법이 없다”며 “특히 개인 정보를 다룰수록 공정성과 신뢰성, 정확성에 대한 확인이 무엇보다 필요하다"고 강조했다.

이는 수많은 기업들이 AI 기술을 도입하는 시대가 됐지만 그럴수록 AI로 야기되는 문제에 대한 책임도 중요하다는 의미다. 이런 문제를 해결하기 위해 금융권에서는 '엑스인공지능(eXplainable Artificial Intelligence, 이하 XAI)' 도입·활용을 위한 다양한 연구가 대학과 함께 이뤄지고 있다.

영상과 관련된 방송 분야와 의료 분야에서도 XAI 기술 도입이 한 박자 빠르게 진행되고 있으며 특히 방송 콘텐츠 중 부적절한 화면을 찾아내고 어떠한 규칙을 위반했는지 파악하는 기술은 이미 시장에서 적용 중이다.

안 대표는 "XAI는 왜 AI가 어떤 근거에 의해서 움직였는지, 도출한 결과에 대해 왜 그런 해석을 했는지 설명해주는 새로운 AI 소프트웨어 기술"이라며 "수많은 사진에서 강아지 사진을 분류하는 것이 AI라면 개라고 판단할 수 있는 털이나 꼬리 모양, 다리 수 등 다양한 근거를 같이 제시하는 것이 XAI"라고 설명했다. 이어 "우리가 개발한 XAI로 기업들은 한 단계 발전된 전략 수립과 마케팅이 가능해질 것"이라고 덧붙였다.

서희원 기자 shw@nextdaily.co.kr