IT·전자

기업용 AI 선택시 반드시 고려할 점

발행일시 : 2021-02-24 00:00

IBM, 비즈니스를 성공시키는 신뢰할 수 있는 AI 제시

기업의 채용, 법률 서비스, 금융 자산 관리, 보험 지급 심사 등 사회 각 분야에서 AI의 도입이 늘어나면서, AI의 신뢰성에 대한 요구가 높아지고 있다. 최근 논란이 되었던 AI 챗봇 이슈는 수많은 데이터를 기반으로 하는 AI와 데이터 감독 관리의 중요성을 부각시키고 있다.

IBM은 23일 온라인 기자간담회를 통해 기업이 AI를 비즈니스에 성공적으로 적용하는 방안으로 신뢰할 수 있는 AI를 제시했다. 이 자리에는 IBM 본사에서 데이터와 분석 기술을 활용한 AI와 클라우드 전환 비즈니스를 총괄하고 있는 CDO(Chief Data Officer) 세뜨 도브린(Seth Dobrin) 박사가 기업이 신뢰받는 AI에 대한 설명과 함께 성공적인 AI 도입을 위해 기업들이 고려할 점에 대해서 설명했다.

IBM AI 전략 부문 최고데이터책임자(CDO) 및 부사장 세뜨 도브린 박사(Dr. Seth Dobrin) <IBM AI 전략 부문 최고데이터책임자(CDO) 및 부사장 세뜨 도브린 박사(Dr. Seth Dobrin) >

그는 비즈니스 AI에 관련해 IBM은 언어, 자동화, 신뢰성을 중요시 한다고 했다. 비즈니스 언어를 이해해야 하고, 워크플로워와 경험을 자동화하고 AI결과에 대해 투명성과 설명 가능해야 하고 모든 워크로드에서 데이터를 통합해 제공할 수 있어야 하기 때문이다.

언어적 측면에서 IBM은 프로젝트 디베이터를 통해 자연어 처리 기술과 독해와 감성, 요약된 정보를 이해하고, 문서나 텍스트에 대한 FAQ를 자동으로 추출해 자동화 영역으로 연결한다. AI는 미리 훈련이 된 모델로 학습된 결과를 여러 분야에 적용할 수 있게 기업의 워크플로우 자동화와 연결이 된다. 이 과정을 지능적으로 가능하게 하면 인력의 생산성을 높여 사람들은 부가가치 높은 일을 할 수 있다.

세뜨 도르빈 박사는 신뢰 측면을 가장 강조했다. AI 모델에 대해 투명하게 검증할 수 있는지, 도출의 과정이 설명 가능하고 내포된 편견을 인지하고 문제를 수정할 수 있어야 하고 개선된 결과를 도출해 신뢰성을 높일 수 있다고 했다. 이러한 기술은 모든 클라우드에서도 가능해야 하는데 IBM은 컨테이너 기반의 레드햇 오픈 시프트로 구현하고 있다.

비즈니스 운영에도 변화가 일고 있는데 의사결정 시 AI 예측을 통해 보완하고 있는 데 AI 예측 결과가 사람이 믿을 수 있어야 한다고 했다. 신뢰할 수 있는 비즈니스 AI는 투명하고 설명 가능하고 언제든지 검사하고 확인할 수 있어야 한다. 개방성과 공정성, 편견이 없어야 하고, 비즈니스와 윤리 이해하고 잘 관리된 데이터가 필수 조건이라고 했다.

IBM의 신뢰 있는 AI를 위한 원칙에 대해 그는 “AI는 인간을 대처하는 것이 아니라 인간의 지능을 보완하기 위한 목적으로 사용되고 있다. 데이터와 인사이트 소유권은 창작자에게 있다. AI 시스템을 포함한 신기술은 반드시 투명하고 설명가능해야 한다”는 것이라고 했다.

AI를 제대로 관리할 수 있는 거버넌스 역량이 중요한 데 이에 대해 그는 “AI 모델을 알고 신뢰하고 제대로 사용할 수 있어야 한다”고 했다. 모델을 안다는 것은 모델 메타데이터를 자동 캡처할 수 있고 데이터 기원을 찾을 수 있고, 모델의 라이프 사이클에 거쳐 문서화해 관리한다는 의미이다.

IBM이 제시하는 신뢰성있는 비즈니스 AI <IBM이 제시하는 신뢰성있는 비즈니스 AI>

모델을 신뢰한다는 것은 단순한 편견감지가 아니라 기업 정책과 기준 역할을 정의할 수 있고 모델 검증과 규칙을 자동으로 실행할 수 있으며, 업계와 기업 자체의 기준을 준수할 수 있다는 것이다. 모델을 사용할 때는 편견이나 공정성, 정확성 기준을 정하고 준수할 수 있어야 한다. 편견은 나라마다 업계마다 의미가 다르고 다양하다. 다양한 편견을 감지하고 목적과 맥락에 맞게 모델을 만들고 과정을 줄이며 운영시에도 지속적으로 실시간으로 편견을 제거하고 공유하면서 문서화를 통해 검증돼야 한다.

실제 적용 사례에 대해 IBM과 서울시가 공동으로 진행한 ‘I care You’ 프로젝트를 소개했다. 이 프로젝트는 IBM 왓슨 어시스턴트를 활용해 AI 기반 버츄얼 어시스턴트를 선보였다. 코로나로 변화된 일상에 대한 실태를 조사한 결과를 통해 향상된 정책 수립을 지원하는 프로젝트이다.

코로나 관련데이터는 신뢰가 중요하며, 시민들이 언제든지 확인할 수 있게 했다. 시민들이 자주 하는 질문을 FAQ 추출 역량 프로세스로 공유했다. 왓슨 어시스턴트의 오픈 스케일을 활용해 질문에 대한 의도을 인지하고 답을 제공한 이유를 설명할 수 있게 했다.

AI의 신뢰성을 높이려면 전체 과정에서 사람이 개입해 과정을 주시해야 한다. 기업들은 AI 시스템을 운영하면서 지속적인 모니터링 필요하고 의도에 대해 답변 제시에 대한 수정을 할 수 있어야 한다. 이에 그는 “AI 미래는 신뢰할 수 잇는 AI 가 예측하고 자동화하고 안전하고 보안이 되는 하이브리드 환경에서 구축되어야 한다”고 조언했다.

이향선 기자 hslee@nextdaily.co.kr

© 2021 nextdaily.co.kr 무단전재 및 재배포금지

(주)넥스트데일리 | 등록번호 : 서울 아 01185 | 등록일 : 2010년 03월 26일 | 제호 : 넥스트데일리 | 발행·편집인 : 구원모
서울시 금천구 가산디지털2로 123, 701호ㅣ발행일자 : 2005년 08월 17일 | 대표전화 : 02-6925-6346 | 청소년보호책임자 : 나성률

Copyright © Nextdaily. All Rights Reserved