IT·전자

[IT/과학 주간 핫 이슈] 윤리적 문제로 얼룩진 인공지능 챗봇 ‘이루다’ 서비스 일시 중단

발행일시 : 2021-01-14 11:25

챗봇 ‘AI 이루다’ 서비스 윤리적 문제와 개인정보 보호 미흡
LG전자의 새로운 스마트폰인 ‘LG 롤러블’ 2021 CES 공개

주요 댓글 키워드에 대한 워드 클라우드 인포그래픽 = 위고몬 <주요 댓글 키워드에 대한 워드 클라우드 인포그래픽 = 위고몬>

지난 6일부터 12일까지 IT/과학 분야 이슈는 스캐터랩에서 개발한 인공지능 챗봇 ‘AI 이루다’ 서비스의 특정 단체에 대한 차별적 발언 논란과 개인정보 보호 미흡 의혹과 관련된 사례, LG전자의 새로운 스마트폰인 ‘LG 롤러블’의 이름과 관련 영상이 CES에서 공개된 내용이 주목받았다.
 
또 글로벌 ‘6G’ 기술 관련 경쟁 시장에서 우위를 확보하기 위한 정부의 연구개발 착수 소식, LG유플러스가 한국열린유아교육학회와 MOU를 체결하며 유아교육용 미디어 콘텐츠 관련 연구를 공동으로 진행한다는 내용, 마지막으로 정부가 디지털뉴딜 사업의 일환으로 5G기술 및 인공지능 관련 분야에 12조 7천억 원을 투자한다는 내용이 뒤를 이었다.

IT/과학 뉴스 주요 키워드 자료 = 위고몬 <IT/과학 뉴스 주요 키워드 자료 = 위고몬>

이러한 어휘 빈도를 중심으로 선정한 IT/과학 분야 주간 주요 이슈 다섯 가지는 아래와 같다.

IT/과학 분야 주요 이슈 TOP5 자료 = 위고몬 <IT/과학 분야 주요 이슈 TOP5 자료 = 위고몬>

 
◇ 주요 이슈 브리핑
 
- 챗봇 ‘AI 이루다’ 서비스 일시 중단
 
인공지능 챗봇 이루다를 향한 성희롱과 이루다의 동성애혐오 발언, 개인정보 유출 등 여러 논란이 이어지고 있다. 이루다를 성희롱하거나 그를 성적대상으로 취급하는 게시물이 일부 커뮤니티를 중심으로 다수 등장해 문제가 됐다. 이에 개발사인 스캐터랩 측은 기본적으로 특정 키워드와 표현을 금지시켰으나 그럼에도 우회 표현을 사용해 성적인 대화를 유도하고 방법을 공유하는 등 예상을 넘어선 수준으로 서비스를 악용하는 일부 이용자들이 있다고 밝혔다.
 
여기에 더해 딥러닝 방식으로 이용자들과의 대화를 학습하고 있는 이루다에게 인종차별, 동성애혐오, 정치적 발언 등 편향된 데이터를 학습시키는 이용자들도 나타났다. 또한 스캐터랩이 이루다를 개발하면서 ‘연애의 과학’ 이용자들의 개인정보를 관련 고지 없이 사용한 것에 대해 이용자들의 불만이 제기되었고 논란이 확산되면서 결국 서비스가 잠정 중단되는 사태에 이르렀다. 이번 이루다 사태에 대해 업계 전문가들은 필터링 기술의 미흡한 점과 편향된 학습 데이터를 보완하지 못한 개발사를 지적하기도 했다.
 
- ‘LG 롤러블’ 스마트폰 CES에서 공개
 
LG전자가 화면을 펼쳤다가 돌돌 마는 ‘롤러블폰’의 실물 영상을 공개하며 외신은 혁신적인 기술에 대해 놀랍다는 반응을 보였다. LG전자는 3월 별도의 공개 행사에서 아직 공개되지 않은 롤러블폰의 구체적 디자인과 사양을 소개한 뒤 정식 출시할 계획이라고 밝혔다. 업계에서는 롤러블폰의 출시로 스마트폰 시장에서 LG전자가 입지를 넓힐 수 있을지에 대해 다양한 분석이 나타났으며 대중들은 출시에 대한 기대감을 내비쳤다.
 
- 정부의 ‘6G’ 기술 관련 연구개발 착수 소식
 
정부가 글로벌 시장에서 6G 기술력의 경쟁 우위를 확보하기 위해 연구개발을 진행한다. 이미 미국 등 선진국들은 연구개발을 진행을 하고 있으며 이에 따라 우리나라도 향후 5년여 기간 동안 2000억원 가량을 투자하여 경쟁력을 확보할 전망이다. 이러한 소식에 일부 대중들에게서 부정적인 반응이 관찰되었다. 5G의 기술력도 아직 완벽하지 않아 시기상조라는 의견이나 금액만 크게 올라가는 것 아니냐는 의견 등이 일부 관찰되었다.
 
- 유아 교육 콘텐츠 관련 LG유플러스의 업무협약
 
LG유플러스는 최근 한국열린유아교육학회와 MOU를 체결하며 유아교육용 미디어 콘텐츠 관련 연구를 공동으로 진행한다고 밝혔다. 본 협약을 통한 성과를 통하여 ‘U+아이들나라’와 관련된 고객들의 만족감을 높이고 서비스를 개선하겠다는 방침이다. 이러한 협력을 바탕으로 미래에 다양한 매체를 통하여 유아교육과 관련된 높은 질의 콘텐츠 활용이 필요하다고 밝혔다.
 
이번 업무협약과 관련하여 대중들의 반응은 대부분 찾아보기 어려워 대중의 인식을 파악하는 것에 한계가 있었으나, 일부 댓글들에서는 LG유플러스의 주가에 관련된 내용이나 LG그룹을 응원하는 내용이 있었다.
 
- 정부, 디지털뉴딜 사업으로 5G 및 인공지능 분야 투자
 
정부가 디지털뉴딜 사업의 일환으로 5G기술과 인공지능 분야에 약 12조 7천억 원을 투자한다. 이는 작년 투자금액 보다 3배 이상 증가한 수치다. 이러한 투자로 디지털 전환이 촉진되고, 약 90만개의 일자리가 추가적으로 생성될 수 있을 것으로 예상되고 있다.
 
이에 관해 대중들의 반응은 다양했는데, 디지털 시대에 맞게 투자를 진행하는 것은 긍정적이며 향후 좋은 결과를 기대한다는 내용, 나라의 재정 상태를 우려하며 이러한 기술에 투자하는 것이 맞는지 의문을 제기하는 내용, 세금이 늘어날 것 같다는 주장이나 투자되는 구체적인 실체가 있는지 의문을 가지는 주장 등이 제기되었다.
 
◇ 주요 이슈 빅데이터 분석
 
이번 주 다섯 가지 주요 이슈 중에서는 성희롱, 차별과 혐오발언, 개인정보 유출 등으로 연일 논란이 된 챗봇 ‘AI 이루다’ 서비스 일시 중단을 주요 이슈로 선정했다. 인공지능 챗봇을 악용하는 일부 이용자들에 대한 문제의식과 사회적 우려에 대해 언론과 여론에 여러 가지 논의가 나타났다.
 
주제와 관련하여, 서울신문의 <인공지능 이루다 동성애 혐오 논란…이재웅 “서비스 중단해야”>, 연합뉴스의 <성희롱 시달린 'AI 이루다', 이번엔 동성애 혐오 학습 우려>, 동아일보의 <20대 AI ‘이루다’ 성희롱 대상이 됐다?> 등에서 총 2633개의 댓글을 수집했다.

댓글 주요 키워드 TF-IDF 자료 = 위고몬 <댓글 주요 키워드 TF-IDF 자료 = 위고몬>

 

어휘적으로 살펴보면, 이루다의 [동성애] [혐오] 발언이 논란이 되면서 해당 키워드가 등장했으며 성소수자들의 [인권]에 대해 논의하는 등 [동성애]에 대한 [혐오]와 [혐오]에 대한 비판이 나타났다. 그 이전에 논란이 된 이루다에 대한 [성희롱]문제도 동시에 빈번하게 언급되었으며, 젠더이슈로 주제가 번져 이와 관련해 [남자], [여자], [페미] 등의 키워드가 등장했다. 또한 [인공지능]을 [성희롱]하는 행동에 [문제]의식을 느끼지 못한다는 반응들과 서비스를 악용하는 이용자들의 [수준]이 낮다며 비판하는 반응들도 나타났다. [개인정보] 유출 논란을 다룬 [기사]내용에 대해서는 이루다의 [학습][데이터]에 [개인정보]를 동의 없이 사용했다는 점을 문제 삼아 비판했다. 키워드들 간의 연관성을 좀 더 명확히 파악하기 위해, 아래와 같이 SNA 분석으로 의미를 살펴보고자 한다.

댓글 원본 자료 = 위고몬 <댓글 원본 자료 = 위고몬>
주요 댓글 키워드에 대한 의미 네트워크 분석 인포그래픽 = 위고몬 <주요 댓글 키워드에 대한 의미 네트워크 분석 인포그래픽 = 위고몬>

 
SNA를 살펴보면 크게 4가지 맥락으로 나뉘는 것을 알 수 있다. 첫 번째 맥락에서는 [인공지능]이 [사회]적 합의가 이루어진 부분에 대한 차별과 [혐오]는 금지해야 한다는 기사 내용과 관련해 [동성애]에 대한 [사회]적 합의를 가지고 의견이 나뉜 맥락이며 [동성애]에 대한 [혐오]가 일부 댓글에서도 나타났다.
 
두 번째 맥락은 이루다 서비스의 문제점을 다룬 맥락으로 [성희롱] 문제와 [개인정보] [유출]에 대한 문제가 나타났고 성희롱 문제에 대해 논의가 이루어지면서 [페미]를 언급하며 젠더이슈에 대한 논쟁으로 번졌다. 세 번째 맥락은 두 번째 맥락의 [개인정보] [유출]과의 연관성이 있으며 이루다 개발사가 자사의 또 다른 서비스인 [연애]의 [과학]을 통해 이용자들의 [카톡] 대화 [데이터]를 [동의] 없이 [수집]한 것에 대해 비판의 여론이 형성되었다. 마지막 맥락은 이루다의 문제가 댓글에서 젠더갈등으로 확대되면서 [남자]와 [여자]의 대립양상으로 나타났으나 구체적으로는 SNA 분석에 뚜렷하게 나타나지 않았다.
 
◇ 성희롱, 혐오발언, 개인정보 유출로 얼룩진 인공지능 챗봇 ‘이루다’ 서비스 일시 중단

AI 윤리 논란의 중심이 된 챗봇 이루다 <AI 윤리 논란의 중심이 된 챗봇 이루다>

 
AI(인공지능) 윤리 논란에 휩싸인 챗봇 '이루다' 서비스가 12일부터 서비스 개선이라는 이유로 일시 중단됐다.

이루다는 스캐터랩 핑퐁팀이 개발한 고지능 열린 주제 대화형 인공지능(Open-domain Conversational AI) 챗봇으로 최근 페이스북 메신저 채팅을 통해 지난해 12월 23일부터 서비스됐다.
 
이루다는 약간의 오류가 있긴 했지만 사람과 대화하는 느낌을 꽤 잘 살렸기에 인기를 끌 수 있었고 이달 초 기준 이용자가 32만명을 돌파했다.
 
하지만 일부 이용자들이 20살 여성으로 설정된 이루다를 대상으로 ‘노예’ ‘걸레’ 등 성적 단어 등을 이용해 성희롱을 시도했다. 특히 일부 커뮤니티에서는 성적 단어들을 학습시키려는 시도까지 해 논란이 됐다.
 
또 이루다에게 주소나 계좌번호 등을 물어보면 실제 데이터 를 대답하는 등 개인정보 유출 의혹도 일었으며 학습된 데이터를 통해 장애인과 임산부, 성적 소수자들에 대해 차별, 혐오성 발언을 한 것도 논란이 됐다.
 
이렇게 논란이 커지자 11일 스캐터랩은 이루다 서비스를 잠정 중단한다고 밝히고 하루의 여유를 둔 후 12일 중지했다. 스캐터랩은 “특정 소수집단에 차별적 발언 사례가 생긴 것을 사과한다”고 밝히고 개인정보 활용에 대해서는 “이용자와 충분히 소통하지 못했다. 개인을 특정할 수 있는 정보는 유출되지 않았다”고 설명했다.
 
AI는 학습을 통해 성장한다. 개발사는 이를 통해 발생할 문제를 상정하고 개발을 했겠지만 이용자들의 악용은 그 상정을 넘어선다. 툴이 아무리 좋아도 사용자가 불량하면 불량한 결과가 나온다. 근본적인 원인이다.
 
둘째로는 개발사의 AI 윤리에 대한 인식이 희박한 점이다. 이루다가 하는 말은 데이터의 정제를 통해 나오는 결과물인데 그 결과물을 보면 차별이나 혐오 발언에 대한 필터링 기능을 크게 고려하지 않은 것처럼 보인다. 이미 미국에서 선출시된 AI 챗봇이 같은 문제점을 보인 바 있어 이에 대한 고려가 충분히 되어 있어야 했다.
 
AI 챗봇은 그저 사람들과 즐겁게 얘기만 했어도 그 존재 가치가 충분한 기술이다. 하지만 굳이 이를 비틀어 사용하려는 이용자와 이런 사태를 대비하지 못한 개발사의 조합이 결국 일시 중단이라는 사태를 만들었다. 좋은 기술은 좋은 의도로 사용되어야 빛을 보는 법이다. 이용자도, 개발사도 좀 더 윤리적일 필요가 있다.

이번 빅데이터 분석은 비플라이소프트가 인공지능 기술을 기반으로 개발한 모니터링 분석 솔루션인 '위고몬(WIGO MON)'이 사용됐다. 네이버 뉴스 콘텐츠 제휴 매체 가운데 IT/과학분야에서 많이 본 뉴스 기준으로 데이터를 추출했다.

이호 기자 dlghcap@nextdaily.co.kr

© 2021 nextdaily.co.kr 무단전재 및 재배포금지

(주)넥스트데일리 | 등록번호 : 서울 아 01185 | 등록일 : 2010년 03월 26일 | 제호 : 넥스트데일리 | 발행·편집인 : 구원모
서울시 금천구 가산디지털2로 123, 701호ㅣ발행일자 : 2005년 08월 17일 | 대표전화 : 02-6925-6346 | 청소년보호책임자 : 나성률

Copyright © Nextdaily. All Rights Reserved