AI 시대의 그늘-'그럴듯함의 오류' 확산 우려

[경제신문 읽기] 2023.02.08

 

대한민국 대통령 묻자 "문재인"…참 거짓 모르는 챗GPT (이승우 기자 leeswoo@hankyung.com)

https://www.hankyung.com/it/article/2023020709661

대한민국 대통령 묻자 "문재인"…참 거짓 모르는 챗GPT

 

기사 내용 정리

 

챗GPT와 같은 생성 AI는 방대한 데이터 가운데 이용자가 필요한 내용만 찾아내 요약, 정리해줄 수 있다는 점에서 ‘게임 체인저’로 주목받고 있다. 하지만 생성 AI에 대한 우려도 존재한다. 오류가 있는 데이터로 학습하거나 라벨링(분류)이 제대로 되지 않은 데이터를 학습함에 따라 AI가 잘못된 답을 내놓는 ‘할루시네이션(환각)’ 현상이 대표적이다.

 

오픈AI의 챗GPT와 같은 생성 인공지능(AI)이 온라인상의 ‘가비지(쓰레기) 데이터’를 폭증시킬 수 있다는 우려가 나온다. 전문가도 속일 만한 글짓기 실력을 갖추고 있지만 한정된 데이터 안에서만 결과물을 낸다는 한계 때문이다. 챗GPT가 작성한 글의 참·거짓을 확인하기 어렵다는 점도 챗GPT 활용에 앞서 염두에 둬야 하는 부분이다.

 

AI가 만든 데이터를 활용해 AI를 학습시킬 경우 성능이 떨어진다는 연구 결과도 나왔다. 일본 이화학연구소의 하타야 류이치로 연구팀은 최근 AI가 생성한 이미지를 학습 데이터에 포함한 비중이 높아질수록 성능이 저하된다는 내용의 연구 결과를 발표했다. 원본 이미지로만 학습한 AI가 만든 1000개의 이미지 중 75.6%는 이전에 보지 못한 새로운 이미지였다. AI 생성 이미지가 80%인 경우 65.3%로 비중이 감소했다. AI 이미지와 실제 모습 간 차이가 심해지는 등 품질도 낮아졌다.

 

AI가 생성한 콘텐츠를 구분하기 위한 AI도 등장하고 있다. 오픈AI는 지난달 31일 챗GPT가 작성한 글을 찾아내는 AI를 내놨다.