디텍트GPT-AI 잡아내는 AI 등장

[경제신문 읽기] 2023.01.31

"이 논문은 챗GPT가 썼군요"…AI 잡아내는 AI 등장(김주완/최다은 기자 kjwan@hankyung.com)

https://www.hankyung.com/it/article/2023013026941

"이 논문은 챗GPT가 썼군요"…AI 잡아내는 AI 등장

 

기사 내용 정리

 

출처:한국경제신문(2023.01.31, 허라미 기자)

디텍트GPT

미국 스탠퍼드대의 크리스토퍼 매닝 교수와 첼시 핀 교수 등이 참여한 연구팀은 지난 26일 챗GPT의 바탕인 AI 언어 모델 GPT3로 만들어진 문장을 찾아내는 기술(디텍트GPT)을 공개했다.

 

스탠퍼드대 연구팀의 디텍트GPT는 챗GPT 등 생성 AI의 부작용을 막기 위해 나온 기술이다.

 

생성 AI는 뛰어난 성능이 오히려 논란이 되고 있다. GPT3는 미국 펜실베이니아대 와튼스쿨 경영학석사(MBA) 과정의 필수 교과목인 ‘운영관리’ 기말시험에서 B학점을 받았다. 챗GPT는 미국 의사면허시험의 모든 과목에서 50% 이상의 정답률을 보여주기도 했다. AI 이미지 생성기인 미드저니가 만든 미술 작품은 지난해 콜로라도주 미술대회에서 1등에 올랐다.

 

챗GPT 사용 금지

뉴욕시 교육부는 최근 모든 공립학교에서 챗GPT 사용을 금지했다. 국제기계학습학회도 AI 도구로 논문을 작성하는 것을 금지한다고 밝혔다.

 

AI 대 AI

AI 대 AI의 싸움은 과거에도 있었다. AI로 사진, 동영상 등을 조작해 사람 얼굴 등을 바꿔치기하는 기술인 ‘딥페이크’가 여론 조작과 인권 침해 등으로 악용되자 메타(옛 페이스북), 마이크로소프트(MS), 아마존 등은 2020년 상금 100만달러를 걸고 딥페이크를 감지하는 AI 기술을 찾았다.

 

지난해에는 미국 컬럼비아대 연구팀이 AI 스피커 등의 도청을 원천 차단하는 AI 기술을 개발했다. 국방 분야에서도 AI를 활용한 사이버 공격을 AI로 막는 기술이 개발되고 있다.

---

관련 포스팅

2022.12.13 - [경제적자유/경제신문읽기] - AI 그림 서비스 저작권

2022.12.26 - [경제적자유/경제신문읽기] - 목적에 따라 다양한 AI 챗봇-ChatGPT

2023.01.18 - [경제적자유/경제신문읽기] - KT 대화형 초거대 AI 믿음(MIDEUM) 상반기 상용화 예정

2023.01.18 - [경제적자유/경제신문읽기] - 초거대 AI 전쟁

2023.01.25 - [경제적자유/경제신문읽기] - 국내 기업 초거대 특화 AI 추진 현황

2023.01.27 - [경제적자유/경제신문읽기] - 챗GPT와 국내 초거대 AI

2023.01.28 - [경제적자유/경제신문읽기] - 챗GPT 돌풍