ChatGPT 장점과 단점 거짓말 하는 챗GPT

ChatGPT는 공개하자마자 선풍적인 인기를 끌고 있지만, 장점과 단점이 같이 존재하기 때문에 ChatGPT를 잘 활용하려면 올바르게 알고 있어야 합니다.

챗GPT를 올바르게 사용하기 위해 우리가 알아야 할 ChatGPT 장점과 단점, 그리고 오해하고 있는 것들에 대하여 알아보도록 하겠습니다.

ChatGPT를 사용하다 보면 “이건 무슨 뜻이지?” 하고 모호한 답변을 받는 경우가 있습니다.

반대로, 미네소타 로스쿨 대학교에서 에세이를 작성하여 합격 점수를 받기도 하고, 세계에서 유명한 MBA 와튼스쿨에서도 합격 점수를 받을 뿐만 아니라 의학 분야에서도 상당히 정확한 진단을 하기도 하였습니다.

ChatGPT 장점과 단점 그리고 한계

ChatGPT와 대화를 하다 보면 제한된 학습 내용과 맥락을 기반으로 하여 대답을 해주기 때문에 최신 정보 또는 실시간 정보에는 제한적일 수밖에 없습니다.

그림 1.1에서 ChatGPT에 직접 물어보면 학습된 지식 기간은 2021년 9월까지의 정보가 업데이트된 걸 확인할 수 있습니다.

지금은 GPT-4o로 업그레이드되어 특정 플러그인, 브라우저 등 이 활성화되어 있는 환경에서는 실시 간 정보를 처리할 수 있는 기능이 제공되기도 합니다.

그림 1.1은 ChatGPT에서 확인한 최신 지식 정보입니다.

ChatGPT를 사용하다 보면 아주 그럴듯한 거짓된 정보를 알려주는 경우가 있습니다.

ChatGPT는 트랜스포머 모델을 이용하여 주어진 말들의 다음에 나올 단어 중 아주 그럴듯한 단어를 선택하여 답해 주기 때문입니다.

챗GPT는 거짓 정보가 아닌 트랜스포머 모델을 사용하여 “그럴듯한 말”을 답할 수 있도록 학습된 것입니다.

ChatGPT 방식처럼 사용하는 AI 인공지능이 피할 수 없는 것 중 하나가 바로 “할루시네이션”입니다.

“할루시네이션”은 AI와 자연어 처리(NLP)모델, 특히 ChatGPT와 같은 생성형 언어 모델에서 자주 나타나는 현상으로 존재하지 않거나 잘못된 정보를 마치 사실인 것처럼 생성하고 전달하는 것을 말합니다.

챗GPT가 답변한 것 중 15~20% 정도 할루시네이션 오루가 있기 때문에 중요한 사실 여부가 필요한 경우에는 ChatGPT 사용을 주의해야 합니다.

ChatGPT가 학습한 데이터 중 상당히 큰 비중을 차지한 언어는 영어입니다. 영어로 된 문서, 웹사이트, 논문 등 방대한 양의 데이터가 영어로 AI 학습에 사용되었습니다.

반면, 세계 관점에서 볼 때 한국어 데이터는 영어에 비해 상대적으로 적을 수밖에 없습니다.

ChatGPT가 복잡한 개념을 설명할 때나, 전문 용어 등 영어와 한국어를 비교해서 보게 되면 영어로 요청했을 때 답변이 좀 더 상세하고 빠른 응답을 보여 주게 됩니다.

그림 1.2는 한국어로 요청했을 때 답변하는 모습입니다.

그림 1.3은 영어로 요청했을 때 답변하는 모습입니다.

ChatGPT는 응답하는 속도와 답변의 질이 영어가 상대적으로 우수하기 때문에 챗GPT 사용 시 구글 번역기를 사용하거나 확장 프로그램을 추가하여 사용하는 걸 권장합니다.

인터넷 게시판이나 유튜브에서 보면 ChatGPT로 생성한 이미지를 많이 볼 수 있습니다.

ChatGPT로 무수히 많은 이미지를 생성하고 있지만 사실 챗GPT는 이미지를 인식하거나 생성할 수 있는 능력이 없습니다.

이번에 챗GPT-4가 출시되면서 이미지를 인식하는 능력이 추가되었습니다.

그림 1.4는 ChatGPT에게 이미지 생성이 가능 한지 확인하는 답변입니다.

그러면 지금 ChatGPT는 어떻게 이미지를 생성하고 있는 걸까요?

ChatGPT는 이미지 생성에 뛰어난 인공지능 모델인 미드저니(Midjourney), 스테이블 디퓨전(Stable Diffusion), 델인 달리(Dall-E) 등과 같은 이미지 전용 생성 모델을 사용하고 있었던 것입니다.

그림 1.5는 ChatGPT는 달 이미지 생성을 못하고 텍스트로 설명하는 예시입니다.

그림 1.6은 ChatGPT가 델인 달리(Dall-E) 이미지 생성 모델을 사용하여 달 이미지를 생성하는 예시입니다.

ChatGPT에서 미드저니(Midjourney), 델인 달리(Dall-E) 이미지를 생성할 때 자세한 프롬프트 작성하면 그림 1.6 달 이미지보다 선명하고 사진처럼 화질 좋은 이미지를 생성할 수 있습니다.