Chat GPT의 한계를 알아보고 사용하세요~

Chat GPT의 한계

Chat GPT의 열기가 뜨겁습니다. 뉴스에서도 떠들썩하고, 사람들과 대화할 때에도 대화 주제로 빠짐없이 등장하고 있는 실정입니다. 저 또한 Chat GPT를 알고 난 이후 도움을 많이 받고 있습니다. 다만, 오늘은 Chat GPT의 한계에 대해 알아보고 무조건적인 신뢰를 경계하고자 합니다.

Chat GPT란?

Chat GPT란 무엇일까요? 우선 'Chat'은 채팅이라고 표기하면 직관적으로 와닿을듯합니다. 인공지능과 대화(채팅)를 지원하는 모델이라는 뜻입니다. 그리고 'GPT'는 Generative Pre-trained Transformer의 약자로 한글로 해석하자면 '사전에 훈련이 된 생성 변환기'라 할 수 있습니다.

Chat GPT의 가장 큰 특징은 채팅을 통해 AI(artificial intelligence : 인공지능)가 여러분과 대화한 내용을 기억하고 학습하여 답변내용을 계속 보완해 나간다는 것입니다. 사용자는 인공지능의 답변에 대해 좋아요, 싫어요를 표시하여 피드백을 제출하여 다음번 답변을 향상할 수 있도록 기여할 수도 있습니다.

한계 예시

앞에서 언급한 바와 같이 Chat GPT는 Pre-trained 인공지능 모델입니다. 사전 학습(미리 훈련)된 Chat GPT는 현재 버전이 GPT-3이며 2020년에 발표가 되었습니다. 그리하여 학습된 지식이 2020년에 기초한다는 한계가 있습니다. 또한, 인공지능은 학습하는 정보의 방대성만큼 잘못되거나 한쪽에 치우친 잘못된 안내를 하기도 합니다. 그리하여 다음과 같은 문제를 예로 들 수 있습니다.

  • 2020년까지의 자료가 있어서 2021년 이후 자료의 정확도가 떨어질 수 있습니다.
  • GPT는 모른다는 말을 하지 않는 것으로 보입니다. 잘못된 정보라도 일단 보여주는데, 틀린 것이 아니냐고 다시 물어보면, GPT가 잘못 말한 것 같다고 합니다. 그런데 다시 돌아온 답변이 또 틀린 경우도 있습니다.

가끔 틀린 내용을 맞는 것처럼 얘기하는 문제점이 있습니다. 다음은 오라클 데이터베이스에서 사용자의 이름을 바꾸는 방법에 대한 물음의 답변입니다. 실제로 이름을 바로 바꾸는 방법은 현재 지원이 되지 않습니다. 2020년에도 당연히 지원이 안 되었을 텐데, 다른 자료에 기초하여 이 명령어도 실행이 되리라는 추측으로 답변을 하는 것으로 보입니다.

To rename a user in Oracle,
you can use the ALTER USER statement with the RENAME TO clause.
Here's an example:
ALTER USER old_username RENAME TO new_username;
Replace old_username with the current username you want to change, and new_username with the new username you want to use.
Note that you need to have the necessary privileges to rename a user.
Specifically, you need the ALTER USER system privilege and the old and new usernames must belong to the same schema.

Chat GPT에게 직접 한계 물어보기

CHAT GPT 한계

Chat GPT에게 본인의 한계에 대해 채팅으로 직접 물어보았습니다. 27가지를 확인할 수 있었는데 물어보는 단어의 문맥 또는 어떻게 물어보느냐에 따라 질문이 달라집니다. 이 답변 자체도 한 번쯤 의심해야 할 것입니다.

  1. 상식의 부족 => 막대한 정보에 기반하여 답을 할뿐이라 가끔 상식에 맞지 않는 잘못된 답을 할 수 있습니다.
  2. 제한된 상황 이해 => GPT는 대화의 문맥에 의지하기 때문에 잘못된 응답을 할 수 있습니다.
  3. 편견 => 편견이나 공격적인 정보를 안내하는 경우가 있습니다.
  4. 경험에 의한 배움이 불가능합니다.
  5. 텍스트 기반의 입력만 가능합니다. 현재는 이미지나 비디오 같은 입력은 불가합니다.
  6. 감성 지능 부족
  7. 개인화 부족
  8. 복잡한 요청을 처리할 수 없습니다.
  9. 실제 지식 부족
  10. 언어의 한계가 있습니다. 한글보다는 영문으로 물어보는 편이 그나마 더 정확한 결과를 얻을 수 있습니다.
  11. 모델 3을 기준으로 2020년까지의 훈련 데이터에 의존합니다.
  12. 창의력 부족
  13. 보안 및 개인정보 문제
  14. 물리적 행동에 관여할 수 없음
  15. 인터넷 연결에 대한 의존성
  16. 인간 수준의 공감 능력 부족
  17. 기존 지식에 대한 의존
  18. 제한된 도메인 지식
  19. 풍자나 반어를 구분할 수 없음
  20. 윤리적 문제
  21. 책임감 부족
  22. 개성 또는 휴먼터치(human touch)의 부족, 휴먼터치는 기술이 인간의 온도나 감성을 전달하는 것을 뜻합니다.
  23. 비언어적 의사소통을 인식하거나 대응할 수 없습니다.
  24. 미리 정의된 응답에 대한 의존성이 있습니다.
  25. 복잡한 맥락을 이해할 수 없습니다.
  26. 오용 가능성이 있습니다.
  27. 입력 품질에 대한 의존성이 있습니다.

비슷한 내용도 몇 개 섞여있는 느낌인데, 굉장히 말을 잘해서 놀랍다는 생각이 듭니다.

댓글

댓글 쓰기