유용한 ChatGPT, 그러나 반드시 알아야 할 주의사항!


요즘 ChatGPT 정말 핫 하죠?
기존의 검색 기능보다 훨씬 편해서 우리의 시간을 아껴주기도 하고, 글도 척척 써 주어, 업무에도 효율적으로 활용하시는 분이 많은데요.

아직 ChatGPT가 뭔지 모르시거나, 더 많은 활용 방법을 알기 원하신다면, 아래에서 알아보시기 바라고요.



이번 포스팅에서는

ChatGPT의 활용팁과 주의 사항

에 대해 알아보겠습니다.

ChatGPT란?

OpenAI라는 스타트업 회사에서 개발한 인공지능(AI) 자연어 생성 모델입니다. GPT는 Generative Pre-trained Transformer의 약자이며, 사람이 쓴 것과 같은 텍스트를 생성할 수 있는데요. 기존에 알려진 정보만 대답하는 것이 아니라, 새로운 텍스트를 창조할 수도 있어 각종 업무에 효율적으로 이용하는 사례가 늘어나고 있습니다.

2022년 11월 30일 처음 출시되어, 현재는 1억명 이상이 이용하고 있다고 하며, 최근 GPT-4로 업그레이드되었습니다.


ChatGPT 활용 사례

  1. 정보 검색: 간단히 묻고 답하면 되므로, 직접 웹페이지를 일일이 뒤질 필요가 없어, 시간을 매우 단축할 수 있습니다.
  2. 논문 및 원고 작성: 방대한 데이터를 가진 텍스트 생성 AI의 장점을 십분 활용하여, 논문이나 새로운 원고의 초안을 작성할 수 있습니다.
  3. 요약: 긴 글의 내용을 간략하게 요약할 수도 있습니다.
  4. 언어 번역 및 교정: 채팅의 형태로 번역이나 문법적 오류도 교정해주기 때문에, 단순 번역 뿐만 아니라 언어 학습의 보조 도구로도 사용할 수 있습니다.
  5. 블로그 포스팅 및 SNS 소개 글 작성
  6. 업무용 이메일 작성: 특히 한국어가 아닌 다른 나라의 언어로 작성할 때 유용합니다.
  7. 코딩 및 코드 설명: 코드를 보아도 이해가 잘 안 될 때도 사용하기 유용합니다.
  8. 아이디어 얻기
  9. 심심풀이 대화

주의 사항 - 정보의 심각한 오류

텍스트를 "생성"하는 AI이고, ChatGPT에 의하면 2021년까지의 정보를 학습했다고 하기 때문에, 사실과 다른 정보를 지어서 대답할 때가 꽤 많습니다. 저는 개인적으로 거짓말쟁이 ChatGPT에 몇 번 당하고 나서는 이제 구글링으로 공식 사이트를 통해 정보를 다시 제대로 확인하는 편인데요.
거짓말쟁이 ChatGPT 사례를 하나씩 보여드릴게요.


거짓말쟁이 Case-1
설탕 대신 쓸 수 있는 대체당으로 요즘 떠오르는 나한과 분말 (monk fruit extract)이 각국의 식약처에 승인을 받았는지 확인하기 위해 ChatGPT에게 물었던 적이 있습니다.
아래는 유럽 식약처인 EFSA에 승인되었는지 문의한 내용인데요.
ChatGPT-QnA

2010년에 승인이 되었다고 대답했는데, 실제로 유럽 식약처인 EFSA는 아직도 나한과 분말을 식품 첨가물로 승인하지 않았고, 오히려 2019년에 승인을 위해서는 더 많은 연구와 데이터가 필요하다고 발표했습니다.

거짓말쟁이 Case-2
이건 논문 찾는 수고와 시간을 아끼기 위해 ChatGPT를 이용하시는 연구자 분들이 정말 정말 주의해야 할 점인데요. ChatGPT는 실제로 존재하는 논문을 알려주는 것이 아니라 그럴 듯하게 지어내고, 가짜 링크를 알려줍니다.

아래 그림은 또 다른 대체당인 에리스리톨 (erythritol)에 대한 2021년의 논문과 그 링크를 알려달라고 질문했던 것을 캡처한 것입니다. (2021년까지의 데이터만 학습했다고 하니, 2021년으로 정해서 질문했었어요.)

ChatGPT-활용

이렇게 꽤 그럴듯한, 제가 찾고 싶었던 내용이 들었을 법한 제목의 논문을 찾아주며, 링크를 줍니다. 저 링크로 들어가 봤습니다.

fake links produced from ChatGPT

세상에. 전혀 다른 논문이 나옵니다. 잘못된 링크인 것이지요. (이 논문의 저자 분들께는 죄송합니다. 어쩌다 보니 이 링크로 연결이 되었습니다.)

그래서 링크만 잘못되었나 싶어, 실제로 ChatGPT가 알려준 논문을 논문 검색 사이트인 Pubmed에서 검색해보았습니다.

Fake paper produced from ChatGPT

이런 논문은 존재하지 않는군요. 즉, ChatGPT가 논문 제목을 지어서 가짜 논문을 알려준 것입니다.




결론

ChatGPT가 검색 시간도 단축해주고, 원고의 초안도 작성해 주는 등 매우 유용한 것은 분명 맞습니다. 그러나 가짜 정보, 잘못된 정보를 알려줄 때도 많은데, 위의 예시에서 보신 것처럼 우리가 구분해내기가 쉽지 않습니다.
ChatGPT를 보조 도구로써 적절히 활용하시고, 정보의 진위 여부는 여전히 품을 팔아서 확인하시는 것이 가장 좋겠습니다.
또 요즘 블로그 글을 ChatGPT로 쉽게 쓰시는 경우도 많이 볼 수 있는데요. 예전에도 그렇긴 했지만, 앞으로는 더더욱 블로그에서 얻는 정보의 진위 여부도 잘 따져봐야겠다는 생각이 들었습니다.

기술은 양날의 검이라지요. 독자분들도 저도 현명하게 활용하며, 멋지게 성장하기를 바라봅니다.