챗지피티(ChatGPT) : 단점을 알아보자. 01

챗지피티(ChatGPT)의 : 단점을 알아보자. 01 

 

챗지피티(ChatGPT)

 

◆ 대표적인 12가지 단점 

 

01. 최신 정보의 부족 

• 2021년 9월 이전의 데이터를 기반으로 하여 최신 정보를 다루는 분야에는 현재 적합하지 않습니다. 모델이 훈련 데이터 범위 내의 정보만 알고 있으며, 훈련 이후 발생한 사건이나 정보는 알지 못합니다. 따라서 모델은 과거 데이터에 의존하게 됩니다.

 

02. 실시간 업데이트 어려움

• NLP 모델은 훈련 데이터와 모델 업데이트 주기에 따라 정보를 갱신합니다. 새로운 정보나 사건이 발생할 때 모델이 실시간으로 업데이트하기 어려울 수 있습니다.

 

여기서 잠깐! NLP(Natural Language Processing Model)에 대해서 조금 알아둡시다.
- NLP 모델, 또는 자연어 처리 모델(Natural Language Processing Model)은 기계 학습 및 인공 지능 (AI) 기술을 사용하여 인간의 언어와 관련된 작업을 수행하기 위해 설계된 컴퓨터 프로그램 또는 시스템을 말합니다.

 

 

03. 변화에 대한 대응 어려움

• 사회, 기술, 정치 등 다양한 분야에서 변화가 빠르게 일어나는데, 이러한 변화에 빠르게 대응하는 것은 안됩니다.

 

04. 정확성 저하 가능성

• 최신 정보의 부재로 인해 모델이 구체적인 사실을 제공하기 어려울 수 있으며, 이로 인해 정보의 정확성이 저하될 수 있습니다.

 

05. 오류 가능성

• 챗GPT는 대부분의 정보를 훈련 데이터에서 얻습니다. 그러나 이 데이터는 항상 최신이거나 정확하지 않을 수 있습니다. 따라서 모델이 정보를 잘못 이해하거나 오래된 정보를 제공할 수 있습니다. 사용자는 항상 모델의 답변을 선택하여 인용할 때마다 다른 방법으로 출처를 일일이 확인해야 하는 번거로움이 존재합니다.

 

06. 편향성

• 모델은 훈련 데이터에서 나타난 편향된 언어와 학습된 관점이 반영될 수 있습니다. 이것은 인종, 성별, 종교, 문화적 편견을 포함한 다양한 형태로 나타날 수 있으며, 모델이 편향된 응답을 생성할 가능성을 내포합니다. 사용자는 이러한 편향성을 인식하고 모델의 응답을 비판적으로 평가해야 합니다. ex) 독도는 어느 나라 땅인가요?

 

07. 인간과의 상호작용 한계

• 감정, 상황 판단, 의도 파악 등에서 인간과 비교하여 제한적인 부분이 있습니다. 감정을 인식할 수 있지만, 인간처럼 공감하거나 이해하지는 못합니다. 이로 인해 대화가 어떤 상황에서 발생하는지에 따라 천차만별이며 대화가 중단될 수도 있습니다.

 

08. 콘텍스트(문맥, 맥락) 부재

• 대화 중에 이전 대화 콘텍스트를 잘 이해하지 못할 수 있으며, 이로 인해 일관성 있는 대화를 유지하는 데 어려움이 있을 수 있습니다. 사용자는 필요한 정보나 콘텍스트를 명확하게 제공해야 합니다. 처음에 시작하는 명령어(프롬프트)가 아주 중요합니다.

 

09. 악의적인 용도로의 사용 가능성

• 텍스트를 생성하거나 정보를 제공하는 데 사용될 수 있으므로, 악의적인 용도로 사용될 가능성이 매우 높습니다. 이로 인해 거짓 정보나 해로운 내용이 생성될 수 있으며, 이에 대한 대비책이 필요합니다. 현재 각 나라에서 관련 법률 제정이 진행 중에 있습니다. 또한 사용자들은 비판 없이 이런 해로운 내용을 자신의 이익에 이용하면 엄중한 처벌을 받을 수 있음을 인지해야 합니다.

 

10. 개인 정보 보호

• 사용자가 제공한 개인 정보를 다루는 데 대한 보안과 개인 정보 보호에 대한 고려가 아직 미비합니다. 입력된 정보를 기억하지 않아야 하며, 개인 정보가 노출되는 것을 방지해야 하는데 아직 보안중이라서 현재에는 개인정보와 관련 된 명령어에 어떤 정보도 제공하지 않고 있습니다.

 

11. 저작권 및 지적 재산권

• 생성한 콘텐츠에 대한 저작권 및 지적 재산권 문제가 복잡합니다. 특히 훈련에 사용된 다양한 소스에서 정보를 추출하는 경우가 이에 해당하는데 사용자들은 상업적 이용 시 반드시 검토해야 합니다.

 

12. 대화 종료 미숙

• 종종 대화를 종료하거나 대화를 이해했지만 관련 없는 답변을 생성할 수 있으며, 이는 대화 품질을 저하시킬 수 있습니다. 사용자는 모델과의 대화를 유도하고 관련된 정보를 요청하는 방법을 습득하면 더 좋은 서비스를 받을 수 있습니다. 위에도 언급했지만 처음에 지정되는 명령어가 중요합니다.

 

껌을 먹으면 소화하는데 매우 오래 걸린다? - 잘못된 상식 35