chatgpt는 거짓말쟁이? AI(인공지능)의 할루시네이션(hallucination)

chatgpt AI가 생성하는 텍스트에는 사실과 다른, 비논리적이거나, 상식에 어긋나는 틀린 답변일 수 있습니다.. AI의 할루시네이션은 어떻게 발생하는지, 어떤 장단점이 있는지, 어떻게 대처해야 하는지 알아볼게요.

 

 

chatgpt는 거짓말쟁이? AI(인공지능)의 할루시네이션(hallucination)

인간이 아닌 다른 존재가 할루시네이션을 경험할 수 있을까요? 예를 들어, 우리가 매일 사용하는 인공지능(AI)은 어떨까요?

할루시네이션 정의와 원인

할루시네이션은 실제로 존재하지 않는 자극에 대해 감각기관이 인식하는 현상입니다. 즉 환각·환상을 말하는데, 예를 들어, 소리가 없는데 들리거나, 빛이 없는데 보이거나, 냄새가 없는데 맡거나 하는 것입니다. 음...환상통을 예로 들면 적절하려나...

이러한 현상은 정신의학적 질환, 약물 중독, 뇌손상, 스트레스 등 다양한 원인에 의해 발생할 수 있습니다.

AI의 할루시네이션의 가장 큰 원인은 학습한 데이터에 있습니다. 우리가 아는 대표적인 인공지능 chatgpt는 데이터와 알고리즘을 기반으로 학습하고, 새로운 입력에 대해 적절한 출력을 생성하거나 예측하는 시스템입니다.

그렇기 때문에 인공지능을 적용하는 한 분야인 자연어처리(NLP)에서는 GPT, LLM과 같은 대규모 언어모델(large language model) 이 많은 관심을 받고 있습니다.

ChatGPT를 이용한 자연어 처리(NLP)의 응용과 기술

이러한 모델들은 인터넷에서 수집한 방대한 텍스트 데이터를 학습하고, 주어진 텍스트에 이어서 적절한 텍스트를 생성하는 기능을 갖습니다.

그런데 이러한 모델들이 항상 정확하고 타당한 텍스트를 생성하는 것은 아닙니다. 때로는 사실과 다른, 비논리적이거나, 상식에 어긋나는 텍스트, 한마디로 오답을 출력·생성하기도 합니다.  

 

 

예를 들어 GPT-3 모델에게 "The capital of France is"이라는 텍스트를 입력하면, “Paris, Lyon, Marseille, Bordeaux, Berlin, Rome, or nothing” 등 다양한 답변을 생성합니다.

이 중에서 정답은 Paris이고, 나머지는 틀리거나 상식에 어긋나는 답변입니다. 이러한 현상은 GPT-3이 인터넷에서 수집한 텍스트 데이터에 포함된 오류나 모순을 학습했기 때문에 발생하는 것입니다.

ChatGPT 초보 사용자를 위한 사용메뉴얼 : 활용 사례와 관련 자료 및 도구

AI는 데이터에 포함된 정보뿐만 아니라, 편향이나 오류, 모순 등도 함께 학습하기 때문에 할루시네이션을 발생시킬 수 있습니다.

예를 들어, 인터넷에서 수집한 텍스트 데이터에는 "The capital of France is" 라는 문장이 포함되어 있을 수 있습니다. 이 문장은 인간에게는 농담이나 비유로 이해될 수 있지만, AI에게는 사실로 인식될 수 있습니다.

따라서 AI는 이러한 문장을 기반으로 새로운 텍스트를 생성할 때, 인공지능 할루시네이션을 발생시킬 수 있습니다. 이러한 현상은 AI의 학습 데이터가 인간의 언어와 대중문화의 인식에 대한 깊이있는 이해를 반영하지 못하기 때문에 발생하는 것이라고 할 수 있습니다.

인간 편리를 위해 개발한 인공지능이 아직 인간이 바라는 편리에 다다르지 못한 것입니다.

 

 

인공지능 할루시네이션 영향과 대응

AI의 할루시네이션은 AI의 발전에 도움이 될 수도, 해가 될 수도 있습니다.  AI가 인간과 다른 관점이나 창의성을 가지고 새로운 아이디어나 작품을 생성할 수 있다는 것입니다.

예를 들어, AI가 만든 시나 노래, 그림 등은 인간의 예술에 새로운 영감을 줄 수 있습니다.

하지만 이는 온전한 창조의 영역이 아닌 모방의 영역입니다. chatgpt가 피카소의 게르니카를 모방한다고 할지라도, 학습한 데이터에 충실할 뿐 작가의 의도를 자의적으로 해석할 수는 없습니다. 아직까지는.

또한 AI가 생성한 텍스트가 사실인 것처럼 전파되거나, 인간의 의사결정에 영향을 미칠 수 있다는 것입니다.

예를 들어, AI가 만든 뉴스나 증언, 광고 등은 인간의 인식이나 행동에 부정적인 영향을 줄 수 있습니다. 독창적이고 능동적인 의사결정을 하던 대다수 인간이 편리성에 기대어 피동적으로 변하고 있습니다.

따라서 우리는 AI의 할루시네이션을 주의해서 다뤄야 합니다. 우리가 chatgpt나 기타 인공지능에서 생성한 텍스트의 사실여부를 확인하고, 출처를 밝히고, 책임을 지는 것이 필요합니다.

또한 AI가 학습하는 데이터의 질을 높이고, 학습과정과 출력값을 투명하게 공개하고, AI의 행동에 대한 기준과 규제를 마련하는 것이 중요합니다.

하루가 다르게 성큼 앞서가는 인공지능은 우리 인간에게 수많은 편리를 제공합니다. 다만 아직 과도기조차 아닌 인공지능 발달은 잘못된 답변을 도출하는 할루시네이션 현상이 일어나고 있습니다.

인공지능 할루시네이션은 우리에게 새로운 시각과 도전을 제시하는 것이기도 합니다. 우리 언어와 문화에 대해 더 깊이 이해하고, AI와 인간의 상호작용에 대해 더 잘 설계하고, AI의 발전에 대해 더 책임감 있게 대처할 수 있습니다.

쉽고 빠른 검색으로 내게 정보를 주는 인공지능에 의존이 아닌 이용으로 자신의 삶을 긍정적이고 주체적으로 살아가시길 바랍니다.

 

ChatGPT API : Open AI 설명과 단점, 시장성, 미래전망