할루시네이션 뜻 알아보기 [AI 용어]

최근 인공지능(AI)을 활용하는 사례가 늘어나고 있습니다. 이런 현상은 많은 분야에서 목격됩니다. 이에 따라 AI와 관련된 용어들도 많이 등장하고 있습니다. 할루시네이션은 이 중 하나로 현재 AI의 특성을 보여주는 단어입니다. 이는 현재 인공지능이 처한 제약 사항 중 하나입니다. 그러면 이 글에서는 할루시네이션의 뜻, 원인에 대해 살펴보겠습니다.

 




 

할루시네이션 뜻

 

할루시네이션(Hallucination)의 뜻을 영어 사전에서 찾아 보면 환영, 환각으로 나와 있습니다. 인공지능 분야에서 이 용어는 생성형 AI가 거짓 정보를 마치 사실인 것처럼 착각해서 이용자에게 전달하는 경우를 뜻합니다.

 

생성형 AI는 많은 양의 데이터를 학습하고 이를 바탕으로 사용자의 질문에 따라 답을 제시합니다. 이 과정에서 오류가 있는 정보를 수집했거나 정보가 없는 질문에 답해야 할 경우, AI가 잘못된 대답을 사용자에게 내놓을 수 있습니다. 이 때 AI는 이러한 오류가 있는 대답이 마치 진실인 것처럼 파악하는데, 이를 마치 환영과 같다고 보아 할루시네이션이라고 부르고 있습니다.

 




 

할루시네이션 원인

 

할루시네이션의 원인은 생성형 AI의 통계적 특성 때문입니다. 거대 언어 모델 (LLM)에서는 대규모 코퍼스(corpus)를 통해 언어의 패턴을 학습하게 됩니다. 이러한 학습 훈련을 통해 입력된 사항에 대해 다음에 이어질 학률이 높은 토큰(token)을 예측해서 결과물을 제시하게 됩니다. 이 과정에서 오류가 있는 정보를 활용하거나 과정 상에서 오류가 생길 경우 잘못된 대답을 사용자에게 내놓게 됩니다.

 

 

할루시네이션 해결

 

할루시네이션을 완벽하게 해결할 방법은 아직 개발되지 않았습니다. 다만 인공지능 전문가들은 할루시네이션 가능성을 낮추기 위해 다양한 방안을 시행하고 있습니다.

 

이 중 하나는 사람이 생성형 AI의 오류를 찾아 제대로 된 답변을 다시 알려주는 방식입니다. 이런 작업을 반복하면서 AI는 제대로 된 답을 내놓도록 훈련하게 되고 다음에는 오류를 줄일 수 있습니다. 이는 AI의 정확성을 향상시킬 수 있는 방법이지만, 사람의 노력, 시간이 많이 소요되는 단점이 있습니다.

 

그 외에 AI가 신중하게 답을 내놓을 수 있도록 지침을 제공하는 방식, 추가적인 데이터를 학습시키는 방법도 있습니다.

 

 

지금까지 할루시네이션의 뜻에 대해 알아보았습니다. 인공지능 분야에서 할루시네이션은 생성형 AI가 허위 사실을 진짜라고 착각해서 사용자에게 알려주는 경우를 뜻합니다. 이는 생성형 인공지능의 특성 때문에 발생하는 것으로 이를 근본적으로 해결할 방법은 아직 나오지 않았습니다. 이 글은 시사상식사전, 두산백과를 참고했습니다.

 

아래 링크는 생성형 AI의 뜻, 종류에 대해 작성한 글입니다.

 

생성형 AI(인공지능) 뜻, 종류 알아보기