1. 개요
허깨비 현상은 창작물을 만들어 내는 생성형 인공지능이 비합리적이고 비논리적이며 핍진성과 개연성이 없는 결과물을 출력하는 현상을 의미한다.창작물을 만들어내지 않는 인공지능이 잘못된 정보를 사실인 것처럼 출력하는 경우에는 할루시네이션이라는 기존 용어가 있다.
이 용어는 그것을 의미하는 영어단어 hallucination, artificial hallucination, confabulation, delusion 등을 번역한 것이며[1], 이것은 환각, 환상, 헛것, 허깨비등으로 번역될 수 있다. 그러나 이 용어를 어떻게 한국어로 번역할 지에 대한 사회적 합의[2]가 없다.
할루시네이션과 달리 창작물을 만드는 생성형 인공지능은 모든 것이 거짓이고, 그것의 출력물은 대부분의 것이 창작의 결과이다. 사실 전달을 목적으로 만들어진 것이 아닌 창작물에서는 잘못된 정보를 가려내는 것이 의미가 없다. 그러므로 생성형 인공지능을 다룰 때에는 기존 인공지능에서와 다른 의미로 쓰이는 것이 바람직하다. 환각 및 환상이라는 번역은 의학적/문학적 용어와 혼동될 수 있기 때문에 혼동의 여지를 줄이기 위해 이 문서에서는 젊은 세대에서 잘 사용되지 않는 허깨비[3]/허깨비 현상이라는 단어를 선택해서 사용한다. [4] 아카라이브 ai채널에서는 찐빠라는 은어로 불리고 있다.
대표적인 예시로는 기형적인 손가락을 그리는 현상, 캐릭터의 신체가 기괴한 모습으로 나오는 현상, n행시를 잘못 만드는 현상, 없는 정보를 지어내서 전달하는 현상등이 속한다.
파일:
2. 원인 또는 해결책
허깨비 현상의 원인에 대해서는 다양한 견해가 있다. 인공신경망을 뇌 신경망과 100% 같게 만들지 않는 이상 항상 존재한다는 시각, 창작자의 고정관념이나 신념, 상식등을 구현하지 못했기 때문이라는 시각,잘못된 데이터를 학습했기 때문이라는 시각, 혹은 신경망 자체의 근본적인 특징으로 완전히 없앨 수 없다는 시각등이 있다.2.1. 그림 인공지능
2.2. 대화형 인공지능
2.3. 작곡 인공지능
[1]
AI관련 용어가 으레 그렇듯, 영어권에서도 이 현상을 나타내는 용어에 대해 한가지로 정해진 명확한 단어가 없다. 그러나 hallucination으로 굳어지는 추세인 듯 하다.
[2]
번역하지 않고 음역한 할루시네이션이라는 용어가 종종 쓰인다.
[3]
허깨비 현상의 결과/출력물을 의미한다.
[4]
(허깨비 및 허깨비 현상은 공식 용어가 아니고, 창작물 생성형 인공지능에 있어서 할루시네이션과 구분이 필요함으로 일시적으로 정한 용어입니다. 이후 국립국어원 또는 관련 한국어 논문등에서 이 용어에 대한 공식 번역이 있을 경우 수정 바랍니다.)