AI 할루시네이션이란?- 왜 AI는 거짓말을 할까?ChatGPT가 없는 논문을 인용하고, 실존하지 않는 사람을 만들어냅니다.이게 왜 생기는지, 어떻게 잡아내는지 알면 AI를 훨씬 잘 쓸 수 있습니다.ChatGPT에게 특정 논문을 찾아달라고 했다가 황당한 경험을 한 적 있습니다. 제목도 그럴싸하고, 저자도 있고, 학술지 이름까지 붙어있는 논문을 척척 내놨는데, 막상 검색해보니 세상에 없는 논문이었습니다. 이름만 있을 뿐 실제로 발표된 적이 없는 논문이었습니다. AI가 완전히 날조한 겁니다.이것이 바로 AI 할루시네이션(Hallucination)입니다. 환각이라고도 번역합니다. AI가 사실이 아닌 내용을 마치 사실인 것처럼 자신 있게 말하는 현상입니다. 무서운 점은 틀렸다고 말하지 않는다는 것입니다. 아주 ..