"창의적인 작업을 할 때, 할루시네이션(환각)은 결함이 아닌 기능입니다."

이는 샘 알트만이 빌 게이츠와의 대담 간에 나온 말로, 대화 간의 자연스럽게 흘러나온 내용치곤 제게 꽤나 인상적인 발언이었습니다. 저 역시도 평소에 생성형 AI에게 환각 증상은 치명적인 결함이라고 생각했던 터라, 환각 증상을 완벽하게 제어하는 곳이 미래 생성형 AI의 주도권을 가져갈 것이라 예상했는데요. 샘 알트만의 발언을 통해 제 생각이 얼마나 편협했는지 깨닫게 됐습니다. 

이런 발언은 자신의 서비스에 대한 비판을 포장하려는 의도에서 나왔을 수도 있지만, 저는 이 발언을 통해 ChatGPT가 성공할 수 있었던 이유에 대해서 조금은 알 수 있게 됐습니다. 성공하는 서비스는 대부분은 단점을 극복하기 위한 노력을 하기보다 자신들의 장점을 강화하는데 주력했을 때 성공하는 경우가 많습니다. 이러한 관점에서 본다면, 생성형 AI의 본질은 이름에서 알 수 있듯이 무언가를 새롭게 생성해내는 것이 순기능임에도 불구하고, 우리는 그동안 AI에 단순하게 학습된 내용만 곧이 곧대로 뱉어내기를 기대해 왔다는 사실은 어딘가 모순이었던 것이죠.

즉, 안전하고 적절한 가이드라인을 준수하며 이루어지는 추론을 통해 나타난 환각은 인간의 창의력과 한층 더 가까워진다고 이해할 수 있습니다. 이러한 맥락에서 볼 때 환각을 단순히 결함으로 보는 것이 아니라 창의적 생산의 하나로 인식하는 것은 매우 중요한 일입니다. 

"로봇이 중장비를 조작해야 하는 경우에는 매우 정확하게 움직여야 합니다."

환각 증상의 긍정적인 측면을 인식하는 것은 중요하지만, 부정적인 측면을 간과해서는 안됩니다. AI가 잘못된 정보를 기반으로 환각을 생성할 경우 사용자에게 혼란을 줄 수 있으며, 잘못된 선택을 유도할 수 있습니다. 샘 알트만 역시 이러지는 대화에서 로봇이 중장비를 조작하는 경우에는 매우 정확해야 한다는 이야기를 남기기도 했는데요. 즉, 환각이 인간의 창의력을 향상시키는 데 기여할 수 있음을 인정하면서도, 그것이 가져올 수 있는 위험을 세심하게 관리하는 것이 매우 중요하다는 사실을 인지해야 하는 것입니다.  

샘 알트만의 발언은 기술과 인간 사이의 경계를 모호하게 만드는 동시에, 인공지능이 단순히 정보를 처리하는 도구를 넘어서 인간의 창의력과 상상력을 확장할 수 있는 파트너가 될 수 있음을 시사하며, 이를 통해 일반인공지능(AGI)를 향한 진전의 계가기 될 수 있습니다.