기주옥 의원 발언

위원 제가 파악하기로 챗GPT3로 알고 있습니다. 챗GPT3는 2021년 9월에 학습이 완료가 돼서 그때 이후의 정보는 갖고 있지 않아요. 그리고 혹시 챗GPT4라고 해도 가장 최근의 정보는 갖고 있지 않고요.

그렇기 때문에 내년에 사업을 진행하시는 데 있어서 올해나 내년에 새로 생기는 사건이나 일들에 대한 부분들은 대답을 못 할 거예요. 그런데 문제는 우리가 기존에 다른 지원을 하는 그런 기기들은 모르면 모른다고 대답을 하잖아요. 그런데 얘는, 혹시 할루시네이션(Hallucination)이라는 단어 들어보셨나요?

한번 보여주시겠어요? (영상자료를 보며) 제가 오늘 이거 챗GPT4로 해 본 거예요. 이전 것 보여주세요. (영상자료를 보며) 시장님 이름 한번 물어봤어요.

그런데 이렇게 대답하더라고요. 그리고 이걸 잘못된 것을 팩트인 것처럼 대답을 하는 게 있어요, 챗GPT가. 그리고 넘겨주세요. (영상자료를 보며) 이건 어떻게 나온 대답인지 모르겠어요.

이것은 챗GPT4가 이렇다는 거고요. 그다음 챗GPT3의 사례는 제가 지금 검색해 볼 수 없어서 웹상에 돌아다니는 것을 제가 캡처해서 가져왔는데요. 이런 식으로 이게 챗GPT…… 우선 이거 도비 100%로 시범사업으로 하시는 거니까 제가 당부를 드려야 될 것 같아요.

이용하시는 분들은 어르신들일 거잖아요. 그래서 이게 특히 여기 보면 인지 건강, 정서지원 이런 부분들 하게 돼 있는데 최근에 예를 들어서 뉴스에 대한 의견을 묻는다든지, 어디 위치에 대한 것, 그리고 날씨. 기본적으로는 날씨 이런 것 다 대답을 못 하거나 엉터리 대답을 주는 경우가 많을 거예요.

그래서 이런 사용하시는 부분들이 오히려 인지에 혼란을 가져올 수도 있다는 생각이 듭니다, 이 챗GPT는. 이런 부분들은 반드시 교육이 필요한 부분이라고 생각을 해요. 그래서 대상자로 선정하시는 분들에게 챗GPT의 한계에 대한 부분과 이게 좀 그런 잘못된 정보를 제공할 수도 있다는 부분에 대해서는 반드시, 반드시 안내가 필요한 부분이라고 생각을 하고요.

그리고 또 하나는 운영을 하시다가 이런 부분들 때문에 오히려 민원이 발생을 할 수도 있다고 생각을 해요. 그렇게 되면 이건 어떻게 보면 챗GPT의 보통 활용을 학술이나 이쪽에서 많이 하잖아요. 그래서 오히려 어르신 건강관리사업에는 이 특정 사업이 효율이 맞는가 싶거든요, 제가 보기에는.

그러니까 한번 도비 100%라고 하니 운영해 보시고. 이게 진짜 건강관리에 도움이 된다, 안 된다 추가적인 민원이 발생한다, 안 한다 이런 부분들 잘 평가해 보실 필요가 있다고 생각합니다.