챗GPT는 미국 인공지능 연구기업 ‘오픈AI’가 개발한 챗봇(Chat Bot, 대화형 인공지능의 한 종류로서 메신저에서 유저와 소통하는 봇)이다. 챗GPT는 수백만 개의 웹 페이지로 구성된 방대한 데이터베이스를 기반의 학습해 인간처럼 대화하고, 기술과 작문 능력이 매우 뛰어나다. 사용자가 대화창에 텍스트를 입력하면 그에 맞춰 대화하는 것은 물론 ▲논문 작성 ▲번역 ▲음악 작사.작곡 ▲코딩 작업 등 광범위한 분야의 업무 수행 능력까지 갖추고 있다. 여기서 모든 대화는 지식 정보 전달을 비롯해 창의적인 아이디어에 대한 답변, 기술적 문제 해결 방안 제시 등 다양하게 이뤄진다. 이뿐만 아니라 간단한 대화를 넘어 숨은 대화의 맥락을 이해하고, 이전의 질문 내용과 대화를 기억해내 답변으로 활용하는 숙련된 활용 능력을 갖고 있다. 또한 접근성이 뛰어나 전문성을 요구하지 않을 뿐만 아니라, 인터넷에 접속할 줄만 알면 누구나 챗GPT에 접근하고 사용할 수 있다.

  인간을 능가하는 능력으로 놀라움과 편리함을 주는 챗GPT이지만, 그에 따른 부작용도 만만치 않다. 가장 큰 문제는 윤리·도덕적 측면의 문제다. 지난 1월, 국내 수도권의 한 국제학교에서 챗GPT를 이용해 영문 에세이를 작성해 제출한 학생들을 전원 0점 처리한 사건이 있었다. 학생 7명이 챗GPT를 사용해 영문 에세이 과제를 작성해 제출했고, 학교 측은 과제에 AI 프로그램이 활용됐는지 확인하는 교사용 프로그램을 통해 그 사실을 확인했다. 이외에도 챗GPT를 이용한 저작권 침해 문제도 다수 발생하고 있다. 최근 챗GPT로 만든 책이 출간돼 저작권과 상업적 사용이 논란이다. 스노우폭스북스 출판사는 지난달 챗GPT가 작성한 책을 출간했다고 밝혔다. 이 책은 사람이 작성한 기획안을 바탕으로 챗GPT가 원고를 작성하고, 네이버의 번역 AI 파파고가 한국어로 번역하는 과정을 거쳤다. 이 책은 글 작성부터 교열.교정.인쇄까지 단 1주일밖에 걸리지 않았으며, 영어 원문 135쪽 분량을 번역하는 데 걸린 시간은 단 2시간이었다. 그런데 네이버에서 파파고를 활용한 결과물에 대해 상업적 활용을 원천 금지하고 있어 저작권 분쟁 및 상업적 사용 논란을 야기했다. 여기에 개인정보 침해 우려도 있다. 지난 2월 22일 <월스트리트저널>의 보도에 따르면 미국 최대 은행 JP모건체이스는 직원들의 챗GPT 사용을 규제하는데, 이는 챗GPT 사용 시 회사 시스템에서 고객 정보 등의 소스 코드가 빠져나갈 수 있다는 우려 때문이다.

  무엇보다 챗GPT를 일탈적으로 오용하는 사례도 늘고 있다. 온라인 커뮤니티에서는 ‘챗GPT 탈옥’과 관련된 글을 쉽게 찾아볼 수 있는데, 여기서 ‘탈옥’이란 제조사의 권한을 확보해 제한된 기능을 해제하고 임의로 시스템을 바꾸는 방법을 의미한다. 챗GPT는 원래 성적인 대화, 정치, 성별, 인종, 국적, 빈부 등 차별 요소가 포함된 질문에는 대답하지 않도록 설계돼있다. 하지만 앞서 언급한 ‘탈옥’으로 시스템의 허점을 이용해 특정 명령어를 입력하거나 상황을 설명하는 방식으로 AI로부터 원래 금지된 답변을 끌어내는 것이다. 지난 2월, 챗GPT를 개발한 오픈 AI의 최고기술책임자(CTO)인 미라 무타리가 한 언론과의 인터뷰에서 “높은 인기는 일부 윤리적 문제를 불러일으키며, AI 도구들이 오용되거나 나쁜 행위자들에 의해 사용될 수 있다”라고 한 우려가 현실이 된 것이다.

  이뿐만 아니라 챗GPT에 대한 신뢰성의 문제도 배제할 수 없다. 챗GPT를 이용해 서류작업을 하거나 학교 과제를 하는 사람이 늘면서 챗GPT가 제공한 답이 옳지 않은 경우가 발생하고 있다. 챗GPT는 엄청난 웹 페이지의 데이터를 학습해 그 내용을 바탕으로 답할 뿐 그 데이터의 내용이 사실인지에 대한 체크 기능이 없어 발생하는 오류이다. 지난달 22일 MBC 라디오 <뉴스 하이킥>에 출연한 한빛미디어 박태웅 의장의 설명에 따르면 챗GPT가 사용하는 트랜스포머 모델은 앞에 단어를 보고 그다음에 올 가장 근사한 단어를 추측하는데, 이 트랜스포머 모델을 사용하는 한 AI가 지어내는 거짓말을 없애기는 현재 대단히 어렵거나 불가능하며, 사실관계를 알지 못한 채 챗GPT의 답변을 보면 쉽게 속을 수 있다.

  대학가에서도 챗GPT를 이용하는 사례가 늘고 있다. 공과대학에 재학 중인 ㅇ(수원시 장안구.24) 씨는 “최근, 조별 과제의 주제를 정하면서 아이디어를 얻기 위해 챗GPT를 처음 사용해 봤는데, 다방면으로 유용하게 이용할 수 있었다”라며 “직접 사용해 보니, 챗GPT를 사용할 때는 생각보다 더 구체적으로 질문을 던져야 본인이 얻고자 하는 정보를 얻을 수 있다는 것을 알았다. 질문을 자세히 던져야 하지만, 좋은 질문을 통해 과제의 주제 선정뿐만 아니라, 이 주제가 개발을 통해 대학생 신분의 능력에서 해결이 가능한 주제인지 판단할 수 있도록 도움을 주기도 했다”라며 챗GPT 사용에 긍정적인 후기를 남겼다. 반면, 또 다른 ㅇ(서울시 광진구.23) 씨는 “확실히 챗GPT에 도덕.윤리적 질문을 던지면 정확한 답을 듣기 어려웠다. 이것이 인공지능의 특징이라 생각한다. 직접 챗GPT를 사용해 보고, 이에 관한 다양한 기사를 접해보니 이제 점점 AI에 의존하면서 인간은 멍청해지고, 더 이상 인간의 두뇌가 필요 없어지는 시대가 오지 않을까 걱정된다”라며 우려했다.

  기대와 우려를 동시에 받는 챗GPT의 등장은 교육과 학문 분야에서도 논란이다. 유럽, 미국, 중국 등의 일부 초중등학교에서 운영하는 국제 인증 교육 프로그램 ‘국제바칼로레아’(이하 IB)는 학생들이 제출하는 글에 챗GPT를 활용하는 것을 금지하지 않겠다고 밝혔다. 지난 2월 26일 영국 일간 더타임스에 따르면 IB를 관리하는 기관인 ‘국제바칼로레아 기구’의 평가 업무 총책임자인 맷 글랜빌 이사는 “IB는 챗GPT를 전면 금지하는 것이 아니라 개별 학교들과 협력해 학생들이 AI를 윤리적으로 활용하도록 도울 것”이라는 방침을 발표했다. 맷 글랜빌 이사는 세부적인 허용 조건으로 “학생들은 자신의 글에 챗GPT를 활용했음을 명시해야 한다. 챗GPT를 활용하는 것과 챗GPT의 도움 없이 독창적인 결과물을 내놓는 것 사이에는 명확한 구분 선이 있다. 학생들은 챗GPT를 활용할 때 인용 표시를 철저히 해야 할 것”이라고 허용 기준을 제시했다.

  반면, 뉴욕시 교육부는 지난 1월, 뉴욕시 공립학교의 자체 인터넷망과 학교 컴퓨터 기기에서 챗봇의 사용을 금지했다. 이는 챗 GPT가 과제 수행에 이용될 경우, 학생들의 비판적 사고 및 문제해결 능력을 기르는 데 방해되고, 챗GPT를 통해 작성된 과제는 더 이상 의미가 없어진다고 판단했기 때문이다. 또한 저명한 국제학술지 <네이처>는 대화형 인공지능을 논문 저자로 인정하지 않으며, 사용할 경우 논문에 명시하도록 하는 가이드라인을 제시했고, <사이언스지>는 챗GPT와 같은 AI 도구는 과학의 투명성을 위협하고 연구에 대한 책임을 질 수 없다는 이유로 아예 금지하기도 했다.

  한편, 챗GPT에 대한 우리나라 대학의 대응도 시작됐다. 서울대는 최근 교내 AI 연구원과 함께 챗GPT를 이용한 부정행위를 방지하기 위한 툴 개발 등 대책을 논의하고 있으며, 교수 대상 챗GPT 강연도 열었다. 경희대 경영학·빅데이터응용학과 이경전 교수는 “새 학기 중간고사 문제를 낼 때 챗GPT로 먼저 돌려보고 챗GPT가 풀 수 없는 문제만 시험에 출제할 것”이라고 밝혔다. 이어 그는 “AI에게 글쓰기에 대한 도움을 받는 것은 당연하다. 이를 도구로 활용해 더 나은 결과물을 도출할 수 있게 해야 한다”라며 “챗GPT의 글을 그대로 작성하는 것이 아닌, 출처와 표절을 확인해 문제가 없는지 확인해야 할 것”이라고 말했다. JTBC 상암동 클라스에 출연한 미래사회IT연구소 김덕진 소장도 “챗GPT가 주는 게 정답이라고 여기며 단순 검색으로 이용하는 것이 아니라, 의견을 주고받으며 창의성을 얻어낼 수 있는 도구로 사용할 수 있다”라며 “챗GPT를 현명하게 활용해 더 나은 결과물을 도출할 수 있도록 해야 한다”라는 의견을 전했다.

  지난달 20일, 미국 ABC 방송에 따르면 챗GPT 개발사인 오픈 AI의 최고경영자 샘 올트먼은 인터뷰에서 AI 기술이 앞으로 사회에 미칠 부정적 영향에 대해 우려를 나타냈다. 그는 AI 기술이 노동력, 선거, 허위 정보 확산 등에 미칠 수 있는 악영향에 대해 “무섭다”라고 말했다. 그는 “사람들이 AI 기술에 대해 약간은 무서워해야 한다”라며 챗GPT를 비롯한 AI 기술로 인한 일자리 감소 문제가 도래할 것이라는 점도 인정했다.

  AI의 발달이 인류에게 득이 될지 해가 될지를 속단하기는 어렵다. 하지만 분명한 것은 득도, 해도 우리가 하기 나름이라는 것이다. AI는 특성상 국경을 넘어 전 세계의 인터넷망을 이용해 데이터를 학습하고 이용되기 때문에 국가 차원은 물론 전 세계적 협력을 통해 사용 규칙을 만들어야 한다. 또한 이공학과 인문학을 아우르는 모든 학문 분야의 전문가들이 참여해 AI 개발과 활용에 대한 윤리와 법, 제도를 마련할 필요가 있다. 만약 AI에 대한 대비를 제대로 하지 못한다면 인류의 미래는 영화 속 디스토피아가 될 것이다.