성신여대 2024 인문 1번 논술 | 합격의 기준

최근 인공지능이 갖고 있는 다양한 한계와 위험성에 대한 논의가 이루어지고 있다. 대규모 언어모델을 기반으로 한 생성형 AI와 관련하여 지적되는 환각이 그 대표적 예이다. 환각은 생성형 AI가 거짓된 정보를 올바른 정보인 것처럼 대답하거나 존재하지 않는 정보를 마치 존재하는 정보인 것처럼 대답하는 현상을 의미한다. 30년 경력의 미국 변호사가 챗GPT를 활용하여 검색한 판례를 법원에 제출하였으나 이 중 일부의 판례는 존재하지 않는 판례임이 밝혀진 사례가 환각의 대표적인 사례이다. 대규모 언어모델을 활용한 생성형 AI의 한계인 환각이 발생하는 원인은 다양하다. 생성형 AI가 아직 학습하지 못한 데이터와 관련된 질문을 받는 경우 환각 현상이 발생할 수 있다. 생성형 AI가 데이터 학습을 하였으나 그 내용이 다양하지 못한 경우와 같이 학습 데이터의 완성도가 떨어지는 경우에도 환각 현상이 발생될 수 있다. 한편, 기존의 사회적 구조를 반영한 사회적 차별 내지 편견이 학습 데이터에 반영되어 대규모 언어모델을 활용한 생성형 AI가 환각을 일으키는 원인이 될 수 있다. 학습 데이터의 출처 관리가 명확하게 되지 않고 있다는 점, 그리고 학습 데이터의 완성도와 관련된 적정한 기준이 부재하다는 점도 학습 데이터의 완성도가 확보되지 못하는 배경이라고 할 수 있다. 생성물에 대한 판별 기술이 없다는 점 또한 환각 현상을 발생시키는 원인으로 작용한다. 콘텐츠 팜을 통해 유통되는 가짜 뉴스들의 사례를 통해 알 수 있듯이, 오늘날 독자들에게는 인터넷상의 각종 뉴스에 대해 어떠한 뉴스가 진짜인지 가짜인지 비판적으로 판단할 수 있는 역량이 요청되고 있다. 이러한 역량은 생성형 AI의 사용자에게도 마찬가지로 요구된다. 대규모 언어모델에 기반한 생성형 AI는 환각 이슈를 갖고 있는 만큼 이를 사용하려는 개인은 그 결과물을 비판적 관점에서 검토하고 평가하는 역량을 갖추는 것이 필요하다.

937자