AI가 과연 똑똑할까요? eXplainable AI로 알아보자!

안녕하세요 오늘은 ChatGPT, Bard, Claude와 같은 생성형 AI의 활용도가 점점 높아지고 있는 가운데, 한편으로는 이러한  AI가 답변하는 내용이 과연 정말 사실인지, AI의 똑똑함에 대한 의문이 제기되고 있습니다. 모든 것을 알고 있는 듯한  AI, 정말 그런지 같이 알아보겠습니다.

 

 

AI가 과연 똑똑할까요?

AI는 데이터를 학습하고 이를 기반으로 판단을 내리는 시스템입니다. 따라서 AI가 똑똑하다고 말하기 위해서는 데이터의 질과 양이 중요합니다. 데이터가 충분히 많고, 잘 정제되어 있다면 AI는 인간보다 더 정확하고 빠른 판단을 내릴 수 있습니다. 그러나 데이터가 부족하거나, 편향된 데이터로 학습된 AI는 오히려 인간보다 못한 판단을 내릴 수도 있습니다. 예를 들어, 의료 AI가 잘못된 데이터로 학습된 경우, 환자에게 잘못된 진단을 내릴 수도 있습니다.

 

아래 사진에 나오는 유진테크놀로지 기업에 대한 바드의 답변은 대부분 틀린 정보였습니다. 이 기업은 2010년 설립되었고, 주력제품은 2차 전지용 정밀금형부품이고, 확정공모가는 17,000원입니다.

 

바드의 답변 중 틀린내용

 

AI 답변의 허점은 학습 데이터의 허점에 기인합니다. 예를 들어, AI가 뉴스 기사를 학습한 경우, 특정 언론사의 편향된 시각을 반영한 답변을 내릴 수 있습니다. 또한, AI는 학습 데이터의 범위를 넘어서는 질문에는 답변하지 못할 수도 있습니다. 예를 들어, AI가 자동차에 대한 데이터를 학습한 경우, 로켓에 대한 질문에는 답변하지 못할 것입니다.

 

이와 같이 AI 답변의 근거는 학습 데이터입니다. 따라서 AI 답변이 왜 그런 결과를 도출했는지 이해하려면 학습 데이터를 살펴봐야 합니다. 그러나 학습 데이터는 보통 공개되지 않기 때문에, AI 답변의 근거를 이해하기 어렵습니다.

 

 

설명가능한(eXplainable) AI(XAI)?

eXplainable AI(XAI)는 AI 시스템의 판단 근거를 사람이 이해할 수 있도록 설명하는 기술입니다. AI 시스템은 복잡한 데이터를 기반으로 판단을 내리기 때문에, 인간이 이해하기 어렵습니다. XAI는 AI 시스템의 판단 과정을 시각화하거나, 의사결정의 가중치를 보여주는 등의 방법으로 설명합니다. 

 

eXplainable AI의 개념설명 유튜브 동영상

 

XAI의 필요성

• AI 시스템의 신뢰성 향상 : XAI를 사용하면 AI 시스템의 판단 근거를 이해할 수 있기 때문에, AI 시스템의 신뢰성을 높일 수 있습니다. 예를 들어, 의료 AI의 경우, XAI를 사용하여 AI 시스템이 특정 진단을 내린 이유를 설명할 수 있습니다. 이를 통해 환자는 AI 시스템의 판단을 신뢰할 수 있게 됩니다.
• AI 시스템의 윤리적 사용 보장 : XAI를 사용하면 AI 시스템이 편향된 결정을 내리지 않도록 할 수 있습니다. 예를 들어, AI 시스템이 고용 결정을 내리는 경우, XAI를 사용하여 AI 시스템이 특정 후보자를 배제한 이유를 설명할 수 있습니다. 이를 통해 AI 시스템이 공정하게 의사결정을 내리는지 확인할 수 있습니다.
• AI 시스템의 개발 및 개선 : XAI를 사용하면 AI 시스템의 성능을 개선할 수 있습니다. 예를 들어, AI 시스템이 잘못된 결정을 내린 경우, XAI를 사용하여 AI 시스템이 잘못된 결정을 내린 이유를 분석할 수 있습니다. 이를 통해 AI 시스템을 개선하고, 더 정확한 결정을 내릴 수 있도록 할 수 있습니다.

 

XAI의 방법

• 의사결정의 가중치 설명 : AI 시스템이 내린 결정의 가중치를 보여주는 방법입니다. 이를 통해 AI 시스템이 특정 결정을 내린 이유를 이해할 수 있습니다. 특징의 설명 AI 시스템이 사용한 특징을 설명하는 방법입니다. 이를 통해 AI 시스템이 어떤 데이터를 기반으로 판단을 내렸는지 이해할 수 있습니다.
• 시각화 : AI 시스템의 판단 과정을 시각적으로 보여주는 방법입니다. 이를 통해 AI 시스템의 판단 과정을 쉽게 이해할 수 있습니다. XAI는 AI 시스템의 발전에 있어 중요한 기술입니다. XAI의 발전으로 AI 시스템이 더욱 신뢰받고 윤리적으로 사용될 수 있기를 기대합니다.

 

 

 

 

 

 

eXplainable AI의 미래

eXplainable AI는 AI 시스템의 발전에 있어 중요한 역할을 할 것으로 기대됩니다. eXplainable AI의 발전으로 AI 시스템의 신뢰성과 윤리적 사용이 향상될 뿐만 아니라, AI 시스템의 개발 및 개선에도 기여할 수 있습니다. eXplainable AI의 미래는 더 다양한 방법의 개발, 자동화의 발전,  규제의 강화와 같은 방향으로 발전할 것으로 예상됩니다.

 

결론 AI가 우리 삶에 점점 더 깊숙이 들어오면서, AI 시스템의 신뢰성과 윤리적 사용에 대한 중요성이 커지고 있습니다. eXplainable AI는 AI 시스템의 신뢰성과 윤리적 사용을 보장하기 위한 중요한 기술입니다. eXplainable AI의 발전으로 AI 시스템이 더욱 신뢰받고 윤리적으로 사용될 수 있기를 기대합니다. 

 

여러분 오늘도 긴 글을 읽어주셔서 감사합니다. 저는 다음에 더 유익한 정보로 다시 찾아뵙겠습니다. 감사합니다.