🤯허깅챗 어시스턴트 영어 뉴스 번역 챗봇 만들기! URL만 입력하면 끝!

안녕하세요! 오늘은 자연어 처리 분야의 최첨단 언어 모델, 데이터셋, 코드를 무료로 제공하는 오픈 소스 커뮤니티인 허깅페이스의 허깅챗 어시스턴트 기능을 알아보겠습니다. 허깅챗 어시스턴트는 사용자가 선택한 모델을 기반으로 한 대화형 인공지능이며, 사용자와 대화하거나 특정 작업을 수행할 수 있는 채팅 인터페이스를 제공합니다. 사용자는 모델, 이름, 시스템 프롬프트를 선택하여 어시스턴트를 만들고, 이를 다른 사용자와 공유할 수 있습니다. 이 블로그에서는 허깅챗 어시스턴트를 활용해서 영문 뉴스 사이트의 URL만 입력하면 내용을 번역해서 요약해 주고, 뉴스 내용에 관한 질문에 응답하는 무료 챗봇을 만들어 보겠습니다.

허깅챗 어시스턴트로 영문 뉴스 사이트와 대화하기

"이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다."

허깅챗 어시스턴트란?

허깅챗 어시스턴트는 Hugging Face에서 제공하는 기능 중 하나로, 사용자가 대화형 인공지능 모델을 사용하여 대화하거나 특정 작업을 수행할 수 있는 플랫폼입니다. 이 어시스턴트는 사용자가 선택한 인공지능 모델을 기반으로 작동하며, 사용자가 지정한 시스템 프롬프트에 따라 대화를 시작합니다.

 

허깅챗 어시스턴트를 만들 때, 사용자는 다음과 같은 기본사항을 지정합니다:

• 언어 모델 선택: Hugging Face에서 제공하는 다양한 인공지능 모델 중에서 대화에 사용할 모델을 선택합니다. mistralai/Mixtral-8x7B-Instruct-v0.1, google/gemma-7b-it, meta-llama/Llama-2-70b-chat-hf, NousResearch/Nous-Hermes-2-Mixtral-8x7B-DPO, codellama/CodeLlama-70b-Instruct-hf, mistralai/Mistral-7B-Instruct-v0.2, openchat/openchat-3.5-0106와 같이 총 7개 모델을 선택할 수 있습니다.

허깅챗 어시스턴트 언어모델 설정

• 이름 설정: 어시스턴트에 부여할 이름을 지정합니다. 이 이름은 어시스턴트를 식별하는 데 사용됩니다.
• 시스템 프롬프트 선택: 사용자와의 대화를 시작할 때 사용될 초기 메시지를 지정합니다. 이 시스템 프롬프트는 사용자와의 대화를 시작하는 데 사용됩니다. 대화 주제 및 목적, 사용 가능한 작업, 사용자 지침 등을 설정할 수 있습니다.

또한 인터넷 접속 기능 설정을 통해 Assistant가 사용자 요청에 따라 인터넷에서 정보를 검색할 수 있도록 설정할 수 있으며, 이 설정에는 웹 검색, 도메인 검색, 특정 링크의 세 가지 옵션이 있습니다.

허깅챗 어시스턴트 인터넷 접속 설정

• 웹 검색 (Web search): Assistant가 사용자 요청에 대해 인터넷에서 정보를 검색할 수 있도록 설정합니다. 이 기능을 활성화하면 Assistant는 사용자가 요청한 정보를 찾기 위해 온라인 검색을 수행합니다.
• 도메인 검색 (Domains search): Assistant가 검색할 수 있는 도메인과 URL을 지정합니다. 이 옵션을 사용하면 Assistant가 특정 도메인이나 URL에서만 정보를 검색하도록 제한할 수 있습니다. 여러 도메인 및 URL을 쉼표로 구분하여 지정할 수 있습니다.
• 특정 링크 (Specific Links): Assistant가 직접 접근할 수 있는 최대 10개의 직접 URL을 지정합니다. 이 옵션을 사용하면 Assistant가 지정된 URL에 직접 접근하여 HTML 또는 일반 텍스트를 가져올 수 있습니다. 이를 통해 Assistant는 특정 웹 페이지에서 필요한 정보를 가져와 사용자에게 제공할 수 있습니다.
• 동적 프롬프트 (Dynamic Prompt): 이 옵션을 활성화하면 Assistant가 사용자 요청에 따라 동적으로 컨텐츠를 생성할 수 있습니다. 예를 들어, 특정 URL에 GET 요청을 보내고 응답을 받아와 프롬프트에 동적으로 삽입할 수 있습니다. '{{url=https://example.com/path}}'와 같은 템플릿 변수를 사용하여 동적 콘텐츠를 삽입할 수 있습니다.

이 설정을 통해 Assistant는 인터넷을 통해 정보를 검색하고 가져올 수 있으며, 사용자에게 더욱 풍부한 정보를 제공할 수 있게 됩니다.

 

생성된 어시스턴트는 공개되며, 만든 사용자의 이름과 함께 Hugging Face의 어시스턴트 페이지에 표시됩니다. 또한, 어시스턴트는 오픈소스 모델을 기반으로 하기 때문에 사용자는 원하는 경우 모델을 변경하여 어시스턴트의 동작을 조정할 수 있습니다. 허깅챗 어시스턴트는 사용자가 자신만의 대화형 인공지능을 만들고, 다른 사용자와 공유하며, 커뮤니티에서 다양한 대화 및 작업을 수행할 수 있는 플랫폼입니다.

728x90

영어뉴스 번역/요약/대화 어시스턴트 만들기

먼저, 허깅챗 어시스턴트를 만들기 위해서 허깅페이스에 가입을 완료한 후, 아래 사이트에 접속합니다. 

https://huggingface.co/chat/assistants

HuggingChat - Assistants

사이트에 접속하면 아래와 같이 허깅챗 어시스턴트의 메인 페이지를 보실 수 있습니다. 좌측 메뉴에서는 테마, 모델, 설정메뉴가 배치되어 있고, 우측 화면에서는 사용자들이 만들어 놓은 다양한 기능의 챗봇들을 확인할 수 있습니다. 

허깅챗 어시스턴트 홈 페이지

다음은 우측 화면에서 "Create New assistant"를 클릭한 후, 아래 화면과 같이 아바타로 사용할 그림파일, 어시스턴트 이름, 사용할 언어 모델을 선택하고 사용자 시작 메시지를 입력합니다. 사용자 시작 메시지는 챗봇과 채팅을 시작했을 때 사용자가 일일이 입력하지 않고 선택해서 바로 입력할 수 있는 미리 작성된 프롬프트입니다. 

어시스턴트 생성 화면

이 블로그에서 만들어볼 어시스턴트는 영어 뉴스 기사의 URL만 입력하면 어시스턴트가 알아서 제목, 날짜, 출처, 페이지 요약까지 자동으로 대답하는 기능을 가진 챗봇입니다. 저는 시스템 프롬프트를 다음과 같이 작성하였습니다. 

You are a helpful assistant to summarize the provided URL.
Summarize the page in 300 words translated into Korean in the following format
*제목:
*날짜:
*출처:
*페이지 요약 :

 

사용 모델은 여러 가지 모델 중 제가 원하는 뉴스 기사를 가장 잘 요약해 준 Mixtral-8x7B-Instruct-v0.1 모델을 선택하였으며, 웹 검색 설정과 동적 프롬프트를 사용하여 사용자가 입력하는 URL에 따라 대답하도록 하였습니다. 

URL 영어 뉴스 번역 어시스턴트 생성화면

 어시스턴트 설정이 완료되면 SAVE를 누르고 Activate를 클릭해서 활성화해 줍니다. 

생성 완료 및 활성화 된 어시스턴트

생성 완료된 어시스턴트는 위와 같이 메인화면에서 바로 선택할 수 있으며, 바로가기 주소를 통해 다른 사람과 공유할 수 있습니다. 여러분도 제가 만든 URL 영어 뉴스 번역기에 아래 주소를 통해 접속하실 수 있습니다. 

https://hf.co/chat/assistant/660ca29ffc30196f22c2121b

URL 영어뉴스 번역기 - HuggingChat

어시스턴트 실행

어시스턴트를 활성화한 후, 본격적으로 영어뉴스 URL을 입력해 볼 차례입니다. 아래 화면과 같이 영어 뉴스의 해당 URL만 입력하면 제목, 날짜, 출처, 페이지 요약까지 자동으로 한국어로 대답해 줍니다. 

영어 뉴스 요약 화면-1

영어 뉴스 요약 화면-1

위 화면과 같이 영어 뉴스의 URL만 입력하면 자동으로 페이지를 요약해 주며, 뉴스 내용에 대해서 궁금한 내용을 한국어로 질문하면 아래 화면과 같이 답변을 잘해줍니다. 

뉴스 내용에 대한 질문에 대답하는 화면-1

뉴스 내용에 대한 질문에 대답하는 화면-2

이 Mixtral-8x7B 챗봇은 영어가 아닌 한국어, 일본어 등 다른 언어로 되어있는 뉴스 사이트의 주소를 입력하는 경우 환각증세를 일으키며 뉴스 내용과 전혀 무관한 대답을 하므로, 영어 뉴스 사이트에 대해서만 사용하시면 될 것 같습니다. 

"이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다."

맺음말

이 블로그에서는 사용자가 자신만의 대화형 인공지능을 만들고, 다른 사용자와 공유하며, 커뮤니티에서 다양한 대화 및 작업을 수행할 수 있는 허깅챗 어시스턴트 기능을 활용하여 영문 뉴스 사이트의 URL만 입력하면 내용을 번역해서 요약해 주는 무료 챗봇을 만들어 보았습니다. 이 챗봇은 사용자가 영문 뉴스를 읽는 데 도움을 줄 뿐만 아니라, 뉴스 내용에 대한 질문에 답변해 주는 기능도 제공합니다.

 

여러분도 허깅챗 어시스턴트를 활용해서 간편하게 나만의 대화형 인공지능 챗봇을 만들어 보시면 어떨까요? 앞으로 더 많은 사용자들이 허깅챗 어시스턴트를 활용하여 다양한 기능을 가진 챗봇을 만들고, 활용할 수 있기를 기대해 보면서, 저는 다음 시간에 더 유익한 정보를 가지고 다시 찾아뵙겠습니다. 감사합니다. 

 

https://fornewchallenge.tistory.com/

 

 

2024.03.05 - [대규모 언어모델] - [Ollama 활용] 허깅페이스 Solar를 나만의 커스텀 언어 모델로 바꾸기

[Ollama 활용] 허깅페이스 Solar를 나만의 커스텀 언어 모델로 바꾸기