카나나 ? 바나나 ? 카카오 에서 제공 하는 OPEN Source AI ...

한국에서 최근 핫한 오픈소스 AI 모델인 Kanana 시리즈에 대해 정리해드릴게요.

---

🧠 Kanana란?

• **카카오(Kakao Corp.)**가 개발한 한국어 중심의 바이링궐(bilingual) AI 언어 모델 브랜드입니다.
  이름은 Kakao + Native + Natural의 조합으로, 사용자에게 자연스럽고 친숙한 경험을 제공하는 목적입니다.LinkedIn+15kakaocorp.com+15The Pickool+15

 

kanana 실행 예시

 

---

주요 모델 & 공개 일정

Kanana 초기 모델들 (2025년 2~5월 공개)

• 2025년 2월: Technical Report 및 HF 모델 가중치 공개 (Nano 2.1B 등)Chosunbiz+4GitHub+4Hugging Face+4
• 2025년 5월: 2.1B 및 8B 크기 모델(예: Kanana‑1.5‑8B) 추가로 오픈소스로 공개됨Businesskorea+5Chosunbiz+5The Pickool+5

이들은 모두 Apache 2.0 라이선스 하에 상업적 사용도 가능합니다.

최신 공개 모델 (2025년 7월)

• Kanana‑1.5‑v‑3B: 경량 멀티모달 모델로, 텍스트와 이미지 입력 모두 가능하며 모바일 및 IoT 환경에서 효율적으로 동작하는 약 30억 파라미터 규모 모델The Pickool+11The Pickool+11AJU PRESS+11
• Kanana‑1.5‑15.7B‑A3B: MoE(Mixture‑of‑Experts) 구조 기반의 157억 파라미터 모델지만, 추론 시 약 30억 활성화 파라미터만 사용하여 8B 모델 수준의 성능을 동일 또는 상회하면서 훨씬 효율적인 연산을 보여줌AJU PRESS+2The Pickool+2GitHub+2

이 두 모델은 모두 곧 Hugging Face에서 다운받을 수 있으며, 오픈소스로 제공됩니다The PickoolAJU PRESS

---

기능 및 특징

➕ Kanana‑1.5‑v‑3B

• 텍스트 + 이미지 입력 처리 가능.
• 비슷한 규모의 국내외 멀티모달 모델 대비 지시 따르기(instruction-following) 성능이 128% 수준이라고 평가됨kakaocorp.com+1Businesskorea+1Businesskorea+6AJU PRESS+6Hugging Face+6.

➕ Kanana‑1.5‑15.7B‑A3B

• MoE 아키텍처로 적은 FLOPS로 높은 성능 제공.
• Kanana‑1.5‑8B 모델과 대등 또는 상회하는 성능임에도 연산 효율이 뛰어남The Pickool+10GitHub+10The Pickool+10.

공통 특징

• 학습/사후 학습 과정에서 지식 증류(distillation)와 사람 선호 기반 튜닝(HRL)이 적용됨GitHub+1The Pickool+1.
• 코드, 수학 문제, 긴 문맥 대응 능력이 강화되었으며, 32K 토큰 길이까지 지원. 최대 128K 토큰 처리는 YaRN 기능 활용 필요.GitHub

---

멀티모달 통합 모델: Kanana‑o & Kanana‑a

• Kanana‑o: 한국 최초로 텍스트, 음성, 이미지를 동시에 처리하고 감정까지 인식하는 통합 멀티모달 언어 모델입니다.
  • 감정, 강세, 억양 등 비언어 신호를 분석하여 응답 스타일을 조정하고, 제주 방언·경상도 방언 등도 인식해 표준어로 변환할 수 있습니다.Businesskorea+2kakaocorp.com+2LinkedIn+2
  • 자연스러운 음성 합성과 스트리밍 출력 대응 기능이 포함되어 있습니다.
• Kanana‑a: 음성 입력과 합성에 특화된 오디오 언어 모델로, Kanana‑o와 함께 연동됩니다.kakaocorp.com

---

Kanana AI 서비스: “AI Mate” (Kanana in KakaoTalk)

• 2025년 5월부터 일부 사용자 대상 비공개 베타 테스트(CBT) 진행. 개인용 “Nana”와 그룹용 “Kana” 두 가지 AI 메이트를 제공kakaocorp.com+2kakaocorp.com+2The Pickool+2
• 그룹 채팅에서 회의 일정 자동 등록, 알림 전송, 요약 제공 등 대화 맥락 기반 서비스 지원이 특징입니다.
• 메이트의 성격·톤도 사용자가 직접 설정 가능 (친구/전문가/감성형 등). 서비스는 사용자가 많아질수록 “학습”하며 개인화 품질이 개선됩니다.kakaocorp.com

공식 출시 예정은 2025년 상반기로, 현재는 CBT 단계이며 정식 론칭 후 KakaoTalk 앱 내에서 제공될 예정입니다kakaocorp.com.

---

요약표

항목설명

브랜드	Kanana (Kakao의 AI 브랜드)
공개 일시	2025년 2월~7월에 걸쳐 다양한 모델 공개
공개 라이선스	Apache 2.0 (상업적 사용 가능)
주요 모델	Kanana‑1.5‑v‑3B (멀티모달), Kanana‑1.5‑15.7B‑A3B (MoE)
고급 모델	Kanana‑o (텍스트·음성·이미지 통합), Kanana‑a (음성 특화)
서비스화	“AI Mate” (Nana / Kana) – 그룹 및 개인 채팅 보조 서비스
출시 계획	2025년 상반기 정식 출시 예정

 

이걸 찾아서 보게된 사유는 아래 링크에서 읽어습니다.

 

이걸 알게된 출처 :

 

카카오의 AI 모델 카나나 써봄. 카나나 나나나나 나노 사후르 | by Jinhwan Kim | Medium

카카오의 AI 모델 카나나 써봄

---

위 글에서 참조된 source 을 활용해 보고자 해서 구글링을 하는 동안에 알게된 몇가지를 추가해 봅니다. 

 

1. Intel(R) Arc(TM) Graphics GPU 을 사용하는 경우... 위에서 제공된 소스는 Nvida GPU 기반의 라이브러리를 제공 하고 있습니다.  

 

2. 설치등은 아래 링크를 참조해서 하시면 됩니다.

 

 

나 같은 Intel(R) Arc(TM) Graphics GPU 를 사용하는 경우 필요한 torch 등등의 설치 경로

 

Intel® Extension for PyTorch* Installation Guide

Intel® Extension for PyTorch* Installation Guide

 

3. Intel GPU 에 맞게 수정된 예제 코드 입니다. 

import torch
# from transformers import AutoModelForCausalLM, AutoTokenizer
# Intel GPU용 라이브러리(IPEX)를 불러옵니다.
import intel_extension_for_pytorch as ipex
from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "kakaocorp/kanana-nano-2.1b-instruct"

model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype=torch.bfloat16,
    trust_remote_code=True,
).to("xpu")
tokenizer = AutoTokenizer.from_pretrained(model_name)

prompt = '''
카카오의 새로운 오픈소스 AI 모델 카나나. 를 써보고 후기 글을 작성 하려고 해 글의 구성은 어떻게 하는 것이 좋을까?
'''
messages = [
    {"role": "system", "content": "You are a helpful AI assistant developed by Kakao."},
    {"role": "user", "content": prompt}
]

input_ids = tokenizer.apply_chat_template(
    messages,
    tokenize=True,
    add_generation_prompt=True,
    return_tensors="pt"
).to("xpu")

_ = model.eval()
with torch.no_grad():
    output = model.generate(
        input_ids,
        max_new_tokens=2048,
        do_sample=True,
    )

print(tokenizer.decode(output[0], skip_special_tokens=True))

 

4. 이 코드를 실행해서 얻은 결과 입니다. 

 

C:\Users\nari4\PycharmProjects\.venv\Scripts\python.exe C:\Users\nari4\PycharmProjects\instabot\250726-kanana2-intel.py 
[W726 17:22:10.000000000 OperatorEntry.cpp:161] Warning: Warning only once for all operators,  other operators may also be overridden.
  Overriding a previously registered kernel for the same operator and the same dispatch key
  operator: aten::geometric_(Tensor(a!) self, float p, *, Generator? generator=None) -> Tensor(a!)
    registered at C:\actions-runner\_work\pytorch\pytorch\pytorch\build\aten\src\ATen\RegisterSchema.cpp:6
  dispatch key: XPU
  previous kernel: registered at C:\actions-runner\_work\pytorch\pytorch\pytorch\aten\src\ATen\VmapModeRegistrations.cpp:37
       new kernel: registered at H:\frameworks.ai.pytorch.ipex-gpu\build\Release\csrc\gpu\csrc\gpu\xpu\ATen\RegisterXPU_0.cpp:186 (function operator ())
2025-07-26 17:22:15.415113: I tensorflow/core/util/port.cc:153] oneDNN custom operations are on. You may see slightly different numerical results due to floating-point round-off errors from different computation orders. To turn them off, set the environment variable `TF_ENABLE_ONEDNN_OPTS=0`.
2025-07-26 17:22:16.620616: I tensorflow/core/util/port.cc:153] oneDNN custom operations are on. You may see slightly different numerical results due to floating-point round-off errors from different computation orders. To turn them off, set the environment variable `TF_ENABLE_ONEDNN_OPTS=0`.
The attention mask and the pad token id were not set. As a consequence, you may observe unexpected behavior. Please pass your input's `attention_mask` to obtain reliable results.
Setting `pad_token_id` to `eos_token_id`:128001 for open-end generation.
The attention mask is not set and cannot be inferred from input because pad token is same as eos token. As a consequence, you may observe unexpected behavior. Please pass your input's `attention_mask` to obtain reliable results.
system

You are a helpful AI assistant developed by Kakao.user

카카오의 새로운 오픈소스 AI 모델 카나나. 를 써보고 후기 글을 작성 하려고 해 글의 구성은 어떻게 하는 것이 좋을까?assistant

카카오의 새로운 오픈소스 AI 모델인 카나나(Kanana)를 사용해보고 작성할 수 있는 후기를 효과적으로 구성하기 위한 글의 구조를 제안하겠습니다. 아래는 글을 작성하기 위한 단계별 구성 제안입니다.

### 1. **서론 (Introduction)**
- **시작 배경**: 카카오가 오픈소스 AI 모델 카나나를 공개한 배경을 간략히 소개합니다.
  - 카나나가 최신 AI 기술을 활용해 주목받는 이유와 카카오의 목표.
  
- **주요 내용 요약**: 이번 글의 주요 포인트를 미리 요약해 줍니다. 카나나의 특징, 사용법, 장단점 등을 다루게 될 것을 알립니다.

### 2. **카나나 개요 (Understanding Kanana)**
- **모델 개요**: 카나나의 기본적인 개념, 주요 기능, 그리고 기술적 특성을 설명합니다.
  - 카나나의 기술적 구성 요소, 예를 들어 언어 모델, 이미지 인식, 자연어 처리 등.
  - 카나나가 오픈소스로 공개되어 누구나 접근할 수 있는 점.

### 3. **사용자 후기 및 적용 사례 (User Experience and Applications)**
- **실제 사용 경험**: 카나나를 실제로 사용한 사람들의 경험담 또는 사례를 소개합니다.
  - 사용자 인터뷰 또는 에세이 형식으로 작성된 후기를 포함해, 실 사용 환경과 목적에 맞는 적용 사례를 보여줍니다.
  - 예: 업무 자동화, 고객 지원, 콘텐츠 생성 등 다양한 분야에서 카나나가 어떻게 활용될 수 있었는지.
  
### 4. **장점 분석 (Strengths Analysis)**
- **기술적 장점**: 카나나의 주요 장점을 상세히 설명합니다.
  - 고도화된 머신러닝 모델의 정확도와 유연성.
  - 대규모 데이터 처리 능력 및 효율적 사용.
  - 오픈소스 특성으로 인한 커뮤니티 활성화와 지속적 발전 가능성.
  
- **실제 활용 시의 이점**: 특히 어떤 상황에서 카나나가 특히 유용한지 구체적으로 설명합니다.
  - 시간 단축, 비용 절감 등 실질적 이점.

### 5. **단점 및 한계 (Drawbacks and Limitations)**
- **단점 언급**: 카나나 모델의 한계점을 명확히 하고, 보완이 필요한 부분을 논의합니다.
  - 예: 데이터 품질, 모델 학습 시간, 오류율 등.
  - 모델이 모든 사용자에게 최적이 아닐 수 있는 경우에 대해 언급.
  
- **개선 방향**: 한계점을 극복하기 위한 카카오의 향후 계획을 소개합니다.
  - 지속적인 업데이트와 개선 계획.

### 6. **결론 (Conclusion)**
- **요약 정리**: 본글에서 다루어진 내용을 요약해 정리합니다.
- **결론**: 카나나의 장점과 한계를 종합적으로 평가하고, 앞으로의 활용 방향을 제시합니다.
- **추천**: 카나나 모델을 시작으로, 앞으로 더 많은 AI 기술이 다양한 분야에서 활용될 것이라는 전망을 덧붙입니다.

### 7. **부가 정보 (Additional Information)**
- **참고 자료**: 카카오 공식 블로그, 개발자 문서 등 신뢰도 높은 정보 링크를 제공.
- **질문 및 답변**: 독자들이 질문할 수 있는 부분에 대한 답안을 미리 준비.

### 예시 글 (Concise Example)
---

### 카나나(Kanana) 활용 후기

**서론**
카카오는 새로운 오픈소스 AI 모델 카나나를 발표하며, 혁신적인 기술을 사회와 기업에 확산시키고자 합니다. 이번 후기는 카나나의 장점과 실제 사용 사례를 중점적으로 다룹니다.

**카나나 개요**
카나나는 정교하게 설계된 AI 모델로, 문자 인식, 이미지 분석, 자연어 처리 등 다양한 작업을 고도화된 성능으로 처리할 수 있습니다. 오픈소스로서 누구나 접근 가능한 이 기술은 카카오의 최신 머신러닝 전문 지식을 활용하여 만들어졌습니다.

**사용자 후기 및 적용 사례**
저는 카나나를 프로젝트에 도입하여 고객 지원과 데이터 분석 작업에서 큰 개선을 이끌어냈습니다. 프로젝트 매니저로서 카나나가 고객 문의를 실시간으로 분석하고 자동 응답하는 시스템을 구축했는데, 이는 하루에 100건 이상의 문의를 처리할 수 있는 효율성을 가져다 주었습니다. 또한, 데이터 분석에서는 대규모 파일을 자동으로 변환하고, 분석 결과를 시각화하는 데 유용하게 사용되었습니다.

**장점 분석**
카나나의 주요 장점은 고도화된 머신러닝 성능과 대규모 데이터 처리입니다. 기존의 AI 모델과 비교해 보았을 때, 카나나는 훨씬 높은 처리 속도와 정확도를 자랑합니다. 특히, 복잡한 데이터 분석 작업에서 큰 도움이 됩니다. 또한, 오픈소스 특성으로 인해 커뮤니티가 활성화되어 지속적인 개선과 발전이 가능합니다.

**단점 및 한계**
단점으로는 모델 학습에 필요한 데이터 품질과 양이 충분하지 않을 경우 오류율이 높아질 수 있다는 점입니다. 또한, 특정 상황에서는 의도하지 않은 결과가 나올 수 있기 때문에, 이를 정확히 이해하고 사용하는 것이 중요합니다. 하지만 카카오는 이를 지속적으로 개선해 나갈 계획입니다.

**결론**
카나나는 다양한 실생활 적용이 가능한 오픈소스 AI 모델입니다. 다양한 사용자 사례와 장점을 통해 그 가치를 확인할 수 있었으며, 향후 더 많은 발전이 이루어질 것으로 기대됩니다. 카나나는 고객 지원, 데이터 분석, 자동화 등 여러 분야에서 비용 절감과 효율성을 크게 증대시키는 도구입니다. 앞으로도, 카카오는 이 모델을 포함한 다양한 AI 기술을 통해 사회의 발전을 위해 힘쓸 것입니다.

---

이와 같은 구조로 글을 작성하면, 카나나의 특징과 장점, 그리고 실제 사용 사례를 명확하게 전달할 수 있을 것입니다.ystem

종료 코드 0(으)로 완료된 프로세스

 

상단에 나오는 경고성 메시지는 무시해도 된다고 Gemini 가 알려 주기는 했습니다.  이제 이것으로 무엇을 할 것 인가는 조금 더 고민해 보겠습니다. 

 

 

 

gpu 실행중...