rubrub 님의 블로그

  • 홈
  • 태그
  • 방명록

CPU 1

[AI] GPU가 다 하는 줄 알았는데, Agentic AI 시대에 CPU가 다시 중요해진 이유

AI INFRA · PREFILL/DECODE · HETEROGENEOUS COMPUTINGGPU가 다 하는 줄 알았는데,Agentic AI 시대에 CPU가 다시 중요해진 이유지난 몇 년간 AI 인프라의 주인공은 단연 GPU였다. 그런데 Agent가 검색하고, API를 호출하고, 코드를 실행하고, 다시 모델에게 묻기 시작하자 CPU가 다시 무대 중앙으로 걸어 나오고 있다. GPU의 시대가 끝났다는 얘기는 아니다. 오히려 GPU를 비싼 계산에만 쓰기 위해 CPU가 더 중요해졌다.한 문장으로 먼저 정리하면 GPU는 거대한 행렬을 빠르게 계산하는 엔진이고, CPU는 Agent의 수많은 분기·I/O·보안 검사·도구 실행을 지휘하는 관제탑이다. Chatbot은 엔진 비중이 컸지만 Agentic System은 관제..

AI 2026.09.04
이전
1
다음
더보기
프로필사진

rubrub 님의 블로그

영-차. 현재 외국계 금융 회사에서 AI Engineer로 근무 중.

  • 분류 전체보기 (55)
    • Computer Vision (0)
    • LLM (13)
    • MLOps (3)
    • AI 논문 리뷰 (5)
    • Azure (1)
    • Responsible AI (RAI) (2)
    • AI (23)
    • AI 보안 (4)
    • 금융 (0)
    • 기타 (0)
    • 경제 (4)

Tag

langsmith, graphrag, autogen, Agentic RAG, agenticai, rag, aiagent, AzureML, 금융권 AI, 금융AI, vllm, Grpo, Azure, 생성형ai, AI, ai agent, LLM, RLHF, MLOps, agentic ai,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2026/09   »
일 월 화 수 목 금 토
1 2 3 4 5
6 7 8 9 10 11 12
13 14 15 16 17 18 19
20 21 22 23 24 25 26
27 28 29 30

방문자수Total

  • Today :
  • Yesterday :

Copyright © Daum Corp. All rights reserved.

티스토리툴바