AI 분야는 요즘 자고 나면 새로운 개념과 용어가 나오는 느낌이 들 정도로 빠르게 기술과 시장 상황이 바뀌고 있습니다. 관련해 이번 포스팅에서는 온디바이스 LLM(On-Device LLM) 관련 동향을 짚어 볼 수 있는 이야기를 해볼까 합니다....

요즘 AI와 HPC 분야가 발전 속도는 어지러울 정도로 빠릅니다. 최근 많은 이들이 주목하는 것은 아마 NVIDIA Blackwell GPU일 것입니다. 관련해 이번 포스팅에서는 NVIDIA Blackwell에 대해 간단히 알아보고 2월 초...

기업의 IT 환경이 점점 복잡해지면서 데이터가 자연스럽게 여기저기 흩어져 있는 시대가 되었습니다. 예를 들어 본사와 지사 그리고 공장이나 매장 등 데이터센터부터 현지 전산실 그리고 엣지 컴퓨팅 환경까지 여러 곳에서 데이터가 생성, 저장, 관리되고...

AI 워크로드 처리와 거대 언어 모델 훈련 관련 성능을 이야기할 때 빠지지 않는 주제가 네트워크 대역폭과 성능 병목입니다. 왜 이런 이야기가 나올까요? 이번 포스팅에서는 그 이유와 AI 데이터센터 시대에 새롭게 가치를 평가받고 있는 차세대 이더넷...

금융 서비스는 디지털 전환 속도가 가장 빠른 업계로 손꼽힙니다. 정확히 말하면 디지털 전환을 넘어 AI 전환까지 빠르게 움직이는 기술 혁신 선도 업계입니다. 금융 서비스 플랫폼의 디지털화 지능화 트렌드는 오픈 API 기반의 오픈 뱅킹과 맞물리면서...

2025년 IT 투자 계획에서 AI의 비중은 어느 정도일까요? 아마 상당수 조직이 MML(Multi Modal Language), LLM(Large Language Model), SLM(Small Language Model) 관련 프로젝트를...

빅테크 기업이 주관하는 대형 행사를 보면 공통점이 있습니다. 바로 AI에서 시작해 AI로 끝을 맺는다는 것입니다. 큰 틀에서 마이크로소프트, 구글, 아마존 같은 빅테크 기업이 추구하는 비전은 큰 차이가 없습니다. 하지만 세부적으로 파고 들어가면...

요즘 분위기를 보면 거대 언어 모델(LLM)과 소형 언어 모델(SLM)의 전성기라 해도 과언이 아닙니다. 실제로 LLM/SLM은 주요 기업과 기관이 새로운 비즈니스나 서비스 목표 달성을 위해 수립하고 실행하는 전략적인 계획인 AI 이니셔티브의 첫...

대원씨티에스의 AI 인프라와 플랫폼 제안에서 중요한 역할을 하는 VAST Data에 대한 시장의 평가는? 2024년 한 해만 봐도 그 위상을 가늠해 볼 수 있습니다. 관련해 이번 포스팅에서는 Inc.의 2024년 Best in Business의...

거대 언어 모델(Large Language Model, 이하 LLM)이나 소형 언어 모델(Small Language Model, 이하 SLM)을 프로덕션 환경에 배포하여 추론 작업을 수행할 때 GPU, NPU, 메모리 등 자원을 효율적으로...

AGI(Artificial General Intelligence)가 빠르게 현실로 다가오고 있습니다. AGI 시대에는 AI 에이전트가 마치 사람처럼 다양한 문제를 학습하고, 해결하고, 창의적인 사고를 합니다. 2024년 11월 현재 xPU 기술의...

겨울이 다가오면 전국 지자체는 폭설 대비에 나섭니다. 서울 등 도시 지역은 강설을 대비해 때를 대비해 경사가 가파른 도로에 ‘염화 칼슘 용액 살포 장치’를 설치해 운영합니다. 이 장치의 동작 원리는 간단합니다. 커다란 통이나 배관 장치를 통해...

프랑스에 본사를 둔 GPU 클라우드 전문 기업인 Sesterce가 효율적인 클러스터 확장과 대용량 데이터 처리를 지원하기 위해 VAST Data의 데이터 플랫폼을 사용하고 있는 것을 알고 계시나요?  유럽을 대표하는 GPU 클러스터 사업자를...

2024년 10월 30일(수)부터 11월 1일(금)까지 3일 간의 일정으로 ‘AIoT 국제 전시회 및 컨퍼런스’가 코엑스 3층 D홀과 컨퍼런스 룸에서 열립니다. 이번 행사에 대원씨티에스의 파트너인 딥엑스(DeepX)가 전시 부스(E101) 참여를...